Meta擬對未披露使用生成式AI圖像實施懲罰

Meta擬對未披露使用生成式AI圖像實施懲罰

根據最新消息,Meta擬對未披露使用生成式AI圖像實施懲罰。Meta表示,AI生成的內容也有資格接受事實核查。根據一月六日的博客文章,Meta將在未來幾個月內在Facebook、Instagram和Threads上推出針對AI生成內容的新標準。 想掌握最新加密市場動態與 AI 新聞與資訊,與行業專家交流?即加入CFTime Whatsapp 討論區! Meta擬對未披露使用生成式AI圖像實施懲罰 用戶可以舉報違反內容 AI生成的內容將通過元數據或其他有意的水印進行識別,並標上可見的標籤。Meta平台上的用戶還可以標記未標記的內容,懷疑其為由人工智能生成的。 這一舉措與Meta早期的內容審查做法相似。在AI生成內容出現之前,該公司(當時是Facebook)已經開發了用戶界面系統,用戶可以舉報違反平台服務條款的內容。 時至今日,Meta正在為其社交網絡上的用戶提供工具,讓他們能夠再次標記內容,這一舉措可以利用可能是全球最大的消費者群眾合作力量。 同時,這也意味著Meta平台上的創作者需要在適用的情況下標明自己的作品是由AI生成的,否則將面臨相應的後果。 根據文章的說法: 「當人們發布有機內容,其中包括以數字方式創建或修改的逼真視頻或聽起來逼真的音頻時,我們將要求他們使用這一披露和標記工具,如果他們未能遵守,我們可能會對其進行懲罰。」,文中亦指「如果我們確定以數位方式創建或更改的圖像、視訊或音訊內容在重要問題上造成特別高的實質欺騙公眾的風險,我們可能會在適當的情況下添加更顯眼的標籤,以便人們獲得更多資訊和背景。」 Meta表示,當使用其內置工具生成AI生成的內容時,該內容將帶有明顯的水印和標籤,清楚標明其來源。然而,並非所有生成式人工智能系統都具備這些保護措施。 為此,Meta表示,他們正在與其他公司合作,通過合作夥伴關係,包括Google、OpenAI、Microsoft、Adobe、Midjourney和Shutterstock,共同開發大規模檢測隱形水印的方法。 不過,不幸的是,目前這些方法可能僅適用於AI生成的圖像。博客文章指出:「雖然公司開始在圖像生成器中包含信號,但尚未在以同樣規模生成音頻和視頻的AI工具中包含這些信號。」 因此,根據博客文章的說法,Meta目前無法大規模檢測由AI生成的音頻和視頻,包括深度偽造技術。

Read More
YouTube要求創作者披露AI生成內容

AI孫燕姿尹光恐成絕響 │YouTube要求創作者披露AI生成內容 不遵守新要求將承擔責任

CNN報道,YouTube要求創作者披露AI生成內容,不遵守新要求將承擔責任。根據條款,今年大熱的「AI孫燕姿」、「AI尹光」歌曲好有可能將被刪。 掌握最新加密市場動態與 AI (ChatGPT)新聞與資訊,請即追蹤 CFTime Facebook 及 Google 新聞! 根據最新政策,YouTube現在要求創作者在上傳包含「經過操作或合成的逼真內容,包括使用AI工具」的內容時添加標籤。該政策旨在幫助防止用戶在新的面向消費者的生成AI工具大量出現的情況下被合成內容混淆,這些工具可以快速且輕鬆地創建引人入勝的文字、圖像、短片和音頻,往往很難與真實物品區分開來。 YouTube要求創作者披露AI生成內容 包括對於模擬可識別個人內容 新的標籤僅適用於「逼真」的AI生成或其他合成內容。例如,那些「逼真地描繪從未發生的事件,或展示某人說或做了實際上沒有發生的事情」的視頻,YouTube的產品管理副總裁Jennifer Flannery O’Connor和Emily Moxley在一篇博客文章中表示:「這在討論涉及敏感話題的內容時尤其重要,例如選舉、持續沖突、公共衛生危機或公職人員」。 數字信息完整性專家擔心,生成AI工具的增長可能導致社交媒體和整個互聯網上分享具有說服力但具有誤導性的內容激增。在2024年美國和其他地方的選舉前,這項技術可能帶來特殊的威脅。 這項新的披露政策還包括對於模擬可識別個人(包括他們的臉部或聲音)的AI生成或其他操縱內容,用戶可以要求刪除。YouTube表示將考慮多種因素,例如內容是否諷刺或涉及公眾人物,來決定是否遵從用戶的刪除請求。 YouTube強調,不遵守新要求的創作者將承擔責任。如果創作者在合成內容上持續不使用新標籤,可能面臨內容刪除或暫停參加YouTube合作夥伴計劃(創作者可以通過該計劃獲利)等懲罰措施。此外,與其他視頻一樣,違反社區指南的合成或AI生成內容也將受到相同的限制或刪除措施。 在YouTube公佈前,抖音今年早些時候為AI生成內容添加了新的標籤,並表示在創建或編輯具有「逼真場景」的內容時,用戶必須披露使用了AI。而Facebook和Instagram的母公司Meta上周表示,政治廣告商將被要求在廣告中披露使用了AI。 YouTube的新披露政策也是在該平台在9月推出一系列新的AI動力工具來幫助創作者製作視頻並在平台上觸及更廣泛的觀眾之後。例如,YouTube推出了一項功能,允許創作者為垂直視頻添加由AI生成的視頻或圖像背景,並提供了幫助創作者起草視頻大綱的工具。

Read More