Meta擬對未披露使用生成式AI圖像實施懲罰

Meta擬對未披露使用生成式AI圖像實施懲罰

根據最新消息,Meta擬對未披露使用生成式AI圖像實施懲罰。Meta表示,AI生成的內容也有資格接受事實核查。根據一月六日的博客文章,Meta將在未來幾個月內在Facebook、Instagram和Threads上推出針對AI生成內容的新標準。

想掌握最新加密市場動態與 AI 新聞與資訊,與行業專家交流?即加入CFTime Whatsapp 討論區

Meta擬對未披露使用生成式AI圖像實施懲罰 用戶可以舉報違反內容

AI生成的內容將通過元數據或其他有意的水印進行識別,並標上可見的標籤。Meta平台上的用戶還可以標記未標記的內容,懷疑其為由人工智能生成的。

這一舉措與Meta早期的內容審查做法相似。在AI生成內容出現之前,該公司(當時是Facebook)已經開發了用戶界面系統,用戶可以舉報違反平台服務條款的內容。

時至今日,Meta正在為其社交網絡上的用戶提供工具,讓他們能夠再次標記內容,這一舉措可以利用可能是全球最大的消費者群眾合作力量。

同時,這也意味著Meta平台上的創作者需要在適用的情況下標明自己的作品是由AI生成的,否則將面臨相應的後果。

根據文章的說法:

「當人們發布有機內容,其中包括以數字方式創建或修改的逼真視頻或聽起來逼真的音頻時,我們將要求他們使用這一披露和標記工具,如果他們未能遵守,我們可能會對其進行懲罰。」,文中亦指「如果我們確定以數位方式創建或更改的圖像、視訊或音訊內容在重要問題上造成特別高的實質欺騙公眾的風險,我們可能會在適當的情況下添加更顯眼的標籤,以便人們獲得更多資訊和背景。

Meta表示,當使用其內置工具生成AI生成的內容時,該內容將帶有明顯的水印和標籤,清楚標明其來源。然而,並非所有生成式人工智能系統都具備這些保護措施。

為此,Meta表示,他們正在與其他公司合作,通過合作夥伴關係,包括Google、OpenAI、Microsoft、Adobe、Midjourney和Shutterstock,共同開發大規模檢測隱形水印的方法。

不過,不幸的是,目前這些方法可能僅適用於AI生成的圖像。博客文章指出:「雖然公司開始在圖像生成器中包含信號,但尚未在以同樣規模生成音頻和視頻的AI工具中包含這些信號。」

因此,根據博客文章的說法,Meta目前無法大規模檢測由AI生成的音頻和視頻,包括深度偽造技術。

zh_HK香港中文