Meta擬對未披露使用生成式AI圖像實施懲罰

根據最新消息，Meta擬對未披露使用生成式AI圖像實施懲罰。Meta表示，AI生成的內容也有資格接受事實核查。根據一月六日的博客文章，Meta將在未來幾個月內在Facebook、Instagram和Threads上推出針對AI生成內容的新標準。

想掌握最新加密市場動態與 AI 新聞與資訊，與行業專家交流？即加入CFTime Whatsapp 討論區！

Meta擬對未披露使用生成式AI圖像實施懲罰 用戶可以舉報違反內容

AI生成的內容將通過元數據或其他有意的水印進行識別，並標上可見的標籤。Meta平台上的用戶還可以標記未標記的內容，懷疑其為由人工智能生成的。

這一舉措與Meta早期的內容審查做法相似。在AI生成內容出現之前，該公司（當時是Facebook）已經開發了用戶界面系統，用戶可以舉報違反平台服務條款的內容。

時至今日，Meta正在為其社交網絡上的用戶提供工具，讓他們能夠再次標記內容，這一舉措可以利用可能是全球最大的消費者群眾合作力量。

同時，這也意味著Meta平台上的創作者需要在適用的情況下標明自己的作品是由AI生成的，否則將面臨相應的後果。

根據文章的說法：

「當人們發布有機內容，其中包括以數字方式創建或修改的逼真視頻或聽起來逼真的音頻時，我們將要求他們使用這一披露和標記工具，如果他們未能遵守，我們可能會對其進行懲罰。」，文中亦指「如果我們確定以數位方式創建或更改的圖像、視訊或音訊內容在重要問題上造成特別高的實質欺騙公眾的風險，我們可能會在適當的情況下添加更顯眼的標籤，以便人們獲得更多資訊和背景。」

Meta表示，當使用其內置工具生成AI生成的內容時，該內容將帶有明顯的水印和標籤，清楚標明其來源。然而，並非所有生成式人工智能系統都具備這些保護措施。

為此，Meta表示，他們正在與其他公司合作，通過合作夥伴關係，包括Google、OpenAI、Microsoft、Adobe、Midjourney和Shutterstock，共同開發大規模檢測隱形水印的方法。

不過，不幸的是，目前這些方法可能僅適用於AI生成的圖像。博客文章指出：「雖然公司開始在圖像生成器中包含信號，但尚未在以同樣規模生成音頻和視頻的AI工具中包含這些信號。」

因此，根據博客文章的說法，Meta目前無法大規模檢測由AI生成的音頻和視頻，包括深度偽造技術。