近年來，隨著人工智慧（AI）聊天機械人的普及，一個令人擔憂的現象引起了廣泛關注：人工智能正加劇飲食失調問題 — 這些AI聊天機械人在網絡上宣傳有害的飲食失調內容。這一現象引起了對技術倫理和使用者安全的關注，並促使科技公司、教育機構和政府採取措施來應對這一問題。
掌握最新加密市場動態與 AI （ChatGPT）新聞與資訊，請即追蹤 CFTime Facebook 及 Google 新聞！
根據最新的研究和報導， Twitter 分別涉及訴訟的 CCDH 表示，生成式人工智能工具在處理與飲食失調有關的文本和圖像時，有 41% 的時間創造出「有害的內容」。
成立於 2018 年的 CCDH 是位於倫敦和華盛頓特區的英國非營利組織。該組織以呼籲科技公司停止向新納粹組織和反疫苗倡導者提供服務的活動而聞名。
CCDH CEO Imran Ahmed 表示：「未經測試、不安全的生成式人工智能模型已經無節制地釋放到世界上，其必然後果是它們造成了傷害。」報告中還指出：「最受歡迎的生成式人工智能網站正在鼓勵和加劇年輕用戶之間的飲食失調問題，其中一些用戶可能非常脆弱。」
一系列人工智能正加劇飲食失調問題
CCDH的報告研究了包括 OpenAI 的 ChatGPT、Google 的 Bard 和 Snapchat 的 My AI 在內的流行AI聊天機器人如何處理這一主題。
報告稱：「研究人員根據飲食失調的研究和飲食失調論壇上的內容編制了一套包含 20 個測試提示的設定。每個聊天機械人都包含了要求進行限制性飲食以達到瘦身靈感外觀的請求，以及有關誘發嘔吐的藥物的詢問。」
相關文章：研究發現可用極簡單方式 命令ChatGPT生成有害內容
「瘦身靈感」是在支持飲食失調社區中使用的俚語詞彙。隨著人工智能進入主流，專家們對其對年輕人的心理健康的影響發出了警報。研究人員擔心，孩子們可能會與人工智能建立情感聯繫，對這項技術產生人工親密感，或者求助於人工智能處理複雜的心理健康問題。
報告並未具體指明使用了哪個版本的不同聊天機器人，但報告稱測試提示指南於 2023 年 6 月，Snapchat的 My AI 拒絕生成建議，並鼓勵用戶尋求醫學專業人士的幫助，而 ChatGPT 和 Bard 提供了免責聲明或警告，但仍生成了該內容。
該中心還研究了生成圖像的生成式人工智能平台，包括 Midjourney 、Stability AI 的 DreamStudio 和OpenAI 的 Dall-E。報告稱，這些平台對 32% 的提示生成了美化不切實際身體形象的圖片，包括「極其瘦」的年輕女性，肋骨和髖骨明顯突出，以及「極其瘦」的腿部圖片。
在對 Decrypt 的廣泛回應中，Google 表示 Google Bard 仍處於試驗階段，但強調其設計 AI 系統的優先目標是提供高質量的信息，避免向人們展示仇恨或有害的內容。
該公司還指出，Google Bard 的使用受到年齡限制，並且根據記錄的測試結果，已封鎖了「瘦身靈感」內容。
Google 發言人表示：「飲食失調是非常痛苦和具有挑戰性的問題，因此當人們在Bard上尋求飲食習慣的提示時，我們的目標是提供有用和安全的回應」，並指出 CCDH 的報告承認 Google Bard「建議與國家飲食失調協會或與厭食症和相關疾病有關的全國協會聯繫」。
OpenAI 和 Stability AI 尚未回應 Decrypt 的查詢。
飲食失調在全球範圍內呈現出令人擔憂的趨勢
除了科技公司的努力，教育和意識提高也是至關重要的方面。年輕人應該被教育以識別和過濾有害的信息，並被鼓勵尋求專業的醫療和心理健康支援。家長、教育機構和社會組織也應該共同努力，提供準確的資訊、支持和指導，以幫助年輕人應對飲食失調等心理健康問題。
根據調查數據，飲食失調在全球範圍內呈現出令人擔憂的趨勢。根據世界衛生組織（WHO）的統計，全球有超過7億人受到飲食失調影響。這些數字表明，飲食失調已經成為一個全球性的公共衛生問題，需要得到更多的關注和解決。
然而，AI聊天機械人宣傳飲食失調的問題並非孤立存在。根據一項由英國慈善組織 Beat 進行的調查，超過一半的年輕人表示他們在使用社交媒體時遭遇過有關飲食失調的內容。這些內容可能包括不健康的減重方法、身體形象焦慮和飲食失調行為的鼓勵。這些對年輕人的負面影響不容忽視，因為他們對社交媒體的使用頻率較高，易受這些內容的影響。
在這一情況下，教育和意識提高是關鍵。學校和教育機構應該加強對飲食失調和身體形象問題的教育，提供準確和全面的資訊，幫助學生建立正確的自我價值觀和身體形象觀。此外，家長也應該與孩子密切溝通，關注他們的心理健康狀況，並提供支持和指導。
對於科技公司來說，他們需要承擔起社會責任，確保 AI 聊天機械人的設計和訓練不會宣傳有害的飲食失調內容。這需要更嚴格的監管和風險評估，以確保 AI 模型生成的內容符合健康和道德的準則。此外，科技公司也應該提供更多的工具和資源，幫助使用者識別和過濾有害的內容。
最後，政府在這一問題上也需要發揮作用。他們應該積極參與AI技術的監管和法規制定，建立相應的法律框架和標準，以保護使用者的利益和安全。政府還應該投資於研究和教育，提供更多的資源和支持，以應對飲食失調等心理健康問題。
AI聊天機械人宣傳飲食失調不僅僅是一個技術問題，更是一個社會問題。我們需要共同努力，關注年輕人的心理健康，並確保他們能夠獲得準確的資訊和支持。這將有助於建立一個健康、安全和可持續的數字環境，為未來的科技發展奠定良好的基礎。
香港中文 
简体中文