OpenAI的聊天機器人ChatGPT潛在風險，可能會導致使用者進入惡意網站。根據Futurism的報導，ChatGPT在提供回答時可能會包含連結至充斥著彈出視窗和惡意軟體的網站。
想掌握最新加密市場動態與 AI 新聞與資訊，與行業專家交流？即加入CFTime Whatsapp 討論區！
這一問題在測試ChatGPT對時事新聞的了解時被發現。當用戶詢問有關William Goines的問題時，他是一位獲得銅星勳章並且是海豹突擊隊第一位黑人成員，最近去世，ChatGPT的回答中包含一個指向「騙人的網站」的連結，名為「County Local News」。
ChatGPT潛在風險 可能提供可疑網站的連結
這個網站彈出虛假的警報視窗，並可能以此感染使用者的電腦。報導指出，ChatGPT在其他話題中也可能提供這個網站的連結。
儘管AI開發者已經致力於解決幻覺和防止聊天機械人被惡意使用，然而提供連結至外部網站仍然存在風險。儘管這些網站在AI公司訪問時可能是安全的，但它們可能會在之後被感染或被騙子接管。
業內專家建議開發者建立適當的過濾機制，以防止聊天機器人提供指向惡意網站的連結。這可以通過先進的自然語言處理（NLP）算法來實現，該算法可以訓練聊天機器人識別惡意網址的已知模式。
同時，持續更新黑名單並實時監控網站連結也是必要的。驗證網站連結、域名信譽以及迅速處理任何可疑活動也是至關重要的措施。
專家強調，只有通過人工智慧技術以及人類的審查和監督，開發者才能為用戶創造更安全的環境。這需要與網絡安全專家的密切合作，共同應對不斷出現的新威脅。
ChatGPT準確性成疑 引發私隱投訴
因ChatGPT準確性成疑，引發私隱投訴。奧地利數據權益保護倡議組織Noyb日前向領先的人工智能開發者OpenAI提出了一項私隱投訴，指控其AI聊天機械人ChatGPT生成的錯誤信息並未得到及時處理。
想掌握最新加密市場動態與 AI 新聞與資訊，與行業專家交流？即加入CFTime Whatsapp 討論區！
在4月29日提交的投訴中，Noyb聲稱OpenAI的行動可能違反了歐洲聯盟（EU）的私隱法規。投訴起因是一位未知公眾人物向OpenAI的聊天機械人尋求關於自己的信息的事件。
ChatGPT準確性成疑 OpenAI拒絕更正
據稱，儘管多次要求，OpenAI拒絕更正或刪除這些不準確的數據，並稱這是由於技術限制。此外，該公司還拒絕透露有關其訓練數據和來源的詳細信息。
Noyb的數據保護律師Maartje de Graaf強調了在科技領域遵守法律標準的重要性。他表示：「如果一個系統無法產生準確透明的結果，就不能用於生成關於個人的數據。技術必須遵循法律要求，而不是反過來。」
Noyb已將投訴升級至奧地利數據保護當局，敦促對OpenAI的數據處理實踐以及其大型語言模型處理的個人數據準確性保證機制進行調查。
該組織強調，目前企業在將聊天機械人技術（如ChatGPT）與歐盟的數據保護法律保持一致方面面臨著挑戰。
Noyb，也被稱為歐洲數字權益中心，總部位於奧地利維也納，旨在通過戰略法律行動和媒體倡議來支持歐洲的《通用數據保護條例》法律。
這一事件進一步加劇了人們對聊天機械人技術準確性和合規性的擔憂。與此相似的是，在2023年12月，一項研究揭示了微軟的Bing AI聊天機械人（現稱為Copilot）在德國和瑞士的政治選舉期間提供了誤導性信息的問題。
此外，谷歌的Gemini AI聊天機械人因生成不準確的圖像而受到批評，迫使該公司發表道歉並承諾進行模型更新。
