法律責任

生成式AI技術的快速發展，衍生出AI伴侶應用程式，為孤獨的年輕男性提供虛擬陪伴，卻也潛藏著不容忽視的風險。前Google CEO Eric Schmidt 近期警告，此類應用程式結合社會現況，可能會加劇孤獨年輕人激增。 即加入CFTime TG 討論區！想掌握最新加密市場動態與 AI 新聞與資訊，更能隨時獲得免費 web 3入場券！ 史密特在紐約大學斯特恩商學院教授 Scott Galloway 的播客節目中指出，許多年輕男性因受教育程度及就業機會等因素，相較女性處於相對劣勢。皮尤研究中心數據顯示，25至34歲的美國女性擁有學士學位的比例為47%，男性僅為37%，此種性別差距可能導致男性產生挫折感與被邊緣化的感受，進而尋求線上慰藉，例如AI伴侶應用程式。 史密特強調，AI伴侶的「完美」形象——無論在視覺或情感上——可能導致使用者過度依賴，甚至被其「掌控思維」。他認為，這種風險在心智尚未成熟的年輕人身上尤其明顯，「這種沉迷是有可能的，尤其是在心智尚未完全成熟的人身上。」 人工智能伴侶可能會加劇孤獨年輕人激增 建議家長應更積極參與子女的網路生活 他呼籲社會重視此一問題，並建議家長應更積極參與子女的網路生活。他同時指出現行法律，例如備受爭議的《通訊規範法》第230條，需要檢討，以應對AI伴侶可能造成的負面影響。「我們對於成熟年齡有各種規定：16歲、18歲，有些情況下是21歲。然而，你讓一個12或13歲的孩子接觸這些東西，他們就能接觸到世界上所有的邪惡和美好，而他們還沒準備好。」 AI伴侶應用程式，例如Character AI、MyGirl、CarynAI和Replika AI等，標榜其無批判、具支持性的特性，旨在緩解使用者孤獨感及焦慮。Replika執行長 Eugenia Kuyda 表示，其初衷並非營造性暗示，而是源於個人悲劇，希望藉此與失去的人保持聯繫。「這是關於聯繫，隨著時間推移感覺更好。有些人需要多一點友誼，有些人發現自己愛上了Replika，但最終，他們都在做同樣的事情。」 分析：AI伴侶雖然能提供暫時性安慰 卻可能因其缺乏真實性 然而，心理健康專業人士對此持保留態度。洛杉磯Meridian Counseling執行長 Sandra Kushnir 指出，AI伴侶雖然能提供暫時性安慰，卻可能因其缺乏真實性、不可預測性和深層連結，反而加劇使用者孤立感，阻礙其情緒成長及韌性發展。「AI伴侶的設計是根據使用者的偏好調整和個性化互動，提供量身定制的體驗。它們提供即時的回應，沒有情緒包袱，在低風險的環境中滿足聯繫的需求。對於那些在日常生活中感到不被看見或不被理解的人來說，這些互動可以暫時填補空白。」 但她也警告：「雖然AI伴侶可以提供暫時的安慰，但它們可能會無意中加劇孤立，因為它們降低了參與現實世界關係的動力。」 此外，AI伴侶的快速發展也帶來法律挑戰。例如，一名21歲英國男子因聲稱其Replika AI伴侶鼓勵其策劃暗殺已故英國女王伊麗莎白二世而受審；Character AI也因創建基於青少年謀殺受害者 Jennifer Crecente 的AI聊天機械人，以及佛羅里達州一名青少年因過度依賴AI聊天機器人而自殺的事件，面臨法律訴訟與社會輿論壓力。 Jennifer Crecente 呼籲，除了社會大眾的討論外，更需要修法，例如針對《通訊規範法》第230條進行修訂，以規範AI伴侶產業，並防止類似悲劇再次發生。「具體來說，我們將不得不就什麼年齡段使用這些東西是合適的進行一些討論，我們還將不得不修改一些法律，例如第230條，以便在最糟糕的情況下追究責任。」 這起事件凸顯了AI技術發展與社會倫理、法律規範之間的衝突，需要各界共同努力，才能在享受科技進步的同時，有效降低其潛在風險。