人工智能五大潛在風險 危險程度與核戰爭和全球大瘟疫一樣嚴重？

專家對於先進人工智慧（AI）可能帶來的潛在風險與威脅的警告日益增加，這些警告在近幾個月內特別頻繁。然而，這些警告的內容往往含糊不清，對於何謂主要風險的定義也存在分歧。其中一些早期的 AI 創造者提出對人工智能五大潛在風險，並指我們正在走向人類毀滅的邊緣，而其他人則警告說，迫切需要對AI進行監管。

最近，由 AI 安全中心（CAIS）發出的警告，指 AI 的危險程度與核戰爭和全球大瘟疫一樣嚴重。該聲明得到了 AI 行業的主要參與者的支持，其中包括 ChatGPT 創建者 OpenAI 的負責人 Sam Altman。

延伸閱讀：一文看清｜生成式人工智能Generative AI歷史及運作方式

AI 的潛在風險讓人們難以理解越來越誇張的聲明。劍橋大學的 AI 專家兼助理教授 David Krueger 指：「我並不擔心立即存在威脅，因為我無法確切地看到威脅是什麼。但我認為我們沒有太多時間來為可能即將到來的威脅做好準備。」

然而，專家們仍對以下幾個潛在問題感到擔心。

人工智能五大潛在風險

１) AI接管

最常被提到的風險之一是 AI 可能會失控。人工通用智能（AGI）是指在廣泛範圍的任務上與人類同樣聰明或更聰明的 AI。目前的 AI 系統並不具備感知能力，但它們被創建成類似於人類。

例如，ChatGPT旨在讓用戶感覺自己正在與另一個人聊天。專家們對 AGI 的定義存在分歧，但一般認為潛在的技術對人類構成危險，需要進行研究和監管。Krueger 表示，這些危險中最明顯的例子是國家之間的軍事競爭。他說：「使用自主武器進行軍事競爭——這些系統通過設計具有影響現實世界和造成傷害的能力——看起來更清楚，這些系統可能會失控，最終導致殺死所有人。」

2）AI導致大規模失業

越來越多人認為 AI 將對某些工作構成威脅。蒙特利爾 AI 倫理學院的創始人Abhishek Gupta表示，AI引發的失業可能是最「現實、迫切且最緊迫」的存在威脅。他指，「我們需要關注大規模失業將帶來的人們缺乏目的感。這個問題在於人們會做什麼，他們從哪裡獲得目的？」這併不是說工作是一切，但它佔據了我們生活的很大一部分。

CEO們開始公開談論他們利用 AI 的計劃。例如，IBM CEO Arvind Krishna 最近宣佈公司將減緩招聘可以用AI取代的職位。Gupta 對 IBM 的這一舉動表示：「四五年前，沒有人會發表這樣的聲明並受到認真對待。」

３）AI偏見

如果 AI 系統用於幫助做出更廣泛的社會決策，系統性偏見可能會成為嚴重風險，ChatGPT 早期版本中已經存在偏見問題，例如產生令人震驚的答案。

OpenAI 已經增加了更多防範措施，以幫助 ChatGPT 避免用戶提出不良內容的問題。根據 Insider 今年早些時候進行的測試，生成 AI 圖像模型可能會產生有害的刻板印象。如果 AI 系統中存在未被檢測到的偏見，例如批准福利補助金，這可能會帶來嚴重影響，Gupta表示。培訓數據通常基於主要的英語語言數據，而用於培訓其他語言的資金有限，Wong 表示。因此，有很多人被排除在外，或者某些語言的培訓可能不如其他語言的培訓好。

４）AI 危及私隱

隨著AI技術的發展，越來越多的個人數據被收集和分析。Krueger表示，這可能會導致個人隱私的侵犯和濫用。他說：「這種情況可能會導致某些人擁有過多的權力，這樣他們就可以控制其他人的行為。」例如，政府或企業可以利用 AI 技術來監視公民或員工的行為，這可能會導致侵犯個人權利和自由。

５）AI的漏洞和攻擊

專家們表示，AI系統可能會存在漏洞和安全問題，這些問題可能被黑客利用。Krueger 表示，黑客可能會利用 AI 系統中的漏洞來破壞基礎設施或入侵電腦系統。此外，AI系統本身也可能被設計成有害的，例如用於破壞電腦系統或竊取個人數據。

總體而言，AI 的潛在風險和威脅是很現實的。專家們呼籲政府、企業和學術界加強對AI的研究和監管，以確保其發展和應用不會對人類造成傷害。此外，專家們還呼籲公眾加強對AI的了解和認知，以便更好地應對 AI 帶來的潛在風險。此外，專家們還建議開展國際合作，共同研究和解決AI所帶來的風險和威脅。

延伸閱讀：聊天機器人的代價 ChatGPT涉數據盜竊而被控集體訴訟

對於 AI 的監管問題，一些國家已經開始採取行動。例如，歐盟於2018年通過了《通用數據保護條例》（GDPR），旨在保護個人數據的隱私和安全。同樣，美國聯邦政府也正在積極推動AI監管法規的制定。在2021 年 4 月，美國聯邦貿易委員會（FTC）發布了一份報告，呼籲政府加強對AI的監管，特別是針對AI的偏見和不公平行為進行監管。

AI 的潛在風險和威脅是一個複雜且長期的問題，需要全球社會的共同努力才能得到解決。只有通過加強對AI 的研究、監管和合作，才能確保 AI 的發展和應用能夠為人類帶來更多的好處，而不是危害。

人工智能潛在風險相關問題：

人工智能有甚麼潛在風險

人工智能潛在風險包括：AI接管、導致大規模失業、偏見、危及私隱及漏洞和攻擊。

AI如何導致大規模失業

CEO們開始公開談論他們利用 AI 的計劃。例如，IBM CEO Arvind Krishna 最近宣佈公司將減緩招聘可以用AI取代的職位。Gupta 對 IBM 的這一舉動表示：「四五年前，沒有人會發表這樣的聲明並受到認真對待。」

AI 如何危及私隱

隨著AI技術的發展，越來越多的個人數據被收集和分析。Krueger表示，這可能會導致個人隱私的侵犯和濫用。他說：「這種情況可能會導致某些人擁有過多的權力，這樣他們就可以控制其他人的行為。