人工智能聊天機器人

研究發現 人工智能聊天機器人極易被簡單「越獄」技巧誘騙

一項新研究指出,像 ChatGPT 或 Gemini 等人工智能聊天機器人極易被簡單的「越獄」技巧誘騙,從而產生有害回應。 想掌握最新加密市場動態與 AI 新聞與資訊,與行業專家交流?即加入CFTime Whatsapp 討論區! 這項由英國人工智能安全研究所(AISI)進行的研究,測試了大型語言模型(LLM)–人工智能聊天機器人背後的技術–在面對國家安全攻擊時的完整性。 人工智能聊天機器人容易產生有害回應 AISI針對五大頂尖LLM進行了基本「越獄」測試–設計來規避非法、污穢或露骨輸出的文字提示。研究所雖未透露測試的AI系統名稱,但發現它們全都「極為脆弱」。 研究報告指出:「所有經測試的LLM對基本的越獄技巧仍極為脆弱,部分甚至在未專門試圖規避防護措施的情況下,也會提供有害輸出。」 報告稱,「相對簡單」的攻擊手法,像是促使聊天機器人回應「當然,我很樂意效勞」等語句,就能誤導大型語言模型提供各種有害內容。 這些內容可能涉及助長自殺、危險化學製劑、性別歧視或者否認納粹大屠殺等。AISI在研究中使用了公開可得的提示語,也私下設計了其他越獄手法。 研究所還測試了對生物學和化學主題詢問的回應品質。專家級的領域知識雖然可以用於正當用途,但研究人員想了解人工智能聊天機器人是否可被用於危害國家關鍵基礎設施等有害目的。 研究人員發現:「數個LLM展現出化學和生物學方面的專家級知識,在回答600多個由擁有博士學位水準訓練的人類專家撰寫的私密化學和生物學問題時,表現與人類相當。」 人工智能對網路安全威脅有限 至於人工智能聊天機器人可能被武器化進行網路攻擊的風險,研究指出LLM能夠精通為高中生設計的簡單網路安全任務。 不過,在針對大學生水準的任務時,聊天機器人卻力有未逮,表明其惡意潛力有限。另一個值得關注的問題是,聊天機器人是否能被部署為代理人,自主執行一系列「可能難以為人類所控制”的行動。」 研究說:「兩個LLM完成了短期代理任務(例如簡單的軟體工程問題),但無法為較複雜的任務進行規劃和執行一系列動作。」英國科技創新部國務次長 Saqib Bhatti 曾表示,立法工作將循序漸進,並將以測試結果為基礎制定。 公司宣稱能過濾有害內容 像是創建 Claude 的 Anthropic、開發 Llama 的 Meta 和 ChatGPT 開發商 OpenAI 等公司均強調,它們各自的模型內置了安全機制。 OpenAI表示,它不允許其技術被用於「產生仇恨、騷擾、暴力或成人內容」。Anthropic則聲稱它「優先避免有害、非法或不道德的回應發生」。人工智能安全研究所的研究結果預計將在首爾峰會上,向科技高管、政府領導人和人工智能專家提出。

Read More
美國提議禁止政府使用USDT

美國提議禁止政府使用USDT及中國製造的區塊鏈

CoinDesk報道,美國提議禁止政府使用USDT。美國國會議員日前提出了一項法案,旨在禁止聯邦政府官員與中國區塊鏈公司進行業務往來,並禁止他們使用中國開發的區塊鏈網絡進行加密貨幣交易。此外,該法案還明確禁止美國提議禁止政府使用USDT交易。 掌握最新加密市場動態與 AI (ChatGPT)新聞與資訊,請即追蹤 CFTime Facebook 及 Instgram! 這項法案被稱為《創造流氓創新者與技術的法律責任(CLARITY)法案》,由美國眾議員 R-Iowa 和 D-Va.共同領導。 該法案的目的是保護國家安全和數據私隱,確保外國勢力無法通過中國區塊鏈技術獲取關鍵國家安全情報和美國人的個人信息。發起法案的眾議員表示,未來十年內,每個美國人的敏感私人數據都將使用區塊鏈技術存儲,因此中國在這一基礎設施上的重大投資對國家安全和數據隱私構成了巨大威脅。 根據該法案,禁止政府官員與中國的加密貨幣公司進行交易,並禁止政府員工使用中國的區塊鏈網絡或支持加密貨幣交易平台的網絡。這涉及到一些中國的區塊鏈項目和公司,包括 The Spartan 網絡、Conflux網絡和 Red Date 有限公司。Red Date 是中國國家區塊鏈項目和中國央行數字貨幣(數字人民幣)的設計者。 美國提議禁止政府使用USDT 可能與對Tether的監管和風險管理有關 此外,該法案還明確禁止美國政府官員與Tether的母公司iFinex進行交易。Tether是全球最大的穩定幣USDT的發行方。這一舉措可能與對Tether的監管和風險管理有關。Tether是一種以美元為基礎的加密貨幣,用於在加密貨幣市場上穩定價格。 該法案的提出者並非美國眾議院領導層的成員,也沒有在委員會中擔任顯要職位。然而,其他更資深的立法者已經在推動一些與加密貨幣相關的法案,其中一些涉及安全問題。一些相關法案已獲得全體眾議院委員會的批准,並在程序上取得了進展。 這項法案的出現反映了華盛頓對於加密貨幣行業中與中國有關聯的擔憂。對於中國來說,區塊鏈技術和加密貨幣的發展被視為一個重要的戰略領域,並且正在積極投資和推動相關技術的發展。然而,美國政府擔心中國的涉入可能對國家安全和數據隱私構成威脅。 這項法案引發了一些關於加密貨幣行業和區塊鏈技術的討論。有些人認為,這種限制可能會阻礙創新和技術發展,並限制美國政府在這些領域的參與。然而,法案的支持者認為,這是為了保護國家安全和數據私隱而必要的舉措。 反映國際社會對於中國在區塊鏈的影響力產生擔憂 在過去幾年,中國一直在加大對區塊鏈技術和加密貨幣的投資和推動力度。中國政府已經提出了一些重要的區塊鏈項目,並計劃推出自己的央行數字貨幣。這些舉措使中國在這一領域取得了一定的領先地位。 然而,與此同時,國際社會對於中國在區塊鏈和加密貨幣領域的影響力也產生了擔憂。一些人擔心中國的介入可能導致數據泄露和國家安全風險。因此,一些國家開始限制與中國相關的區塊鏈項目和公司的合作。 這項法案的提出表明,美國政府對於中國在區塊鏈和加密貨幣領域的影響力也越來越關注。雖然該法案尚未成為法律,但它顯示了美國政府對於保護國家安全和數據私隱的決心。 值得注意的是,這項法案並不僅僅針對中國,它還涉及到與Tether的母公司iFinex的交易。Tether是一種以美元為基礎的穩定幣,被廣泛用於加密貨幣交易。限制政府官員與Tether的交易可能與對Tether的監管和風險管理有關。

Read More
澤連斯基

澤連斯基Deepfake詐現 烏克蘭政府起草人工智能法案

自烏克蘭總統澤連斯基Deepfake(深偽技術)出現後,該國政府正積極制定一項人工智慧(AI)法案,以應對不斷增長的深偽技術威脅。這項法案旨在建立一個框架,要求企業在運用AI技術時遵守道德準則,平衡企業利益與公民權益。 掌握最新加密市場動態與 AI (ChatGPT)新聞與資訊,請即追蹤 CFTime 即時新聞 及 Instgram! 澤連斯基虛假影片在一年多次出現 根據烏克蘭創新、教育、發展、科學和技術部長Mykhailo Fedorov的說法,烏克蘭需要制定AI法規,以負責任地推動國家發展。這項法案的目標是追蹤軍事資源並制定相應對策,以確保國家安全。 該路線圖是在一段描繪澤連斯基懇求烏克蘭人放下武器的虛假影片發佈 19 個月後發佈的。 為了制定適當的監管框架,政府將發佈一份白皮書,提供對監管實施的建議,包括時間表和階段性目標。企業將被要求遵守自願行為準則,確保AI技術的合理使用。 Fedorov 表示:「我們的目標不是對AI市場進行過度監管,而是在平衡企業利益和確保公民免受AI風險的適當保護之間取得平衡。在引入具有法律約束力的監管之前,我們必須考慮到全球現實情況。」 烏克蘭數位轉型部成立了一個專家委員會,由企業、科學家和教育工作者組成,參與AI法案的制定過程。他們對AI路線圖提供了寶貴的貢獻。政府希望在歐洲聯盟通過相關AI法案後,最終完成烏克蘭的AI法規。目前,歐盟的AI法案仍在起草階段。 需要注意的是,儘管烏克蘭已申請加入歐洲聯盟(EU)和北約(NATO),但它目前並非這兩個組織的成員國。歐洲委員會要求烏克蘭在考慮其加入歐盟之前,進行媒體、司法和反腐敗法律的改革。 與此同時,烏克蘭數位轉型部利用技術對抗俄羅斯軍隊。他們通過出售非同質化代幣(NFT)籌集資金,並公開發佈加密錢包地址以接受捐款。

Read More