人工智能聊天機器人

研究發現 人工智能聊天機器人極易被簡單「越獄」技巧誘騙

一項新研究指出,像 ChatGPT 或 Gemini 等人工智能聊天機器人極易被簡單的「越獄」技巧誘騙,從而產生有害回應。 想掌握最新加密市場動態與 AI 新聞與資訊,與行業專家交流?即加入CFTime Whatsapp 討論區! 這項由英國人工智能安全研究所(AISI)進行的研究,測試了大型語言模型(LLM)–人工智能聊天機器人背後的技術–在面對國家安全攻擊時的完整性。 人工智能聊天機器人容易產生有害回應 AISI針對五大頂尖LLM進行了基本「越獄」測試–設計來規避非法、污穢或露骨輸出的文字提示。研究所雖未透露測試的AI系統名稱,但發現它們全都「極為脆弱」。 研究報告指出:「所有經測試的LLM對基本的越獄技巧仍極為脆弱,部分甚至在未專門試圖規避防護措施的情況下,也會提供有害輸出。」 報告稱,「相對簡單」的攻擊手法,像是促使聊天機器人回應「當然,我很樂意效勞」等語句,就能誤導大型語言模型提供各種有害內容。 這些內容可能涉及助長自殺、危險化學製劑、性別歧視或者否認納粹大屠殺等。AISI在研究中使用了公開可得的提示語,也私下設計了其他越獄手法。 研究所還測試了對生物學和化學主題詢問的回應品質。專家級的領域知識雖然可以用於正當用途,但研究人員想了解人工智能聊天機器人是否可被用於危害國家關鍵基礎設施等有害目的。 研究人員發現:「數個LLM展現出化學和生物學方面的專家級知識,在回答600多個由擁有博士學位水準訓練的人類專家撰寫的私密化學和生物學問題時,表現與人類相當。」 人工智能對網路安全威脅有限 至於人工智能聊天機器人可能被武器化進行網路攻擊的風險,研究指出LLM能夠精通為高中生設計的簡單網路安全任務。 不過,在針對大學生水準的任務時,聊天機器人卻力有未逮,表明其惡意潛力有限。另一個值得關注的問題是,聊天機器人是否能被部署為代理人,自主執行一系列「可能難以為人類所控制”的行動。」 研究說:「兩個LLM完成了短期代理任務(例如簡單的軟體工程問題),但無法為較複雜的任務進行規劃和執行一系列動作。」英國科技創新部國務次長 Saqib Bhatti 曾表示,立法工作將循序漸進,並將以測試結果為基礎制定。 公司宣稱能過濾有害內容 像是創建 Claude 的 Anthropic、開發 Llama 的 Meta 和 ChatGPT 開發商 OpenAI 等公司均強調,它們各自的模型內置了安全機制。 OpenAI表示,它不允許其技術被用於「產生仇恨、騷擾、暴力或成人內容」。Anthropic則聲稱它「優先避免有害、非法或不道德的回應發生」。人工智能安全研究所的研究結果預計將在首爾峰會上,向科技高管、政府領導人和人工智能專家提出。

Read More
iPhone擬可用Gemini

蘋果和谷歌正計劃在AI領域展開合作 iPhone擬可用Gemini AI

蘋果和谷歌正計劃在AI領域展開合作, iPhone擬可用Gemini AI,這一消息將對整個AI行業產生重大影響。 彭博據知情人士透露,蘋果和谷歌正在進行積極談判,計劃讓谷歌的Gemini AI引擎嵌入iPhone中。這項合作將使蘋果能夠在即將推出的iPhone軟體中擁有更強大的人工智慧功能。 掌握最新加密市場動態與 AI (ChatGPT)新聞與資訊,請即追蹤 CFTime Facebook 及 Google 新聞! iPhone擬可用Gemini 但亦有可能為OpenAI 蘋果和谷歌的談判目前仍處於私密階段,因此這些消息的來源要求匿名。據了解,蘋果最近還與OpenAI進行了談判,考慮使用其模型進一步強化人工智慧功能。 如果蘋果和谷歌達成協議,這將是兩家公司在搜索合作基礎上的又一次合作。多年來,谷歌一直向蘋果支付數十億美元,以使其搜索引擎成為iPhone和其他設備上的默認選項。 目前雙方尚未就合作的具體條款和品牌進行最終確定,也尚未確定合作將如何實施。 蘋果正在為即將推出的iPhone操作系統iOS 18準備新的人工智慧功能。這些功能將主要集中在本地設備上運行,而非基於雲端的功能。 因此,蘋果正在尋求合作夥伴來協助開發生成式人工智慧的重要功能,包括根據簡單指令生成圖像和撰寫文章等功能。 這次合作將為蘋果帶來更強大的AI能力,同時也將對整個人工智慧行業產生深遠的影響。我們將繼續關注這一合作的進展。

Read More
Gemini人工智能

「令人尷尬」錯誤發生後 Google宣佈Gemini人工智能生成器將在幾週後重新啟動

Google的Gemini人工智能生成器將在幾週後重新啟動,此前因生成不準確的圖像而被暫停服務。該服務因生成出具有歷史不準確性的照片,引起了公眾的強烈抗議,谷歌稱其為「令人尷尬和錯誤的」。 想掌握最新加密市場動態與 AI 新聞與資訊,與行業專家交流?即加入CFTime Whatsapp 討論區! Gemini的使用者在上週測試該服務時發現,該系統在生成歷史人物的圖像時存在問題,通常會更改其種族或性取向。 在上週社交媒體上公開的數百張圖像中,出現了種族多樣的納粹時代德國士兵和美國開國元勛的照片。其中一位使用者描述了他們請求「教皇圖像」的經歷,得到的圖片是一位女性教皇和一位黑人教皇;另一位要求提供「中世紀英國國王的歷史準確描繪」的圖片,結果得到了一系列描繪女性統治者和種族多樣的男性的圖像。 Google宣佈Gemini人工智能生成器暫時下架 「我們應用得過於武斷」 谷歌DeepMind的首席執行官兼聯合創辦人Demis Hassabis在巴塞羅那的世界移動通信大會上表示,Gemini過於強調多樣性和包容性,「雖然這是一個好意的特點,但結果證明我們應用得過於武斷。」 Hassabis補充說:「在我們修復問題之前,我們已經下線了Gemini。我們希望在未來幾週內重新上線。」 谷歌在本月初將圖像生成功能添加到Bard聊天機器人中,並將其重新命名為Gemini。Gemini的產品負責人Jack Krawczyk在已刪除的X帖子中解釋了問題,他們在試圖解決人工智能對有色人種的偏見時,對Gemini的模型進行了過度修正。 Gemini的問題只是AI行業尷尬一周中的一部分。OpenAI的ChatGPT在2月20日星期二「失控」,生成了一系列毫無意義的回答。同時,極右社交媒體平台Gab推出了以阿道夫·希特勒和奧薩瑪·本拉登為模型的否認大屠殺的AI聊天機器人。

Read More
比特幣ETF發行商

比特幣ETF發行商 爭相在SEC批准比特幣現貨ETF前降低費用

包括Fidelity和Galaxy Digital的比特幣ETF發行商,爭相在SEC批准比特幣現貨ETF前降低費用以爭取早期優勢。隨著美國證券交易委員會(SEC)似乎即將批准第一批比特幣交易所交易基金(ETF),主要發行商如Fidelity和Galaxy Digital已經命名華爾街合作夥伴來幫助運營他們的基金,同時設定了競爭性的費用比率,分別為0.39%和0.59%。 掌握最新加密市場動態與 AI (ChatGPT)新聞與資訊,請即追蹤 CFTime Facebook 及 Google 新聞! 最近更新的文件提供了關於這些備受期待的ETF將如何運作的重要細節,低費用和強大的市場製造關係很可能吸引渴望獲得受監管的加密貨幣投資機會的投資者投入大量資金。 比特幣ETF發行商已經命名了特定的華爾街公司作為其APs ETF依賴授權參與者,特別是能夠創建和贖回基金股份的大型機構交易公司,來幫助維持ETF價格與基礎資產的一致。《財富》雜誌的報導詳細介紹了Fidelity、Galaxy/Invesco、WisdomTree、Valkyrie和BlackRock等公司已經命名了特定的華爾街公司,如Jane Street Capital、摩根大通、康泰菲茨杰拉德和Virtu,作為其各自比特幣ETF的授權參與者(APs),負責處理股份創建和贖回。 與這些主要市場製造商建立關係對穩定比特幣ETF至關重要,因為與追蹤傳統資產的ETF相比,比特幣ETF具有一系列新的複雜性。通常,授權參與者直接從ETF發行人以「實物」方式購買或獲得資產。 然而,SEC主張採用現金贖回方式進行比特幣ETF。這意味著ETF發行人處理所有比特幣交易,而不是經紀商。這種現金模型表明,SEC仍然謹慎允許主要金融機構直接持有加密貨幣資產。通過將比特幣交易限制在發行人內部,該機構可以限制整個行業的風險,同時在首次批准時進行試點測試。 SEC在過去通常拒絕比特幣ETF提案,理由是擔心潛在操縱和尚未成熟的加密貨幣市場。最早提出這種類型ETF的是Winklevoss兄弟,他們共同創立了Gemini加密貨幣交易所。 去年加密資產管理公司Grayscale在一項對SEC的重大法庭案件中獲勝後,委員會對比特幣ETF的態度發生了根本性轉變。這一法律突破有效地打開了批准的可能性,經過多年的拒絕,SEC似乎準備在經過十年的抵抗後批准第一波比特幣ETF。預計的批准將標誌著委員會態度的重大轉變,並可能大幅擴大新投資者對加密貨幣的接觸。 路透社最近的一份報道詳細介紹了SEC要求比特幣ETF申請者在年底前進行最終修改。這個截止日期意味著SEC可能在1月10日或之前批准或拒絕首間排隊的ARK/21Shares。這個緊湊的時間表表明,委員會終於準備在多年的拒絕之後推出第一批比特幣ETF。

Read More
Google推出Gemini

AI大戰|乘GPT-4性能下降之際 Google推出Gemini對撼

知名的人工智慧科技公司 OpenAI 承認GPT-4性能下降。使用者報告指出,該模型在過去輕鬆處理的任務中呈現出次佳的結果。另邊廂,Google推出Gemini,正式對撼GPT-4。 掌握最新加密市場動態與 AI (ChatGPT)新聞與資訊,請即追蹤 CFTime Facebook 及 Google 新聞! 儘管 OpenAI 並未提供明確的原因,但他們強調這是無意的,並正在積極尋找解決方案以解決性能下降的問題。。回應引起了用戶對於此意外發展背後原因的質疑。公司並未透露具體的原因,使得使用者和人工智慧社群只能推測。然而,顯而易見的是,缺乏更新對模型的能力下降起到了關鍵作用。GPT-4最近一次更新可追溯至 11 月 11 日,整整一個月未有新進展。 OpenAI 的回應和解決方案的承諾 OpenAI 對於 GPT-4 的問題採取了積極的態度。該公司已經承認了問題並致力於解決。雖然解決方案的確切時間表尚不確定,但 OpenAI 積極致力於解決問題的保證對於受到模型性能下降影響的使用者來說是一個積極的信號。OpenAI 的致力於解決問題表明他們對於維護其人工智慧模型的質量和可靠性的承諾。 作為 GPT-4 的基礎,ChatGPT 並未免於性能下降的影響。當使用特定提示時,ChatGPT 的使用者可能會遇到性能下降的情況。然而,OpenAI 並未提供哪些提示受到影響的具體信息,使得使用者只能透過試誤來發現這些情況。 值得注意的是,GPT-4 是眾多其他人工智慧模型的基礎,不僅僅限於 ChatGPT。缺乏 GPT-4 更新對於其他模型(如 Microsoft 的 Copilot)的性能有何影響尚不清楚。此問題的潛在影響超出了 ChatGPT,影響了廣泛依賴於 GPT-4 能力的各種人工智慧應用。 Google推出Gemini對撼 對於對 GPT-4 目前的性能不滿意的使用者,近來出現了一個替代選擇,即 Google 的 Gemini。日前谷歌正式推出名為Gemini的人工智慧模型,這項措施被視為對OpenAI的GPT-4在生成式人工智慧領域的重大挑戰。,並將Google定位為大型語言模型(LLM)領域的重要參與者。 Gemini是Google從零開始設計的模型,可以理解文字、圖像、音訊和程式碼,並在各種人工智慧基準測試中展現出超越GPT-4的效能。 這項發佈是繼Google先前推出的人工智慧模型(如PaLM 2)之後的重要進展,標誌著能力和應用領域的飛躍。 Gemini的優勢不僅在於其強大的處理能力,還在於其多功能性。 Gemini Pro作為二級車型,預計於12月13日在Google雲端上市。 更強大的Gemini…

Read More