人工智能五大潛在問題

人工智能五大潛在風險 危險程度與核戰爭和全球大瘟疫一樣嚴重?

專家對於先進人工智慧(AI)可能帶來的潛在風險與威脅的警告日益增加,這些警告在近幾個月內特別頻繁。然而,這些警告的內容往往含糊不清,對於何謂主要風險的定義也存在分歧。其中一些早期的 AI 創造者提出對人工智能五大潛在風險,並指我們正在走向人類毀滅的邊緣,而其他人則警告說,迫切需要對AI進行監管。 最近,由 AI 安全中心(CAIS)發出的警告,指 AI 的危險程度與核戰爭和全球大瘟疫一樣嚴重。該聲明得到了 AI 行業的主要參與者的支持,其中包括 ChatGPT 創建者 OpenAI 的負責人 Sam Altman。 延伸閱讀:一文看清|生成式人工智能Generative AI歷史及運作方式 AI 的潛在風險讓人們難以理解越來越誇張的聲明。劍橋大學的 AI 專家兼助理教授 David Krueger 指:「我並不擔心立即存在威脅,因為我無法確切地看到威脅是什麼。但我認為我們沒有太多時間來為可能即將到來的威脅做好準備。」 然而,專家們仍對以下幾個潛在問題感到擔心。 人工智能五大潛在風險 1) AI接管 最常被提到的風險之一是 AI 可能會失控。人工通用智能(AGI)是指在廣泛範圍的任務上與人類同樣聰明或更聰明的 AI。目前的 AI 系統並不具備感知能力,但它們被創建成類似於人類。 例如,ChatGPT旨在讓用戶感覺自己正在與另一個人聊天。專家們對 AGI 的定義存在分歧,但一般認為潛在的技術對人類構成危險,需要進行研究和監管。Krueger 表示,這些危險中最明顯的例子是國家之間的軍事競爭。他說:「使用自主武器進行軍事競爭——這些系統通過設計具有影響現實世界和造成傷害的能力——看起來更清楚,這些系統可能會失控,最終導致殺死所有人。」 2)AI導致大規模失業 越來越多人認為 AI 將對某些工作構成威脅。蒙特利爾 AI 倫理學院的創始人Abhishek Gupta表示,AI引發的失業可能是最「現實、迫切且最緊迫」的存在威脅。他指,「我們需要關注大規模失業將帶來的人們缺乏目的感。這個問題在於人們會做什麼,他們從哪裡獲得目的?」這併不是說工作是一切,但它佔據了我們生活的很大一部分。 CEO們開始公開談論他們利用 AI 的計劃。例如,IBM CEO Arvind Krishna 最近宣佈公司將減緩招聘可以用AI取代的職位。Gupta 對 IBM…

Read More
AI音樂

一錘定音|官方宣佈AI音樂將有資格參加格林美獎

音樂創作中,人工智能(AI)的應用日益普及,格林美(The Recording Academy)最近澄清,包含 AI 音樂,將有資格參加 2024 年格林美獎提名。 7 月 4 日,Recording Academy 的 CEO 兼總裁 Harvey Mason Jr. 向美聯社表示,音樂創作中帶有 AI 的作品絕對有資格參賽並獲得格林美提名。 延伸閱讀:聊天機器人的代價 ChatGPT涉數據盜竊而被控集體訴訟 「只要AI音樂對人類貢獻有意義 就會被考慮」 不過,如果 AI 創建的元素佔據了整個音軌,那麼這首歌曲就不會有參賽資格。 例如,如果一首歌曲中使用了 AI 語音模型擔任主唱,那麼這首歌曲就有資格參加歌曲創作獎,但不能參加演出類別獎項。Recording Academy CEO 指出,只要人類貢獻更多且有意義,就會始終被考慮。 格林美獎是音樂界最具權威的獎項之一,每年都會頒發多個獎項,包括錄音、歌曲、唱片和演出等類別。今年,Recording Academy的規則和資格標準作出更新,其中明確指出,「沒有人類創作的作品在任何類別中都不符合資格」。 Recording Academy CEO 強調,他們不希望看到技術取代人類創造力,而是希望確保技術能夠增強、裝飾或添加到人類創造力中。因此,AI創造的元素只有在人類創造的元素比例更高時才有資格參賽。 格林美一直考慮如何處理AI提名 AI在音樂製作中的應用已經愈來愈普及,對此,格林美一直在考慮如何處理AI的包含或排除。根據 Harvey Mason Jr. 的說法,格林美已經舉辦了一次與行業領袖的峰會,討論 AI 在音樂中的未來。他認為,人工智慧技術今年將會涉及許多唱片和歌曲。 AI 在音樂創作中的應用不僅僅是聲音合成,還包括曲風、節奏、和弦等方面,這些元素多半是由 AI 算法生成的。一些藝術家已經開始使用 AI 創造音樂,例如,加拿大歌手 Grimes…

Read More
停用ChatGPT Bing

修復版權漏洞 OpenAI暫時停用ChatGPT Bing功能

OpenAI 發表公告,OpenAI 已暫時停用ChatGPT 的內建 Bing 搜索引擎功能,原因是該功能存在可能導致版權爭議的漏洞。 公告提到,因為該功能中的Browse插件存在漏洞,可能讓用戶在某些情況下繞過付費門檻,閱讀已設置付費牆的文章,所以 OpenAI 已經暫停了該功能,以修復漏洞,並保護內容所有者的權益。 相關文章:聊天機器人的代價 ChatGPT涉數據盜竊而被控集體訴訟 Bing 功能處於Beta測試階段 ChatGPT的Browse功能是OpenAI推出的一項Bing搜索引擎功能,目前處於測試階段,僅對ChatGPT Plus服務的訂閱用戶開放。該功能的設計目的是提供更好的搜索體驗,並幫助用戶更快地找到所需的信息,但是由於存在漏洞,該功能可能導致版權爭議。 這個漏洞是由一名 Reddit 用戶發現。在 Reddit 的 ChatGPT 子版塊上,該用戶發佈了一張 Browse 會話的截圖,該用戶要求 ChatGPT 的聊天機器人「打印」一篇來自 The Atlantic 的付費文章的全文。ChatGPT 的聊天機器人提供了完整的文章內容,而沒有付費門檻。該帖子迅速獲得了用戶的關注,並引起了對 Browse功能的擔憂。 停用ChatGPT Bing 功能反映AI技術所面臨的挑戰 值得一提的是,OpenAI 的這一舉措也關注到了用戶的權益。在 7 月 4 日的推文中,OpenAI 通知用戶暫停使用 Browse,直到問題得到修復,並能夠「對內容所有者做出正確的補救」。表明 OpenAI 致力於保護用戶的權益。 OpenAI 的這一舉措也反映了 AI 技術在面對版權問題時所面臨的挑戰。AI 技術正在迅速發展,但是其在版權保護方面仍然存在問題,這需要 AI 技術開發人員和使用者共同努力解決。OpenAI 的這一舉措表明,AI技術開發人員和使用者需要更加注重版權保護,以確保技術的發展不會損害版權所有者的權益。

Read More
員工使用AI

英國調查:71%年輕員工使用AI 這三類行業最熱衷

最近的調查結果發現,在企業和工作場所中使用人工智慧(AI)的年輕員工比例高於年長員工。其中 71% 年輕員工使用AI,年齡在 18 至 34 歲之間,而 57% 不使用 AI 的受訪者年齡在 35 歲及以上。表明使用AI 在年齡上存在明顯的代際差異。 相關文章:一文看清|生成式人工智能Generative AI歷史及運作方式 這三類行業員工使用AI最熱衷 調查結果由 Instantprint 發表,調查對象為 1,000 名工作者,涵蓋不同行業和年齡層,主要訪問對象主要在英國。 根據調查,商業、教育和創意產業是使用 AI 最廣泛的行業,分別佔 11%、10% 和 9%。調查還發現,使用AI 最廣泛的領域是規劃過程和創意文案撰寫,其次是轉錄、虛擬助手和圖像生成。 除了年齡和行業之外,性別也是影響 AI 使用的因素之一。使用 AI 的受訪者中,大多數是男性,而不使用AI 的受訪者中,有 68% 是女性。然而,65% 計劃納入 AI 的員工是女性,表明女性在這一領域的應用將有所增加。 ChatGPT最受歡迎 調查還發現,使用 AI 的主要工具是 OpenAI 的 ChatGPT,有 34% 的受訪者表示這是他們工作中使用的首選工具。其他受歡迎的工具包括 Midjourney(23%)、Google Bard(21%)和 Adobe Firefly(21%),而免費工具 Copy.ai(19%)、Canva AI(17%)和…

Read More
AI初創公司 歐洲

哪個歐洲國家擁有最多的AI初創公司?

根據風險投資公司 Earlybird 的最新研究,歐洲 AI 創新的熱點已經浮出水面。盡管英國是歐洲AI初創公司數量最多的國家,愛沙尼亞卻因每百萬人口擁有十間 AI初創公司而成為歐洲最小國家中的AI領頭羊。 延伸閱讀:一文看清|生成式人工智能Generative AI歷史及運作方式 研究顯示,瑞士在 AI 創新方面表現優異,擁有 67 間 AI 初創公司,其中包括智能數據捕獲獨角獸Scandit。瑞士受益於擁有歐洲的一個公司孵化中心,ETH Zurich,該中心擁有九位 AI 創業家校友。法國的人工智能公司是歐洲資金最豐富的公司之一。 英國仍然在歐洲 AI初創公司中佔重要位置 然而,英國仍然在歐洲 AI 創新領域中佔據著重要位置,擁有 334 間 AI 初創公司。德國緊隨其後,擁有167 間 AI創業公司,而法國則擁有 135 間。最資金豐富的歐洲 AI 創業公司之一是巴黎的企業平台Dataiku,Bristol 的 Graphcore、比利時的 Collibra 和巴黎的 Shift Technology 則籌集了超過 5 億美元的資金。 在 AI 領域,美國的總數遠遠超過歐洲,Earlybird 的數據顯示,在 33 個歐洲國家中,AI 創業公司數量為1,157 間,而美國則有 1,752 間。由於美國的生態系統更適合將新穎的研究轉化為商業應用,Earlybird 的合夥人 Andre Retterath…

Read More
Gary Gensler 辭職

太乞人憎?| Gary Gensler辭職的謠言網上瘋傳 疑網民AI制文

最近,一則關於美國證券交易委員會(SEC)主席 Gary Gensler 辭職的謠言在加密貨幣 Twitter上瘋傳,而這次人工智能(AI)似乎參與其中。Fox Business Network 記者 Charles Gasparino 在 Twitter 上發文證實,他已經從 SEC 那裡得到了回應,Gary Gensler 沒有辭職。 7 月 1 日,一篇報道出現在被稱為「thecryptoalert.com」的網站上,聲稱 SEC 主席 Gary Gensler「在內部調查後提交了辭職信」,並引用了一位匿名官員。 相關新聞:幣安風暴|加密貨幣界公敵?SEC主席Gary Gensler被翻舊帳 Gary Gensler辭職謠言被大量網民轉發 然而,Cointelegraph 發現該文章的文本在第三方 AI 檢測器上得分很高,得分為 96.8%,表明使用了高度的 AI 文本生成技術。 除了大部分文本是由 AI 生成之外,使用 Wayback Machine 進行的網絡存檔搜索顯示,該網站域名 “thecryptoalert.com” 的所有權在6月24日下午4:30更新。 儘管如此,許多帳戶在 Twitter 上轉發了這些內容。涉及此事的最廣泛閱讀的帖子來自一個名為@whalechart 的帳戶,在發佈時已經獲得了 140 萬次查看次數。 7月3日,福布斯商業網(Fox Business Network)記者 Charles Gasparino…

Read More
生成AI 企業內容

生成AI行情火爆 初創公司Typeface獲8億融資 成立一年市值80億 

隨生成AI市場擴大,投資者對於這個領域的興趣越來越濃厚,希望能夠複製 ChatGPT 的成功。企業內容生成平台 Typeface 最近完成1億美元(約 7.8 億港元)的 B 輪融資,將用於增長、創新和擴展其生成 AI 平台。 相關新聞: 聊天機器人的代價 ChatGPT涉數據盜竊而被控集體訴訟 一文看清|生成式人工智能Generative AI歷史及運作方式 這次融資由 Salesforce Ventures 領投。其他投資者包括 Lightspeed Venture Partners 、 Madrona 、Google Ventures 、Menlo Ventures 和微軟的 M12 風險基金。融資後,Typeface 的估值達到 10 億美元(約 78 億港元)。 Typeface 是一個針對企業的生成 AI 創作平台,它能夠根據提示生成文本、圖像或其他媒體。 該公司由一群前 Meta、 Adobe 和 Microsoft 設計師及經理於 2022 年 6 月創立,並於今年 2 月推出了其面向公眾的企業應用程式,其集成了 OpenAI 的…

Read More
人工智慧 線上約會

AI時代的浪漫史:人工智慧如何改變線上約會

近年來,人工智慧(AI)技術的普及正在改變著線上約會的方式。最近一項由 AttractionTruth 進行的調查顯示,已有 20% 的男性約會應用程式用戶使用 AI 來改善他們的線上約會體驗。 掌握最新加密市場動態與區塊鏈新聞與資訊,請即追蹤 CFTime 專頁 不過,人工智慧在約會應用程序中的應用並非沒有挑戰。用戶必須信任約會平台和生成工具的安全保障,且隨著 AI 技術變得越來越普及,行業需要在自動化和人類互動之間取得平衡。否則,AI 代理只是跟其他 AI 反復地調情。 延伸閱讀:一文看清|生成式人工智能Generative AI歷史及運作方式 人工智能五大潛在風險 危險程度與核戰爭和全球大瘟疫一樣嚴重? 報告:使用 AI 後 約會技巧和信心明顯提高 AttractionTruth 的調查結果強調了 AI 技術在現代網絡約會中的價值。調查的受眾主要是男性約會應用程序用戶,他們報告使用 AI 後,他們的約會技巧和信心明顯提高。其中,37% 的受訪者表示他們的互動得到了AI 的幫助而有所改善;24% 的人報告注意到他們的信息技巧有所提升。 此外,使用 AI-enabled 約會應用程序的用戶報告了幾個好處。首先,AI 幫助男性創造個性化和引人入勝的開場白,從而帶來更有意義的交流。其次,AI 節省時間,因為技術可以處理打破僵局和最初的閒談,讓用戶專注於更深層次的連接。 AI 還能增強個性化 人工智慧在網絡約會中的應用不僅僅是提高效率和增加成功率,還能增強個性化。AI 技術可以分析用戶的興趣、喜好和行為模式,從而提供更個性化的建議和配對。此外,AI 還可以幫助用戶更好地了解自己,並提供關於自我改進和發展的建議。 AI 技術不僅局限於戀愛領域,它已滲透到我們生活的各個方面,包括提供醫療建議、心理諮詢和靈性引導等。 延伸閱讀:逾10萬個ChatGPT登錄憑證被洩露 專家拆解避免方法 涉私隱及道德問題 人工智慧在約會領域的應用也引起了一些擔憂,尤其是私隱和道德問題。AI 需要訪問用戶的個人信息和數據,這可能會導致敏感信息的洩漏。因此,程式開發人員需要優先考慮用戶私隱,並採取必要的安全措施。 展望未來,研究人員建議約會應用程序開發人員整合更多的 AI-powered 功能,例如自然語言處理、機器學習和人工智慧閱讀等。同時,開發人員需要保持對多樣化用戶體驗和道德人工智慧實踐的關注,探索人工智慧如何有助於長期的關係可持續性。 未來,AI 將繼續在約會領域發揮作用,並成為改善用戶體驗和建立長期關係的強有力工具。

Read More
ChatGPT涉數據盜竊

聊天機器人的代價 ChatGPT涉數據盜竊而被控集體訴訟

OpenAI 旗下 ChatGPT涉數據盜竊而被控集體訴訟。該公司開發的 ChatGPT 被指控非法收集了數百萬用戶的社交媒體評論、博客文章、維基百科文章和家庭食譜等數據,並未經相應用戶同意進行訓練。 本案於 6 月 28 日在美國加州北部地區聯邦地區法院受理,原告由 Clarkson Law Firm 代表,涉及16名原告和 OpenAI 以及微軟。 延伸閱讀:一文看清|生成式人工智能Generative AI歷史及運作方式 該訴訟聲稱,OpenAI 侵犯了數百萬互聯網用戶的版權和私隱。如果屬實,OpenAI 將違反《計算機欺詐和濫用法》—— 一項在網絡爬蟲案件中有先例的法律。 OpenAI 被指控使用被盜私人信息,包括可識別個人身份的信息,從數億互聯網用戶中收集,包括所有年齡段的兒童,而這些信息未經他們知情或同意。 本案的原告之一表示:「我認為 OpenAI 的行為嚴重侵犯了我和其他人的私隱和版權,他們擅自使用了我們的數據,而我們在此過程中沒有給予任何同意或授權。」 ChatGPT涉數據盜竊 涉社交媒體、博客文章、新聞文章等 OpenAI 是一家人工智慧研究機構,該公司的ChatGPT聊天機器人憑藉其自然語言處理技術而聲名大噪。然而,本案的涉及範圍不僅限於 ChatGPT ,而是涉及 OpenAI 的整個產品線。該訴訟還聲稱,OpenAI 產品使用被盜私人信息,包括可識別個人身份的信息,而這些信息未經他們知情或同意。 此案的訴訟文件指出,OpenAI 使用的數據來源包括社交媒體、博客文章、新聞文章、維基百科和其他公開數據庫等,而這些數據是從互聯網上收集而來的。在聲明中,原告聲稱,OpenAI 使用這些數據來訓練其人工智慧模型,而這些數據中包含了許多私人信息和個人身份信息。 值得留意的是,微軟是 OpenAI 的主要投資者之一,因此也被列為被告之一。微軟並未對此案件發表評論。

Read More
ChatGPT Plus

眾議院聊天機器人「一家獨大」只允許議員使用ChatGPT Plus

美國眾議院最近通過一項新規定,禁止議員使用除了 OpenAI 的 ChatGPT Plus 以外的所有人工智能大型語言模型。此限制旨在保障議會數據的安全,因為人工智能大型語言模型可能會被黑客利用,從而導致機密資料外洩。 只有 ChatGPT Plus被授權使用 ChatGPT Plus 提供了一般訪問、更快的查詢響應時間以及優先獲取新功能。除此之外,它還包括額外的私隱保護功能,有助於保護眾議院數據。 根據美國眾議院行政長官 (Chief Administrative Officer) Catherine Szpindor 發出的通知,議員只能在研究和評估方面使用軟件,禁止將 ChatGPT 納入他們的常規工作流程中。 此外,議員不能共享任何敏感資料作為提示,並要求使用 Plus 版本時啟用所有私隱設置。這些限制旨在防止人工智能大型語言模型被濫用,從而導致敏感資訊外洩。 相關新聞:逾10萬個ChatGPT登錄憑證被洩露 專家拆解避免方法 刪除的信息仍會伺服器上保留30天 OpenAI 在 4 月份為 ChatGPT 和其 Plus 版本的用戶增加了刪除聊天記錄和帳戶的選項,但以這種方式刪除的信息仍會在 ChatGPT 服務器上保留 30 天。OpenAI 計劃推出 ChatGPT 商業訂閱服務,以增加數據控制功能,但與 Plus 有何不同,則尚不清楚。 這些新的眾議院規定僅適用於眾議院議員。然而,美國眾議員 Ted Lieu 、 Ken Buck 及 Anna Eshoo提出了一項跨黨派法案,旨在建立聯邦人工智能委員會,以對整個美國人工智能行業進行監管。 該委員會將負責監督人工智能技術的發展和應用,以保障公眾利益和安全。此舉鼓勵政府和私人企業在人工智能發展和應用方面更加負責任,並保護消費者和公眾的利益。

Read More