深度偽造 - cftime.io

分析：AI犯罪將在2024年全面爆發恐影響多國選舉結果

Admin5 months ago5 months ago01 mins

CrowdStrike 網絡保安總監 Shawn Henry 表示，AI具有欺騙和誤導的能力，正好在2024年選舉之際達到成熟。 Shawn Henry 在周二接受CBS 專訪時表示，AI犯罪將在2024年全面爆發。掌握最新加密市場動態與 AI （ChatGPT）新聞與資訊，請即追蹤 CFTime Facebook 及 Google 新聞！ Shawn Henry 解釋道：「AI確實將這個強大的工具交到了普通人的手中，使他們變得更加強大。所以對手們正在利用這項創新的AI來克服不同的網絡安全能力，以便進入企業網絡。」他強調了AI在滲透企業網絡以及使用越來越複雜的短片、音頻和文本深度偽造在線散播虛假信息方面的應用，用戶需要查看信息的來源，並且不要輕信在網上發布的內容。延伸閱讀：AI或誤導醫生！分析：當遇上「這情況」人工智能就出現固有偏見「你必須核實它的來源。」Shawn Henry 說道。「誰在講這個故事，他們的動機是什麼，你能通過多個來源來驗證嗎？」，「這非常困難，因為人們在觀看短片時只有15或20秒的時間，他們沒有時間或往往不會努力去查證數據，這是一個問題。」黑客恐利用AI犯罪來加劇政治混亂 Shawn Henry 指出，2024年多個地區的選舉年（包括美國、墨西哥、南非、台灣和印度），民主本身正處於危機之中，黑客利用AI來加劇政治混亂。在即將到來的2024年美國選舉中，選舉機器的安全性尤為令人關注。當被問及AI是否可以用於黑客攻擊選舉機器時，Shawn Henry 對美國選舉系統的去中心化性質表示樂觀，認為這將阻止此類攻擊的發生。值得注意的是，2023年以來，電子郵件釣魚攻擊增加了1265%。全球政策制定者一直在努力尋找規範和遏制人工智能濫用的方法，包括聯合國秘書長對在衝突地區使用人工智能生成的深度偽造的警告。此外，許多科技巨頭也宣布了新的政策，旨在遏制利用人工智能進行政治虛假信息的行為。人工智能在網絡犯罪中的應用將帶來新的安全挑戰，人們需要加強對信息的辨識能力，以應對不斷進化的網絡威脅。

美國聯邦選舉委員會擬禁AI製作欺騙性競選廣告

Admin9 months ago9 months ago01 mins

美國聯邦選舉委員會已推進一項請願，禁止在 2024 年選舉季期間使用AI製作欺騙性競選廣告。該機構現在正在徵求公眾對該請願的意見，然後再進行「完整的規則制定」。掌握最新加密市場動態與 AI （ChatGPT）新聞與資訊，請即追蹤 CFTime Facebook 及 Google 新聞！今年 7 月，聯邦選舉委員會表示收到了一份有關在選舉期間使用 AI 生成內容的新規定的請願。該請願明確要求聯邦選舉委員會修訂有關「競選權威」的欺詐性歪曲的規定，並澄清該禁止規定適用於故意欺騙性的AI競選廣告。相關新聞：研究發現可用極簡單方式命令ChatGPT生成有害內容請願書中表示：「深度偽造是欺詐性的，因為深度偽造的候選人實際上沒有說過或做過深度偽造所描述的事情，並且深度偽造旨在欺騙公眾。」深度偽造是一種越來越常見的使用人工智能創作的短片或音頻內容，它逼真地描繪了虛假事件，但很難辨認出其為偽造。 Decrypt 引述聯邦選舉委員會的一位發言人指，他們正在尋求更多意見，並提到了 7 月 13 日和 8 月 10 日的兩次先前聽證會，委員會成員在這些聽證會上討論並聽取了有關該請願的證詞。儘管請願書獲得了全票通過，但一些人對它可能設立的先例表示擔憂。聯邦選舉委員會委員 Allen Dickerson 在上週的一次公開聯邦選舉委員會會議上表示：「這項努力背後存在著嚴重的第一修正案問題。在我們的工作中，規範的精確性是一個要求。如果委員會有權在這個領域採取行動，我希望評論者也能表明，可以制定一項真正針對欺詐活動的規定，而不會減緩受保護的表達。」最近在網上出現AI製作欺騙性競選廣告聯邦選舉委員會解釋說，該請願聲稱生成式 AI 和深度偽造技術被「用於創造令人信服的圖像、音頻和短片惡作劇」。最近在網上出現的AI生成的深度偽造的例子似乎支持了該請願的說法。 Dickerson 表示，聯邦選舉委員會的法規禁止一個人以欺詐手段假冒自己代表另一候選人的行為，但不禁止候選人本身。他續指說：「該法規程度有限，並且是針對欺詐性的行為。換句話說，它針對的是欺詐性地假裝自己代表或為另一候選人工作。它並不能阻止欺詐性地聲稱你的對手說過或做過某些事情，而實際上他或她並未如此。」今年 5 月，一個共和黨競選視頻在 YouTube 上使用 AI 生成的圖像展示了美國總統拜登可能選舉連任後的後果。這段視頻是在特朗普競選團隊使用 AI 深度偽造對佛羅里達州州長、共和黨提名競爭對手迪桑提斯嘲諷之後發佈的。今年 6 月，聯合國對社交媒體上使用 AI 生成的深度偽造提出了警告，特別是在可能引發仇恨和暴力的衝突地區。 AI 生成的深度偽造的威脅甚至使教宗方濟各在即將到來的世界和平日講道中談到了這項技術。在進行任何競選規則變更之前，美國聯邦選舉委員會要求公眾對該請願進行評論。該委員會表示，評論必須在請願書在聯邦公報上發布後的…

人工智能讓教宗感到擔憂「AI可能助長暴力和歧視」

Admin10 months ago10 months ago01 mins

人工智能讓教宗感到擔憂，教宗方濟各在梵蒂岡的一份正式聲明中，對人工智能的破壞性可能性發出了警告，並呼籲就此展開開放對話。這一聲明是在即將到來的 9 月 21 日世界和平日的佈道「人工智能與和平」的序言中發表。掌握最新加密市場動態與 AI （ChatGPT）新聞與資訊，請即追蹤 CFTime Facebook 及 Google 新聞！方濟各表示，人工智能在個人和社會生活、政治和經濟等方面的迅速進展，對人類活動產生了越來越大的影響。人工智能讓教宗感到擔憂自己亦曾成為受害者教宗對人工智能的擔憂主要集中在其具有破壞性可能性和兩面性的影響。他特別提到了深度偽造（deepfake）技術，這是一種利用人工智能創建的視頻或音頻內容，以極其逼真的方式呈現虛假事件，很難辨別真偽。教宗方濟各曾經成為多個深度偽造圖片的主題，其中一張圖片顯示他穿著蓬鬆的白色Balenciaga 夾克和鑲有鑽石的項鍊，在彩虹色透明披風中「行catwalk」。這些深度偽造圖片的出現引發了教宗的關注，並可能是他對人工智能潛在影響的警覺。教宗方濟各在聲明中呼籲對人工智能進行負責任的發展。他強調需要保持警惕，確保人工智能不會助長暴力和歧視，特別是針對弱勢和邊緣化社群。教宗方濟各的觀點得到了聯合國秘書長的支持。在六月份，聯合國秘書長警告稱，人工智能生成的圖像可能被用於在衝突地區煽動仇恨。這些聲音都在強調保護人類尊嚴和促進正義與和平的重要性。教宗方濟各還強調，人工智能的發展應該以人類的利益和共同家園的保護為前提。他指出，倫理反思應該延伸到教育和法律領域，以確保人工智能能夠為人類服務。這一警示來自教宗方濟各，一位在數位科技領域相對保守的領袖。他曾經表示從來不使用電腦，並警告信徒不要沉迷於虛擬世界中的爭論。然而，他對於人工智能的警覺表明，這一新興技術對人類和社會帶來的影響已引起了他的關注。教宗方濟各的呼憂表明，即使在宗教界，人工智能的發展也引起了重要的討論。他的聲明提醒我們，隨著科技的發展，我們必須保持警覺，確保人工智能的應用符合倫理和人道原則，並不會對社會造成負面影響。這對於推動人工智能的可持續和道德發展至關重要，同時也促使我們思考如何在這一領域中建立適當的監管和倫理框架，以確保人工智能的應用符合公共利益和人類價值觀。隨著人工智能技術的不斷進步，我們將面臨更多關於私隱、安全、倫理和社會影響的問題。這需要政府、學術界、產業界和社會各界的共同努力，以制定相應的政策和法規，並進行持續的監測和評估。同時，公眾也應該參與其中，發表意見並參與對這一新興領域的討論。