Blog
Davos 2024：AI引發關注，深度偽造和未來不確定性成焦點
Davos 2024：AI引發關注，深度偽造和未來不確定性成焦點
January 29, 2024
重點摘要：
- Davos 2024成為AI的焦點，超過兩個場次專注於各種AI議題，AI界的重要人物也紛紛參加。
- 最受關注的AI風險之一是深度偽造，尤其是虛假訊息和假訊息的威脅，這可能對選舉和社會造成混亂和信任危機。
- AI的未來發展充滿不確定性，有人認為人工通用智慧（AGI）即將實現，但也有人懷疑。全球對AI持有著不同的看法，需要謹慎管理和創新來引導未來發展。
新聞內文：
「Davos 2024」成為AI的主要主題。據《財富》報導，活動中有超過兩個場次專注於AI議題，涵蓋了從教育到AI監控的各個方面。AI界的重要人物紛紛參加了這次活動，包括OpenAI的CEO Sam Altman、Inflection AI的CEO Mustafa Suleyman、AI先驅Andrew Ng、Meta的AI科學家Yann LeCun、Cohere的CEO Aidan Gomez等等。
與2023年達沃斯會議相比，當時的對話充滿了對ChatGPT的猜測，而今年的討論則更加冷靜。
IBM政府和監管事務副總裁Chris Padilla在接受《華盛頓郵報》的採訪中表示：「去年，對話是『哇，太神奇了』。現在是『什麼是風險？我們需要做什麼使AI值得信賴？』」
在達沃斯討論的擔憂中，最受關注的AI風險之一可能是全面性的虛假訊息和假訊息的威脅，這些訊息通常以深度偽造的照片、影片和語音複製的形式出現，進一步混淆現實並破壞信任。最近的一個例子是在新罕布什爾州總統初選選舉之前，有人使用總統喬·拜登的複製語音進行機器人電話，顯然試圖壓制選票。
AI-enabled深度偽造可以通過讓某人看似說出他們實際上未曾說過的話，來創造和傳播虛假訊息。卡內基梅隆大學教授Kathleen Carley在一次採訪中表示：「這只是冰山一角，對選民壓制或對選舉工作人員發起攻擊所能做的事情」。
企業AI顧問Reuven Cohen最近也告訴VentureBeat，隨著新的AI工具的出現，我們應該期待在2024年選舉之前出現大量的深度偽造語音、圖像和影片。
儘管付出了大量努力，但尚未找到一種百分之百可靠的方法來檢測深度偽造。正如《財富》文章中的Jeremy Kahn所觀察到的：「我們最好趕快找到解決方案。不信任對民主和社會具有潛在侵蝕性」。
AI的情緒變化
從2023年到2024年的情緒變化使Suleyman在《外交事務》上寫道，需要制定一種「冷戰戰略」來遏止AI帶來的威脅。他說，基礎技術（如AI）始終變得更加便宜、易於使用，並滲透到社會的各個層面，具有各種積極和有害的用途。
「當敵對政府、邊緣政黨和獨立行動者能夠創作和播放與現實無法區分的素材時，他們將能夠制造混亂，目的在阻止他們的驗證工具可能會被生成系統超越」。
對於AI的擔憂可以追溯到幾十年前，最初在1968年的電影《2001太空漫遊》中得以廣泛普及。此後，擔憂和擔憂持續不斷，包括對於1990年代末非常流行的數位寵物「Furby」的擔憂。《華盛頓郵報》於1999年報導，國家安全局（NSA）禁止在其場所使用這些數位寵物，因為擔心它們可能被用作可能泄露國家安全訊息的監聽設備。最近釋放的NSA文件討論了該玩具使用「內置的人工智慧晶片」來「學習」的能力。
對於AI的擔憂最近變得尖銳，因為越來越多的AI專家聲稱，人工通用智慧（AGI）可能很快就能實現。儘管AGI的確切定義尚不清晰，但人們認為，AGI是指AI在廣泛範疇的活動中變得比受過大學教育的人更聰明和更有能力的時刻。
艾特曼表示，他認為AGI可能離我們不遠，並且可能在「相對不遠的未來」內開發出來。戈麥斯強調了這一觀點：「我認為我們將很快擁有那項技術」。
然而，並非每個人都同意積極的AGI時間表。例如，勒孔對即將到來的AGI表示懷疑。他最近告訴西班牙媒體EL PAÍS：「人類級別的AI不會很快出現。這將需要很長時間。並且需要我們尚不知道的新科學突破」。
公眾對未來AI技術發展的不確定性是眾所周知的
根據在達沃斯發布的2024年艾德爾曼信任指數報告，全球受訪者在拒絕（35%）和接受（30%）AI方面存在分歧。人們認識到AI的印象深刻潛力，但也認識到了相關風險。根據該報告，人們更有可能接受AI（以及其他創新）如果它得到科學家和倫理學家的審查，他們感到可以控制AI如何影響他們的生活，並且他們覺得它將為他們帶來更美好的未來。
迫不及待地尋求「遏制」技術的解決方案是一種誘人的想法，正如蘇萊曼所建議的，儘管有必要回想一下羅伊·阿瑪拉（Roy Amara）所定義的阿瑪拉定律。他說：「我們往往高估了技術在短期內的影響，而低估了它在長期內的影響」。
雖然現在已經進行了大量的實驗和早期採用，但廣泛的成功並不確定。AI測試非營利組織Humane Intelligence的CEO兼創辦人Rumman Chowdhury表示：「我們將在2024年達到幻滅的谷底。我們將意識到，這實際上並不是我們被迫相信的那種改變世界的技術」。
2024年可能是我們發現它有多大影響的一年。與此同時，大多數人和公司正在學習如何最好地利用生成式AI來獲得個人或業務效益。
執行董事會諮詢公司Accenture的CEO朱莉·斯威特（Julie Sweet）在一次訪談中表示：「我們仍處於一個每個人都對技術感到非常興奮但尚未實現價值的狀態中」。該諮詢公司現在正在為C級領導人舉辦研討會，以了解該技術作為實現潛力的關鍵步驟，並從用例轉向價值。
因此，AI（以及AGI）所帶來的好處和最有害的影響可能即將到來，但不一定是立即的。在航行AI的複雜領域中，我們站在一個十字路口上，謹慎的管理和創新精神可以引導我們走向一個未來，在這個未來中，AI技術可以增強人類的潛力，而不是犧牲我們的集體完整性和價值觀。我們需要集體的勇氣來設想和設計這樣一個未來，其中AI為人類服務，而不是反過來。
新聞原址： https://venturebeat.com/ai/after-davos-2024-from-ai-hype-to-reality/
迫不及待地尋求「遏制」技術的解決方案是一種誘人的想法，正如蘇萊曼所建議的，儘管有必要回想一下羅伊·阿瑪拉（Roy Amara）所定義的阿瑪拉定律。他說：「我們往往高估了技術在短期內的影響，而低估了它在長期內的影響」。
雖然現在已經進行了大量的實驗和早期採用，但廣泛的成功並不確定。AI測試非營利組織Humane Intelligence的CEO兼創辦人Rumman Chowdhury表示：「我們將在2024年達到幻滅的谷底。我們將意識到，這實際上並不是我們被迫相信的那種改變世界的技術」。
2024年可能是我們發現它有多大影響的一年。與此同時，大多數人和公司正在學習如何最好地利用生成式AI來獲得個人或業務效益。
執行董事會諮詢公司Accenture的CEO朱莉·斯威特（Julie Sweet）在一次訪談中表示：「我們仍處於一個每個人都對技術感到非常興奮但尚未實現價值的狀態中」。該諮詢公司現在正在為C級領導人舉辦研討會，以了解該技術作為實現潛力的關鍵步驟，並從用例轉向價值。
因此，AI（以及AGI）所帶來的好處和最有害的影響可能即將到來，但不一定是立即的。在航行AI的複雜領域中，我們站在一個十字路口上，謹慎的管理和創新精神可以引導我們走向一個未來，在這個未來中，AI技術可以增強人類的潛力，而不是犧牲我們的集體完整性和價值觀。我們需要集體的勇氣來設想和設計這樣一個未來，其中AI為人類服務，而不是反過來。
新聞原址： https://venturebeat.com/ai/after-davos-2024-from-ai-hype-to-reality/