Blog
AI安全峰會：過度焦慮末日警告，忽視當前誤導訊息風險
AI安全峰會：過度焦慮末日警告，忽視當前誤導訊息風險
October 30, 2023
重點摘要：
新聞內文：
AI末日警告分散了對其當前潛在危害的注意力，例如大規模製造誤導訊息，這是本週AI安全峰會的一位高等業內人士的觀點。
Cohere執行長Aidan Gomez是該研究論文的共同作者，該論文幫助建立了聊天機器人背後的技術，他表示，從AI對人類的存在威脅等長期風險應該「進行研究並追求」，但這可能會轉移政治家們處理當前潛在危害的注意力。
他說：「我認為從存在風險和公共政策的角度來看，這不是一個有意義的對話」。「就公共政策和我們應該將公家部門的注意力集中在哪裡，或者試圖減少對平民人口的風險方面來說，我認為這是一個分散注意力的因素，遠離風險將更加明顯和迫切」。
Gomez以Cohere執行長的身份參加了為期兩天的峰會，該峰會於近期開幕，該公司為企業提供AI工具，包括聊天機器人。在2017年，20歲的Gomez是Google團隊的一員，他們創立了Transformer，這是支持AI工具如聊天機器人的大型語言模型的關鍵技術。
Gomez表示，「AI」這個詞指的是能夠執行平常與智慧生物相關任務的計算機系統，目前已經得到了廣泛的應用，而該峰會應該關注這些應用方式。聊天機器人（如ChatGPT）和圖像生成器（如Midjourney）以其從簡單的文本提示中生成逼真文本和圖像的能力使公眾感到震驚。
Gomez說：「這項技術已經應用於數十億使用者的產品中，例如Google和其他公司。這帶來了一系列新風險，這些風險都不是生存風險，也都不是末日場景」。「我們應該專注於將要影響人們或正在積極影響人們的部分，而不是對長期未來的更多學術和理論性討論」。
Gomez表示，他最關注的是誤導訊息在網路上傳播誤導或不正確訊息。「對我來說，這是首要關注的問題」。「這些『AI』模型可以創作非常具有說服力、非常引人注目的媒體，幾乎無法區分出與人創作的文本、圖像或媒體。因此，這是我們非常迫切需要解決的問題。我們需要弄清楚如何讓公眾能夠區分這些不同類型的媒體」。
峰會的開幕日將討論各種AI問題，包括與誤導訊息相關的問題，如選舉干擾和社會信任的侵蝕。隔天，由英國財政大臣Rishi Sunak召集的少數國家、專家和科技高級主管將討論可以採取的具體步驟以應對AI風險。美國副總統卡馬拉·哈里斯將參加其中。
Gomez將這次峰會描述為「非常重要」，他說：「已經『非常有可能』會有一支『機器人軍隊』執行重複性任務的軟體，例如在社交媒體上發貼文，這會傳播由AI生成的誤導訊息。如果你能做到這一點，那就是對民主和公共對話的真正威脅」。
在上週發表的一系列文件中，政府提到了AI風險，包括由AI生成的誤導訊息和對就業市場的干擾等問題。一份風險文件指出：「鑒於預測AI發展存在顯著不確定性，因此沒有足夠的證據來排除高度能力的前沿AI系統可能構成生存威脅的可能性」。
該文件還補充說，許多專家認為這種風險非常低，需要滿足多種情景，包括高級系統掌控武器或金融市場的情景。對來自AI的生存威脅的擔憂集中在所謂的人工通用智慧工具，這是指一種能夠以人類或超越人類水平的智慧執行多項任務的AI系統，該系統在理論上可以複製自己、逃避人類控制，並做出違背人類利益的決策。
這些擔憂導致在今年3月發表了一封公開信，該信由超過30,000名技術專業人士和專家簽署，包括伊隆·馬斯克，呼籲暫停進行大規模的AI實驗。
AI的兩位現代「教父」之一Geoffrey Hinton和Yoshua Bengio在今年5月簽署的一份聲明中警告，應該將避免AI帶來的生存威脅視為「與流行病和核戰威脅同等」的對待。然而，另一位「教父」和ACM圖靈獎的獲獎者Yann LeCun將AI可能會消滅人類的擔憂描述為「荒謬」。
LeCun，Meta的AI科學家，本月告訴《金融時報》，在AI能夠達到人類水平的智慧之前，需要進行一系列「概念性突破」，一個系統可以逃避人類控制的地方。 LeCun還補充說：「智慧與欲望支配無關。甚至對於人類來說也不是真的」。
新聞原址： https://www.theguardian.com/technology/2023/oct/29/ai-doomsday-warnings-a-distraction-from-the-danger-it-already-poses-warns-expert
- Cohere執行長Aidan Gomez指出，過度專注於AI的長期存在風險可能會分散對當前潛在危害，如誤導訊息的製造，的注意力。
- Gomez強調，目前的AI技術，包括聊天機器人和圖像生成器，已經被廣泛應用於數十億使用者的產品中，帶來了一系列新的、非生存風險。
- 峰會將討論與AI相關的各種問題，包括選舉干擾和社會信任的侵蝕，並將由多國專家和科技高級主管討論具體應對措施。
新聞內文：
AI末日警告分散了對其當前潛在危害的注意力，例如大規模製造誤導訊息，這是本週AI安全峰會的一位高等業內人士的觀點。
Cohere執行長Aidan Gomez是該研究論文的共同作者，該論文幫助建立了聊天機器人背後的技術，他表示，從AI對人類的存在威脅等長期風險應該「進行研究並追求」，但這可能會轉移政治家們處理當前潛在危害的注意力。
他說：「我認為從存在風險和公共政策的角度來看，這不是一個有意義的對話」。「就公共政策和我們應該將公家部門的注意力集中在哪裡，或者試圖減少對平民人口的風險方面來說，我認為這是一個分散注意力的因素，遠離風險將更加明顯和迫切」。
Gomez以Cohere執行長的身份參加了為期兩天的峰會，該峰會於近期開幕，該公司為企業提供AI工具，包括聊天機器人。在2017年，20歲的Gomez是Google團隊的一員，他們創立了Transformer，這是支持AI工具如聊天機器人的大型語言模型的關鍵技術。
Gomez表示，「AI」這個詞指的是能夠執行平常與智慧生物相關任務的計算機系統，目前已經得到了廣泛的應用，而該峰會應該關注這些應用方式。聊天機器人（如ChatGPT）和圖像生成器（如Midjourney）以其從簡單的文本提示中生成逼真文本和圖像的能力使公眾感到震驚。
Gomez說：「這項技術已經應用於數十億使用者的產品中，例如Google和其他公司。這帶來了一系列新風險，這些風險都不是生存風險，也都不是末日場景」。「我們應該專注於將要影響人們或正在積極影響人們的部分，而不是對長期未來的更多學術和理論性討論」。
Gomez表示，他最關注的是誤導訊息在網路上傳播誤導或不正確訊息。「對我來說，這是首要關注的問題」。「這些『AI』模型可以創作非常具有說服力、非常引人注目的媒體，幾乎無法區分出與人創作的文本、圖像或媒體。因此，這是我們非常迫切需要解決的問題。我們需要弄清楚如何讓公眾能夠區分這些不同類型的媒體」。
峰會的開幕日將討論各種AI問題，包括與誤導訊息相關的問題，如選舉干擾和社會信任的侵蝕。隔天，由英國財政大臣Rishi Sunak召集的少數國家、專家和科技高級主管將討論可以採取的具體步驟以應對AI風險。美國副總統卡馬拉·哈里斯將參加其中。
Gomez將這次峰會描述為「非常重要」，他說：「已經『非常有可能』會有一支『機器人軍隊』執行重複性任務的軟體，例如在社交媒體上發貼文，這會傳播由AI生成的誤導訊息。如果你能做到這一點，那就是對民主和公共對話的真正威脅」。
在上週發表的一系列文件中，政府提到了AI風險，包括由AI生成的誤導訊息和對就業市場的干擾等問題。一份風險文件指出：「鑒於預測AI發展存在顯著不確定性，因此沒有足夠的證據來排除高度能力的前沿AI系統可能構成生存威脅的可能性」。
該文件還補充說，許多專家認為這種風險非常低，需要滿足多種情景，包括高級系統掌控武器或金融市場的情景。對來自AI的生存威脅的擔憂集中在所謂的人工通用智慧工具，這是指一種能夠以人類或超越人類水平的智慧執行多項任務的AI系統，該系統在理論上可以複製自己、逃避人類控制，並做出違背人類利益的決策。
這些擔憂導致在今年3月發表了一封公開信，該信由超過30,000名技術專業人士和專家簽署，包括伊隆·馬斯克，呼籲暫停進行大規模的AI實驗。
AI的兩位現代「教父」之一Geoffrey Hinton和Yoshua Bengio在今年5月簽署的一份聲明中警告，應該將避免AI帶來的生存威脅視為「與流行病和核戰威脅同等」的對待。然而，另一位「教父」和ACM圖靈獎的獲獎者Yann LeCun將AI可能會消滅人類的擔憂描述為「荒謬」。
LeCun，Meta的AI科學家，本月告訴《金融時報》，在AI能夠達到人類水平的智慧之前，需要進行一系列「概念性突破」，一個系統可以逃避人類控制的地方。 LeCun還補充說：「智慧與欲望支配無關。甚至對於人類來說也不是真的」。
新聞原址： https://www.theguardian.com/technology/2023/oct/29/ai-doomsday-warnings-a-distraction-from-the-danger-it-already-poses-warns-expert