Blog
Google研究揭示AI技術局限，AGI夢想或需重新評估
Google研究揭示AI技術局限，AGI夢想或需重新評估
November 8, 2023
重點摘要：
新聞內文：
Google研究人員對於AI能否超越人類的野心提出了現實性的懷疑，這或許給那些追求AI聖杯的CEO們留下了一個重要的現實警訊。
在一份於11月1日提交給開放使用儲存庫ArXiv的新的預印本論文中，這家搜索龍頭的三名研究人員發現，驅動ChatGPT和其他AI工具的大型語言模型（LLMs）的技術稱為「transformers」，它們在一般化方面表現不佳。
作者Steve Yadlowsky、Lyric Doshi和Nilesh Tripuraneni寫道：「當面臨超出其預訓練數據域的任務或功能時，我們展示了transformers的各種故障模式以及它們甚至對簡單的外推任務的一般化的退化」。
根據該論文的說法，transformers擅長執行與它們接受培訓的數據相關的任務。但對於稍微超出其培訓數據範圍的任務，它們表現不佳。
對於那些希望實現人工通用智慧（AGI）的人來說，這可能是一個問題。AGI是描述理論上可以像人類一樣做任何事情的AI的術語。就目前而言，AI在特定任務上表現出色，但在跨領域傳遞技能方面不如人類。
華盛頓大學計算機科學和工程榮譽教授Pedro Domingos告訴Insider說，這意味著「我們不應該過於瘋狂地期待即將到來的AGI」。
AGI一直被吹捧為AI領域的最終目標，因為它代表著一個理論上，人類創造了比自己更聰明或同等聰明的東西的時刻。根據您的觀點，這可能是一個令人警惕的普羅米修斯式的場景，或者是一個時代定義性的場景。無論如何，許多投資者和技術人員都正在嚴肅地投入時間和投資以實現這一目標。
然而，如果像研究人員指出的那樣，技術甚至在「簡單的外推任務」上都有困難，顯然我們還遠遠不夠。
該研究強調了許多人對被吹捧為AGI途徑的技術的潛力已經感到困惑。
儘管Domingos承認transformers是一種先進的技術，但他認為許多人認為它們比它們實際更強大。
Sharon Zhou，「Lamini AI」的執行長，告訴Insider她不認為transformers難以通用化是一個問題。
她表示，「這就是為什麼我創辦了一家培訓模型，而不僅僅是查詢它們的公司，因此它可以學習新的事物。它們仍然可以非常有用，並且仍然可以被引導和調整」。
總之，儘管transformers是一種先進的技術，但對於一般化的能力存在困難，這提醒我們不要對即將到來的AGI抱有過高的期望。
新聞原址： https://www.businessinsider.com/google-researchers-have-turned-agi-race-upside-down-with-paper-2023-11
- Google研究人員在新論文中對AI技術「transformers」的一般化能力提出質疑，指出其在面對超出預訓練數據域的任務時表現不佳。
- 這項研究可能對追求人工通用智慧（AGI）的企業和投資者構成挑戰，因為目前AI在跨領域技能轉移方面仍遠遠落後於人類。
- 儘管有專家對transformers的限制表示擔憂，也有行業人士認為，通過持續培訓和調整，這些模型仍然具有實用價值。
新聞內文：
Google研究人員對於AI能否超越人類的野心提出了現實性的懷疑，這或許給那些追求AI聖杯的CEO們留下了一個重要的現實警訊。
在一份於11月1日提交給開放使用儲存庫ArXiv的新的預印本論文中，這家搜索龍頭的三名研究人員發現，驅動ChatGPT和其他AI工具的大型語言模型（LLMs）的技術稱為「transformers」，它們在一般化方面表現不佳。
作者Steve Yadlowsky、Lyric Doshi和Nilesh Tripuraneni寫道：「當面臨超出其預訓練數據域的任務或功能時，我們展示了transformers的各種故障模式以及它們甚至對簡單的外推任務的一般化的退化」。
根據該論文的說法，transformers擅長執行與它們接受培訓的數據相關的任務。但對於稍微超出其培訓數據範圍的任務，它們表現不佳。
對於那些希望實現人工通用智慧（AGI）的人來說，這可能是一個問題。AGI是描述理論上可以像人類一樣做任何事情的AI的術語。就目前而言，AI在特定任務上表現出色，但在跨領域傳遞技能方面不如人類。
華盛頓大學計算機科學和工程榮譽教授Pedro Domingos告訴Insider說，這意味著「我們不應該過於瘋狂地期待即將到來的AGI」。
AGI一直被吹捧為AI領域的最終目標，因為它代表著一個理論上，人類創造了比自己更聰明或同等聰明的東西的時刻。根據您的觀點，這可能是一個令人警惕的普羅米修斯式的場景，或者是一個時代定義性的場景。無論如何，許多投資者和技術人員都正在嚴肅地投入時間和投資以實現這一目標。
然而，如果像研究人員指出的那樣，技術甚至在「簡單的外推任務」上都有困難，顯然我們還遠遠不夠。
該研究強調了許多人對被吹捧為AGI途徑的技術的潛力已經感到困惑。
儘管Domingos承認transformers是一種先進的技術，但他認為許多人認為它們比它們實際更強大。
Sharon Zhou，「Lamini AI」的執行長，告訴Insider她不認為transformers難以通用化是一個問題。
她表示，「這就是為什麼我創辦了一家培訓模型，而不僅僅是查詢它們的公司，因此它可以學習新的事物。它們仍然可以非常有用，並且仍然可以被引導和調整」。
總之，儘管transformers是一種先進的技術，但對於一般化的能力存在困難，這提醒我們不要對即將到來的AGI抱有過高的期望。
新聞原址： https://www.businessinsider.com/google-researchers-have-turned-agi-race-upside-down-with-paper-2023-11