Blog
AI的未來與挑戰：杰弗里·欣頓的預言與全球治理的迫切需要
AI的未來與挑戰：杰弗里·欣頓的預言與全球治理的迫切需要
October 16, 2023
重點摘要：
新聞內文：
傳聞中的「AI教父」之一，杰弗里·欣頓（Geoffrey Hinton），先前從Google退休以來一直非常開放地表達他的看法。他被譽為完善和普及「反向傳播」（backpropagation）的人，這是一個關鍵算法，使多層神經網路能夠更正它們的錯誤。
這一突破在深度學習技術的成功中起到了關鍵作用，而深度學習技術又是當今生成性AI模型的基礎。為了表彰他的開創性貢獻，欣頓被授予圖靈獎，這個獎項通常被認為是「計算機科學的諾貝爾獎」。
進展的速度
當他意識到AI可能在不是他之前估計的「50到60年」，而可能在「5年」
內變得比人類更聰明時，欣頓從一位AI樂觀主義者轉變為更像AI的預言者。去年春天，他警告AI可能「很快就會比人類更聰明」，可能對人類帶來的潛在威脅表示擔憂。他之所以越來越擔心的原因是，通過大型語言模型（LLM）取得的gen AI帶來的巨大進步。
五年後就是2028年，這一預測甚至比AI樂觀主義者雷·庫爾茲威爾（Ray Kurzweil）更加激進，庫爾茲威爾是Google工程主管。
幾年前，庫爾茲威爾在一次訪談中表示：「到2029年，計算機將達到人類水平的智慧」。他進一步預測，到2045年，AI將實現「奇點」（Singularity），即「透過與我們創造的智慧融合，我們將把我們的有效智慧增加一億倍」。
在最近的「60 Minutes」訪談中，欣頓聲稱像OpenAI和Google等當前領先的AI模型，已經具有真正的智慧和推理能力。值得注意的是，他補充說，這些模型可以以與人類以相同的方式「經歷自己的經歷」。儘管他不認為它們現在就有意識（根據我們對這個概念的一般理解），但欣頓說，隨著時間的推移，AI系統「將具有意識」。
AI的成長階段
欣頓認為，在五年內，先進的AI模型有很大可能「能夠比人們更好地推理」。當被問及人類是否將成為地球上第二聰明的生物時，欣頓回答「是的」。他補充說：「我認為我的主要訊息是『關於接下來會發生什麽』有巨大的不確定性。這些事情是可以理解的」。
我們似乎已經進入了AI的增長階段。有點像「父母需要在孩子面前說什麽時要謹慎」。欣頓補充說：「由於他們理解，我們需要仔細思考接下來會發生什麽」。
很顯然地，我們需要現在採取行動，因為發展的加速只會增加。最近的發展已經澄清了AI競賽是否正在進行中的問題。具體而言，CNBC報道稱，中國計劃在2025年之前將計算能力提高50%，以保持與美國在AI和超級計算應用方面的步伐。這是一個龐大的計算能力，用於建立和培訓越來越大的LLM。
下一代LLM
根據欣頓的說法，人類大腦有約100萬億個神經連接。相比之下，目前最大的AI系統只有1萬億個參數。然而，他認為這些參數中編碼的知識遠遠超越了人
類的能力。這表明AI模型的學習，尤其是知識的保留，比人類更高效。
此外，有報告稱，下一代LLM很快就會推出，可能在年底之前，更可能比市場上現有的GPT-4模型先進5到20倍。
Inflection AI的執行長兼創辦人之一穆斯塔法·蘇萊曼（Mustafa Suleyman）在與《經濟學家》的對話中預測「在未來五年內，處於最前沿的模型公司，也就是我們這些在最前沿的公司，正在培訓最大的AI模型。它將培訓出比今天的GPT-4大一千倍以上的模型」。
這些更大的模型有巨大的上升潛力。除了作為非常有能力的個人助手外，這些工具還可以幫助解決我們最大的挑戰，比如實現無限能源的聚變反應和提供精確的醫學，以實現更長壽和更健康的生活。
令人擔憂的是，隨著AI變得比人類更聰明並且具有意識，其利益可能會與人類的利益分道揚鑣。
這會發生嗎，如果會，那麽什麽時候會發生？正如欣頓所說：「我們只是不知道」。
治理挑戰
儘管AI技術的進步令人振奮，但它對全球治理造成了巨大壓力，引發了另一場AI競賽。那是「政府對AI工具的規範競賽」。然而，AI發展的速度對監管機構造成了巨大的壓力。他們必須了解技術以及如何在不扼殺創新的情況下對其進行監管。
據稱歐盟在這些事項上處於領先地位，正在接近對全面立法（AI法案）的最終辯論。然而，最近的報導顯示，美國認為歐盟法律將有利於有資源支付合規成本的公司，同時損害小型公司，「抑制了預期的生產率提升」。
這種擔憂表明，至少在監管方面，美國可能會采取不同的方法。但是，其他國家的法規可能導致AI法規在全球范圍內出現分散的局面。這個現實可能對在多個國家經營的公司構成挑戰，因為他們必須應對和遵守不同的監管框架。
此外，這種分散可能會扼殺創新，如果小型公司無法負擔不同地區的合規成本。
一個轉折點？
然而，在AI監管方面，仍然可能存在全球合作的潛力。根據《註冊報》的報導，G7的領袖們預計將在年底前建立國際AI法規。今年年初，G7同意建立與gen AI相關的工作組，討論治理、知識產權、虛假訊息和負責任的使用。然而值得注意的是，中國明顯缺席了這些國家的名單，歐盟的24個國家也缺席，這對G7協議的影響提出了疑問。
在「60 Minutes」訪談中，欣頓還表示：「也許當我們回顧時，會看到這是一個轉折點，人類必須決定是否進一步發展這些事物，以及如果他們這樣做該怎麽保護自己」。他補充說，現在是透過立法確保AI的道德使用的機會。
全球合作現在需要
隨著AI以極快的速度不斷發展（甚至超出了它的創造者的預期）我們引導這項技術朝著有利於人類的方向發展的能力變得越來越具有挑戰性，但也變得越來越重要。政府、企業和公民社會必須克服地方性關切，支持集體和協作行動，迅速找到一條道德和可持續發展的道路。
AI需要全面的全球治理，這一點非常緊迫。做對這一點可能至關重要：未來人類的命運可能取決於我們如何應對高度發展的AI所帶來的挑戰。
新聞原址： https://venturebeat.com/ai/smarter-than-humans-in-5-years-the-breakneck-pace-of-ai/
- 杰弗里·欣頓，被譽為「AI教父」之一，近期由AI樂觀主義者轉變為AI的預言者，警告AI可能在五年內變得比人類更聰明。
- AI的快速發展對全球治理造成壓力，歐盟和美國在AI監管方面存在分歧，而G7預計將在年底前建立國際AI法規。
- 隨著AI技術的進步，下一代大型語言模型（LLM）將可能在年底之前推出，其能力可能比現有的GPT-4模型先進5到20倍。
新聞內文：
傳聞中的「AI教父」之一，杰弗里·欣頓（Geoffrey Hinton），先前從Google退休以來一直非常開放地表達他的看法。他被譽為完善和普及「反向傳播」（backpropagation）的人，這是一個關鍵算法，使多層神經網路能夠更正它們的錯誤。
這一突破在深度學習技術的成功中起到了關鍵作用，而深度學習技術又是當今生成性AI模型的基礎。為了表彰他的開創性貢獻，欣頓被授予圖靈獎，這個獎項通常被認為是「計算機科學的諾貝爾獎」。
進展的速度
當他意識到AI可能在不是他之前估計的「50到60年」，而可能在「5年」
內變得比人類更聰明時，欣頓從一位AI樂觀主義者轉變為更像AI的預言者。去年春天，他警告AI可能「很快就會比人類更聰明」，可能對人類帶來的潛在威脅表示擔憂。他之所以越來越擔心的原因是，通過大型語言模型（LLM）取得的gen AI帶來的巨大進步。
五年後就是2028年，這一預測甚至比AI樂觀主義者雷·庫爾茲威爾（Ray Kurzweil）更加激進，庫爾茲威爾是Google工程主管。
幾年前，庫爾茲威爾在一次訪談中表示：「到2029年，計算機將達到人類水平的智慧」。他進一步預測，到2045年，AI將實現「奇點」（Singularity），即「透過與我們創造的智慧融合，我們將把我們的有效智慧增加一億倍」。
在最近的「60 Minutes」訪談中，欣頓聲稱像OpenAI和Google等當前領先的AI模型，已經具有真正的智慧和推理能力。值得注意的是，他補充說，這些模型可以以與人類以相同的方式「經歷自己的經歷」。儘管他不認為它們現在就有意識（根據我們對這個概念的一般理解），但欣頓說，隨著時間的推移，AI系統「將具有意識」。
AI的成長階段
欣頓認為，在五年內，先進的AI模型有很大可能「能夠比人們更好地推理」。當被問及人類是否將成為地球上第二聰明的生物時，欣頓回答「是的」。他補充說：「我認為我的主要訊息是『關於接下來會發生什麽』有巨大的不確定性。這些事情是可以理解的」。
我們似乎已經進入了AI的增長階段。有點像「父母需要在孩子面前說什麽時要謹慎」。欣頓補充說：「由於他們理解，我們需要仔細思考接下來會發生什麽」。
很顯然地，我們需要現在採取行動，因為發展的加速只會增加。最近的發展已經澄清了AI競賽是否正在進行中的問題。具體而言，CNBC報道稱，中國計劃在2025年之前將計算能力提高50%，以保持與美國在AI和超級計算應用方面的步伐。這是一個龐大的計算能力，用於建立和培訓越來越大的LLM。
下一代LLM
根據欣頓的說法，人類大腦有約100萬億個神經連接。相比之下，目前最大的AI系統只有1萬億個參數。然而，他認為這些參數中編碼的知識遠遠超越了人
類的能力。這表明AI模型的學習，尤其是知識的保留，比人類更高效。
此外，有報告稱，下一代LLM很快就會推出，可能在年底之前，更可能比市場上現有的GPT-4模型先進5到20倍。
Inflection AI的執行長兼創辦人之一穆斯塔法·蘇萊曼（Mustafa Suleyman）在與《經濟學家》的對話中預測「在未來五年內，處於最前沿的模型公司，也就是我們這些在最前沿的公司，正在培訓最大的AI模型。它將培訓出比今天的GPT-4大一千倍以上的模型」。
這些更大的模型有巨大的上升潛力。除了作為非常有能力的個人助手外，這些工具還可以幫助解決我們最大的挑戰，比如實現無限能源的聚變反應和提供精確的醫學，以實現更長壽和更健康的生活。
令人擔憂的是，隨著AI變得比人類更聰明並且具有意識，其利益可能會與人類的利益分道揚鑣。
這會發生嗎，如果會，那麽什麽時候會發生？正如欣頓所說：「我們只是不知道」。
治理挑戰
儘管AI技術的進步令人振奮，但它對全球治理造成了巨大壓力，引發了另一場AI競賽。那是「政府對AI工具的規範競賽」。然而，AI發展的速度對監管機構造成了巨大的壓力。他們必須了解技術以及如何在不扼殺創新的情況下對其進行監管。
據稱歐盟在這些事項上處於領先地位，正在接近對全面立法（AI法案）的最終辯論。然而，最近的報導顯示，美國認為歐盟法律將有利於有資源支付合規成本的公司，同時損害小型公司，「抑制了預期的生產率提升」。
這種擔憂表明，至少在監管方面，美國可能會采取不同的方法。但是，其他國家的法規可能導致AI法規在全球范圍內出現分散的局面。這個現實可能對在多個國家經營的公司構成挑戰，因為他們必須應對和遵守不同的監管框架。
此外，這種分散可能會扼殺創新，如果小型公司無法負擔不同地區的合規成本。
一個轉折點？
然而，在AI監管方面，仍然可能存在全球合作的潛力。根據《註冊報》的報導，G7的領袖們預計將在年底前建立國際AI法規。今年年初，G7同意建立與gen AI相關的工作組，討論治理、知識產權、虛假訊息和負責任的使用。然而值得注意的是，中國明顯缺席了這些國家的名單，歐盟的24個國家也缺席，這對G7協議的影響提出了疑問。
在「60 Minutes」訪談中，欣頓還表示：「也許當我們回顧時，會看到這是一個轉折點，人類必須決定是否進一步發展這些事物，以及如果他們這樣做該怎麽保護自己」。他補充說，現在是透過立法確保AI的道德使用的機會。
全球合作現在需要
隨著AI以極快的速度不斷發展（甚至超出了它的創造者的預期）我們引導這項技術朝著有利於人類的方向發展的能力變得越來越具有挑戰性，但也變得越來越重要。政府、企業和公民社會必須克服地方性關切，支持集體和協作行動，迅速找到一條道德和可持續發展的道路。
AI需要全面的全球治理，這一點非常緊迫。做對這一點可能至關重要：未來人類的命運可能取決於我們如何應對高度發展的AI所帶來的挑戰。
新聞原址： https://venturebeat.com/ai/smarter-than-humans-in-5-years-the-breakneck-pace-of-ai/