Blog
AI開發的十字路口：科技龍頭在開放與封閉模型間的角力
AI開發的十字路口：科技龍頭在開放與封閉模型間的角力
December 6, 2023
重點摘要：
新聞內文：
科技領袖一直是規範人工智慧需求的強烈支持者，但他們也在積極遊說，以確保新的規則符合他們的利益。
這並不是說他們都想要同樣的事情。
Facebook母公司Meta和IBM於近期推出了一個名為「AI聯盟」的新團體，該團體主張採用「開放科學」的方式來開發人工智慧，這使它們與競爭對手Google、微軟和ChatGPT製造商OpenAI不一致。
這兩個不同的陣營：「開放和封閉」，在是否以一種使基礎技術廣泛可用的方式來架構人工智慧方面存在分歧。安全是爭論的核心，但從中獲利也同樣重要。
開放支持者主張一種「非專有和封閉」的方法，IBM的高層副總達里奧·吉爾（Darío Gil）表示：「這不像是被鎖在桶子裡，沒人知道它們是什麼」。
什麼是開源人工智慧？
「開源」的詞源於數十年來的一種建立軟體的做法，其中代碼是免費的或廣泛可用，供任何人查看、修改和建立。
開源人工智慧不僅涉及代碼，計算機科學家根據技術的哪些部分是公開可用的以及是否有限制使用，不同的人有不同的定義。一些人使用「開放科學」來描述更廣泛的哲學。
吉爾在揭幕前接受美聯社採訪時說，AI聯盟由IBM和Meta領導，包括Dell、Sony、晶片製造商AMD和Intell以及幾所大學和人工智慧新創企業，他們「正在共同努力，簡單地說，AI的未來將基於對想法的開放科學交流和開放創新，包括開源和開放技術」。
關於開源人工智慧的混淆部分原因在於，儘管名稱中帶有「開源」，但OpenAI（ChatGPT和圖像生成器DALL-E的背後公司）建立的AI系統明顯是封閉的。
OpenAI的科學家和共同創辦人伊利亞·蘇茨克弗（Ilya Sutskever）在斯坦福大學四月份主持的影片採訪中表示，「顯而易見的是，近期和商業方面存在反對開源的動機」。但他還擔心，長期擔憂涉及到擁有「令人震驚的強大」能力的AI系統，這種系統太危險，不應該公開使用。
為了證明開源的危險性，Sutskever提出了一個AI系統，該系統已經學會如何啟動自己的生物實驗室。
它是危險的嗎？
加州大學伯克利分校學者大衛·伊凡·哈里斯（David Evan Harris）表示，即使是當前的AI模型也存在風險，例如，它們可能被用來加劇散佈偽造訊息的活動，以干擾民主選舉。
哈里斯說：「開源在技術的許多維度上確實很好」但AI是不同的。
他說：「看過電影《奧本海默》的人都知道，當正在進行重大科學發現時，有很多理由要三思，考慮如何廣泛分享所有這些訊息，以防止它們落入錯誤的手中」。
長期批評Meta社群媒體實踐的人道技術中心是引起關注開源或洩漏AI模型風險的組織之一。
該組織的卡米爾·卡爾頓（Camille Carlton）表示：「只要目前還沒有設置防護欄，就將這些模型部署給公眾就是完全不負責任的」。
是在散布恐懼情緒嗎？
關於採用開源方法來開發人工智慧的好處或危險的公開辯論越來越多。
Meta的人工智慧科學家楊·勒康（Yann LeCun）今年秋天在社交媒體上瞄準了OpenAI、Google和新創公司「Anthropic」，指責他們進行了「大規模企業遊說」，以便編寫有利於他們高性能AI模型的規則，並可能集中他們對該技術發展的控制。這三家公司與OpenAI的主要合作夥伴微軟一起，成立了自己的行業團體，稱為「Frontier Model Forum」。
勒康在X（前Twitter）上說，他擔心其他科學家對AI「末日情景」的恐懼情緒正在為那些想要禁止開源研究和開發的人提供支持。
勒康在一封信中寫道：「在AI系統有可能成為所有人類知識和文化儲存庫的未來，我們需要這些平台是開源和免費提供的，以便每個人都可以為其做出貢獻」。「開放性是使AI平台反映人類全部知識和文化的唯一方式」。
對於IBM來說，這一爭端反映出了一場遠在AI激增之前的競爭。
IBM全球政府事務團隊負責人克里斯·帕迪亞（Chris Padilla）表示：「這是一種經典的規範性掌握方法，試圖引起對開源創新的擔憂」。「我是說，幾十年來，這一直是微軟的模式，對能夠與Windows或Office競爭的開源程式一直持反對態度。他們在這裡採取了類似的方法」。
政府在做什麼？
在討論美國總統喬·拜登關於人工智慧的全面執行命令時，很容易忽略「開源」的辯論。
拜登的命令將「開放模型」稱為「具有廣泛可用權重的雙用基礎模型」的技術名稱，並表示需要進一步研究。權重是影響AI模型性能的數值參數。
當這些權重被公開張貼在網路上時，拜登的命令說：「創新可能會帶來實質好處，但也可能會帶來實質安全風險，比如模型中的保護措斷被移除」。他要求美國商務部長吉娜·雷蒙多（Gina Raimondo）在七月前與專家諮詢，並提出有關如何管理潛在的好處和風險的建議。
歐洲聯盟時間較短，正在最終確定世界領先的人工智慧法規的談判中，仍在討論許多條款，包括可能豁免某些「自由和開源AI組件」的規則，這些規則影響商業模型。
新聞原址： https://www.businessinsider.com/meta-ibm-ai-alliance-advocate-open-source-science-approach-2023-12
- 科技龍頭如Meta和IBM成立「AI聯盟」，主張開放科學方法開發AI，與Google、微軟和OpenAI等競爭對手持不同立場。
- 「開放」與「封閉」兩大陣營在AI技術的開發和應用上存在分歧，涉及安全和利益問題。
- 政府和行業領袖正就AI的開源與封閉模型進行辯論，探討其對創新、安全和民主的影響。
新聞內文：
科技領袖一直是規範人工智慧需求的強烈支持者，但他們也在積極遊說，以確保新的規則符合他們的利益。
這並不是說他們都想要同樣的事情。
Facebook母公司Meta和IBM於近期推出了一個名為「AI聯盟」的新團體，該團體主張採用「開放科學」的方式來開發人工智慧，這使它們與競爭對手Google、微軟和ChatGPT製造商OpenAI不一致。
這兩個不同的陣營：「開放和封閉」，在是否以一種使基礎技術廣泛可用的方式來架構人工智慧方面存在分歧。安全是爭論的核心，但從中獲利也同樣重要。
開放支持者主張一種「非專有和封閉」的方法，IBM的高層副總達里奧·吉爾（Darío Gil）表示：「這不像是被鎖在桶子裡，沒人知道它們是什麼」。
什麼是開源人工智慧？
「開源」的詞源於數十年來的一種建立軟體的做法，其中代碼是免費的或廣泛可用，供任何人查看、修改和建立。
開源人工智慧不僅涉及代碼，計算機科學家根據技術的哪些部分是公開可用的以及是否有限制使用，不同的人有不同的定義。一些人使用「開放科學」來描述更廣泛的哲學。
吉爾在揭幕前接受美聯社採訪時說，AI聯盟由IBM和Meta領導，包括Dell、Sony、晶片製造商AMD和Intell以及幾所大學和人工智慧新創企業，他們「正在共同努力，簡單地說，AI的未來將基於對想法的開放科學交流和開放創新，包括開源和開放技術」。
關於開源人工智慧的混淆部分原因在於，儘管名稱中帶有「開源」，但OpenAI（ChatGPT和圖像生成器DALL-E的背後公司）建立的AI系統明顯是封閉的。
OpenAI的科學家和共同創辦人伊利亞·蘇茨克弗（Ilya Sutskever）在斯坦福大學四月份主持的影片採訪中表示，「顯而易見的是，近期和商業方面存在反對開源的動機」。但他還擔心，長期擔憂涉及到擁有「令人震驚的強大」能力的AI系統，這種系統太危險，不應該公開使用。
為了證明開源的危險性，Sutskever提出了一個AI系統，該系統已經學會如何啟動自己的生物實驗室。
它是危險的嗎？
加州大學伯克利分校學者大衛·伊凡·哈里斯（David Evan Harris）表示，即使是當前的AI模型也存在風險，例如，它們可能被用來加劇散佈偽造訊息的活動，以干擾民主選舉。
哈里斯說：「開源在技術的許多維度上確實很好」但AI是不同的。
他說：「看過電影《奧本海默》的人都知道，當正在進行重大科學發現時，有很多理由要三思，考慮如何廣泛分享所有這些訊息，以防止它們落入錯誤的手中」。
長期批評Meta社群媒體實踐的人道技術中心是引起關注開源或洩漏AI模型風險的組織之一。
該組織的卡米爾·卡爾頓（Camille Carlton）表示：「只要目前還沒有設置防護欄，就將這些模型部署給公眾就是完全不負責任的」。
是在散布恐懼情緒嗎？
關於採用開源方法來開發人工智慧的好處或危險的公開辯論越來越多。
Meta的人工智慧科學家楊·勒康（Yann LeCun）今年秋天在社交媒體上瞄準了OpenAI、Google和新創公司「Anthropic」，指責他們進行了「大規模企業遊說」，以便編寫有利於他們高性能AI模型的規則，並可能集中他們對該技術發展的控制。這三家公司與OpenAI的主要合作夥伴微軟一起，成立了自己的行業團體，稱為「Frontier Model Forum」。
勒康在X（前Twitter）上說，他擔心其他科學家對AI「末日情景」的恐懼情緒正在為那些想要禁止開源研究和開發的人提供支持。
勒康在一封信中寫道：「在AI系統有可能成為所有人類知識和文化儲存庫的未來，我們需要這些平台是開源和免費提供的，以便每個人都可以為其做出貢獻」。「開放性是使AI平台反映人類全部知識和文化的唯一方式」。
對於IBM來說，這一爭端反映出了一場遠在AI激增之前的競爭。
IBM全球政府事務團隊負責人克里斯·帕迪亞（Chris Padilla）表示：「這是一種經典的規範性掌握方法，試圖引起對開源創新的擔憂」。「我是說，幾十年來，這一直是微軟的模式，對能夠與Windows或Office競爭的開源程式一直持反對態度。他們在這裡採取了類似的方法」。
政府在做什麼？
在討論美國總統喬·拜登關於人工智慧的全面執行命令時，很容易忽略「開源」的辯論。
拜登的命令將「開放模型」稱為「具有廣泛可用權重的雙用基礎模型」的技術名稱，並表示需要進一步研究。權重是影響AI模型性能的數值參數。
當這些權重被公開張貼在網路上時，拜登的命令說：「創新可能會帶來實質好處，但也可能會帶來實質安全風險，比如模型中的保護措斷被移除」。他要求美國商務部長吉娜·雷蒙多（Gina Raimondo）在七月前與專家諮詢，並提出有關如何管理潛在的好處和風險的建議。
歐洲聯盟時間較短，正在最終確定世界領先的人工智慧法規的談判中，仍在討論許多條款，包括可能豁免某些「自由和開源AI組件」的規則，這些規則影響商業模型。
新聞原址： https://www.businessinsider.com/meta-ibm-ai-alliance-advocate-open-source-science-approach-2023-12