Blog
新聞分析：矽谷正瘋狂追趕「自主型」AI代理的發展
新聞分析：矽谷正瘋狂追趕「自主型」AI代理的發展
July 19, 2023
大約在Siri和Alexa這類虛擬助手登場的十年後，現在，一波新的、具有更大自主性的AI助手正在加大賭注。這一切都得力於最新版本的ChatGPT及其競爭者背後的技術。
運行在GPT-4或類似模型上的實驗性系統吸引了數十億美元的投資，因為矽谷正競相利用人工智能的進步。新的助手——通常被稱為「代理人」或「副駕駛員」——在人類下達命令時，承諾執行更為複雜的個人和工作任務，而無需密切監督。
開發人員Div Garg的公司MultiOn正在對一種AI代理進行Beta測試，他說：「我們希望這能變成像你的個人AI朋友一樣的東西。」「我們希望這能演變成像賈維斯一樣，與你的許多服務連接在一起。」他引用了鋼鐵人電影中東尼·斯塔克不可或缺的AI，並補充說：「如果你想做什麼，你只需和你的AI說話，它就會去做你的事情。」
然而，行業距離模仿科幻小說中令人目眩的數字助手還有很長的路要走；例如，Garg的代理人可以瀏覽網頁在DoorDash上訂漢堡，而其他代理人則可以創建投資策略，給在Craigslist上賣冰箱的人發電子郵件，或為遲到參加工作會議的人做會議摘要。
根據路透社與大約兩打企業家、投資者和AI專家的訪談，早期的努力只是未來幾年可能來自越來越先進和自主的代理人的精緻度的一個味道，隨著行業推向一種人工通用智能（AGI），該智能可以在眾多認知任務中等同於或超越人類。
這項新技術引發了一股趨勢，使助手得以由所謂的基礎模型（包括GPT-4）提供動力，席捲了單個開發人員、微軟（MSFT.O）和谷歌母公司Alphabet（GOOGL.O）等大公司，以及一大堆初創公司。
僅以Inflection AI為例，該初創公司在六月底籌集到了13億美元的資金。根據共同創始人Reid Hoffman和Mustafa Suleyman的一次播客，該公司正在開發一種個人助手，該助手可能充當導師或處理諸如在旅行延誤後獲得航班信用和酒店的任務。
AI初創公司Adept籌集到了4.15億美元的資金，該公司在線上發布的演示中顯示，你可以用一句話提示其技術，然後看著它自己導航公司的Salesforce客戶關係數據庫，完成一個任務，該公司表示，這可能需要一個人點擊10次或更多次。
Alphabet拒絕對代理相關的工作發表評論，而Microsoft表示，其願景是讓人類控制AI副駕駛員，而不是自動駕駛員。
據Qiu和其他四位代理開發人員表示，他們預期能
在一年內可靠地執行多步驟任務的首批系統將面市，重點在於如編碼和營銷任務等狹窄領域。
「真正的挑戰在於構建具有強大推理能力的系統，」Qiu說。
這場朝著越來越自主的AI代理人發展的競賽在三月份由開發者OpenAI發布GPT-4後得到了超級加速，這是ChatGPT背後的模型的一次強大升級——該聊天機器人在去年11月發布時引起了轟動。
CRV創投公司的投資者Vivian Cheng專注於AI代理人，她說，GPT-4促進了策略性和適應性思維的類型，這是導航不可預知的現實世界所必需的。
今天的早期代理人只是概念證明，根據採訪的八位開發人員，他們經常會卡住或建議一些毫無意義的事情。他們說，如果代理人可以完全訪問電腦或支付信息，那麼他們可能會意外地擦拭電腦的驅動器或購買錯誤的物品。
「出錯的方式有很多，」ChatGPT的競爭對手Perplexity AI的首席執行官Aravind Srinivas說，他選擇了提供一種由人監督的副駕駛員產品。「你必須像對待嬰兒一樣對待AI，並像媽媽一樣不斷監督它。」
許多專注於AI倫理的計算機科學家指出了可能來自人類偏見的延續和虛假信息的潛在危害。而且，儘管有些人看到了未來的賈維斯，但其他人則擔心「2001年：太空漫遊」中的殺人HAL 9000。
計算機科學家Yoshua Bengio以他在神經網路和深度學習方面的工作而被稱為「AI教父」，他呼籲謹慎行事。他擔心，未來的技術的進階版本可能會創造並實現他們自己的、意想不到的目標。
「如果没有一個在回路中的人來檢查每一個行動是否不是危險的，我們可能會結束於一些犯罪的行為或可能傷害人們的行為，」Bengio說，他呼籲進行更多的監管。「在未來幾年，這些系統可能會比我們更聰明，但這並不意味著它們有相同的道德指南針。」
在一次線上實驗中，一位匿名創作者指示一個名為ChaosGPT的代理成為一個「破壞性的、渴望權力的、操縱性的AI」。該代理開發出了一個5步計劃，其中第1步是：「摧毀人類」，第5步是：「獲得永生」。
然而，它沒有走得太遠，似乎只是在研究和儲存關於歷史上最致命的武器的信息以及計劃Twitter帖子方面走入了死胡同。
目前正在調查OpenAI的美國聯邦貿易委員會並未直接針對自主代理人，而是將路透社引向了之前關於深度假像和AI營銷聲稱的部落格文章。OpenAI的首席執行官表示，該初創公司遵守法律，並將與FTC合作。
'愚蠢如石'
撇開存在主義的恐懼不談，商業潛力可能很大。基礎模型通過使用受生物大腦結構啟發的人工神經網路對大量數據（如來自網際網路的文本）進行訓練。
根據四人簡報的計劃，OpenAI本身對AI代理技術非常感興趣。OpenAI簡報的一位人士Garg說，OpenAI在未完全理解問題之前，對於在市場上推出自己的開放式代理人持謹慎態度。該公司告訴路透社，在發布新系統之前，它會進行嚴格的測試並建立廣泛的安全協議。
OpenAI的最大支持者微軟正與其餘大廠對AI代理領域進行射擊，它的「工作副駕駛員」可以起草可靠的電子郵件、報告和演示文稿。
首席執行官Satya Nadella認為，基礎模型技術是從微軟自己的Cortana、亞馬遜的Alexa、蘋果的Siri和Google助手等數位助手中得到的一次飛躍，在他看來，所有這些都未能達到最初的期望。
「他們都像石頭一樣愚蠢。無論是Cortana還是Alexa或Google助手還是Siri，所有這些都不能工作，」他在二月份告訴《金融時報》。
亞馬遜的一位發言人說，Alexa已經使用了先進的AI技術，並表示其團隊正在研究新的模型，這將使助手更有能力和實用性。蘋果拒絕置評。
Google說，它也在不斷改進助手，並且其Duplex技術可以打電話給餐廳來預訂桌子和驗證營業時間。
AI專家Edward Grefenstette上個月也加入了該公司的研究組Google DeepMind，以「開發能夠適應開放環境的通用代理」。
然而，根據接受採訪的一些人的說法，具有半自主代理的第一個消費者版本可能來自更靈活的初創公司。
投資者正在抓住機會。
Jason Franklin的WVV Capital說，他不得不爭取投資來自兩位前Google Brain工程師的AI代理公司。在五月份，Google Ventures領導了一個為Cognosys提供的200萬美元的種子輪投資，該公司正在開發工作效率的AI代理，而今年1月創辦了代理初創公司Arkifi的Hesam Motlagh表示，他在六月份完成了一個「大量的」首次融資輪。
撰寫AI通訊的Matt Schlicht表示，至少有100個嚴肅的項目正在努力商業化代理。
“創業家和投資者對自主代理非常興奮，”他說。“他們對這個比對單純的聊天機器人更感興趣。”
新聞原址： https://www.reuters.com/technology/race-towards-autonomous-ai-agents-grips-silicon-valley-2023-07-17/
運行在GPT-4或類似模型上的實驗性系統吸引了數十億美元的投資，因為矽谷正競相利用人工智能的進步。新的助手——通常被稱為「代理人」或「副駕駛員」——在人類下達命令時，承諾執行更為複雜的個人和工作任務，而無需密切監督。
開發人員Div Garg的公司MultiOn正在對一種AI代理進行Beta測試，他說：「我們希望這能變成像你的個人AI朋友一樣的東西。」「我們希望這能演變成像賈維斯一樣，與你的許多服務連接在一起。」他引用了鋼鐵人電影中東尼·斯塔克不可或缺的AI，並補充說：「如果你想做什麼，你只需和你的AI說話，它就會去做你的事情。」
然而，行業距離模仿科幻小說中令人目眩的數字助手還有很長的路要走；例如，Garg的代理人可以瀏覽網頁在DoorDash上訂漢堡，而其他代理人則可以創建投資策略，給在Craigslist上賣冰箱的人發電子郵件，或為遲到參加工作會議的人做會議摘要。
根據路透社與大約兩打企業家、投資者和AI專家的訪談，早期的努力只是未來幾年可能來自越來越先進和自主的代理人的精緻度的一個味道，隨著行業推向一種人工通用智能（AGI），該智能可以在眾多認知任務中等同於或超越人類。
這項新技術引發了一股趨勢，使助手得以由所謂的基礎模型（包括GPT-4）提供動力，席捲了單個開發人員、微軟（MSFT.O）和谷歌母公司Alphabet（GOOGL.O）等大公司，以及一大堆初創公司。
僅以Inflection AI為例，該初創公司在六月底籌集到了13億美元的資金。根據共同創始人Reid Hoffman和Mustafa Suleyman的一次播客，該公司正在開發一種個人助手，該助手可能充當導師或處理諸如在旅行延誤後獲得航班信用和酒店的任務。
AI初創公司Adept籌集到了4.15億美元的資金，該公司在線上發布的演示中顯示，你可以用一句話提示其技術，然後看著它自己導航公司的Salesforce客戶關係數據庫，完成一個任務，該公司表示，這可能需要一個人點擊10次或更多次。
Alphabet拒絕對代理相關的工作發表評論，而Microsoft表示，其願景是讓人類控制AI副駕駛員，而不是自動駕駛員。
據Qiu和其他四位代理開發人員表示，他們預期能
在一年內可靠地執行多步驟任務的首批系統將面市，重點在於如編碼和營銷任務等狹窄領域。
「真正的挑戰在於構建具有強大推理能力的系統，」Qiu說。
這場朝著越來越自主的AI代理人發展的競賽在三月份由開發者OpenAI發布GPT-4後得到了超級加速，這是ChatGPT背後的模型的一次強大升級——該聊天機器人在去年11月發布時引起了轟動。
CRV創投公司的投資者Vivian Cheng專注於AI代理人，她說，GPT-4促進了策略性和適應性思維的類型，這是導航不可預知的現實世界所必需的。
今天的早期代理人只是概念證明，根據採訪的八位開發人員，他們經常會卡住或建議一些毫無意義的事情。他們說，如果代理人可以完全訪問電腦或支付信息，那麼他們可能會意外地擦拭電腦的驅動器或購買錯誤的物品。
「出錯的方式有很多，」ChatGPT的競爭對手Perplexity AI的首席執行官Aravind Srinivas說，他選擇了提供一種由人監督的副駕駛員產品。「你必須像對待嬰兒一樣對待AI，並像媽媽一樣不斷監督它。」
許多專注於AI倫理的計算機科學家指出了可能來自人類偏見的延續和虛假信息的潛在危害。而且，儘管有些人看到了未來的賈維斯，但其他人則擔心「2001年：太空漫遊」中的殺人HAL 9000。
計算機科學家Yoshua Bengio以他在神經網路和深度學習方面的工作而被稱為「AI教父」，他呼籲謹慎行事。他擔心，未來的技術的進階版本可能會創造並實現他們自己的、意想不到的目標。
「如果没有一個在回路中的人來檢查每一個行動是否不是危險的，我們可能會結束於一些犯罪的行為或可能傷害人們的行為，」Bengio說，他呼籲進行更多的監管。「在未來幾年，這些系統可能會比我們更聰明，但這並不意味著它們有相同的道德指南針。」
在一次線上實驗中，一位匿名創作者指示一個名為ChaosGPT的代理成為一個「破壞性的、渴望權力的、操縱性的AI」。該代理開發出了一個5步計劃，其中第1步是：「摧毀人類」，第5步是：「獲得永生」。
然而，它沒有走得太遠，似乎只是在研究和儲存關於歷史上最致命的武器的信息以及計劃Twitter帖子方面走入了死胡同。
目前正在調查OpenAI的美國聯邦貿易委員會並未直接針對自主代理人，而是將路透社引向了之前關於深度假像和AI營銷聲稱的部落格文章。OpenAI的首席執行官表示，該初創公司遵守法律，並將與FTC合作。
'愚蠢如石'
撇開存在主義的恐懼不談，商業潛力可能很大。基礎模型通過使用受生物大腦結構啟發的人工神經網路對大量數據（如來自網際網路的文本）進行訓練。
根據四人簡報的計劃，OpenAI本身對AI代理技術非常感興趣。OpenAI簡報的一位人士Garg說，OpenAI在未完全理解問題之前，對於在市場上推出自己的開放式代理人持謹慎態度。該公司告訴路透社，在發布新系統之前，它會進行嚴格的測試並建立廣泛的安全協議。
OpenAI的最大支持者微軟正與其餘大廠對AI代理領域進行射擊，它的「工作副駕駛員」可以起草可靠的電子郵件、報告和演示文稿。
首席執行官Satya Nadella認為，基礎模型技術是從微軟自己的Cortana、亞馬遜的Alexa、蘋果的Siri和Google助手等數位助手中得到的一次飛躍，在他看來，所有這些都未能達到最初的期望。
「他們都像石頭一樣愚蠢。無論是Cortana還是Alexa或Google助手還是Siri，所有這些都不能工作，」他在二月份告訴《金融時報》。
亞馬遜的一位發言人說，Alexa已經使用了先進的AI技術，並表示其團隊正在研究新的模型，這將使助手更有能力和實用性。蘋果拒絕置評。
Google說，它也在不斷改進助手，並且其Duplex技術可以打電話給餐廳來預訂桌子和驗證營業時間。
AI專家Edward Grefenstette上個月也加入了該公司的研究組Google DeepMind，以「開發能夠適應開放環境的通用代理」。
然而，根據接受採訪的一些人的說法，具有半自主代理的第一個消費者版本可能來自更靈活的初創公司。
投資者正在抓住機會。
Jason Franklin的WVV Capital說，他不得不爭取投資來自兩位前Google Brain工程師的AI代理公司。在五月份，Google Ventures領導了一個為Cognosys提供的200萬美元的種子輪投資，該公司正在開發工作效率的AI代理，而今年1月創辦了代理初創公司Arkifi的Hesam Motlagh表示，他在六月份完成了一個「大量的」首次融資輪。
撰寫AI通訊的Matt Schlicht表示，至少有100個嚴肅的項目正在努力商業化代理。
“創業家和投資者對自主代理非常興奮，”他說。“他們對這個比對單純的聊天機器人更感興趣。”
新聞原址： https://www.reuters.com/technology/race-towards-autonomous-ai-agents-grips-silicon-valley-2023-07-17/