Blog
Skype的一名創始工程師警告，AI武器競賽可能導致新世界的誕生，人們會因害怕被「成群的殺戮機器人追趕」而留在室內。
Skype的一名創始工程師警告，AI武器競賽可能導致新世界的誕生，人們會因害怕被「成群的殺戮機器人追趕」而留在室內。
August 20, 2023
- Jaan Tallinn 是 Skype 的創始工程師，也是未來生活研究所（Future of Life Institute）的創始人。
- 他最近警告了 AI 武器競賽的風險，描述了理論上的匿名「殺戮機器人」。
- 今年，數百名 AI 領域的人士簽署了一封公開信，呼籲暫停 AI 的發展。
「我們可能正在創造一個世界，在這個世界裡，外出可能不再安全，因為你可能會被成群的殺戮機器人追趕。」
這些警告的話語來自 Skype 的創始工程師 Jaan Tallinn，他最近在與 Al Jazeera 的影片訪談中這樣說。
這位愛沙尼亞電腦程式員是劍橋存在風險研究中心（Cambridge Centre for the Study of Existential Risk）和未來生活研究所的創始人，這兩個組織致力於研究和減輕存在風險，特別是由先進 AI 技術的發展帶來的風險。
Tallinn 提到殺人機器人的事情源於 2017 年的短片「Slaughterbots」，該片由未來生活研究所發布，作為警告武器化人工智慧危險的一部分。這部影片描繪了一個世界被 AI 驅動的軍事殺人無人機所掌控的反烏托邦未來。
當 Insider 聯繫未來生活研究所時，該機構告訴 Insider，它同意 Tallinn 對武器化 AI 的恐懼。
這些恐懼已經存在多年 - 未來生活研究所於 2014 年成立，很快就引起了像伊隆馬斯克（Elon Musk）這樣的人物的注意，他在 2015 年向該機構捐贈了 1000 萬美元。但最近，隨著 ChatGPT 和其他 AI 模型向公眾開放，以及目前對 AI 取代人們工作的恐懼，這個問題感覺更加迫切。現在，AI 研究人員、科技巨頭、名人和普通人都感到擔憂。
甚至導演克里斯多福諾蘭也警告說，AI 可能正接近其「奧本海默時刻」，Insider 之前報導過 - 換句話說，研究人員正在質疑他們開發可能產生意外後果的技術的責任。
今年早些時候，包括伊隆馬斯克、蘋果聯合創始人史蒂夫沃茲尼亞克、Stability AI 的首席執行官 Emad Mostaque、Alphabet 的 AI 實驗室 DeepMind 的研究人員，以及著名的 AI 教授在內的數百人簽署了由未來生活研究所發出的一封公開信，呼籲暫停先進 AI 的發展六個月。（與此同時，馬斯克正在悄悄地競相聘用並推出自己的生成 AI 倡議，以與 OpenAI 競爭，Insider 的 Kali Hays 首先報導了這一點，最近已經宣布為是 xAI。）
信中寫道：「先進的 AI 可能代表了地球上生命歷史上的一個深刻變革，應該用相稱的關懷和資源來計劃和管理。」「不幸的是，即使最近幾個月已經看到 AI 實驗室陷入一場失控的競賽，也沒有這樣的計劃和管理，以開發和部署越來越強大的數位思維，沒有人 - 甚至是它們的創造者 - 能夠理解、預測或可靠地控制。」
新聞原址： AI Arms Race Could Leave People Hiding Indoors: Skype Coder (businessinsider.com)