Blog
技術決定論與人類命運：Mustafa Suleyman提出遏止作為AI與合成生物學的全方位封鎖
技術決定論與人類命運：Mustafa Suleyman提出遏止作為AI與合成生物學的全方位封鎖
August 29, 2023
重點摘要：
- Mustafa Suleyman，DeepMind的聯合創辦人，強調技術（特別是AI和合成生物學）既有潛力帶來前所未有的財富，也有可能引發混亂和災難。他認為，人們過於關注「技術是什麼」，而忽略了它最初被創造的原因。
- Suleyman批評傳統的監控方法不足以應對這些技術的快速擴張，而提出「遏止」這一新術語。他認為，遏止需要更全面的計劃，包括更好的技術安全、新的治理方式和所有權模式，以及新的透明度模式。
- 儘管Suleyman的解決方案看似超現實，他仍堅持到底，提出了一個十步驟的遏止計劃。他的書以一種更高層次來解決我們在現代技術上所面臨的問題，遠高於目前的不協調、魚炮式的方法。
新聞內文：
DeepMind的聯合創始人呼籲對新技術進行「遏制」，並以衷心和坦率的方式探
討未來可能帶給我們的情境。
為什麼會有「浪潮隱喻」？技術決定論者 （那些相信技術推動歷史的人）喜愛使用它們。想想艾爾文·托夫勒（Alvin Toffler），他將人類文明的歷史看作是三個浪潮（農業、工業和後工業）。這個想法具有強大的力量，它是不可避免的，無情地朝著我們迎來，而我們則在其面前蜷縮著，就像恐龍看到高達一英里的海嘯朝著它們襲來時的那樣。
Mustafa Suleyman認為他不是一個決定論者，但有時他的聲音聽起來非常像。他在某一點上寫道：「在其核心」。他寫道：「技術出現是為了滿足人類的需求。如果人們有強烈的理由來創造和使用它，那它將被創造和使用。然而，在大多數關於技術面的討論中，人們仍然被困在「技術是什麼」的問題上，而忘記了它最初被創造的原因。這不是某種內在的技術決定論。這是關於人類的含義」。
他標題中即將來臨的風潮「由兩種核心技術定義：人工智慧（AI）和合成生物學」，正是這兩者的結合使其引人入勝並具有特色。他認為，這兩種技術共同「將為人類帶來前所未有的財富，創造富有的未來。然而，它們的快速擴散也威脅著各種有心人士，可能會在難以想像的規模上引發混亂、不穩定性，甚至是災難」。很明顯地，我們的未來「既依賴於這些技術，也受到它們的威脅」。
一旦您跳過這個言過其實的序言，這本書將進入一個嚴肅的探索，探討未來對我們所有人可能帶來的困境。蘇萊曼（Suleyman）非常有資格進行這項任務：他是DeepMind的聯合創辦人，這可以說是最聰明的人工智慧公司，但他還曾在慈善部門、英國地方政府和Google工作，他在那裡負責公司的大型語言模型（LLM）和嘗試說服這家搜索龍頭公司認真對待道德的艱鉅任務。雖然他沒有在分子生物學方面工作，但他對DNA序列、基因編輯以及新基因產品的設計和製造的闡述似乎是有根據的，並支持他的觀點。即人工智慧和計算生物學是將要面臨的兩大挑戰。
那麼需要什麼呢？傳統的答案是監控，他認為這種方法遠遠不足以應對這一挑戰的規模。監控是筋疲力盡心靈上最後的避難所：它在過去某種程度上起作用，所以在完全變化了的情況下，它有望再次起作用。相反，他提出「遏止」這個術語，它讓人想起冷戰和喬治·肯南（George Kennan）在戰後時期控制蘇聯勢力的策略；需要長期、耐心、堅定和警惕地限制對手的擴張趨勢。
蘇萊曼寫道：「遏止技術需要更為基本的計劃，這是一種不是在競爭行為者之間，而是在人類和我們的工具之間的平衡。這也是我們在未來一世紀內生存的必要條件。遏止包括監控、更好的技術安全、新的治理方式和所有權模式、新的帳戶和透明度模式，這些都是更安全技術的必要前提（但不足夠）。這是一種統一先進工程、道德價值觀和政府監控的全方位封鎖」。
這裡有好消息和壞消息。
好消息是，這本書以正確的層次解決了我們在現代技術上所面臨的問題，這個層次高於我們目前的不協調、魚炮式的方法。
壞消息是，蘇萊曼的解決方案實際上是一個超現實的夢想。他知道這一點，這就是為什麼在這本書的最後幾章中有一種苦惱的格調。一方面，如果人類技術是經得起氣候危機的考驗，那對於技術人類來說，遏止是必不可少的。另一方面，這看起來像是一個不可能的夢想：「如何將看似不可遏止的東西納入控制中？」。
然而，值得稱讚的是，他堅持到底，最後提出了一個關於遏止的十步驟計劃，所有這些都是有道理且表達得很好。閱讀它時，讓人想起了格拉姆（Gramsci）著名的箴言：「需要的是『智識的悲觀，意志的樂觀』」。值得讚揚的是，蘇萊曼兩者都有。
新聞原址： https://www.theguardian.com/books/2023/aug/28/the-coming-wave-by-mustafa-suleyman-review-ai-synthetic-biology-and-a-new-dawn-for-humanity