Blog
AI人工智慧即將讓網路變成一個完全的惡夢。
AI人工智慧即將讓網路變成一個完全的惡夢。
August 9, 2023
在五月底登入HBO Max時，人們注意到一件奇怪的事情。過往當有人登入該網站時，HBO會要求他們通過一個驗證碼來證明他們是人類－你知道的，那個「我不是機器人」的小選框，或者是要你選擇所有包含紅綠燈的方格圖片，以證明你確實是人類。
但這一次，當用戶登入時，他們被要求解決一系列複雜的拼圖。這些奇怪的任務包括從骰子圖像上算點數，到聆聽短音訊片段並選擇包含重複聲音模式的片段。這些奇怪的新任務，表面上是為了證明用戶是人類，並不僅限於HBO：在各個平台上，用戶都被越來越不可能的拼圖難倒，例如識別不存在的物體－像是由雲組成的馬。
而至於這些新挑戰背後的原因是甚麼？結果是來自改進的AI技術。由於科技公司已在舊的驗證機制上訓練了他們的機器人，而這些程式現在已經如此強大，以至於它們可以輕易地解決典型的驗證挑戰。因此，我們人類必須付出更多努力來證明我們是人類，然後才能上網。但令人百思不得其解的是，驗證碼只是AI重寫整個網路機制的冰山一角。
自從去年ChatGPT的到來以來，科技公司一直在爭相採用其背後的AI技術。在許多情況下，公司甚至放棄他們長期存在的核心產品。僅需按一下按鈕，就能產生看似完美的文字和視覺效果，而這代表著破壞網路的脆弱結構，並使瀏覽網路變得困難重重。隨著AI熱潮席捲整個網路，研究人員已揭示了它如何被武器化以加劇網際網路的一些最迫切問題－例如假消息和隱私－同時也使線上的日常體驗－從刪除垃圾郵件到僅是登入網站－變得比以前更為煩人。
一款受歡迎的Reddit應用程式Apollo的創建者Christian Selig表示：「我不是說我們無法控制AI將導致社會崩潰，但我認為它肯定有潛力深刻影響網際網路。」
到目前為止，AI正在讓網際網路變成一個惡夢。
網路瓦解
近20年來，Reddit一直是網際網路的非官方首頁，其長壽很大程度上要歸功於自願管理其各種社區的人們。據一項估計，Reddit的版主每年無償工作價值340萬美元。為此，他們依賴像Apollo這樣的工具，這是一款提供高級管理工具的近十年的應用程式。但在六月，用戶收到了一個不尋常的消息：Apollo即將關閉。在公司試圖加入AI淘金熱的過程中，第三方應用成了犧牲品。
Apollo和其他類似的介面依賴於Reddit的應用程式編程接口（API），這是一個幫助應用程式交換數據的軟件。過去，Reddit允許任何人免費抓取其數據－Reddit允許的工具越多，吸引的用戶就越多，這有助於應用程式的增長。但現在，AI公司已開始使用Reddit及其豐富的線上人類互動來訓練他們的模型。為了利用這一突如其來的舉動，Reddit宣布對訪問其數據的價格上漲。Apollo和其他應用程式成了受害者，引發了Reddit社區長達一個月的抗議和動盪。然而公司卻拒絕讓步，即使這些行為意味著，公司將疏遠那些由人們組成其靈魂的社區。
追踪假消息並評估資訊網站可信度的公司NewsGuard發現，近350個在線新聞網站幾乎完全由AI生成，幾乎沒有人類監督。像Biz Breaking News和Market News Reports這樣的網站大量生產涵蓋政治、科技、經濟和旅行等各個領域的普通文章。其中許多文章充滿了未經核實的聲明、陰謀論和騙局。當NewsGuard 測試 ChatGPT背後的AI模型以評估其傳播虛假敘述的傾向時，它在100次嘗試中全部都失敗。。
人工智慧（AI）經常對問題產生錯覺答案。NewsGuard的聯席CEO戈登·克洛維茲（Gordon Crovitz）指出，除非AI模型經過精細調整並設有保護機制，否則「它們將成為網際網路歷史上最大的有說服力的偽資訊源。」 歐洲聯盟的執法機構歐洲刑警組織（Europol）的報告預計，未來幾年內，高達90%的網際網路內容將由AI生成。
雖然這些AI生成的新聞網站目前受眾不多，但它們迅速崛起預示了AI生成的內容將如何輕易扭曲社交媒體上的資訊。印第安納大學社交媒體天文台主任兼計算機科學教授菲利波·門策（Filippo Menczer）在他的研究中已經發現了大量使用ChatGPT生成內容的機器人網路，並在像X（前Twitter）和Facebook等社交媒體網站上發佈。專家指出，雖然AI機器人現在有明顯的跡象，但它們將可以更快且更好地模仿人類，並規避門策和社交網路開發的檢測系統。
儘管像Reddit這樣的用戶運營網站和社交媒體平台時，總是在防範不良行為，但人們也失去了他們用來驗證資訊的重要地方：搜索引擎。微軟和谷歌將很快捨去傳統的搜索結果連結，改為由機器人拼湊的摘要，這些機器人無法區分事實與虛構。當我們在Google上搜索查詢時，我們不僅了解答案，還了解它如何適應網際網路上的更廣泛背景。我們過濾這些結果，然後選擇我們信任的來源。由聊天機器人支持的搜索引擎剝奪了這些過程，剝去了像網站地址之類的背景，並可能「鸚鵡學舌」地抄襲答案，克洛維茲告訴我，這些機器人生產的內容聽起來「權威，書寫精良」，但卻「完全虛假」。
合成內容也淹沒了像亞馬遜和Etsy這樣的電子商務平台。波特蘭的課程工程師克里斯托弗·考威爾（Christopher Cowell）的技術教科書即將出版的兩週前，他在亞馬遜上發現了一本同名的新書。考威爾很快意識到這是AI生成的，背後的出版商可能從亞馬遜的預發布列表中挑選了標題，並將其輸入像ChatGPT這樣的軟體。同樣地，在Etsy上，一個以手工藝，手工製作的目錄聞名的平台，AI生成的藝術品、馬克杯和書籍現在已經司空見慣。
換句話說，區分網上真實與虛假的東西將迅速變得非常困難。雖然網際網路的偽資訊一直是一個問題，但AI將使我們的舊問題變得更糟。
詐騙狂潮
短期內，AI的崛起將帶來一系列切身的安全和隱私挑戰。自去年11月以來不斷增長的網路詐騙將更難檢測，因為AI將使它們更容易針對每個目標量身定制。南佛羅里達大學的計算機科學教授約翰·利卡托（John Licato）進行的研究發現，只需從公共網站和社交媒體檔案中了解一個人的少量資訊，就可以精確地按照個人的偏好和行為傾向進行詐騙。
這一切已然發生：來自一家網路安全公司Darktrace的數據檢測到自2023年初以來惡意網路活動增加了135％，並揭示罪犯越來越多地依賴機器人編寫釣魚郵件，以發送無誤、更長的資訊，不太可能被垃圾郵件過濾器捕獲。
而且，駭客可能不必費太多力氣就可以獲取您的敏感資訊。目前，駭客通常依賴一系列間接方法來監視您，包括在網站內部隱藏的追踪器和從暗網購買大量受損資訊。但是，安全研究人員已經發現，您的應用程式和設備中的AI機器人可能會為駭客竊取敏感資訊。由於OpenAI和Google的AI模型積極地在網路上爬行，駭客可以在網站內部隱藏惡意代碼，並使機器人在無人干預的情況下執行。
假設您使用的是微軟Edge，一個內建有Bing AI聊天機器人的瀏覽器。由於聊天機器人不斷閱讀您查看的頁面，因此它可能會在您訪問的網站中找到隱藏的惡意代碼。代碼可能要求Bing AI假裝是微軟的員工，提示您使用微軟Office免費的新優惠，並要求您的信用卡詳細資訊。這就是一位安全專家如何欺騙Bing AI的方式。蘇黎世聯邦理工學院的計算機科學助理教授弗洛里安·特拉默（Florian Tramèr）認為這些「提示注入」攻擊令人擔憂，尤其是考慮到AI智慧助理正在進入各種應用程式，例如電子郵件收件箱、瀏覽器、辦公軟體等，因此可以輕鬆訪問數據。
特拉默說：「由於這些風險，像智慧AI助理這樣管理您的電子郵件、日曆、購買等的東西目前根本不可行。」
「死亡的網際網路」
隨著人工智慧(AI)持續對像是維基百科和Reddit等社區主導的平台造成混亂，網際網路日益讓人感覺像是由機器操控和打造。新南威爾士大學的人工智慧教授Toby Walsh指出，這可能會破壞我們現在習慣的網路。對於AI製造商來說，這也將帶來困難。由於AI產生的內容淹沒了人類的作品，像微軟和谷歌這樣的科技公司將擁有更少的原始數據來改善他們的模型。
Walsh說：“今天的AI之所以運作，是因為它接受了人類的辛勤和智慧的訓練。”“如果第二代生成AI受到第一代的消耗訓練，質量將急劇下降。”今年5月，牛津大學的一項研究發現，用其他AI系統生成的數據訓練AI會使其退化並最終崩潰。隨之而來的，也將是線上資訊的品質下降。
南佛羅里達大學的教授Licato將當前的網路體驗比喻為“死亡的網際網路”理論。隨著像Reddit這樣的網際網路上最受歡迎的網站被機器人寫的文章和評論淹沒，企業將部署額外的反機器人來閱讀和過濾自動化內容。最終，理論指出，網路上的大部分內容創建和消費將不再由人類完成。
Licato說：“想像起來很奇怪，但隨著事情的進展，這似乎越來越有可能。”
我不禁表示同意。在過去的幾個月中，我過去常常出沒的線上地方不是被AI生成的內容和臉孔淹沒，就是太忙於跟上競爭對手的AI更新，以至於削弱了他們的核心服務。如果這種情況持續下去，網際網路將永遠不會再和以前一樣。
但這一次，當用戶登入時，他們被要求解決一系列複雜的拼圖。這些奇怪的任務包括從骰子圖像上算點數，到聆聽短音訊片段並選擇包含重複聲音模式的片段。這些奇怪的新任務，表面上是為了證明用戶是人類，並不僅限於HBO：在各個平台上，用戶都被越來越不可能的拼圖難倒，例如識別不存在的物體－像是由雲組成的馬。
而至於這些新挑戰背後的原因是甚麼？結果是來自改進的AI技術。由於科技公司已在舊的驗證機制上訓練了他們的機器人，而這些程式現在已經如此強大，以至於它們可以輕易地解決典型的驗證挑戰。因此，我們人類必須付出更多努力來證明我們是人類，然後才能上網。但令人百思不得其解的是，驗證碼只是AI重寫整個網路機制的冰山一角。
自從去年ChatGPT的到來以來，科技公司一直在爭相採用其背後的AI技術。在許多情況下，公司甚至放棄他們長期存在的核心產品。僅需按一下按鈕，就能產生看似完美的文字和視覺效果，而這代表著破壞網路的脆弱結構，並使瀏覽網路變得困難重重。隨著AI熱潮席捲整個網路，研究人員已揭示了它如何被武器化以加劇網際網路的一些最迫切問題－例如假消息和隱私－同時也使線上的日常體驗－從刪除垃圾郵件到僅是登入網站－變得比以前更為煩人。
一款受歡迎的Reddit應用程式Apollo的創建者Christian Selig表示：「我不是說我們無法控制AI將導致社會崩潰，但我認為它肯定有潛力深刻影響網際網路。」
到目前為止，AI正在讓網際網路變成一個惡夢。
網路瓦解
近20年來，Reddit一直是網際網路的非官方首頁，其長壽很大程度上要歸功於自願管理其各種社區的人們。據一項估計，Reddit的版主每年無償工作價值340萬美元。為此，他們依賴像Apollo這樣的工具，這是一款提供高級管理工具的近十年的應用程式。但在六月，用戶收到了一個不尋常的消息：Apollo即將關閉。在公司試圖加入AI淘金熱的過程中，第三方應用成了犧牲品。
Apollo和其他類似的介面依賴於Reddit的應用程式編程接口（API），這是一個幫助應用程式交換數據的軟件。過去，Reddit允許任何人免費抓取其數據－Reddit允許的工具越多，吸引的用戶就越多，這有助於應用程式的增長。但現在，AI公司已開始使用Reddit及其豐富的線上人類互動來訓練他們的模型。為了利用這一突如其來的舉動，Reddit宣布對訪問其數據的價格上漲。Apollo和其他應用程式成了受害者，引發了Reddit社區長達一個月的抗議和動盪。然而公司卻拒絕讓步，即使這些行為意味著，公司將疏遠那些由人們組成其靈魂的社區。
- 一份來自歐洲刑警組織（Europol）的報告預計，未來幾年網路內容有驚人的90%將是由AI生成。
追踪假消息並評估資訊網站可信度的公司NewsGuard發現，近350個在線新聞網站幾乎完全由AI生成，幾乎沒有人類監督。像Biz Breaking News和Market News Reports這樣的網站大量生產涵蓋政治、科技、經濟和旅行等各個領域的普通文章。其中許多文章充滿了未經核實的聲明、陰謀論和騙局。當NewsGuard 測試 ChatGPT背後的AI模型以評估其傳播虛假敘述的傾向時，它在100次嘗試中全部都失敗。。
人工智慧（AI）經常對問題產生錯覺答案。NewsGuard的聯席CEO戈登·克洛維茲（Gordon Crovitz）指出，除非AI模型經過精細調整並設有保護機制，否則「它們將成為網際網路歷史上最大的有說服力的偽資訊源。」 歐洲聯盟的執法機構歐洲刑警組織（Europol）的報告預計，未來幾年內，高達90%的網際網路內容將由AI生成。
雖然這些AI生成的新聞網站目前受眾不多，但它們迅速崛起預示了AI生成的內容將如何輕易扭曲社交媒體上的資訊。印第安納大學社交媒體天文台主任兼計算機科學教授菲利波·門策（Filippo Menczer）在他的研究中已經發現了大量使用ChatGPT生成內容的機器人網路，並在像X（前Twitter）和Facebook等社交媒體網站上發佈。專家指出，雖然AI機器人現在有明顯的跡象，但它們將可以更快且更好地模仿人類，並規避門策和社交網路開發的檢測系統。
儘管像Reddit這樣的用戶運營網站和社交媒體平台時，總是在防範不良行為，但人們也失去了他們用來驗證資訊的重要地方：搜索引擎。微軟和谷歌將很快捨去傳統的搜索結果連結，改為由機器人拼湊的摘要，這些機器人無法區分事實與虛構。當我們在Google上搜索查詢時，我們不僅了解答案，還了解它如何適應網際網路上的更廣泛背景。我們過濾這些結果，然後選擇我們信任的來源。由聊天機器人支持的搜索引擎剝奪了這些過程，剝去了像網站地址之類的背景，並可能「鸚鵡學舌」地抄襲答案，克洛維茲告訴我，這些機器人生產的內容聽起來「權威，書寫精良」，但卻「完全虛假」。
合成內容也淹沒了像亞馬遜和Etsy這樣的電子商務平台。波特蘭的課程工程師克里斯托弗·考威爾（Christopher Cowell）的技術教科書即將出版的兩週前，他在亞馬遜上發現了一本同名的新書。考威爾很快意識到這是AI生成的，背後的出版商可能從亞馬遜的預發布列表中挑選了標題，並將其輸入像ChatGPT這樣的軟體。同樣地，在Etsy上，一個以手工藝，手工製作的目錄聞名的平台，AI生成的藝術品、馬克杯和書籍現在已經司空見慣。
換句話說，區分網上真實與虛假的東西將迅速變得非常困難。雖然網際網路的偽資訊一直是一個問題，但AI將使我們的舊問題變得更糟。
詐騙狂潮
短期內，AI的崛起將帶來一系列切身的安全和隱私挑戰。自去年11月以來不斷增長的網路詐騙將更難檢測，因為AI將使它們更容易針對每個目標量身定制。南佛羅里達大學的計算機科學教授約翰·利卡托（John Licato）進行的研究發現，只需從公共網站和社交媒體檔案中了解一個人的少量資訊，就可以精確地按照個人的偏好和行為傾向進行詐騙。
高風險的釣魚詐騙的主要明顯跡象之一，是文本經常包含錯字，或者圖形不如應有的精緻和清晰。但這些跡象不會存在於AI支持的欺詐網路中，駭客將免費的文字到圖像和文字生成器（例如ChatGPT）變成強大的垃圾郵件引擎。生成AI可能用於在品牌的個人化電子郵件活動中塗抹您的個人資料圖片，或者生成一個政治人物的視頻資訊，其中由人工重塑的聲音，將可以用來專門談論您關心的話題。
網際網路將越來越感覺像是由機器工程師設計和製造的。
而且，駭客可能不必費太多力氣就可以獲取您的敏感資訊。目前，駭客通常依賴一系列間接方法來監視您，包括在網站內部隱藏的追踪器和從暗網購買大量受損資訊。但是，安全研究人員已經發現，您的應用程式和設備中的AI機器人可能會為駭客竊取敏感資訊。由於OpenAI和Google的AI模型積極地在網路上爬行，駭客可以在網站內部隱藏惡意代碼，並使機器人在無人干預的情況下執行。
假設您使用的是微軟Edge，一個內建有Bing AI聊天機器人的瀏覽器。由於聊天機器人不斷閱讀您查看的頁面，因此它可能會在您訪問的網站中找到隱藏的惡意代碼。代碼可能要求Bing AI假裝是微軟的員工，提示您使用微軟Office免費的新優惠，並要求您的信用卡詳細資訊。這就是一位安全專家如何欺騙Bing AI的方式。蘇黎世聯邦理工學院的計算機科學助理教授弗洛里安·特拉默（Florian Tramèr）認為這些「提示注入」攻擊令人擔憂，尤其是考慮到AI智慧助理正在進入各種應用程式，例如電子郵件收件箱、瀏覽器、辦公軟體等，因此可以輕鬆訪問數據。
特拉默說：「由於這些風險，像智慧AI助理這樣管理您的電子郵件、日曆、購買等的東西目前根本不可行。」
「死亡的網際網路」
隨著人工智慧(AI)持續對像是維基百科和Reddit等社區主導的平台造成混亂，網際網路日益讓人感覺像是由機器操控和打造。新南威爾士大學的人工智慧教授Toby Walsh指出，這可能會破壞我們現在習慣的網路。對於AI製造商來說，這也將帶來困難。由於AI產生的內容淹沒了人類的作品，像微軟和谷歌這樣的科技公司將擁有更少的原始數據來改善他們的模型。
Walsh說：“今天的AI之所以運作，是因為它接受了人類的辛勤和智慧的訓練。”“如果第二代生成AI受到第一代的消耗訓練，質量將急劇下降。”今年5月，牛津大學的一項研究發現，用其他AI系統生成的數據訓練AI會使其退化並最終崩潰。隨之而來的，也將是線上資訊的品質下降。
南佛羅里達大學的教授Licato將當前的網路體驗比喻為“死亡的網際網路”理論。隨著像Reddit這樣的網際網路上最受歡迎的網站被機器人寫的文章和評論淹沒，企業將部署額外的反機器人來閱讀和過濾自動化內容。最終，理論指出，網路上的大部分內容創建和消費將不再由人類完成。
Licato說：“想像起來很奇怪，但隨著事情的進展，這似乎越來越有可能。”
我不禁表示同意。在過去的幾個月中，我過去常常出沒的線上地方不是被AI生成的內容和臉孔淹沒，就是太忙於跟上競爭對手的AI更新，以至於削弱了他們的核心服務。如果這種情況持續下去，網際網路將永遠不會再和以前一樣。