Blog
AI 人工智慧「生成內育」的現象，將對人類文化帶來巨大的風險
AI 人工智慧「生成內育」的現象，將對人類文化帶來巨大的風險
August 28, 2023
重點摘要：
這篇文章強調了生成內育對AI和人類文化的潛在威脅，並指出目前的解決方案面臨諸多挑戰。
- 1. 生成內育問題：
- 新型AI系統越來越多地在AI生成的數據集上訓練，導致「生成內育」的風險。
- 2. 文化與品質影響：
- 這種內育會扭曲人類文化並降低AI系統的品質。
- 3. 解決方案困難：
- 儘管有解決方案如AI分類器和浮水印，但實施困難和效果有限。
新聞內文：
「內育」是指在一個族群中，進行相互繁殖的成員基因過於相似的狀況。這通常會導致後代出現嚴重的健康和其他畸形問題，因為它放大了隱性基因的表現。當內育在整個族群中普遍存在時，就像在現代畜牧生產中一樣，整個基因庫可能會隨著時間的推移受到破壞。隨著族群的多樣性減少，畸形也會不斷增加。
在生成式人工智慧（AI）的世界中，存在著類似的問題，這可能威脅到AI系統的長期效能和人類文化的多樣性。從進化的角度來看，第一代大型語言模型（LLM）和其他生成式AI系統是在相對乾淨的人類工藝品「基因庫」上進行訓練的，它使用大量的文本、視覺和語音內容來代表我們文化感知的本質。
但隨著網路上充斥著AI生成的成品，存在著一個重要的風險，新的AI系統將在包含大量AI創建內容的數據集上進行訓練。這些內容並不是直接的人類文化，而是帶有不同程度扭曲的模擬人類文化，通過「內育」來損壞「基因庫」。隨著生成式AI系統的使用越來越廣泛，這個問題只會更嚴重。畢竟，以人類文化文本為基礎進行訓練的新型AI系統將用越來越扭曲的藝術品填充世界，導致下一代AI系統在文本之上再進行訓練，以此類推。
降低生成式AI系統品質，扭曲人類文化
我將這個新興問題稱為「生成內育」，並對其中的兩個令人擔憂的後果感到堪憂。首先，「生成式內育」的存在會降低生成式AI系統的品質，因為內育會降低AI準確地表達人類語言、文化和工藝品的能力。其次，存在著生成式內育將對人類文化進行扭曲，因內育AI系統會將代表我們不真實地集體感知的「畸形」引入我們的文化基因庫中。
在第一個問題上，最近的研究表示，生成內育可能會破壞AI系統，使其隨著時間的推移產生越來越糟糕的成品，就像複製一樣。因為「數據毒害」，這也被稱為「模型崩潰」。還有一項研究表示，基礎模型對這種循環性危險的敏感性遠超過以前的認知。最後還有一項研究發現，隨著AI生成的數據在訓練集中的增加，生成模型的品質將「注定」逐步降低。
至於第二個問題-扭曲
人類文化「生成內育」可能會逐漸在我們的集體成品中引入更大的「畸形」，直到我們的文化受到更多影響的是AI而不是人類創作者。而且，由於最近美國聯邦法院在一項判決中確定，AI生成的內容無法受到版權保護，這為AI藝術品比受法律限制的人類內容更廣泛地使用、複製和分享鋪了後路。
這可能意味著人類藝術家、作家、作曲家、攝影師和攝影師，通過其作品受到版權保護，對我們集體文化的方向很快地可能產生的影響會小於AI生成的內容。
區分AI內容和人類內容
解決內育問題的一種潛在解決方案，是使用能夠區分「AI生成內容」和「人類文創內容」的AI系統。許多研究人員認為這將是一個簡單的解決方案，但事實證明，困難度比想像的要大。
例如今年初，OpenAI宣布了一個「AI分類器」，旨在區分AI生成的文本和人類文本。這有望幫助區分假文件，或在教育環境中標記作弊學生。相同的技術可以用於從訓練數據集中過濾掉AI生成的內容，以防止內育。
然而，到了2023年7月，OpenAI宣布由於過低的準確率，他們的AI分類器不再有用，並表示目前「無法可靠地檢測所有AI生成的文本」。
將浮水印嵌入生成的藝術品
另一種潛在的解決方案是，AI公司將「浮水印」數據植入到所有生成藝術品中。這對於許多用途都很有價值，從幫助識別假文件和錯誤訊息，甚至到防止學生作弊都很有用。
不幸的是，浮水印在最好情況下也可能只有中等效果，特別是對於可以輕鬆編輯的文本文檔，從而擊敗了浮水印，但保留了內育的問題。然而，白宮正在推動浮水印解決方案，上個月宣布，製造基礎模型的七家最大的AI公司已同意「開發堅固的技術機制，確保用戶知道內容是AI生成的，例如浮水印」。
目前尚不清楚公司是否能夠在技術上實現這個目標，以及他們是否會以有助於減少內育的方式部署解決方案。
我們需要展望未來，而不是回顧過去
即使我們解決了內育問題，我們擔心對AI的廣泛依賴可能對人類文化產生壓制作用。這是因為生成式AI系統明確地被訓練來模仿過去的風格和內容，引入了強烈的向過去倒退的偏見。
我知道有些人認為人類藝術家也會受到先前作品的影響，但人類創作者將自己的感知和經驗帶入到過程中，富有思想和創造新的文化方向。當前的AI系統在產生任何內容時並不帶有個人靈感。
此外，結合上生成內育的扭曲效果，我們可能面臨一個未來。其中，我們的文化受到向過去拉動的隱形力量影響，再加上「基因畸形」，這些畸形將不忠實地代表人類創作者的創意思想、情感和見解。
除非我們通過技術和政策保護來解決這些問題，否則我們很快會發現，我們的文化更多地受到生成式AI系統的影響，而不是實際的人類創作者。
路易斯·羅森伯格是虛擬現實（VR）、擴增現實（AR）和人工智慧（AI）領域的知名技術專家。他創辦了Immersion Corporation、Microscribe 3D、Outland Research和Unanimous AI。他在史丹福大學獲得了博士學位，曾在加利福尼亞州立大學擔任终身教授，並已獲得了超過300項專利。
新聞原址： https://venturebeat.com/ai/generative-inbreeding-and-its-risk-to-human-culture/