Blog
AI武器化與監控：如何在創新與安全之間找到平衡
AI武器化與監控：如何在創新與安全之間找到平衡
August 28, 2023
重點摘要：
這篇文章深入探討了生成式AI在網路安全方面的新威脅，以及監控這些技術所面臨的多重挑戰和複雜性。文章強調了在確保安全與促進創新之間需要找到一個平衡點，並呼籲政府和監控機構採取綜合性的方法來解決這些問題。
- 1. 生成式AI的新型威脅：
- 弗雷斯特（Forrester）的報告指出，惡意攻擊者正利用生成式AI和ChatGPT來進行勒索軟體和社交工程攻擊，對企業和個人造成更大的風險。
- 2. 監控的複雜性與挑戰：
- 監控AI安全是必要的，但也存在濫用監控來阻礙競爭和集中權力的風險。此外，全球合作在對抗AI生成的錯誤訊息和選舉操縱方面是一個巨大的挑戰。
- 3. 平衡監控與創新：
- 政府和監控機構需要在確保AI安全和促進健康競爭之間找到平衡。這包括提供明確的指導方針和標準，以及鼓勵負責任的AI開發。
新聞內文：
在快速演變的網路安全環境下，最近弗雷斯特（Forrester）發布的2023年頂級網路安全威脅報告顯示出一個新的擔憂：惡意攻擊者正在利用生成式AI和ChatGPT來進行勒索軟體和社交工程，對企業組織和個人將造成更大的風險。
甚至OpenAI的CEO Sam Altman都公開承認了AI生成內容的危險，並呼籲制定監控和許可來保護選舉的完整性。監控對於AI的安全至關重要，但同時存在著「監控可能被濫用以防範競爭並集中權力」的擔憂。於是在保護對抗AI生成的錯誤訊息和促進創新之間取得平衡將變得重要。
AI監控的需求：雙面刃
像OpenAI這樣的行業領先、以盈利為導向的組織支持監控措施時，人們自然會對該公司的意圖和潛在影響產生疑問。人們自然會想知道是否已經建立起來的企業正在試圖利用監控來阻礙新的、較小的玩家的進入，來維持其在市場上的主導地位。遵守監控要求可能需要大量資源，這會給可能無法負擔必要措施的較小企業帶來負擔。也可能會導致較大實體的許可成為唯一可行的選擇，從而進一步鞏固他們的權力和影響力。
然而，有必要知道在AI領域呼籲監控並不一定僅只是出於自身利益。AI的武器化對社會造成了重大風險，包括操縱公眾觀點和選舉過程。維護選舉的完整性是民主的基石，需要集體努力。一個考慮周全的政策，可以在保障安全需求的同時促進創新。
全球合作的挑戰
解決AI生成的錯誤訊息及其在操縱選舉的潛在使用需求需要全球合作。然而，實現這種程度的合作是具有挑戰性的。Altman明確地強調了有效對抗這些威脅方面的全球合作是重要的。然而，實現這種合作是不太可能的。
在缺乏全球安全法規的情況下，各個國家政府可能難以實施有效的措施來抑止AI生成的錯誤訊息的流動。這種缺乏協調為有心人士在利用這些技術以影響選舉提供了充足的空間。意識到這些風險並找到將權力避免集中在少數壟斷性使用者手中的替代方案是必要的。
平衡的監控：促進AI安全和競爭
雖然解決AI的安全性至關重要，但不應以壓制創新或鞏固已建立玩家的位置為代價。需要用綜合性的方法來在監控、促進競爭和多樣化AI生態系之間取得適當的平衡。其他的挑戰來自於難以檢測AI生成的內容，以及許多社交媒體用戶在分享內容之前不願對來源進行核實，這兩者都沒有明確的解決方案。
為了創建這樣的方法，政府和監控機構應該鼓勵負責任的AI開發，提供明確的指導方針和標準，而不是施加過多的負擔。這些指導方針應該集中在確保透明度、問責制和安全性，而不是過度限制較小的公司。在促進負責任的AI實踐的環境中，較小的參與者可以繁榮起來，同時遵守合理的安全標準。
期望一個無監控的自由市場以道德和負責任的方式解決問題，在任何行業中都是困難的。在生成式AI發展的速度以及它對公眾觀點、選舉和訊息安全的等因素的影響下，通過強而有力的監控和違規行為所帶來的後果來解決問題的根源，包括OpenAI等組織，將變得更加迫切。
為了促進競爭，政府還應該考慮措施，鼓勵公平競爭的環境。這可能包括促進資源的獲取及促進公平的許可實踐，並鼓勵既定公司、教育機構和新創公司之間的合作關係；鼓勵健康的競爭確保創新不受阻礙，並且以多樣化的來源來思考AI相關挑戰的解決方案；向AI相關領域的學生提供獎學金和簽證，以及從教育機構獲得AI開發的共同資金，將是朝著正確方向邁出的一重要步伐。
未來仍在和諧中
AI和ChatGPT的武器化對企業組織和個人構成了重大風險。儘管監控對努力抑制競爭的擔憂是合理的，但對負責任的AI開發和全球合作的需求也不容忽視。在監控和創新之間取得平衡將變得重要。政府應該營造一個支持AI安全、促進健康競爭並鼓勵AI圈合作的環境。通過這樣的做法，我們可以應對由AI引起的網路安全挑戰，同時培育多樣和有韌性的AI生態系統。
Nick Tausek是Swimlane的首席安全自動化架構師。
新聞原址： https://venturebeat.com/ai/weaponization-ai-balance-regulation-innovation/