Blog
歐盟創新立法：設立全球首個人工智慧使用管制標準
歐盟創新立法：設立全球首個人工智慧使用管制標準
December 11, 2023
重點摘要：
新聞內文：
歐洲於週五達成了一項關於管制人工智慧使用的歐盟標誌性規則的初步協議，包括政府在生物特徵監測中使用人工智慧以及如何管制像ChatGPT這樣的AI系統。
這項政治協議的達成使歐盟向成為第一個制定AI管制法律的主要世界大國邁進。週五的協議是在經過前一天近24小時的辯論後，歐盟各國和歐洲議會成員進行了近15小時的談判後達成的。
雙方將在未來幾天內敲定細節，這可能會改變最終立法的形式。
歐洲委員會委員蒂埃里·布雷頓在新聞發布會上說：「歐洲已將自己定位為先驅，理解自身作為全球標準制定者的重要性。是的，我相信，這是一個歷史性的日子」。
該協議要求基礎模型，如ChatGPT和通用人工智慧系統（GPAI），在上市前需遵守透明度義務。這些包括編制技術文件、遵守歐盟版權法和發布有關培訓內容的詳細摘要。
具有系統風險的高影響力基礎模型將必須進行模型評估、評估和緩解系統風險、進行對抗性測試、向歐洲委員會報告嚴重事件、確保網路安全並報告其能源效率。
具有系統風險的GPAI可以依靠實踐守則來遵守新法規。
政府只能在公共場所使用實時生物特徵監控，用於特定犯罪受害者案件、預防真實、當前或可預見的威脅，如恐怖襲擊，以及尋找涉嫌最嚴重罪行的人。
協議禁止認知行為操控、從網路或監視器畫面中無目標地刮取臉部圖像、社會評分和生物特徵分類系統用於推斷政治、宗教、哲學信仰、性取向和種族。
消費者將有權提出投訴並獲得有意義的解釋，違規罰款將從750萬歐元（810萬美元）或營業額的1.5%到3500萬歐元或全球營業額的7%不等。
商業團體DigitalEurope批評這些規則是對公司的又一重負擔，加上其他近期的立法。
DigitalEurope總監Cecilia Bonefeld-Dahl說：「我們達成了協議，但代價是什麼？我們完全支持基於AI使用而非技術本身的風險為本的方法，但最後一刻試圖管制基礎模型已將這一切顛倒」。
隱私權團體European Digital Rights同樣持批評態度。
其高級政策顧問Ella Jakubowska說：「對於一個在歐盟首次採取步驟合法化整個區域實時公共面部識別的法律，很難感到興奮」。
「雖然議會努力限制損害，但生物特徵監測和檔案概述整體方案充其量是微弱的」。
預計該立法將於明年初生效，屆時雙方將正式批准，並於兩年後開始適用。
全球各國政府正在尋求平衡這項技術的優勢：它可以進行類人的對話、回答問題和編寫電腦代碼，與設置防護措施的需要之間的平衡。
歐洲的雄心勃勃AI規則出台之際，像OpenAI這樣的公司（微軟是其投資者之一）繼續發現其技術的新用途，引發了讚譽和擔憂。Google母公司Alphabet於週四推出了一款新的AI模型「Gemini」，與OpenAI競爭。
歐盟法律可能成為其他政府的藍圖，成為美國輕握手法和中國臨時規則的替代方案。
新聞原址： https://www.reuters.com/technology/stalled-eu-ai-act-talks-set-resume-2023-12-08/
- 歐盟達成初步協議制定人工智慧使用的標誌性規則，包括政府使用生物特徵監測和對AI系統如ChatGPT的管制。
- 該協議要求高風險AI系統在上市前需進行模型評估、對抗性測試、報告嚴重事件等，並強調透明度和技術文件的編制。
- 協議限制了某些AI應用，例如認知行為操控和面部圖像的無目標刮取，並為消費者提供投訴權和解釋權，違規罰款高達全球營業額的7%。
新聞內文：
歐洲於週五達成了一項關於管制人工智慧使用的歐盟標誌性規則的初步協議，包括政府在生物特徵監測中使用人工智慧以及如何管制像ChatGPT這樣的AI系統。
這項政治協議的達成使歐盟向成為第一個制定AI管制法律的主要世界大國邁進。週五的協議是在經過前一天近24小時的辯論後，歐盟各國和歐洲議會成員進行了近15小時的談判後達成的。
雙方將在未來幾天內敲定細節，這可能會改變最終立法的形式。
歐洲委員會委員蒂埃里·布雷頓在新聞發布會上說：「歐洲已將自己定位為先驅，理解自身作為全球標準制定者的重要性。是的，我相信，這是一個歷史性的日子」。
該協議要求基礎模型，如ChatGPT和通用人工智慧系統（GPAI），在上市前需遵守透明度義務。這些包括編制技術文件、遵守歐盟版權法和發布有關培訓內容的詳細摘要。
具有系統風險的高影響力基礎模型將必須進行模型評估、評估和緩解系統風險、進行對抗性測試、向歐洲委員會報告嚴重事件、確保網路安全並報告其能源效率。
具有系統風險的GPAI可以依靠實踐守則來遵守新法規。
政府只能在公共場所使用實時生物特徵監控，用於特定犯罪受害者案件、預防真實、當前或可預見的威脅，如恐怖襲擊，以及尋找涉嫌最嚴重罪行的人。
協議禁止認知行為操控、從網路或監視器畫面中無目標地刮取臉部圖像、社會評分和生物特徵分類系統用於推斷政治、宗教、哲學信仰、性取向和種族。
消費者將有權提出投訴並獲得有意義的解釋，違規罰款將從750萬歐元（810萬美元）或營業額的1.5%到3500萬歐元或全球營業額的7%不等。
商業團體DigitalEurope批評這些規則是對公司的又一重負擔，加上其他近期的立法。
DigitalEurope總監Cecilia Bonefeld-Dahl說：「我們達成了協議，但代價是什麼？我們完全支持基於AI使用而非技術本身的風險為本的方法，但最後一刻試圖管制基礎模型已將這一切顛倒」。
隱私權團體European Digital Rights同樣持批評態度。
其高級政策顧問Ella Jakubowska說：「對於一個在歐盟首次採取步驟合法化整個區域實時公共面部識別的法律，很難感到興奮」。
「雖然議會努力限制損害，但生物特徵監測和檔案概述整體方案充其量是微弱的」。
預計該立法將於明年初生效，屆時雙方將正式批准，並於兩年後開始適用。
全球各國政府正在尋求平衡這項技術的優勢：它可以進行類人的對話、回答問題和編寫電腦代碼，與設置防護措施的需要之間的平衡。
歐洲的雄心勃勃AI規則出台之際，像OpenAI這樣的公司（微軟是其投資者之一）繼續發現其技術的新用途，引發了讚譽和擔憂。Google母公司Alphabet於週四推出了一款新的AI模型「Gemini」，與OpenAI競爭。
歐盟法律可能成為其他政府的藍圖，成為美國輕握手法和中國臨時規則的替代方案。
新聞原址： https://www.reuters.com/technology/stalled-eu-ai-act-talks-set-resume-2023-12-08/