Blog
英國急需AI安全立法：全球首個AI安全峰會和1億英鎊投資是否足夠？
英國急需AI安全立法：全球首個AI安全峰會和1億英鎊投資是否足夠？
September 4, 2023
重點摘要：
新聞內文：
下議院技術委員會的成員表示，除非採取行動，否則歐盟可能會在使人工智慧安全方面超越英國。
英國將在11月初舉辦國際人工智慧峰會。
英國政府告訴BBC，如果需要的話，它願意考慮進一步的政策。但政府沒有透露是否同意應如此迅速地提出新法律。相反的，一位發言人強調了峰會以及1億英鎊的初期投資，用於鼓勵安全開發人工智慧模型的任務團隊。
英國政府表示，這用於比世界上任何政府都更多地專注於人工智慧安全研究的資金。
如果在11月7日的演講中沒有引入立法，該委員會將在週四發表的一份報告中表示，最早的立法成為法律的時間點是2025年。
報告稱，兩年內不引入立法的做法會使英國面臨「被其他立法所拋下，比如歐盟的AI法案，可能會成為事實上的標準，並且難以被取代」的風險。
報告認為，情況可能類似於數據保護規則，英國法律遵循了歐盟的引領。
但儘管政府關於人工智慧監控的白皮書承認可能需要新法律，但Rishi Sunak此前曾爭辯稱，最初「我們可能可在沒有立法的情況下做很多事情」。
他計劃的關鍵部分是11月份的峰會，政府表示這將是「世界上第一個關於人工智慧安全的主要全球峰會」。該委員會也認為，應該盡可能多邀請國家參加，其中包括中國。
報告還強調了英國政府必須解決的12個「挑戰」，包括：
1.偏見：例如，AI就業工具可能會將女性的姓名與傳統女性職務聯繫起來。
2.隱私：有爭議的是，AI工具可用於識別人，例如，警察使用實體臉部識別系統掃描人臉，並將其與嫌疑人名單進行比對。
3.就業：AI系統將替代一些工作，這將需要解決其經濟影響。
報告還指出，使用受版權保護的素材來訓練AI系統也是其中的一個挑戰。
所謂的生成式AI系統現在可以以著名藝術家、演員和音樂家的風格創建新作品。
但要完成這個壯舉，需要將AI訓練成大量受版權保護的素材。許多作者、演員、藝術家和音樂家認為，在未經允許和補償的情況下，不應該將AI訓練在他們的作品上。
報告指出，已經採取了一些措施來制定一個自願協議，允許AI公司參考受版權保護的作品，同時支持藝術家。
政府於二月份放棄了對AI公司版權的計劃豁免。議員們表示，AI模仿人類的能力也可以用來傳播錯誤資訊、用於犯罪或者用來欺騙銀行語音識別安全系統。
該報告是在週三國家網路安全中心發出警告後發布的，該中心警告說，大型語言模型（一種驅動流行聊天機器人的AI）無法避免受某些類型的攻擊，這些攻擊旨在說服它們執行惡意操作。該中心寫道，目前不存在「無故障措施」來消除風險。
議員們在很大程度上支持政府的安全AI方法，該方法不需要創立新的AI監控機構，而是根據AI的具體情況將監督轉移到現有監控機構。
向委員會發表意見的人，包括微軟英國的休·米爾沃德（Hugh Milward），更喜歡這種方法，而不是歐盟的方法，他告訴委員會，這是「一個如何不做的模式」。
但他此前還告訴BBC，對於任何英國立法都需要謹慎。他說，單一立法可能會試圖做所有事情，他說：「然後就變成了一個像聖誕樹一樣的東西，每個人都試圖在上面懸掛自己的個人問題」。
新聞原址： https://www.bbc.com/news/technology-66661815
- 英國下議院技術委員會警告，如果不迅速採取行動，英國在AI安全方面可能會被歐盟超過。
- 英國政府將在11月舉辦全球首個專注於AI安全的峰會，並已投資1億英鎊用於鼓勵安全的AI開發。
- 報告指出，英國面臨多項AI相關的「挑戰」，包括偏見、隱私和就業問題，以及版權問題。
新聞內文：
下議院技術委員會的成員表示，除非採取行動，否則歐盟可能會在使人工智慧安全方面超越英國。
英國將在11月初舉辦國際人工智慧峰會。
英國政府告訴BBC，如果需要的話，它願意考慮進一步的政策。但政府沒有透露是否同意應如此迅速地提出新法律。相反的，一位發言人強調了峰會以及1億英鎊的初期投資，用於鼓勵安全開發人工智慧模型的任務團隊。
英國政府表示，這用於比世界上任何政府都更多地專注於人工智慧安全研究的資金。
如果在11月7日的演講中沒有引入立法，該委員會將在週四發表的一份報告中表示，最早的立法成為法律的時間點是2025年。
報告稱，兩年內不引入立法的做法會使英國面臨「被其他立法所拋下，比如歐盟的AI法案，可能會成為事實上的標準，並且難以被取代」的風險。
報告認為，情況可能類似於數據保護規則，英國法律遵循了歐盟的引領。
但儘管政府關於人工智慧監控的白皮書承認可能需要新法律，但Rishi Sunak此前曾爭辯稱，最初「我們可能可在沒有立法的情況下做很多事情」。
他計劃的關鍵部分是11月份的峰會，政府表示這將是「世界上第一個關於人工智慧安全的主要全球峰會」。該委員會也認為，應該盡可能多邀請國家參加，其中包括中國。
報告還強調了英國政府必須解決的12個「挑戰」，包括：
1.偏見：例如，AI就業工具可能會將女性的姓名與傳統女性職務聯繫起來。
2.隱私：有爭議的是，AI工具可用於識別人，例如，警察使用實體臉部識別系統掃描人臉，並將其與嫌疑人名單進行比對。
3.就業：AI系統將替代一些工作，這將需要解決其經濟影響。
報告還指出，使用受版權保護的素材來訓練AI系統也是其中的一個挑戰。
所謂的生成式AI系統現在可以以著名藝術家、演員和音樂家的風格創建新作品。
但要完成這個壯舉，需要將AI訓練成大量受版權保護的素材。許多作者、演員、藝術家和音樂家認為，在未經允許和補償的情況下，不應該將AI訓練在他們的作品上。
報告指出，已經採取了一些措施來制定一個自願協議，允許AI公司參考受版權保護的作品，同時支持藝術家。
政府於二月份放棄了對AI公司版權的計劃豁免。議員們表示，AI模仿人類的能力也可以用來傳播錯誤資訊、用於犯罪或者用來欺騙銀行語音識別安全系統。
該報告是在週三國家網路安全中心發出警告後發布的，該中心警告說，大型語言模型（一種驅動流行聊天機器人的AI）無法避免受某些類型的攻擊，這些攻擊旨在說服它們執行惡意操作。該中心寫道，目前不存在「無故障措施」來消除風險。
議員們在很大程度上支持政府的安全AI方法，該方法不需要創立新的AI監控機構，而是根據AI的具體情況將監督轉移到現有監控機構。
向委員會發表意見的人，包括微軟英國的休·米爾沃德（Hugh Milward），更喜歡這種方法，而不是歐盟的方法，他告訴委員會，這是「一個如何不做的模式」。
但他此前還告訴BBC，對於任何英國立法都需要謹慎。他說，單一立法可能會試圖做所有事情，他說：「然後就變成了一個像聖誕樹一樣的東西，每個人都試圖在上面懸掛自己的個人問題」。
新聞原址： https://www.bbc.com/news/technology-66661815