Blog
全球合力維護AI安全：美英等18國共同推出保護人工智慧的國際協議
全球合力維護AI安全：美英等18國共同推出保護人工智慧的國際協議
November 27, 2023
重點摘要：
新聞內文：
美國、英國和超過十幾個其他國家於週日揭露了一位美國高級官員所形容的第一份詳細的國際協議，該協議旨在保護人工智慧免受「不受約束的行為」，敦促公司創造「設計安全」的人工智慧系統。
在一份於週日揭露的20頁文件中，這18個國家同意，設計和使用人工智慧的公司需要以一種方式開發和部署它，以確保客戶和更廣泛的公眾免受濫用。
該協議是非約束性的，主要包含一般性建議，例如監控人工智慧系統以防濫用、保護數據免受篡改和審查軟體供應商。
然而，美國網路安全和基礎設施安全局（CISA）的主任珍·伊斯特利（Jen Easterly）表示，重要的是有這麼多國家支持人工智慧系統需要以安全為首要考慮。
伊斯特利告訴路透社：「這是我們首次看到一種肯定，即這些能力不僅應該是有趣的功能，以及我們可以多快將它們投入市場或如何競爭以降低成本的方式」。 她表示，這些指南代表「一項協議，設計階段最重要的事情是安全性」。
該協議是世界各地政府一系列試圖塑造人工智慧發展的舉措中的最新一個，其中很少有舉措有實質效果，人工智慧的影響在產業和社會上愈發明顯。
除美國和英國外，簽署新指南的還包括德國、意大利、捷克共和國、愛沙尼亞、波蘭、澳大利亞、智利、以色列、尼日利亞和新加坡等18個國家。
該框架處理了如何防止人工智慧技術被駭客劫持的問題，包括僅在適當的安全測試之後才釋放模型的建議。
它未解決有關人工智慧的適當用途或餵養這些模型的數據如何收集的棘手問題。
人工智慧的崛起引發了一系列擔憂，包括擔心它可能被用於破壞民主過程、加速詐騙或導致嚴重的失業等危害。
歐洲在人工智慧方面的法規方面領先美國，該地區的立法者正在起草人工智慧規則。法國、德國和意大利最近也達成了一項協議，關於應如何規範人工智慧，支持對人工智慧的「通過行為準則進行強制性自我規範」的基礎模型，這些模型目的在產生各種廣泛的輸出。
拜登政府一直在敦促立法者對人工智慧進行監控，但美國國會在透過有效的法規方面幾乎沒有取得進展。
白宮在十月份發布了一項新的行政命令，目的在減少對消費者、勞工和少數族裔群體的人工智慧風險，同時加強國家安全。
新聞原址： https://www.reuters.com/technology/us-britain-other-countries-ink-agreement-make-ai-secure-by-design-2023-11-27/
- 美國、英國和其他16個國家共同揭露了一份旨在保護人工智慧免受不受約束行為的國際協議，強調人工智慧系統的「設計安全」。
- 該協議為非約束性，包含一般性建議，如監控AI系統防止濫用、保護數據安全，並審查軟體供應商。
- 此協議是全球政府塑造AI發展的最新舉措之一，歐洲在AI法規方面領先，美國政府也在推動相關監控，但立法進展緩慢。
新聞內文：
美國、英國和超過十幾個其他國家於週日揭露了一位美國高級官員所形容的第一份詳細的國際協議，該協議旨在保護人工智慧免受「不受約束的行為」，敦促公司創造「設計安全」的人工智慧系統。
在一份於週日揭露的20頁文件中，這18個國家同意，設計和使用人工智慧的公司需要以一種方式開發和部署它，以確保客戶和更廣泛的公眾免受濫用。
該協議是非約束性的，主要包含一般性建議，例如監控人工智慧系統以防濫用、保護數據免受篡改和審查軟體供應商。
然而，美國網路安全和基礎設施安全局（CISA）的主任珍·伊斯特利（Jen Easterly）表示，重要的是有這麼多國家支持人工智慧系統需要以安全為首要考慮。
伊斯特利告訴路透社：「這是我們首次看到一種肯定，即這些能力不僅應該是有趣的功能，以及我們可以多快將它們投入市場或如何競爭以降低成本的方式」。 她表示，這些指南代表「一項協議，設計階段最重要的事情是安全性」。
該協議是世界各地政府一系列試圖塑造人工智慧發展的舉措中的最新一個，其中很少有舉措有實質效果，人工智慧的影響在產業和社會上愈發明顯。
除美國和英國外，簽署新指南的還包括德國、意大利、捷克共和國、愛沙尼亞、波蘭、澳大利亞、智利、以色列、尼日利亞和新加坡等18個國家。
該框架處理了如何防止人工智慧技術被駭客劫持的問題，包括僅在適當的安全測試之後才釋放模型的建議。
它未解決有關人工智慧的適當用途或餵養這些模型的數據如何收集的棘手問題。
人工智慧的崛起引發了一系列擔憂，包括擔心它可能被用於破壞民主過程、加速詐騙或導致嚴重的失業等危害。
歐洲在人工智慧方面的法規方面領先美國，該地區的立法者正在起草人工智慧規則。法國、德國和意大利最近也達成了一項協議，關於應如何規範人工智慧，支持對人工智慧的「通過行為準則進行強制性自我規範」的基礎模型，這些模型目的在產生各種廣泛的輸出。
拜登政府一直在敦促立法者對人工智慧進行監控，但美國國會在透過有效的法規方面幾乎沒有取得進展。
白宮在十月份發布了一項新的行政命令，目的在減少對消費者、勞工和少數族裔群體的人工智慧風險，同時加強國家安全。
新聞原址： https://www.reuters.com/technology/us-britain-other-countries-ink-agreement-make-ai-secure-by-design-2023-11-27/