Blog
白宮發起AI網路安全挑戰賽，測試頂尖AI模型如何保護軟體，總獎金高達2千萬美元
白宮發起AI網路安全挑戰賽，測試頂尖AI模型如何保護軟體，總獎金高達2千萬美元
August 10, 2023
這個名為「AI網路安全挑戰賽」（AI Cyber Challenge，簡稱AIxCC）的活動由國防先進研究計劃署（DARPA）主導，並與Anthropic、Google、Microsoft和OpenAI合作。這些公司將提供專業知識並提供其模型供挑戰賽使用，獎金將近2千萬美元。為確保廣泛參與和公平競爭，DARPA還將為想參賽的小企業提供700萬美元。
根據新聞稿，AIxCC挑戰賽「將展示AI幫助保護互聯網和整個社會使用的軟體的潛在好處，從供應美國電力的電網到推動日常生活的交通系統。」
「號角響起」加強關鍵軟體的安全
在媒體簡報會上，白宮科技政策辦公室主任Arati Prabhakar表示：「這個競賽將是各種有創造力的人和組織加強保護美國家庭、企業和整個社會依賴的關鍵軟體安全的號角。」
他指出，DARPA近二十年來一直在發布這類獎勵挑戰，吸引「各種才華橫溢的人和組織競相解決極其困難的問題。這是公共和私人部門共同合作做大事、改變未來發展方式的途徑之一，這就是為什麼白宮要求DARPA承擔AI用於網路安全的關鍵議題。」
開源安全基金會（Open Source Security Foundation），Linux基金會的一個項目，將擔任挑戰賽顧問。它還將幫助確保獲勝的軟體代碼立即用於保護美國最重要的軟體，以保護美國人民的安全。
AI保護重要電腦程式碼的有前途潛力
DARPA資訊創新辦公室的計劃經理Perri Adams表示，網路防禦者「負責保護真正令人生畏的技術迷宮，而今天，他們沒有足夠的工具來保護這種規模。」儘管存在這些漏洞，當負責任地使用時，現代AI的先進技術「對保護我們的代碼具有卓越的潛力。我們必須讓進攻方始終領先一步。而AI提供了一個非常有前途的方法。」
新聞稿補充說，這一宣布是「拜登政府確保利用AI的力量解決國家的重大挑戰，並確保AI的安全和負責任開發，以保護美國人免受傷害和歧視的更廣泛承諾的一部分。」
上個月，政府獲得了七家領先AI公司的自願承諾，以管理AI模型的短期和長期風險。來自OpenAI、Amazon、Anthropic、Google、Inflection、Meta和Microsoft的代表在白宮簽署了承諾。
承諾內容包括確保產品在推向公眾之前是安全的—在AI系統發布之前進行內部和外部安全測試，以及分享有關管理AI風險的信息。
此外，白宮表示正在制定行政命令，並將追求兩黨立法，以幫助美國在負責任的AI創新方面引領潮流。
新聞原址： https://venturebeat.com/ai/white-house-launches-ai-cyber-challenge-to-test-how-top-ai-models-protect-software/