Blog
白宮表示：OpenAI、Google 等承諾為 AI 內容加上浮水印以保障安全
白宮表示：OpenAI、Google 等承諾為 AI 內容加上浮水印以保障安全
July 23, 2023
華盛頓/紐約，7月21日（路透社） -美國總統喬·拜登（Joe Biden）在周五宣布，包括OpenAI，Alphabet（GOOGL.O）和Meta Platforms（META.O）在內的AI公司已向白宮做出自願承諾，實施如為AI生成的內容添加浮水印等措施，以幫助使技術更安全。
“這些承諾是一個很有前途的步驟，但我們還有很多工作要一起完成，”拜登說。
在白宮的一個活動中，拜登對人工智慧可能被用於破壞性目的的日益增長的擔憂表示了應對，說：“我們必須清醒，並對新興技術對美國民主的威脅保持警惕。”
這些公司 - 包括Anthropic，Inflection，Amazon.com（AMZN.O）和OpenAI的合作夥伴Microsoft（MSFT.O） - 承諾在發布系統之前對其進行全面測試，並分享有關如何降低風險和投資於網路安全的信息。
此舉被視為拜登政府努力規範該技術的一次勝利，該技術已在投資和消費者受歡迎度方面經歷了繁榮。
“我們歡迎總統在將科技產業團結起來，敲定具體步驟以使AI更安全、更安全和對公眾更有益的領導作用，” Microsoft在周五的一篇部落格文章中說。
自從使用數據創建像ChatGPT的人聲散文這樣的新內容的生成式AI今年大受歡迎以來，全世界的立法者都開始考慮如何降低新興技術對國家安全和經濟的危險。
在處理人工智慧法規方面，美國落後於歐盟。在六月，歐盟立法者同意一套草案規則，其中像ChatGPT這樣的系統將不得不披露AI生成的內容，協助區分所謂的深度偽造圖像與真實圖像，並確保對非法內容的防護。
美國參議院多數黨領袖Chuck Schumer在六月呼籲“全面立法”以推進並確保對人工智慧的防護。
國會正在考慮一項法案，該法案將要求政治廣告披露是否使用AI創建圖像或其他內容。
周五在白宮與七家公司的高管會面的拜登說，他也在研究制定有關AI技術的行政命令和兩黨立法。
“我們將在接下來的10年，甚至是接下來的幾年，看到比我們在過去的50年所看到的更多的技術變化。這對我來說是一個令人震驚的啟示，”拜登說。
作為這項努力的一部分，這七家公司承諾開發一種系統來“浮水印”所有形式的內容，從文字，圖像，音頻，到由AI生成的視頻，以便用戶知道何時使用了該技術。
這種浮水印以技術方式嵌入內容中，據推測將使用戶更容易發現可能顯示尚未發生的暴力，創建更好的騙局或扭曲政治家照片以使人看起來不悅目的深度偽造圖像或音頻。
目前尚不清楚將如何明顯的在共享資訊時顯現浮水印。
公司還承諾將重點放在保護用戶的隱私，並確保隨著AI的發展，該技術無偏見且不會被用來歧視弱勢群體。其他承諾包括開發解決如醫學研究和緩解氣候變化等科學問題的AI解決方案。
新聞原址： OpenAI, Google, others pledge to watermark AI content for safety, White House says | Reuters
“這些承諾是一個很有前途的步驟，但我們還有很多工作要一起完成，”拜登說。
在白宮的一個活動中，拜登對人工智慧可能被用於破壞性目的的日益增長的擔憂表示了應對，說：“我們必須清醒，並對新興技術對美國民主的威脅保持警惕。”
這些公司 - 包括Anthropic，Inflection，Amazon.com（AMZN.O）和OpenAI的合作夥伴Microsoft（MSFT.O） - 承諾在發布系統之前對其進行全面測試，並分享有關如何降低風險和投資於網路安全的信息。
此舉被視為拜登政府努力規範該技術的一次勝利，該技術已在投資和消費者受歡迎度方面經歷了繁榮。
“我們歡迎總統在將科技產業團結起來，敲定具體步驟以使AI更安全、更安全和對公眾更有益的領導作用，” Microsoft在周五的一篇部落格文章中說。
自從使用數據創建像ChatGPT的人聲散文這樣的新內容的生成式AI今年大受歡迎以來，全世界的立法者都開始考慮如何降低新興技術對國家安全和經濟的危險。
在處理人工智慧法規方面，美國落後於歐盟。在六月，歐盟立法者同意一套草案規則，其中像ChatGPT這樣的系統將不得不披露AI生成的內容，協助區分所謂的深度偽造圖像與真實圖像，並確保對非法內容的防護。
美國參議院多數黨領袖Chuck Schumer在六月呼籲“全面立法”以推進並確保對人工智慧的防護。
國會正在考慮一項法案，該法案將要求政治廣告披露是否使用AI創建圖像或其他內容。
周五在白宮與七家公司的高管會面的拜登說，他也在研究制定有關AI技術的行政命令和兩黨立法。
“我們將在接下來的10年，甚至是接下來的幾年，看到比我們在過去的50年所看到的更多的技術變化。這對我來說是一個令人震驚的啟示，”拜登說。
作為這項努力的一部分，這七家公司承諾開發一種系統來“浮水印”所有形式的內容，從文字，圖像，音頻，到由AI生成的視頻，以便用戶知道何時使用了該技術。
這種浮水印以技術方式嵌入內容中，據推測將使用戶更容易發現可能顯示尚未發生的暴力，創建更好的騙局或扭曲政治家照片以使人看起來不悅目的深度偽造圖像或音頻。
目前尚不清楚將如何明顯的在共享資訊時顯現浮水印。
公司還承諾將重點放在保護用戶的隱私，並確保隨著AI的發展，該技術無偏見且不會被用來歧視弱勢群體。其他承諾包括開發解決如醫學研究和緩解氣候變化等科學問題的AI解決方案。
新聞原址： OpenAI, Google, others pledge to watermark AI content for safety, White House says | Reuters