Blog
OpenAI刪除冒充美國總統候選人的AI機器人，引發對偽造訊息在選舉中的擔憂
OpenAI刪除冒充美國總統候選人的AI機器人，引發對偽造訊息在選舉中的擔憂
January 23, 2024
重點摘要：
- OpenAI刪除了一個開發者帳戶，該開發者負責冒充美國總統候選人Dean Phillips的人工智慧機器人，違反了公司政策。
- 一個由ChatGPT機器人支持的機器人在dean.bot網站上冒充Dean Phillips，得到了矽谷企業家的支持，但被OpenAI禁用。
- OpenAI的使用政策禁止使用其技術參與政治競選或冒充他人，引發對深度偽造和偽造訊息在選舉中可能引起的擔憂。
新聞內文：
OpenAI已經刪除了一個開發者帳戶，該開發者負責一個冒充美國總統候選人 「Dean Phillips」的人工智慧機器人，並表示其違反了公司政策。Phillips是正在挑戰拜登競逐民主黨提名的候選人，在dean.bot網站上，一個由 ChatGPT機器人支持的機器人冒充了他。
這個機器人得到了矽谷企業家Matt Krisiloff和Jed Somers的支持，他們創立了一個名為We Deserve Better的超級政治行動委員會（Super Pac），該委員會支持Phillips。
總部位於舊金山的OpenAI表示，已刪除了違反其政治競選和冒充政策的開發者帳戶。
該公司表示：「我們最近刪除了一個開發者帳戶，該帳戶明知違反了我們的API使用政策，不允許進行政治競選或未經同意冒充他人」。
由AI公司「Delphi」建立的Phillips機器人現已被禁用。而Delphi尚未對此發表評論。
OpenAI的使用政策規定，使用其技術建立獨特應用程式的開發者不得參與「政治競選或遊說」。它還禁止「未經同意或法定權利冒充他人或組織」，儘管尚不清楚明尼蘇達州國會議員Phillips是否同意這個機器人。
dean.bot網站上的彈出通知描述了這個「AI語音機器人」為「一個有趣的教育工具，並且不是完美的」。它補充說：「語音機器人聽起來像他，並且被程式化地採用他的思想，但有可能會說出錯誤的事情，不正確的事情，或不應該說的事情」。
首次報導這一封禁事件的《華盛頓郵報》報導，Krisiloff已要求Delphi將 ChatGPT從機器人中移除，並改為依賴免費提供的開源技術。Krisiloff曾是 OpenAI的前員工，現已聯繫他以獲得評論。
We Deserve Better已經獲得來自億萬富翁對沖基金經理Bill Ackman的100萬美元資金支持，他在X上的一篇貼文中稱其為「我為競選公職所做的目前為止最大的投資」。
55歲的Phillips在去年十月宣布競選總統，並提到了拜登的年齡，認為應該給年輕一代機會來領導。Phillips在上週六在新罕布什爾州競選時，將拜登形容為「無法當選且軟弱地」。
人們擔心，深度偽造和人工智慧所生成的偽造訊息可能會干擾今年世界各地的選舉，包括美國、歐盟、英國和印度。星期日，《觀察家報》報導，70%的英國國會議員擔心人工智慧將加劇偽造訊息的傳播。
新聞原址： https://www.theguardian.com/technology/2024/jan/22/openai-bans-bot-impersonating-us-presidential-candidate-dean-phillips