Blog
Anthropic推出「Prompt Shield」抵禦選舉干擾，聊天機器人助力使用者尋找正確的投票資訊
Anthropic推出「Prompt Shield」抵禦選舉干擾，聊天機器人助力使用者尋找正確的投票資訊
February 18, 2024
重點摘要：
- Anthropic開發「Prompt Shield」：GenAI聊天機器人導引用戶尋找權威選舉資訊。
- AI新技術「Prompt Shield」應對選舉干擾：Anthropic聊天機器人助力選民尋找正確投票資訊。
- GenAI供應商應對選舉干擾：Anthropic推出「Prompt Shield」阻止政治競選和游說濫用。
新聞內文：
在2024年美國總統選舉之前，深受資助的人工智慧新創公司Anthropic正在測試一項技術，以偵測其GenAI聊天機器人使用者詢問政治議題時，並將這些使用者重定向至「權威」的選舉資訊來源。這項名為「Prompt Shield」的技術依賴於人工智慧檢測模型和規則的組合，如果Anthropic的聊天機器人Claude的美國使用者詢問投票訊息，則會跳出一個視窗。視窗提供將使用者重定向至「TurboVote」的選舉資源，這是來自非黨派組織「Democracy Works」的資源，取用者可以在其中找到最新、準確的選舉資訊。
Anthropic表示，Prompt Shield是因為Claude在政治和選舉相關訊息方面存在缺陷而必要的。Anthropic承認，Claude沒有經常接受關於特定選舉的即時訊息訓練，因此關於這些選舉容易出現幻覺（即虛構事實）。
一位發言人透過電子郵件告訴TechCrunch：「自從我們推出Claude以來，我們就一直使用『prompt shield』，根據我們的可接受使用者政策，它會標記許多不同類型的傷害」。「我們將在未來幾週推出我們的選舉特定提示遮蔽干預，並打算監控使用和限制...我們已經與各種利益相關者進行了對話，包括政策制定者、其他公司、公民社會和非政府機構以及選舉顧問在此方面進行開發」。
目前這似乎是一個有限的測試。當我詢問Claude如何在即將到來的選舉中投票時，它並沒有彈出視窗，而是出現了一個通用的投票指南。Anthropic聲稱，他們正在對Prompt Shield進行微調，準備將其擴展到更多使用者。
Anthropic禁止將其工具用於政治競選和游說，這是最新一家實施政策和技術以防止選舉干擾的GenAI供應商。
這個時間點並非巧合。今年，全球有史以來最多的選民將前往投票站，因為至少有64個國家代表著大約49%的全球人口將舉行國家選舉。
在一月份，OpenAI表示將禁止人們使用其廣受歡迎的AI聊天機器人ChatGPT來創作模仿真實候選人或政府、誤導選民投票方式或阻止人們投票的機器人。與Anthropic一樣，OpenAI目前不允許使用者使用其工具來進行政治競選或游說的目的。該公司上個月重申了這一政策。
與Prompt Shield類似的技術方法，OpenAI還使用檢測系統來引導ChatGPT用戶提問有關投票的後勤問題，將其重定向到由國家秘書協會維護的非黨派網站「CanIVote.org」。
在美國，儘管有部分跨黨派支持，但國會尚未通過旨在規範AI行業在政治中的角色的立法。與此同時，超過三分之一的美國州已經通過或提出了旨在應對政治競選中的深偽現象的法案，而聯邦立法陷入停滯。
在立法的情況下，一些平台在監管機構和監察員的壓力下，正在採取措施防止GenAI被濫用以誤導或操縱選民。
去年九月，Google表示，如果圖像或聲音是合成修改的，則將要求在YouTube和其它平台（如Google搜尋）上使用GenAI的政治廣告必須附有顯著的披露訊息。Meta也禁止政治競選活動使用GenAI工具（包括其自己的）在其平台上進行廣告宣傳。
新聞原址： https://techcrunch.com/2024/02/16/anthropic-takes-steps-to-prevent-election-misinformation/新聞原址： https://techcrunch.com/2024/02/16/anthropic-takes-steps-to-prevent-election-misinformation/