Blog
Google限制Gemini回答選舉查詢，AI在選舉中角色引發關注
Google限制Gemini回答選舉查詢，AI在選舉中角色引發關注
March 13, 2024
重點摘要：
- Google限制在Gemini中提出與選舉有關的查詢，適用全球。
- Google對於選舉查詢的限制引發討論，突顯AI在選舉中的角色。
- Google限制Gemini回答選舉相關查詢，印度政府採取類似行動。
新聞內文：
如果你想向Google的AI聊天機器人問一個有關即將舉行選舉的問題，你必須在沒有選舉舉行的國家進行提問。TechCrunch獲悉，這家搜尋龍頭已經開始限制在Gemini中提出與選舉有關的查詢，這適用於全球任何正在進行選舉的市場。Google向TechCrunch證實，它已開始在Gemini上推出限制措施，以全球范圍內限制提供與選舉相關的查詢答案。TechCrunch了解到，這項更新已經在美國生效，並已開始在印度以及未來幾個月將舉行選舉的所有主要國家進行推出。
這一轉變不僅突顯了生成式AI在選舉過程中一直在扮演的角色，以及其潛在的作用，而且還表明了Google對服務可能被武器化，以及產生不準確或誤導性回答的擔憂。
在印度發生這一轉變僅幾天之後，印度發布了一項諮詢意見，要求科技公司在推出新的AI模型之前獲得政府許可。
關於政黨、候選人或政治家的查詢現在會回覆一條預設消息。
當詢問特定政黨或候選人的查詢時，Gemini會顯示一條消息：「我目前還在學習如何回答這個問題。與此同時，請嘗試使用Google搜尋」。在某些情況下，這個工具仍然可能被操縱。TechCrunch發現，當查詢中存在拼寫錯誤時，AI工具仍然會顯示答案。很可能的，這些回答將繼續在提示工程的遊戲中進行調整。
Google在今天早些時候針對印度動態的部落格文章中表示：「出於對如此重要話題的謹慎考量，我們已經開始對Gemini會回應選舉相關查詢類型的舉動進行限制。我們認真對待為這些類型查詢提供高品質訊息的責任，並不斷努力改進我們的保護措施」。
該更新在印度的大選公告之前發布。本月早些時候，新德里發布了一項諮詢意見，限制科技公司未經政府批准就在該國推出新的AI模型。在受到全球風險投資人和AI新創企業創辦人的一些反彈之後，印度政府澄清，此限制針對的是「重要」的科技公司，而不是新創企業。
這項諮詢意見是上個月的Gemini和印度政府之間的一場小型醜聞後出台的。這款AI工具對關於印度總理納倫德拉·莫迪是否是法西斯主義者的查詢做出回應時，回答說莫迪被指控實施了一些被某些人視為法西斯主義的政策。印度副IT部長拉吉夫·錢德拉塞卡爾稱這是對《2021年IT規則》的「直接違規」。
上個月，Google還暫停了Gemini生成人們圖像的能力，因為它顯示了歷史不準確性。該公司隨後表示，將很快重新發布一個改進版本來解決這些問題。
目前尚不清楚Google是否會在今年晚些時候選舉結束後解除對Gemini回答與選舉相關查詢的限制。我們已經聯繫了Google，並在該公司做出回應時將更新本故事。我們還在等待該更新現已生效的國家的完整清單，將在了解更多訊息後更新於本篇文章中。
新聞原址： https://techcrunch.com/2024/03/12/google-gemini-election-related-queries/