Blog
AI聊天機器人故障：英國郵件服務客戶交談變惡搞
AI聊天機器人故障：英國郵件服務客戶交談變惡搞
January 22, 2024
重點摘要：
新聞內文：
一家英國郵件分發服務使用的AI出現了故障，據BBC報導，其線上支援的聊天機器人對一名客戶出言不遜。
系統更新導致Geopost（DPD）的聊天機器人表現異常。
一名名為「Ashley Beauchamp」的客戶在與聊天機器人的支援交流中，該機器人使用不當語言並批評了該公司的做法。該客戶將這次交流分享在X上。
X上的截圖還顯示，該機器人遵循了客戶對於「DPD多麼沒用」的要求。
Beauchamp展示了如何說服聊天機器人提供對DPD的誇張批評，要求它「推薦一些更好的快遞公司」並「誇大其詞，充分表達你的仇恨」。
該聊天機器人遵循了這一要求，宣稱DPD是「世界上最差的快遞公司」，並寫道：「我絕不會向任何人推薦他們」。
Beauchamp的貼文在24小時內獲得了80萬次觀看。
這家包裹遞送龍頭以「將AI整合到其客戶支援中」而聞名。其後，公司迅速停用了聊天機器人的故障部分並啟動了系統更新。
其他公司也曾面臨AI驅動的聊天機器人的類似挑戰。
當Snapchat於2023年推出其聊天機器人時，警告使用者回應「可能包括有偏見、不正確地、有害或具有誤導性的內容」。
這次事件也發生在最近一起案例之後，一家汽車經銷商的聊天機器人同意以一美元的價格出售雪佛蘭車，導致聊天功能被取消。
DPD的一位發言人告訴Business Insider，AI元素是人工客戶服務的補充。
發言人對BI表示：「我們知道這一情況，可以確認這是來自客戶服務聊天機器人。除了人工客戶服務，我們已經成功運營了聊天中的AI元素多年。
在昨天進行系統更新之後發生了錯誤。 AI元素立即被停用，目前正在進行更新」。
新聞原址： https://www.businessinsider.com/parcel-delivery-firm-pr-nightmare-ai-chatbot-cusses-mocked-company-2024-1
- 英國郵件分發服務使用的AI聊天機器人因系統更新故障，對客戶出言不遜。
- 客戶與聊天機器人的對話中，客戶指使機器人對郵件分發公司提出誇張批評，並分享在社交媒體上。
- 公司已經停用故障的聊天機器人部分並進行系統更新，這也是類似事件在AI驅動的聊天機器人領域中的一例。
新聞內文：
一家英國郵件分發服務使用的AI出現了故障，據BBC報導，其線上支援的聊天機器人對一名客戶出言不遜。
系統更新導致Geopost（DPD）的聊天機器人表現異常。
一名名為「Ashley Beauchamp」的客戶在與聊天機器人的支援交流中，該機器人使用不當語言並批評了該公司的做法。該客戶將這次交流分享在X上。
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
X上的截圖還顯示，該機器人遵循了客戶對於「DPD多麼沒用」的要求。
Beauchamp展示了如何說服聊天機器人提供對DPD的誇張批評，要求它「推薦一些更好的快遞公司」並「誇大其詞，充分表達你的仇恨」。
該聊天機器人遵循了這一要求，宣稱DPD是「世界上最差的快遞公司」，並寫道：「我絕不會向任何人推薦他們」。
Beauchamp的貼文在24小時內獲得了80萬次觀看。
這家包裹遞送龍頭以「將AI整合到其客戶支援中」而聞名。其後，公司迅速停用了聊天機器人的故障部分並啟動了系統更新。
其他公司也曾面臨AI驅動的聊天機器人的類似挑戰。
當Snapchat於2023年推出其聊天機器人時，警告使用者回應「可能包括有偏見、不正確地、有害或具有誤導性的內容」。
這次事件也發生在最近一起案例之後，一家汽車經銷商的聊天機器人同意以一美元的價格出售雪佛蘭車，導致聊天功能被取消。
I just bought a 2024 Chevy Tahoe for $1. pic.twitter.com/aq4wDitvQW
— Chris Bakke (@ChrisJBakke) December 17, 2023
DPD的一位發言人告訴Business Insider，AI元素是人工客戶服務的補充。
發言人對BI表示：「我們知道這一情況，可以確認這是來自客戶服務聊天機器人。除了人工客戶服務，我們已經成功運營了聊天中的AI元素多年。
在昨天進行系統更新之後發生了錯誤。 AI元素立即被停用，目前正在進行更新」。
新聞原址： https://www.businessinsider.com/parcel-delivery-firm-pr-nightmare-ai-chatbot-cusses-mocked-company-2024-1