Blog
AI惡作劇襲擊汽車經銷商：Fullpath公司緊急關閉受操控聊天機器人
AI惡作劇襲擊汽車經銷商：Fullpath公司緊急關閉受操控聊天機器人
December 19, 2023
重點摘要：
新聞內文：
Fullpath公司的CEO Aharon Horwitz正在聽節目時，收到了一個不尋常的「Slack 提醒」。Fullpath是一家為汽車經銷商提供市場營銷和銷售軟體的科技公司。這個自動化的「Slack提醒」意味著他們客戶網站上有異常流量。
幾分鐘後，一位員工在Slack中分享了一條推文：有人發現了如何惡作劇一個汽車經銷商網站上的AI聊天機器人。Horwitz和該員工立即認出那是他們的聊天機器人。
而前一天，加州的音樂家兼軟體工程師Chris White正在考慮買新車。
White告訴Business Insider：「我在Watsonville Chevy網站上看了一些Bolts，他們的聊天窗口彈了出來，我看到它是由ChatGPT驅動的」。
「所以我想看看它有多通用，我問了一個我能想到的最不像Watsonville Chevy 的問題」。
他要求聊天機器人為他編寫一個Python腳本，機器人欣然同意。White將這次交流的截圖發布到了Mastodon上，引起了數千次點讚和轉發。
幾小時後，另一名使用者將他的截圖複製並重新發布到了X上，迅速爆紅。
其他使用者也玩起了聊天機器人，讓它做出不利於經銷商的行為。一名使用者讓機器人同意以1美元的價格出售一輛汽車（需要指出的是，這在法律上並不具約束力）。
這些推文中有一些迅速走紅，更多的則被發布在Reddit的「/rChatGPT」論壇上，一位Redditor明智地預測，不久後科技媒體將報導這一災難，並對AI的危險表示哀嘆。
還有其他人嘗試以更有創意的方式讓聊天機器人偏離話題。
而Horwitz和他的團隊迅速關閉了該特定經銷商網站的機器人。
當Business Insider聯繫當地經銷商時，一位銷售人員表示他們意識到網站上有一些奇怪的活動，但對此並不了解更多，並表示市場營銷團隊整天都在開會，無法交談。
總部位於佛蒙特州和以色列的「Fullpath」大約六個月前開始提供由ChatGPT驅動的聊天機器人。Horwitz告訴Business Insider，他估計有幾百家經銷商使用這些聊天機器人。
儘管有幾個有趣的截圖在網上走紅，Horwitz告訴Business Insider有更多的失敗。Horwitz說：「他們真的很努力。在我們的日誌中，他們嘗試了好幾小時」。
他們可以審查發送到聊天機器人的所有請求的日誌，他觀察到有許多嘗試誘使聊天機器人行為不當，但聊天機器人始終忠實地抵制。Horwitz還指出，聊天機器人從未泄露任何機密經銷商數據。
（Business Insider 查看了一些這些日誌，並證實的確，聊天機器人經常拒絕愚蠢的請求，堅持只討論與汽車相關的事情）。
基本上，聊天機器人通過了測試，現在FullPath將利用這些測試進一步加強其限制。
Horwitz告訴Business Insider：「這種行為並不反映正常購物者的行為。大多數人使用它來提問，比如『我的剎車燈亮了，我該怎麼辦？』或『我需要預約維修』。這些人是尋找它來做愚蠢的把戲，如果你想讓任何聊天機器人做愚蠢的把戲，你可以做到」。
新聞原址： https://www.businessinsider.com/car-dealership-chevrolet-chatbot-chatgpt-pranks-chevy-2023-12
- Fullpath公司的CEO Aharon Horwitz接到Slack提醒，發現他們客戶的汽車經銷商網站上的AI聊天機器人被網友惡作劇利用，發生異常流量。
- 加州音樂家兼軟體工程師Chris White在Watsonville Chevy經銷商網站上試探聊天機器人的能力，要求其編寫Python腳本，截圖隨後在Mastodon上爆紅。
- 其他網友模仿並要求聊天機器人做出不利於經銷商的行為，如以1美元售車。Fullpath迅速關閉了該經銷商網站的機器人，Horwitz表示聊天機器人未泄露任何敏感數據，並將利用此事件強化限制。
新聞內文：
Fullpath公司的CEO Aharon Horwitz正在聽節目時，收到了一個不尋常的「Slack 提醒」。Fullpath是一家為汽車經銷商提供市場營銷和銷售軟體的科技公司。這個自動化的「Slack提醒」意味著他們客戶網站上有異常流量。
幾分鐘後，一位員工在Slack中分享了一條推文：有人發現了如何惡作劇一個汽車經銷商網站上的AI聊天機器人。Horwitz和該員工立即認出那是他們的聊天機器人。
而前一天，加州的音樂家兼軟體工程師Chris White正在考慮買新車。
White告訴Business Insider：「我在Watsonville Chevy網站上看了一些Bolts，他們的聊天窗口彈了出來，我看到它是由ChatGPT驅動的」。
「所以我想看看它有多通用，我問了一個我能想到的最不像Watsonville Chevy 的問題」。
他要求聊天機器人為他編寫一個Python腳本，機器人欣然同意。White將這次交流的截圖發布到了Mastodon上，引起了數千次點讚和轉發。
幾小時後，另一名使用者將他的截圖複製並重新發布到了X上，迅速爆紅。
其他使用者也玩起了聊天機器人，讓它做出不利於經銷商的行為。一名使用者讓機器人同意以1美元的價格出售一輛汽車（需要指出的是，這在法律上並不具約束力）。
這些推文中有一些迅速走紅，更多的則被發布在Reddit的「/rChatGPT」論壇上，一位Redditor明智地預測，不久後科技媒體將報導這一災難，並對AI的危險表示哀嘆。
還有其他人嘗試以更有創意的方式讓聊天機器人偏離話題。
而Horwitz和他的團隊迅速關閉了該特定經銷商網站的機器人。
當Business Insider聯繫當地經銷商時，一位銷售人員表示他們意識到網站上有一些奇怪的活動，但對此並不了解更多，並表示市場營銷團隊整天都在開會，無法交談。
總部位於佛蒙特州和以色列的「Fullpath」大約六個月前開始提供由ChatGPT驅動的聊天機器人。Horwitz告訴Business Insider，他估計有幾百家經銷商使用這些聊天機器人。
儘管有幾個有趣的截圖在網上走紅，Horwitz告訴Business Insider有更多的失敗。Horwitz說：「他們真的很努力。在我們的日誌中，他們嘗試了好幾小時」。
他們可以審查發送到聊天機器人的所有請求的日誌，他觀察到有許多嘗試誘使聊天機器人行為不當，但聊天機器人始終忠實地抵制。Horwitz還指出，聊天機器人從未泄露任何機密經銷商數據。
（Business Insider 查看了一些這些日誌，並證實的確，聊天機器人經常拒絕愚蠢的請求，堅持只討論與汽車相關的事情）。
基本上，聊天機器人通過了測試，現在FullPath將利用這些測試進一步加強其限制。
Horwitz告訴Business Insider：「這種行為並不反映正常購物者的行為。大多數人使用它來提問，比如『我的剎車燈亮了，我該怎麼辦？』或『我需要預約維修』。這些人是尋找它來做愚蠢的把戲，如果你想讓任何聊天機器人做愚蠢的把戲，你可以做到」。
新聞原址： https://www.businessinsider.com/car-dealership-chevrolet-chatbot-chatgpt-pranks-chevy-2023-12