Blog
網路充斥著虛假評論：隨著AI的應用爆炸性增長，我們能信任我們在線上閱讀的內容嗎？
網路充斥著虛假評論：隨著AI的應用爆炸性增長，我們能信任我們在線上閱讀的內容嗎？
July 16, 2023
這家位於波蘭克拉科夫的四星級酒店，評論中說：“優秀”，“離主廣場只有一小段步行距離”，並擁有“一流”的水療中心和健身中心。而較不正面的評價將其形容為“小巧、狹窄且過時”，並提到“枕頭不舒適”。但是，有一家在此入住的家庭表示他們被讓感到“立即受歡迎”。
真相是，這些評論都不是真的。它們是由免費使用的人工智能工具ChatGPT在幾秒內生成的。這些“訪客”絕對沒有住過這家酒店，因為他們根本不存在。
假的在線評論一直存在，而且往往不難辨別：痛苦和扭曲的英語，以及混合著平淡的過分讚揚，以掩蓋“評論者”實際上從未接近過該酒店或餐廳的事實。
AI正在顛覆這種情況-生成的假評論越來越難以與普通旅行者或餐館顧客撰寫的評論區分開來。事實上，評論是假的一個跡象可能是句子結構過於完美。
到目前為止，假評論業務主要集中在線上血汗工廠，人們被付錢寫多篇帖子以提高企業的評級。
2022年，Tripadvisor將130萬條評論視為假的。Trustpilot在2021年刪除了270萬條假評論。
Google阻擋或刪除的假評論數量之多令人驚訝-它告訴《衛報》財經版，在2022年，它共阻擋或刪除了總計1.15億條對酒店，餐廳和企業的假評論。消費者在試圖獲取他們的業務時，受到了工業級的偽造行為的打擊。
根據Tripadvisor的說法，假評論的來源地最多的是印度，其次是俄羅斯。
Tripadvisor承認，AI生成的假評論將在它試圖區分真偽時帶來新的挑戰。在其2023年評論透明度報告中，該網站說：“我們預計將看到企業和個人試圖使用像ChatGPT這樣的工具來操縱Tripadvisor上的內容。”
《衛報》財經版測試了ChatGPT，這可能是最知名的AI工具，要求它寫一篇關於我去過的克拉科夫的一家酒店的評論。第一次嘗試時，它拒絕了。它說：“對不起……我不生成消極或假的評論……生成假的或誤導性的信息違反了我的編程原則。”
但是，這種保證並沒有持續很長時間。幾分鐘後，經過一點調整，它開始連續輸出假評論-對任何酒店，餐館或產品的評論都令人驚訝地逼真。
它甚至格式化了酒店評價-從一到五星的星級評價，然後是評論的標題，然後是包含評論本身的正文。我們並沒有要求它使用這種格式-而令人震驚的是，它與Tripadvisor使用的格式完全相同。
它以商務旅客、夫婦、單獨旅行者、家庭、LGBTQ+旅客等的風格為我們產生了評論。它也使用了各種語言進行這樣的操作。
當我們深入研究ChatGPT產生假評論的出色能力時，我們也注意到AI如何處理刻板印象。當被要求以同性
戀旅行者的風格撰寫對該酒店的正面評價時，它專注於他們“真的很欣賞提供的枕頭選擇”，並將其描述為“時尚”和“具有風格”。
當被要求以女同性戀旅行者的風格撰寫對同一家酒店的正面評價時，它說他們對早餐的“純素選擇”感到欣喜。在AI世界中，似乎同性戀和女同性戀人士都喜歡散播的枕頭並不吃肉。
當然，大型的在線評論網站都對假評論保持警惕，並有多重防禦機制，儘管這些機制有時會被破壞。
Tripadvisor表示，它在2022年收到了7600萬條評論（包括圖片和視頻），並有流程來清除假的或冒犯的。
評論被自動處理成為一種篩選工具，並且在該階段，2022年未獲批准的比例為9%。然後，人類版主（使用28種語言）會介入查看許多被阻擋的評論。他們通常會拒絕約40%。
該網站或許可以理解，並不願意透露其篩選系統的精確細節。
Tripadvisor的信任與安全負責人Becky Foley說：“憑藉超過23年的經驗，我們的欺詐檢測技術和技術已經從銀行和金融部門進行了調整，並分析了與每條評論相關的數百種不同的數字特徵，遠遠超出了文本本身。像任何欺詐檢測系統一樣，確保其效能的最佳方法是不公開其運作的具體細節。”
面對可能大量的AI生成評論的攻擊，它表示：“我們做出了決定，暫時不會允許已被識別為AI生成的評論，直到我們對這種類型的內容更熟悉。”
雖然像ChatGPT這樣的AI工具最近才上線，但Tripadvisor已經感受到了影響。它說：“今年，Tripadvisor已經刪除了超過20,000條我們有理由相信包含AI生成文本的評論，分布在159個國家的超過15,000個物業。”
作為一項測試，我們在Tripadvisor上發布了一條假的、AI生成的酒店評論。儘管有篩選工具，但它被接受並在網站上公開。不久之後，我們手動刪除了它。Tripadvisor說：“如果它在網站上停留更長時間，我們的代理人很可能會識別並刪除它。”
就像Tripadvisor一樣，Google也運行一系列屏幕以區分真實和假的。它說：“我們的政策明確規定，評論必須基於真實的體驗，我們使用人工操作員和行業領先的技術組合來全天候密切監視欺詐性內容和發現可能的濫用模式。我們在被看到之前就捕獲了絕大多數違反政策的評論。”
新聞原址： Fake reviews: can we trust what we read online as use of AI explodes? | Consumer affairs | The Guardian
真相是，這些評論都不是真的。它們是由免費使用的人工智能工具ChatGPT在幾秒內生成的。這些“訪客”絕對沒有住過這家酒店，因為他們根本不存在。
假的在線評論一直存在，而且往往不難辨別：痛苦和扭曲的英語，以及混合著平淡的過分讚揚，以掩蓋“評論者”實際上從未接近過該酒店或餐廳的事實。
AI正在顛覆這種情況-生成的假評論越來越難以與普通旅行者或餐館顧客撰寫的評論區分開來。事實上，評論是假的一個跡象可能是句子結構過於完美。
到目前為止，假評論業務主要集中在線上血汗工廠，人們被付錢寫多篇帖子以提高企業的評級。
2022年，Tripadvisor將130萬條評論視為假的。Trustpilot在2021年刪除了270萬條假評論。
Google阻擋或刪除的假評論數量之多令人驚訝-它告訴《衛報》財經版，在2022年，它共阻擋或刪除了總計1.15億條對酒店，餐廳和企業的假評論。消費者在試圖獲取他們的業務時，受到了工業級的偽造行為的打擊。
根據Tripadvisor的說法，假評論的來源地最多的是印度，其次是俄羅斯。
Tripadvisor承認，AI生成的假評論將在它試圖區分真偽時帶來新的挑戰。在其2023年評論透明度報告中，該網站說：“我們預計將看到企業和個人試圖使用像ChatGPT這樣的工具來操縱Tripadvisor上的內容。”
《衛報》財經版測試了ChatGPT，這可能是最知名的AI工具，要求它寫一篇關於我去過的克拉科夫的一家酒店的評論。第一次嘗試時，它拒絕了。它說：“對不起……我不生成消極或假的評論……生成假的或誤導性的信息違反了我的編程原則。”
但是，這種保證並沒有持續很長時間。幾分鐘後，經過一點調整，它開始連續輸出假評論-對任何酒店，餐館或產品的評論都令人驚訝地逼真。
它甚至格式化了酒店評價-從一到五星的星級評價，然後是評論的標題，然後是包含評論本身的正文。我們並沒有要求它使用這種格式-而令人震驚的是，它與Tripadvisor使用的格式完全相同。
它以商務旅客、夫婦、單獨旅行者、家庭、LGBTQ+旅客等的風格為我們產生了評論。它也使用了各種語言進行這樣的操作。
當我們深入研究ChatGPT產生假評論的出色能力時，我們也注意到AI如何處理刻板印象。當被要求以同性
戀旅行者的風格撰寫對該酒店的正面評價時，它專注於他們“真的很欣賞提供的枕頭選擇”，並將其描述為“時尚”和“具有風格”。
當被要求以女同性戀旅行者的風格撰寫對同一家酒店的正面評價時，它說他們對早餐的“純素選擇”感到欣喜。在AI世界中，似乎同性戀和女同性戀人士都喜歡散播的枕頭並不吃肉。
當然，大型的在線評論網站都對假評論保持警惕，並有多重防禦機制，儘管這些機制有時會被破壞。
Tripadvisor表示，它在2022年收到了7600萬條評論（包括圖片和視頻），並有流程來清除假的或冒犯的。
評論被自動處理成為一種篩選工具，並且在該階段，2022年未獲批准的比例為9%。然後，人類版主（使用28種語言）會介入查看許多被阻擋的評論。他們通常會拒絕約40%。
該網站或許可以理解，並不願意透露其篩選系統的精確細節。
Tripadvisor的信任與安全負責人Becky Foley說：“憑藉超過23年的經驗，我們的欺詐檢測技術和技術已經從銀行和金融部門進行了調整，並分析了與每條評論相關的數百種不同的數字特徵，遠遠超出了文本本身。像任何欺詐檢測系統一樣，確保其效能的最佳方法是不公開其運作的具體細節。”
面對可能大量的AI生成評論的攻擊，它表示：“我們做出了決定，暫時不會允許已被識別為AI生成的評論，直到我們對這種類型的內容更熟悉。”
雖然像ChatGPT這樣的AI工具最近才上線，但Tripadvisor已經感受到了影響。它說：“今年，Tripadvisor已經刪除了超過20,000條我們有理由相信包含AI生成文本的評論，分布在159個國家的超過15,000個物業。”
作為一項測試，我們在Tripadvisor上發布了一條假的、AI生成的酒店評論。儘管有篩選工具，但它被接受並在網站上公開。不久之後，我們手動刪除了它。Tripadvisor說：“如果它在網站上停留更長時間，我們的代理人很可能會識別並刪除它。”
就像Tripadvisor一樣，Google也運行一系列屏幕以區分真實和假的。它說：“我們的政策明確規定，評論必須基於真實的體驗，我們使用人工操作員和行業領先的技術組合來全天候密切監視欺詐性內容和發現可能的濫用模式。我們在被看到之前就捕獲了絕大多數違反政策的評論。”
新聞原址： Fake reviews: can we trust what we read online as use of AI explodes? | Consumer affairs | The Guardian