Blog
CounterCloud：僅需400美元，兩個月打造出的AI虛假資訊工廠—一個令人不安的實驗
CounterCloud：僅需400美元，兩個月打造出的AI虛假資訊工廠—一個令人不安的實驗
September 4, 2023
重點摘要：
新聞內文：
一位開發者運用像是ChatGPT這樣由OpenAI提供技術的科技，建立了一個名為「CounterCloud」的AI「虛假資訊機器」。
這個計畫由創作者花了兩個月的時間完成，每月運行成本不到400美元，凸顯出創造大規模宣傳可以是多麼便宜和簡單的一件事。
Wired報導中稱，這位選擇匿名的創作者，以「Nea Paw」為名，聲稱自己是一名網路安全專業人士。
在YouTube上發布的一段影片中，Paw描述了該計畫的進行方式以及他們為什麼這麼做。
他們表示，他們想要看到AI虛假資訊「在現實世界中運作」，並補充說「大型語言模型的強大語言能力非常適合閱讀和撰寫假新聞文章」。
Paw說，他們首先將「對立」的文章輸入ChatGPT，並寫下指令讓它撰寫一篇反駁性的文章。然後，AI機器人將提供同一篇文章的不同範例，以不同的風格和觀點進行撰寫。
他們表示，這是透過「創造虛假故事、虛假歷史事件，並對原始文章的準確性產生懷疑」來實現的。
然後它被添加了一個閘門模組，以便AI只會回應最相關的內容，同時添加了新聞播音員朗讀虛假AI生成文章的語音片段和照片，以創建真實性。他們還捏造了虛假的記者資料檔案和某些文章下方的虛假評論。
然後，系統被告知喜歡和重新發布與其敘述相符的資訊，或者對那些不相符的訊息寫下「反駁」推文。
兩個月後，他們就擁有了一個完全能自主的AI動力系統，每天每周24小時都能生成「令人信服的內容，90%的時間內有效」。
Paw表示，創作者們尚未將這個模型實際在網路上啟用，因為「這將意味著積極地散布虛假資訊和宣傳。一旦精靈進入網路，就無法預知它會走向什麼方向」。
但他們補充說，他們認為更多的好處將，從發布CounterCloud中獲得，並向公眾介紹這些系統內部的運作方式。
AI透過加速線上虛假資訊的創造和傳播，對民主產生的威脅一直是AI辯論中最大的隱憂之一。
OpenAI的CEO Sam Altman最近對此表達了關注，他表示「個人化的1:1說服力，再加上高品質的生成媒體，將會是一股強大的力量」。
新聞原址： https://www.businessinsider.com/developer-creates-ai-disinformation-system-using-openai-2023-9
- 一位名為「Nea Paw」的開發者使用OpenAI的ChatGPT技術，僅花兩個月和每月不到400美元的成本，建立了一個名為「CounterCloud」的AI虛假資訊生成機器。
- 這個AI系統能自主生成「令人信服的內容」，並具有高度的適應性和多樣性，包括生成不同風格和觀點的文章。
- 雖然這個模型尚未實際在網路上啟用，但其存在凸顯了AI在創造和傳播虛假資訊方面的潛在威脅。
新聞內文：
一位開發者運用像是ChatGPT這樣由OpenAI提供技術的科技，建立了一個名為「CounterCloud」的AI「虛假資訊機器」。
這個計畫由創作者花了兩個月的時間完成，每月運行成本不到400美元，凸顯出創造大規模宣傳可以是多麼便宜和簡單的一件事。
Wired報導中稱，這位選擇匿名的創作者，以「Nea Paw」為名，聲稱自己是一名網路安全專業人士。
在YouTube上發布的一段影片中，Paw描述了該計畫的進行方式以及他們為什麼這麼做。
他們表示，他們想要看到AI虛假資訊「在現實世界中運作」，並補充說「大型語言模型的強大語言能力非常適合閱讀和撰寫假新聞文章」。
Paw說，他們首先將「對立」的文章輸入ChatGPT，並寫下指令讓它撰寫一篇反駁性的文章。然後，AI機器人將提供同一篇文章的不同範例，以不同的風格和觀點進行撰寫。
他們表示，這是透過「創造虛假故事、虛假歷史事件，並對原始文章的準確性產生懷疑」來實現的。
然後它被添加了一個閘門模組，以便AI只會回應最相關的內容，同時添加了新聞播音員朗讀虛假AI生成文章的語音片段和照片，以創建真實性。他們還捏造了虛假的記者資料檔案和某些文章下方的虛假評論。
然後，系統被告知喜歡和重新發布與其敘述相符的資訊，或者對那些不相符的訊息寫下「反駁」推文。
兩個月後，他們就擁有了一個完全能自主的AI動力系統，每天每周24小時都能生成「令人信服的內容，90%的時間內有效」。
Paw表示，創作者們尚未將這個模型實際在網路上啟用，因為「這將意味著積極地散布虛假資訊和宣傳。一旦精靈進入網路，就無法預知它會走向什麼方向」。
但他們補充說，他們認為更多的好處將，從發布CounterCloud中獲得，並向公眾介紹這些系統內部的運作方式。
AI透過加速線上虛假資訊的創造和傳播，對民主產生的威脅一直是AI辯論中最大的隱憂之一。
OpenAI的CEO Sam Altman最近對此表達了關注，他表示「個人化的1:1說服力，再加上高品質的生成媒體，將會是一股強大的力量」。
新聞原址： https://www.businessinsider.com/developer-creates-ai-disinformation-system-using-openai-2023-9