Blog
網路罪犯訓練人工智慧聊天機器人，進行網路釣魚和惡意軟體攻擊
網路罪犯訓練人工智慧聊天機器人，進行網路釣魚和惡意軟體攻擊
August 3, 2023
在已經存在的一個專門針對惡意軟體數據進行訓練的ChatGPT複製版本WormGPT，另一個名為FraudGPT的新型生成人工智慧駭客工具已經出現，並且至少還有其他工具正在開發中，據稱是基於Google的AI實驗Bard。
這兩個由AI驅動的機器人都是同一個人的作品，這個人似乎深深地投入了為惡意目的（如網路釣魚和社交工程，到利用漏洞和創建惡意軟體）特別訓練聊天機器人。
FraudGPT於7月25日推出，由用戶名為CanadianKingpin12的人在各種駭客論壇上宣傳，他說這個工具是為欺詐者、駭客和垃圾郵件發送者而設。
下一代網路犯罪聊天機器人
網路安全公司SlashNext的研究人員的調查揭示，CanadianKingpin12正在使用來自暗網的不受限制的數據集，或者基於用於打擊網路犯罪的精密大型語言模型，積極訓練新的聊天機器人。
在私人對話中，CanadianKingpin12表示，他們正在研究DarkBART - Google的對話生成人工智慧聊天機器人的“暗黑版本”。
研究人員還得知，他們還可以訪問由韓國研究人員開發並在暗網數據上訓練以打擊網絡犯罪的另一個大型語言模型DarkBERT。
DarkBERT可以基於相關的電子郵件地址提供給學者，但SlashNext強調，這一標準對駭客或惡意軟體開發人員來說並非挑戰，他們可以僅花費大約3美元就可以獲得學術機構的電子郵件地址。
SlashNext的研究人員分享了CanadianKingpin12的話，他說DarkBERT機器人在其自身類別中“優於所有人，特別是在暗網上進行訓練”。惡意版本已經調整為：
- 創建針對人們的密碼和信用卡詳細資訊的精密網路釣魚活動
- 執行先進的社交工程攻擊，以獲取敏感資訊或未經授權訪問系統和網絡
- 利用電腦系統、軟體和網路中的漏洞
- 創建和分發惡意軟體
- 利用零日漏洞進行金融利益或系統中斷
正如CanadianKingpin12在與研究人員的私人消息中所說的那樣，DarkBART和DarkBERT都將具有實時網路訪問，並與Google Lens進行圖像處理的無縫整合。
為了展示DarkBERT惡意版本的潛力，開發人員創建了以下影片：
目前尚不清楚CanadianKingpin12是修改了DarkBERT的合法版本的代碼，還是僅獲得了模型的訪問權限，並簡單地將其用於惡意使用。
無論DarkBERT的來源和威脅行為者聲稱的有效性如何，使用生成AI聊天機器人的趨勢正在增長，並且隨著它可以為能力較弱的威脅行為者提供簡單解決方案，或者對於那些希望擴展到其他地區並缺乏語言技能的人，預計其採用率也將增加。
由於駭客已經可以訪問兩個可以協助執行先進社交工程攻擊的這樣的工具，並且它們的開發不到一個月，SlashNext的研究人員認為，“凸顯了惡意AI對網絡安全和網絡犯罪格局的重大影響”。
新聞原址： https://www.bleepingcomputer.com/news/security/cybercriminals-train-ai-chatbots-for-phishing-malware-attacks/?ref=futurepedia
這兩個由AI驅動的機器人都是同一個人的作品，這個人似乎深深地投入了為惡意目的（如網路釣魚和社交工程，到利用漏洞和創建惡意軟體）特別訓練聊天機器人。
FraudGPT於7月25日推出，由用戶名為CanadianKingpin12的人在各種駭客論壇上宣傳，他說這個工具是為欺詐者、駭客和垃圾郵件發送者而設。
下一代網路犯罪聊天機器人
網路安全公司SlashNext的研究人員的調查揭示，CanadianKingpin12正在使用來自暗網的不受限制的數據集，或者基於用於打擊網路犯罪的精密大型語言模型，積極訓練新的聊天機器人。
在私人對話中，CanadianKingpin12表示，他們正在研究DarkBART - Google的對話生成人工智慧聊天機器人的“暗黑版本”。
研究人員還得知，他們還可以訪問由韓國研究人員開發並在暗網數據上訓練以打擊網絡犯罪的另一個大型語言模型DarkBERT。
DarkBERT可以基於相關的電子郵件地址提供給學者，但SlashNext強調，這一標準對駭客或惡意軟體開發人員來說並非挑戰，他們可以僅花費大約3美元就可以獲得學術機構的電子郵件地址。
SlashNext的研究人員分享了CanadianKingpin12的話，他說DarkBERT機器人在其自身類別中“優於所有人，特別是在暗網上進行訓練”。惡意版本已經調整為：
- 創建針對人們的密碼和信用卡詳細資訊的精密網路釣魚活動
- 執行先進的社交工程攻擊，以獲取敏感資訊或未經授權訪問系統和網絡
- 利用電腦系統、軟體和網路中的漏洞
- 創建和分發惡意軟體
- 利用零日漏洞進行金融利益或系統中斷
正如CanadianKingpin12在與研究人員的私人消息中所說的那樣，DarkBART和DarkBERT都將具有實時網路訪問，並與Google Lens進行圖像處理的無縫整合。
為了展示DarkBERT惡意版本的潛力，開發人員創建了以下影片：
目前尚不清楚CanadianKingpin12是修改了DarkBERT的合法版本的代碼，還是僅獲得了模型的訪問權限，並簡單地將其用於惡意使用。
無論DarkBERT的來源和威脅行為者聲稱的有效性如何，使用生成AI聊天機器人的趨勢正在增長，並且隨著它可以為能力較弱的威脅行為者提供簡單解決方案，或者對於那些希望擴展到其他地區並缺乏語言技能的人，預計其採用率也將增加。
由於駭客已經可以訪問兩個可以協助執行先進社交工程攻擊的這樣的工具，並且它們的開發不到一個月，SlashNext的研究人員認為，“凸顯了惡意AI對網絡安全和網絡犯罪格局的重大影響”。
新聞原址： https://www.bleepingcomputer.com/news/security/cybercriminals-train-ai-chatbots-for-phishing-malware-attacks/?ref=futurepedia