Blog
高階加拿大網路官員表示，AI正被用於駭客攻擊和散播假消息
高階加拿大網路官員表示，AI正被用於駭客攻擊和散播假消息
July 23, 2023
華盛頓，7月20日（路透社）- 加拿大最高網路安全官員向路透社表示，駭客和宣傳者正在利用人工智慧（AI）創建惡意軟體，起草具有說服力的網路釣魚郵件，並在線上散播假消息，這些都是初步的證據，顯示矽谷的科技革命也已被網路犯罪分子所採用。
在本週的一次訪談中，加拿大網路安全中心主任Sami Khoury表示，他的機構已經看到AI被用於「釣魚郵件，或以更專注的方式撰寫郵件，以及在惡意代碼、假消息和假資訊中使用。」
儘管Khoury並未提供詳細的資訊或證據，但他認為網路犯罪分子已經在使用AI的說法，為對新興技術被流氓行為者使用的憂慮增添了緊迫的音符。
近幾個月來，幾個網路監察組織已經發表了報告，警告AI的假設性風險 - 尤其是快速發展的語言處理程序，即所謂的大型語言模型（LLMs），這些模型利用大量的文字來創造具有說服力的對話、文件等。
歐洲警察組織歐洲警察署在三月份發表的一份報告中表示，像OpenAI的ChatGPT這樣的模型已經使得「即使只有基本的英語能力，也能以極其真實的方式冒充組織或個人」成為可能。同一個月，英國國家網路安全中心在一篇博客文章中表示，存在犯罪分子「可能利用LLMs幫助他們進行超出目前能力範圍的網路攻擊」的風險。
網路安全研究人員已經展示了各種可能的惡意用途，有些人現在表示他們開始在野外看到懷疑是AI生成的內容。上週，一名前駭客表示，他發現了一個接受惡意材料訓練的LLM，並要求它起草一個具有說服力的嘗試，欺騙某人進行現金轉賬。
該LLM回應了一封三段的郵件，要求目標對象協助處理一項緊急的發票。
LLM表示：“我知道這可能是短時間通知，” “但是這筆款項非常重要，需要在接下來的24小時內完成。”
Khoury表示，雖然使用AI起草惡意代碼還處於早期階段 - "還有很長的路要走，因為撰寫一個好的漏洞利用程式需要花費很多時間" - 但令人擔憂的是，AI模型的進化速度如此之快，使得在它們被廣泛散波之前，很難掌握它們的惡意潛力。
他說：“誰知道下一個轉角會發生什麼。”
由華盛頓的Raphael Satter報導；由Chris Sanders和Josie Kao編輯
新聞原址： Exclusive: AI being used for hacking and misinformation, top Canadian cyber official says | Reuters
在本週的一次訪談中，加拿大網路安全中心主任Sami Khoury表示，他的機構已經看到AI被用於「釣魚郵件，或以更專注的方式撰寫郵件，以及在惡意代碼、假消息和假資訊中使用。」
儘管Khoury並未提供詳細的資訊或證據，但他認為網路犯罪分子已經在使用AI的說法，為對新興技術被流氓行為者使用的憂慮增添了緊迫的音符。
近幾個月來，幾個網路監察組織已經發表了報告，警告AI的假設性風險 - 尤其是快速發展的語言處理程序，即所謂的大型語言模型（LLMs），這些模型利用大量的文字來創造具有說服力的對話、文件等。
歐洲警察組織歐洲警察署在三月份發表的一份報告中表示，像OpenAI的ChatGPT這樣的模型已經使得「即使只有基本的英語能力，也能以極其真實的方式冒充組織或個人」成為可能。同一個月，英國國家網路安全中心在一篇博客文章中表示，存在犯罪分子「可能利用LLMs幫助他們進行超出目前能力範圍的網路攻擊」的風險。
網路安全研究人員已經展示了各種可能的惡意用途，有些人現在表示他們開始在野外看到懷疑是AI生成的內容。上週，一名前駭客表示，他發現了一個接受惡意材料訓練的LLM，並要求它起草一個具有說服力的嘗試，欺騙某人進行現金轉賬。
該LLM回應了一封三段的郵件，要求目標對象協助處理一項緊急的發票。
LLM表示：“我知道這可能是短時間通知，” “但是這筆款項非常重要，需要在接下來的24小時內完成。”
Khoury表示，雖然使用AI起草惡意代碼還處於早期階段 - "還有很長的路要走，因為撰寫一個好的漏洞利用程式需要花費很多時間" - 但令人擔憂的是，AI模型的進化速度如此之快，使得在它們被廣泛散波之前，很難掌握它們的惡意潛力。
他說：“誰知道下一個轉角會發生什麼。”
由華盛頓的Raphael Satter報導；由Chris Sanders和Josie Kao編輯
新聞原址： Exclusive: AI being used for hacking and misinformation, top Canadian cyber official says | Reuters