Blog
詐騙集團利用AI，偽造了我女兒被綁架的事件
詐騙集團利用AI，偽造了我女兒被綁架的事件
August 7, 2023
“媽媽？”我女兒的聲音在手機上重複著。“我搞砸了。”我的心沉了下去，我開始發抖。我聽到一個男人指示她躺下，把頭仰後。我的15歲女兒Briana正在與我丈夫參加滑雪比賽，距離兩個小時的路程，我立刻想到她可能受了重傷。我正在車上接她13歲的妹妹Aubrey下舞蹈課，她在亞利桑那州。透過手機，我聽到Briana在哭泣和尖叫，“救我，救我。”我的血涼成冰，腿變得軟弱，因為那個男人在電話裡解釋，他控制了我的女兒，如果我告訴任何人，他會灌飽她的胃藥物，將她丟在墨西哥，我再也見不到她。
我衝進大樓大廳，Aubrey正在那裡上舞蹈課。我按下靜音，對其他父母哭喊求救。此時，那男人在電話中大聲威脅。有幾位母親開始撥打911。Aubrey下課後，聽到喧囂也陷入恐慌。我懇求她試著聯繫其他家庭成員，但她被恐懼凍僵了。我永遠不會忘記她的臉，她試著理解有人帶走了她姊姊。
如果我不帶現金交錢，我和女兒就會被載到墨西哥丟在那裡死去
“你需要支付一百萬美元，如果你想再見到她，”那人威脅說。我沒有那麼多錢，所以答應給他五萬美元。他告訴我他會開一輛白色貨車來接我，並在我頭上放個袋子，這樣我就看不到我們要去哪裡。他告訴我，如果我不帶現金，我和女兒就會被載到墨西哥丟在那裡死去。我沒有懷疑這是否真的，我內心的每個本能都在尖叫著，要我做任何事來挽救我的寶貝的生命。
其中一位撥打911的母親突然出現，她的聲音在我腦海裡似乎變得緩慢和扭曲，當我聽到“這是AI，這是一個AI騙局”這幾個字時。警方最近看到了一些類似的案例。
但我無法接受。我一直在想，我的寶貝在外面，現在有人需要救她。那是我女兒的聲音，我永遠不會弄錯。另一位母親說她已經聯繫上了我的丈夫，他找到了Briana。她在滑雪，很安全，不知道大家在說什麼。
電話裡的那個男人還在爭辯。我靜音他的通話，要求在另一條線上與我丈夫和女兒通話。我需要親自聽到他們的聲音。Briana告訴我她不知道我在說什麼，她和爸爸在滑雪度假村很安全。我的大腦感覺模糊。聽到她的聲音我感到欣慰，但仍然震驚。
我取消了靜音，那個男人還在告訴我，如果我們不服從，他會對我們做什麼。我開始質問他，叫他騙子，但他繼續說我的女兒在他手上。而我掛斷了他的電話。
之後，我震驚地得知警方只認為這是惡作劇電話，不會進行調查，因為沒有人受傷，也沒有錢被拿走。他們說這可能是AI騙局，最近有很多這樣的報告；他們認為Briana的聲音可能是AI生成的，那個男人的聲音是真的。聽到這個，我崩潰了，受到了創傷；我無法相信她的聲音聽起來是多麼真實。我很確定那是她的哭聲。
第二天，Aubrey和我開車去滑雪度假村與其他家庭成員會合。我緊緊擁抱Briana，非常感激我們都沒事，又團聚了。這對Aubrey的影響很大。一個和她同齡的男孩試圖給她他的號碼，她跑到我身邊，擔心他想綁架她。這真是令人心碎。
有人說，你只需要三秒的音頻就可以複製一個人的聲音。雖然Briana的所有社交媒體帳戶都是私人的，但有一些她受訪的運動和學校的影片，卻沒有她的尖叫聲。我擔心像AI這樣的新技術如何用來傷害孩子。親眼看到這些事情有多可怕之後，我想盡一切努力保護我的家庭和他人，不再讓這樣的事情發生。
新聞原址： https://www.theguardian.com/lifeandstyle/2023/aug/04/experience-scammers-used-ai-to-fake-my-daughters-kidnap
我衝進大樓大廳，Aubrey正在那裡上舞蹈課。我按下靜音，對其他父母哭喊求救。此時，那男人在電話中大聲威脅。有幾位母親開始撥打911。Aubrey下課後，聽到喧囂也陷入恐慌。我懇求她試著聯繫其他家庭成員，但她被恐懼凍僵了。我永遠不會忘記她的臉，她試著理解有人帶走了她姊姊。
如果我不帶現金交錢，我和女兒就會被載到墨西哥丟在那裡死去
“你需要支付一百萬美元，如果你想再見到她，”那人威脅說。我沒有那麼多錢，所以答應給他五萬美元。他告訴我他會開一輛白色貨車來接我，並在我頭上放個袋子，這樣我就看不到我們要去哪裡。他告訴我，如果我不帶現金，我和女兒就會被載到墨西哥丟在那裡死去。我沒有懷疑這是否真的，我內心的每個本能都在尖叫著，要我做任何事來挽救我的寶貝的生命。
其中一位撥打911的母親突然出現，她的聲音在我腦海裡似乎變得緩慢和扭曲，當我聽到“這是AI，這是一個AI騙局”這幾個字時。警方最近看到了一些類似的案例。
但我無法接受。我一直在想，我的寶貝在外面，現在有人需要救她。那是我女兒的聲音，我永遠不會弄錯。另一位母親說她已經聯繫上了我的丈夫，他找到了Briana。她在滑雪，很安全，不知道大家在說什麼。
電話裡的那個男人還在爭辯。我靜音他的通話，要求在另一條線上與我丈夫和女兒通話。我需要親自聽到他們的聲音。Briana告訴我她不知道我在說什麼，她和爸爸在滑雪度假村很安全。我的大腦感覺模糊。聽到她的聲音我感到欣慰，但仍然震驚。
我取消了靜音，那個男人還在告訴我，如果我們不服從，他會對我們做什麼。我開始質問他，叫他騙子，但他繼續說我的女兒在他手上。而我掛斷了他的電話。
之後，我震驚地得知警方只認為這是惡作劇電話，不會進行調查，因為沒有人受傷，也沒有錢被拿走。他們說這可能是AI騙局，最近有很多這樣的報告；他們認為Briana的聲音可能是AI生成的，那個男人的聲音是真的。聽到這個，我崩潰了，受到了創傷；我無法相信她的聲音聽起來是多麼真實。我很確定那是她的哭聲。
第二天，Aubrey和我開車去滑雪度假村與其他家庭成員會合。我緊緊擁抱Briana，非常感激我們都沒事，又團聚了。這對Aubrey的影響很大。一個和她同齡的男孩試圖給她他的號碼，她跑到我身邊，擔心他想綁架她。這真是令人心碎。
有人說，你只需要三秒的音頻就可以複製一個人的聲音。雖然Briana的所有社交媒體帳戶都是私人的，但有一些她受訪的運動和學校的影片，卻沒有她的尖叫聲。我擔心像AI這樣的新技術如何用來傷害孩子。親眼看到這些事情有多可怕之後，我想盡一切努力保護我的家庭和他人，不再讓這樣的事情發生。
新聞原址： https://www.theguardian.com/lifeandstyle/2023/aug/04/experience-scammers-used-ai-to-fake-my-daughters-kidnap