Blog
AI技術濫用警報：英國網路安全中心揭露學校內兒童淫穢圖像生成問題
AI技術濫用警報：英國網路安全中心揭露學校內兒童淫穢圖像生成問題
November 28, 2023
重點摘要：
新聞內文：
專家對線上兒童安全表示警告：兒童在學校使用AI圖像生成器創造其他兒童的淫穢內容。
英國網路安全中心呼籲採取「緊急行動」，以幫助兒童了解與此類AI圖像相關的風險，它表示這些圖像在法律上被視為「兒童性虐待素材」。
該組織表示，儘管兒童可能是出於好奇而生成這些圖像，但情況可能很快失控，並在網路上傳播，用於虐待或勒索兒童。
英國網路安全中心的主任艾瑪·哈迪（Emma Hardy）表示，這些AI圖像非常逼真，可與專業照片媲美。
她說：「對這項技術的濫用潛力令人恐懼。這不是某種理論上的風險。這是我們現在正在看到的事情」。
她補充道：「我們必須採取措施防止濫用這項技術。眼下，未經檢查、無監管的AI正在讓兒童變得不安全」。
英國網路安全中心表示，他們已經收到學校提交的少量報告，呼籲學校確保他們的監控系統能夠有效封鎖非法素材。
英國網路安全中心的主任大衛·哈迪（David Hardy）表示：「年輕人並不總是意識到他們所做的事情的嚴重性，然而，當新技術（如AI生成器）變得更容易獲得時，應該預見到這類有害行為的出現」。
他補充說：「儘管目前案件數量很少，但我們現在處於初級階段，需要看到在問題變得更糟之前，學校立即採取措施。」
AI虛假圖像引起關切
AI圖像生成器的崛起引起了許多爭議。
今年9月，由AI創造的虛構裸體圖像在西班牙一個小鎮引起了憤怒。
AI還被用來複製聲音，引起了像Bad Bunny這樣的藝人的反彈，他對一首TikTok歌曲表示反感，該歌曲使用了他的聲音，並由該技術生成。
在今年的SAG-AFTRA罷工中，AI生成的演員「數位替身」也是一個重要的討論話題，好萊塢制片公司探討了使用這些數位替身的可能性。
新聞原址： https://www.businessinsider.com/ai-image-generators-used-by-children-to-create-indecent-images-safety-group-2023-11
- 英國網路安全中心警告，兒童在學校使用AI圖像生成器創造其他兒童的淫穢內容，這些圖像在法律上被視為「兒童性虐待素材」。
- 該中心強調，這些AI生成的圖像非常逼真，可能被用於網路虐待或勒索兒童，並呼籲學校採取緊急行動以防止技術濫用。
- 隨著AI圖像生成器的普及，引發了對虛假圖像和聲音複製等濫用潛力的廣泛關注，包括在娛樂行業中的應用。
新聞內文：
專家對線上兒童安全表示警告：兒童在學校使用AI圖像生成器創造其他兒童的淫穢內容。
英國網路安全中心呼籲採取「緊急行動」，以幫助兒童了解與此類AI圖像相關的風險，它表示這些圖像在法律上被視為「兒童性虐待素材」。
該組織表示，儘管兒童可能是出於好奇而生成這些圖像，但情況可能很快失控，並在網路上傳播，用於虐待或勒索兒童。
英國網路安全中心的主任艾瑪·哈迪（Emma Hardy）表示，這些AI圖像非常逼真，可與專業照片媲美。
她說：「對這項技術的濫用潛力令人恐懼。這不是某種理論上的風險。這是我們現在正在看到的事情」。
她補充道：「我們必須採取措施防止濫用這項技術。眼下，未經檢查、無監管的AI正在讓兒童變得不安全」。
英國網路安全中心表示，他們已經收到學校提交的少量報告，呼籲學校確保他們的監控系統能夠有效封鎖非法素材。
英國網路安全中心的主任大衛·哈迪（David Hardy）表示：「年輕人並不總是意識到他們所做的事情的嚴重性，然而，當新技術（如AI生成器）變得更容易獲得時，應該預見到這類有害行為的出現」。
他補充說：「儘管目前案件數量很少，但我們現在處於初級階段，需要看到在問題變得更糟之前，學校立即採取措施。」
AI虛假圖像引起關切
AI圖像生成器的崛起引起了許多爭議。
今年9月，由AI創造的虛構裸體圖像在西班牙一個小鎮引起了憤怒。
AI還被用來複製聲音，引起了像Bad Bunny這樣的藝人的反彈，他對一首TikTok歌曲表示反感，該歌曲使用了他的聲音，並由該技術生成。
在今年的SAG-AFTRA罷工中，AI生成的演員「數位替身」也是一個重要的討論話題，好萊塢制片公司探討了使用這些數位替身的可能性。
新聞原址： https://www.businessinsider.com/ai-image-generators-used-by-children-to-create-indecent-images-safety-group-2023-11