Blog
Meta的AI貼圖功能引發爭議：使用者輕易生成不當內容，專家質疑安全措施
Meta的AI貼圖功能引發爭議：使用者輕易生成不當內容，專家質疑安全措施
October 6, 2023
重點摘要：
新聞內文：
Meta於9月27日推出了AI貼圖以及名人AI助理等其他功能。
該公司表示，這一新功能允許使用者在Meta應用程式（如Instagram和Messenger）中將「文本提示轉換為數秒內的多個獨特的高品質貼圖」。
但是，這些貼圖已經在網路上引起了嘲笑，因為人們開始試圖找出使用這項技術生成極不適當的圖像的方法。
用戶「@pioldes」於近期分享了這個新AI工具，可以創造的圖像示例，例如一個持槍的兒童和加拿大總理賈斯汀·特魯多的淫蕩圖像。
該帖子自那時以來已經在X，之前稱為「Twitter」的平台上獲得了200多萬次的觀看，很快引發了其他使用者分享他們自己的貼圖的一系列貼文。
一些使用者發現，他們可以輕鬆生成受歡迎角色的貼圖，例如米奇老鼠持槍、艾爾莫帶刀微笑、或者懷孕的刺猬索尼克。
儘管某些詞語似乎被這個功能遮蔽了，但使用者發現可以透過打錯字或創意提示來繞過這些遮蔽。
這些由Llama2提供動力的AI生成的貼圖已經針對選定的英語使用者推出。該公司在一篇部落格文章中寫道：「我們正在慢慢推出新的AI，並建立了安全措施」。
然而，阿富汗Curtin大學的網路研究教授Tama Leaver在另一篇部落格文章中批評了Meta的AI保護措施。
他寫道：「如果Meta保護措施的一部分是封鎖詞語『naked』，但他們的AI仍然生成了裸體圖像，那麼關於這些保護措施到底有多有效，顯然還有疑問」。
然而，具有問題的AI生成內容對Meta來說並不獨特。
去年12月，受歡迎的AI虛擬形象生成應用程式「Lensa」面臨了性別化和種族化使用者形象的指控。使用者表示，儘管規定禁止成人內容，但該應用程式有時還是會在圖像中生成裸體。
Meta、Disney、Nintendo、Sega和特魯多的代表並未在正常工作時間以外回應Insider的請求。
新聞原址： https://www.businessinsider.com/meta-new-ai-generated-stickers-inappropriate-content-2023-10
- Meta推出了AI貼圖功能，允許在其應用程式（如Instagram和Messenger）中將文本提示轉換為多個獨特的高品質貼圖。
- 這項新功能引發了網路上的嘲笑和批評，因為人們發現可以用它生成不適當或具爭議性的圖像。
- 阿富汗Curtin大學的網路研究教授Tama Leaver對Meta的AI保護措施提出了質疑，指出即使有詞語過濾，AI仍然生成了不適當的內容。
新聞內文：
Meta於9月27日推出了AI貼圖以及名人AI助理等其他功能。
該公司表示，這一新功能允許使用者在Meta應用程式（如Instagram和Messenger）中將「文本提示轉換為數秒內的多個獨特的高品質貼圖」。
但是，這些貼圖已經在網路上引起了嘲笑，因為人們開始試圖找出使用這項技術生成極不適當的圖像的方法。
用戶「@pioldes」於近期分享了這個新AI工具，可以創造的圖像示例，例如一個持槍的兒童和加拿大總理賈斯汀·特魯多的淫蕩圖像。
該帖子自那時以來已經在X，之前稱為「Twitter」的平台上獲得了200多萬次的觀看，很快引發了其他使用者分享他們自己的貼圖的一系列貼文。
一些使用者發現，他們可以輕鬆生成受歡迎角色的貼圖，例如米奇老鼠持槍、艾爾莫帶刀微笑、或者懷孕的刺猬索尼克。
儘管某些詞語似乎被這個功能遮蔽了，但使用者發現可以透過打錯字或創意提示來繞過這些遮蔽。
這些由Llama2提供動力的AI生成的貼圖已經針對選定的英語使用者推出。該公司在一篇部落格文章中寫道：「我們正在慢慢推出新的AI，並建立了安全措施」。
然而，阿富汗Curtin大學的網路研究教授Tama Leaver在另一篇部落格文章中批評了Meta的AI保護措施。
他寫道：「如果Meta保護措施的一部分是封鎖詞語『naked』，但他們的AI仍然生成了裸體圖像，那麼關於這些保護措施到底有多有效，顯然還有疑問」。
然而，具有問題的AI生成內容對Meta來說並不獨特。
去年12月，受歡迎的AI虛擬形象生成應用程式「Lensa」面臨了性別化和種族化使用者形象的指控。使用者表示，儘管規定禁止成人內容，但該應用程式有時還是會在圖像中生成裸體。
Meta、Disney、Nintendo、Sega和特魯多的代表並未在正常工作時間以外回應Insider的請求。
新聞原址： https://www.businessinsider.com/meta-new-ai-generated-stickers-inappropriate-content-2023-10