Blog
一位CEO表示，一款產生NSFW內容的AI圖像生成器，每天可以產出50萬張圖片，而AI色情卻是一項風險重重的業務。
一位CEO表示，一款產生NSFW內容的AI圖像生成器，每天可以產出50萬張圖片，而AI色情卻是一項風險重重的業務。
July 31, 2023
Unstable Diffusion，這個於12月被Kickstarter踢出的NSFW AI圖像生成器，正在吸引相當多的追隨者：該程式每天生成超過50萬張圖像，其首席執行官兼聯合創始人Arman Chaudhry通過電子郵件告訴Insider。
Unstable Diffusion與其他從文字輸入創建圖像的AI圖像生成器類似，但它的內容限制最小，並且可以創建NSFW圖像，包括色情的。
它是基於Stability AI的圖像生成器Stable Diffusion。Stable Diffusion的底層代碼是公開的，所以理論上任何人都可以查看並修改它，以創建原始模型的新版本。
這就是Chaudhry在2022年8月創建Unstable Diffusion時所做的，也是Stable Diffusion向公眾發布的同一個月。
Unstable Diffusion最初是一個分享AI生成的色情的subreddit。該團隊隨後轉到Discord，其中的成員開始構建工具，最終創建了其圖像生成器的早期版本。
Chaudhry在2月份通過電子郵件告訴Insider說：“我們創立discord群組是為了那些想要不受限制地創建AI藝術的藝術家的避風港，包括與成人內容有關的。”
社群在12月啟動了Kickstarter活動，以募集資金來構建其圖像生成器，但12天後被該平台移除。
然而，Unstable Diffusion仍能募集到必要的資金- 30,000美元，Chaudhry在2月份告訴Insider- 推出獨立的Web應用程式。Unstable Diffusion提供基本的免費服務，以及收費介於每月14.99美元和59.99美元之間的三種付費產品。這些高級服務允許用戶同時生成更多圖像，更快地生成圖像，並以商業方式使用圖像。
當然，當涉及AI色情時，其中容易存在犯規的機會，因為用戶可以創建深度偽造的色情或描述未成年人參與性行為的內容。
在2月份，一位受歡迎的Twitch串流媒體Atrioc被抓到觀看描繪女性串流媒體的深度偽造色情。當時，專家告訴Insider，被非自願的深度偽造色情所複製可能是創傷性的，並被視為虐待。
Chaudhry在2月份告訴Insider說，Unstable的“積極過濾和調解系統”阻止了深度偽造和其他不受歡迎的內容。
但它並不萬無一失。TechCrunch能夠使用生成器創建產生川普和克里斯·漢斯沃的相似之物的圖像，例如。
被問及TechCrunch的圖像時，Chaudhry表示，這些相似是在該服務遇到“一個與我們的深度偽造內容生成過濾器有關的錯誤，暫時使其對某些用戶停用”期間創建的。
不管是錯誤與否，尤其是對於幾乎沒有防護的產品來說，完美的內容過濾是困難的。
“由於吉爾布的不可靠法則，任何依賴於人類可靠性的系統都是不可靠的，”人工智慧安全專家和人工智慧安全中心主任Dan Hendrycks告訴Insider。
他補充說，任何有能力產生煽動性素材的系統的內容過濾都是不可能的。
即使是像Google和OpenAI這樣的科技公司廣泛調解的AI聊天機器人也有可能繞過其防護。
該平台也可能遇到法律問題：
2019年，加利福尼亞州州長Gavin Newsom簽署了兩項與深度偽造有關的法案，其中一項允許居民起訴任何未經同意將其插入色情材料的深度偽造技術的人。
在5月，國會提出了一項法案，該法案將使分享或傳播非自願的、AI生成的色情成為非法。