Blog
Amazon推出創新AI圖像生成器Titan，加強版權保護與防篡改措施
Amazon推出創新AI圖像生成器Titan，加強版權保護與防篡改措施
November 30, 2023
重點摘要：
新聞內文：
Amazon加入了許多科技龍頭和新創公司的行列，推出了一個圖像生成器。
在AWS re:Invent 2023大會的主題演講中，Amazon首次推出了「Titan Image Generator」，現已在Amazon的AI開發平台Bedrock上提供給AWS客戶預覽使用。作為AmazonTitan生成式AI模型系列的一部分，Titan Image Generator可以根據文字描述創作新圖像或自定義現有圖像。
AWS數據和機器學習服務副總裁Swami Sivasubramanian在演講中表示：「您可以使用這個模型輕鬆地將現有圖像背景更換為雨林的背景」「您可以使用這個模型無縫更換背景以生成生活方式圖像，同時保留圖像的主要主題，並創造出更多選擇」。
Amazon表示，Titan Image Generator是在「多樣的數據庫」上進行訓練的，涵蓋了「廣泛的領域」，並可以選擇在自定義數據集上進行微調，並包含內置的減輕毒性和偏見的措施。（當然，除非經過測試，否則對於這些減輕措施的效果，評價仍然是個問題）。但該公司拒絕透露這些數據庫的確切來源，以及是否從訓練Titan Image Generator的所有圖像的創作者那獲得了許可或賠償。
一些開發圖像生成器的公司，如「Stability AI」和幾個月前的OpenAI，允許創作者選擇退出訓練數據庫。其他公司包括Adobe和Getty Images，正在建立對創作者的補償計劃，儘管這些計劃並不總是報酬豐厚或透明。
然而，Sivasubramanian在台上聲稱，Amazon將保護因使用Titan Image Generator生成的圖像而被指控侵犯版權的客戶，這符合其AI的豁免政策。對於擔心生成模型會複制訓練示例的AWS客戶來說，這無疑是一種安慰。
在Acrolinx對《財富500強》公司的最近一項調查中，近三分之一的公司表示，知識產權是他們對使用生成式人工智慧的最大擔憂。另一項民意調查發現，有九成的開發者在決定是否使用生成式人工智慧時「嚴重考慮」知識產權保護。
他說：「我們正在謹慎地選擇如何訓練我們的模型和我們用來訓練的數據」。「透過這些投資，我們的客戶將有彈性選擇最適合他們需求的模型，即使他們的需求隨著時間的推移而變化」。
Sivasubramanian表示，使用Titan Image Generator生成的圖像將默認帶有「防篡改」的隱形浮水印，這是為了減輕AI生成的偽造訊息和濫用圖像的傳播。（來自加沙戰爭的Deepfake和AI生成的兒童虐待圖像是最新證明了這一威脅有多嚴重的例子。）不清楚Amazon使用了哪種浮水印技術，及除了Amazon的API之外哪些工具能夠檢測到它；而我們已經聯繫了Amazon以獲得澄清。
Sivasubramanian指出，浮水印是Amazon在七月與白宮簽署的AI自願承諾的一部分。其他簽署者包括Google和微軟，他們採用了由「內容來源和真實性聯盟」開發的內容憑證系統，或者開發了他們自己的解決方案。
新聞原址： https://techcrunch.com/2023/11/29/amazon-finally-releases-its-own-ai-powered-image-generator/
- Amazon推出「Titan Image Generator」，一款基於AI的圖像生成器，能根據文字描述創作或自定義圖像，現已在其AI開發平台Bedrock上提供給AWS客戶預覽。
- Titan Image Generator訓練於多樣化數據庫，包含減輕毒性和偏見的措施，但Amazon未透露數據庫來源及是否獲得圖像創作者許可或賠償。
- Amazon將為使用Titan Image Generator產生的圖像提供版權侵犯保護，並在生成的圖像中加入防篡改的隱形浮水印，以減輕AI生成偽造訊息和濫用圖像的風險。
新聞內文：
Amazon加入了許多科技龍頭和新創公司的行列，推出了一個圖像生成器。
在AWS re:Invent 2023大會的主題演講中，Amazon首次推出了「Titan Image Generator」，現已在Amazon的AI開發平台Bedrock上提供給AWS客戶預覽使用。作為AmazonTitan生成式AI模型系列的一部分，Titan Image Generator可以根據文字描述創作新圖像或自定義現有圖像。
AWS數據和機器學習服務副總裁Swami Sivasubramanian在演講中表示：「您可以使用這個模型輕鬆地將現有圖像背景更換為雨林的背景」「您可以使用這個模型無縫更換背景以生成生活方式圖像，同時保留圖像的主要主題，並創造出更多選擇」。
Amazon表示，Titan Image Generator是在「多樣的數據庫」上進行訓練的，涵蓋了「廣泛的領域」，並可以選擇在自定義數據集上進行微調，並包含內置的減輕毒性和偏見的措施。（當然，除非經過測試，否則對於這些減輕措施的效果，評價仍然是個問題）。但該公司拒絕透露這些數據庫的確切來源，以及是否從訓練Titan Image Generator的所有圖像的創作者那獲得了許可或賠償。
一些開發圖像生成器的公司，如「Stability AI」和幾個月前的OpenAI，允許創作者選擇退出訓練數據庫。其他公司包括Adobe和Getty Images，正在建立對創作者的補償計劃，儘管這些計劃並不總是報酬豐厚或透明。
然而，Sivasubramanian在台上聲稱，Amazon將保護因使用Titan Image Generator生成的圖像而被指控侵犯版權的客戶，這符合其AI的豁免政策。對於擔心生成模型會複制訓練示例的AWS客戶來說，這無疑是一種安慰。
在Acrolinx對《財富500強》公司的最近一項調查中，近三分之一的公司表示，知識產權是他們對使用生成式人工智慧的最大擔憂。另一項民意調查發現，有九成的開發者在決定是否使用生成式人工智慧時「嚴重考慮」知識產權保護。
他說：「我們正在謹慎地選擇如何訓練我們的模型和我們用來訓練的數據」。「透過這些投資，我們的客戶將有彈性選擇最適合他們需求的模型，即使他們的需求隨著時間的推移而變化」。
Sivasubramanian表示，使用Titan Image Generator生成的圖像將默認帶有「防篡改」的隱形浮水印，這是為了減輕AI生成的偽造訊息和濫用圖像的傳播。（來自加沙戰爭的Deepfake和AI生成的兒童虐待圖像是最新證明了這一威脅有多嚴重的例子。）不清楚Amazon使用了哪種浮水印技術，及除了Amazon的API之外哪些工具能夠檢測到它；而我們已經聯繫了Amazon以獲得澄清。
Sivasubramanian指出，浮水印是Amazon在七月與白宮簽署的AI自願承諾的一部分。其他簽署者包括Google和微軟，他們採用了由「內容來源和真實性聯盟」開發的內容憑證系統，或者開發了他們自己的解決方案。
新聞原址： https://techcrunch.com/2023/11/29/amazon-finally-releases-its-own-ai-powered-image-generator/