Blog
Google DeepMind推出隱形浮水印：AI生成圖像的真偽新標準？
Google DeepMind推出隱形浮水印：AI生成圖像的真偽新標準？
August 31, 2023
重點摘要：
新聞內文：
由Google的AI部門DeepMind開發的SynthID，通過將圖像中的個別像素進行微小更改，使浮水印以人無法看見，但防偽偵測器可以檢測。不過DeepMind也表示，這並不是「百分之百保證對圖像完全正確的識別真偽」。
隨著技術的發展，越來越難區分真實圖像和人工生成圖像之間的差異，正如BBC Bitesize的AI或真實性測試所示。
AI圖像生成器已經成為主流，流行工具Midjourney已擁有超過1450萬用戶。
它們可以讓人們透過輸入簡單的文本指令在幾秒鐘內創造圖像，引發了全球範圍內關於版權和所有權的問題。
Google擁有自己的圖像生成器Imagin，其用於創造和檢查浮水印的系統（僅適用於用Imagin工具創造的圖像）。
隱形
浮水印通常是添加到圖像中的標誌或文本以用來表示所有權。同時，也有部分是為了使圖片更難被複製和被未經許可的使用。這在BBC新聞網站上的圖像中常使用，而通常版權浮水印會在左下角包含。這些種類的浮水印不適用於識別由AI生成的圖像，因為它們可以輕鬆被編輯或剪輯。
技術公司使用一種稱為「哈希」的技術來創造虐待影片的數位「指紋」，這樣他們如果它們開始在網路上被傳播，就可以被立即發現並刪除。但是，如果影片被剪輯或編輯，這些「指紋」也可能受損。
而Google的系統創造了一種隱形浮水印，將允許人們使用其軟體立即找出圖片是真實還是由AI生成的。
DeepMind的研究主管Pushmeet Kohli告訴BBC，該系統在圖像上進行了如此微小的修改，「以至於對您和我來說，對人類來說，它不會有任何變化」。
他說，與「哈希」不同的是，即使之後對圖像進行剪輯或編輯，該公司的軟體仍然可以識別出浮水印的存在。
他說：「您可以更改顏色、對比度，甚至可以調整大小…（DeepMind），但仍然能夠識別出它是由AI生成的」。但他也警告說，這是系統的「實驗性操作」，公司需要人們使用它來了解它的穩定性。
標準化
今年7月時，Google是美國七家領先的人工智慧公司之一，他們簽署了一項自願協議，以確保安全發展和使用人工智慧，其中包括「通過實施浮水印來讓人們能夠識別AI生成的圖像」。
Kohli先生說，這反映了這些承諾，但伙伴關係合作組織的Claire Leibowicz表示，企業之間需要更多的協調。她說：「我認為標準化對該領域有所幫助」。
「我們正在追求不同的方法。我們需要監控它們帶來的影響，我們如何獲得更好的報告？報告需要用哪些方法？以及以什麼目的？」她也說：「許多機構正在探索不同的方法，這增加了複雜程度，因為我們的訊息生態系統依賴於不同的方法來解釋和聲明內容是否由AI生成」。
像Google一樣，微軟和亞馬遜等大型技術公司也已經承諾對一些AI生成的內容進行浮水印處理。
除了圖像之外，Meta還向其未發布的影片生成器Make-A-Video發表了一篇研究論文，該論文表示將向生成的影片添加浮水印，以滿足對AI生成作品透明度的類似要求。
不過今年年初，中國完全禁止AI生成的圖像使用浮水印，像阿里巴巴這樣的公司將它們應用於使用其雲端部門的文本到圖像工具Tongyi Wanxiang創造的作品中。
新聞原址： https://www.bbc.com/news/technology-66618852
- Google的AI部門DeepMind開發了名為SynthID的技術，能通過對圖像像素的微小更改來添加隱形浮水印，以協助防偽偵測。
- 隨著AI圖像生成器如Midjourney的普及，版權和所有權問題日益嚴重。Google也有自家的圖像生成器Imagin，專為其創造的圖像添加和檢查浮水印。
- 雖然這種隱形浮水印技術提供了一種新的真偽辨識方法，但DeepMind警告這還是一個「實驗性操作」，並非百分之百準確。此外，中國已全面禁止AI生成的圖像使用浮水印。
新聞內文：
由Google的AI部門DeepMind開發的SynthID，通過將圖像中的個別像素進行微小更改，使浮水印以人無法看見，但防偽偵測器可以檢測。不過DeepMind也表示，這並不是「百分之百保證對圖像完全正確的識別真偽」。
隨著技術的發展，越來越難區分真實圖像和人工生成圖像之間的差異，正如BBC Bitesize的AI或真實性測試所示。
AI圖像生成器已經成為主流，流行工具Midjourney已擁有超過1450萬用戶。
它們可以讓人們透過輸入簡單的文本指令在幾秒鐘內創造圖像，引發了全球範圍內關於版權和所有權的問題。
Google擁有自己的圖像生成器Imagin，其用於創造和檢查浮水印的系統（僅適用於用Imagin工具創造的圖像）。
隱形
浮水印通常是添加到圖像中的標誌或文本以用來表示所有權。同時，也有部分是為了使圖片更難被複製和被未經許可的使用。這在BBC新聞網站上的圖像中常使用，而通常版權浮水印會在左下角包含。這些種類的浮水印不適用於識別由AI生成的圖像，因為它們可以輕鬆被編輯或剪輯。
技術公司使用一種稱為「哈希」的技術來創造虐待影片的數位「指紋」，這樣他們如果它們開始在網路上被傳播，就可以被立即發現並刪除。但是，如果影片被剪輯或編輯，這些「指紋」也可能受損。
而Google的系統創造了一種隱形浮水印，將允許人們使用其軟體立即找出圖片是真實還是由AI生成的。
DeepMind的研究主管Pushmeet Kohli告訴BBC，該系統在圖像上進行了如此微小的修改，「以至於對您和我來說，對人類來說，它不會有任何變化」。
他說，與「哈希」不同的是，即使之後對圖像進行剪輯或編輯，該公司的軟體仍然可以識別出浮水印的存在。
他說：「您可以更改顏色、對比度，甚至可以調整大小…（DeepMind），但仍然能夠識別出它是由AI生成的」。但他也警告說，這是系統的「實驗性操作」，公司需要人們使用它來了解它的穩定性。
標準化
今年7月時，Google是美國七家領先的人工智慧公司之一，他們簽署了一項自願協議，以確保安全發展和使用人工智慧，其中包括「通過實施浮水印來讓人們能夠識別AI生成的圖像」。
Kohli先生說，這反映了這些承諾，但伙伴關係合作組織的Claire Leibowicz表示，企業之間需要更多的協調。她說：「我認為標準化對該領域有所幫助」。
「我們正在追求不同的方法。我們需要監控它們帶來的影響，我們如何獲得更好的報告？報告需要用哪些方法？以及以什麼目的？」她也說：「許多機構正在探索不同的方法，這增加了複雜程度，因為我們的訊息生態系統依賴於不同的方法來解釋和聲明內容是否由AI生成」。
像Google一樣，微軟和亞馬遜等大型技術公司也已經承諾對一些AI生成的內容進行浮水印處理。
除了圖像之外，Meta還向其未發布的影片生成器Make-A-Video發表了一篇研究論文，該論文表示將向生成的影片添加浮水印，以滿足對AI生成作品透明度的類似要求。
不過今年年初，中國完全禁止AI生成的圖像使用浮水印，像阿里巴巴這樣的公司將它們應用於使用其雲端部門的文本到圖像工具Tongyi Wanxiang創造的作品中。
新聞原址： https://www.bbc.com/news/technology-66618852