PTT評價

Re: [問題] 各大圖站真的沒辦法防止AI洗圖嗎?

看板C_Chat標題Re: [問題] 各大圖站真的沒辦法防止AI洗圖嗎?作者
Cubelia
(大胸智乃)
時間推噓30 推:31 噓:1 →:55

如果AI軟體生圖時可以額外加上數位浮水印去做辨識
不是圖片上面直接蓋上Generated by xxxxxAI或是簽章這種很明顯的

而是用傅立葉變換(例如DFT、DCT)將圖片轉換成頻譜圖,再將浮水印蓋上去
最後將修改過的頻譜圖還原回原圖,這方式俗稱數位浮水印

這是其中一個github上的repo,裡面的示範很好懂
https://github.com/guofei9987/blind_watermark/blob/master/README_cn.md

修改過的原圖以肉眼看十分正常
列印出來或是用螢幕看都和原圖幾乎沒有差別
但只要有電子檔就可以丟回去跑傅立葉變換,頻譜圖出來一刀斃命
頻譜圖上的浮水印也不是那麼簡單就可以去除,所以幾乎是萬無一失

就算你將原圖做修圖或是破壞性裁切也能還原出浮水印
除非你直接用相機拍下螢幕(genius)

這技術在台灣好像比較少人討論,但中國企業曾經出現用這種原理抓內鬼的方式
實際可以用的軟體已經有人用Python寫出來了,叫做blind-watermark

上面的github repo就是其中一個解決方案

這篇中國的技術解說文比較詳細,包含各種攻擊方法都有列出
答案:阿里巴巴公司根據截圖查到洩漏訊息的具提員工的技術是什麼?
https://www.zhihu.com/question/50735753
(中國網站,不喜勿入)

要是能達成共識,公開的AI製圖軟體都用類似的方式嵌入浮水印
然後P網之類的插圖交流網站也能導入自動偵測,強制將其分類為AI tag
如此就能解決當前一大半的AI圖洗板問題
不過不知道每一張圖都要算FFT會不會讓伺服器過載,還有請高人解說

但這又會出現灰色地帶的營利方式
例如會有人提供以付費解鎖的方式提供不嵌入浮水印的AI製圖軟體
或是付費解鎖無浮水印版圖片(THE "僅供學術使用")

==========================

簡單來說數位浮水印的可行性是最高的(因為這是早就已經有的技術)
算出來的圖片也幾乎無法偽造、竄改,只要原圖還在就能辨識出來

當然這就只是一個方案而已,看有沒有隱匿性更高的浮水印
畢竟現在沒有任何強制性的規範要你做防盜

唯一繞過的方式就上面提到的AI不去嵌入數位浮水印(這就幹話)
下面有鄉民提出可以再將圖片丟進不加浮水印的AI,這也是一個破解方法

但截圖、調整大小、破壞性裁切是沒有辦法破解的

下面鄉民有提到stablediffusion預設是會加上浮水印
避免AI用AI算出來的圖去學習,這個出發點也不錯

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.173.161.139 (臺灣)
PTT 網址

diabolica10/18 18:31繞過

the99225510/18 18:33會不會出現破解數位浮水印的軟體?

senas10/18 18:33除非有立法 否則哪間公司那麼無聊自己加浮水印

SylphWind10/18 18:35縮放大小就破壞掉浮水印了?

goliath10/18 18:35重點也的確是規範使用者啊 目前最需要的

after110/18 18:35可以偵測,那就可以刪除了啦

spfy10/18 18:36除非解的方式非常麻煩 不然一定會有自動化工具的

Jamesyuu10/18 18:37FFT算起來很快的 如果廠商有意願就可以做

nyanpasu10/18 18:37再img2img就好10秒破解

overdoingism10/18 18:37這技術存在很久了,可能有20年了

Cubelia10/18 18:38知乎那篇有示範伸縮攻擊了,這個就是縮放

HappyKH10/18 18:38等真實繪師折損的差不多才會反思然後做出協定啦

smart0eddie10/18 18:39i2i 能防?

ken199071010/18 18:39拿沒浮水印的AI重繪不就好了

Cubelia10/18 18:42現在AI算圖進步得很快,要是最新的版本生出一個騷圖

Cubelia10/18 18:42但新版有浮水印,你用舊版下去跑這圖就不騷了阿

MeIKo850210/18 18:42不懂原理 好奇螢幕截圖能破解嗎

Cubelia10/18 18:43這只是範例而已,拋磚引玉,看有沒有高手能提供隱藏性

Cubelia10/18 18:43更高的手法,FFT能做的範圍太大了

Cubelia10/18 18:43直接print screen無法破解

asd82310/18 18:46問題是AI網站幹嘛理你?

smart0eddie10/18 18:47直接丟進另一個auto encoder 出來以後還會在嗎

smart0eddie10/18 18:47或者乾脆就用某些人最愛說的拼貼重新拼一次

Cubelia10/18 18:47我也沒說AI網站一定要理我啊,so what

Cubelia10/18 18:49就是一個方案而已,如果程式碼開源那也能直接關掉

asd82310/18 18:50如果要純討論技術JPG壓縮有機會把雜訊濾掉,所以經過世代

asd82310/18 18:50推移,AI就會變成真的(?

pionlang556610/18 18:52這個只能嚇沒看過的人 你都知道訊息藏在頻率空間了

pionlang556610/18 18:52 傅立葉變換完把雜訊加在頻率空間就蓋掉了

nyanpasu10/18 18:53只能釣魚而已 對銷售跟防盜一點用也沒 有用yt fb早用了

kaj198310/18 18:53這招在企業用很危險吧,浮水印抹不掉的話,那印上去的是

raincole10/18 18:53如果別人知道就能消掉啊 你能加頻域浮水印

asd82310/18 18:53另外經過user之手的任何資訊都不能相信,這在搞下去只能用

asd82310/18 18:53數位簽章,但也只能證明出自誰,無法證明是不是AI

kaj198310/18 18:53公司機密也可以了吧

raincole10/18 18:54當然就可以加頻域雜訊消去浮水印 而且你最後一句非常奇

raincole10/18 18:54妙,什麼叫做 AI 製圖軟體「最後」不嵌入數位浮水印

raincole10/18 18:54目前沒聽過任何一家 AI 有決定要做頻域浮水印吧

raincole10/18 18:55你講得好像是目前已經有浮水印只怕 AI 公司最後拿掉一樣

Cubelia10/18 18:55我從來就沒有說一定必須用這個方法,就提出一個方案而已

Cubelia10/18 18:56但確實我的表達方式不好,我等等修一下內文

meatybobby10/18 19:00現在的SD其實預設是都有放數位浮水印的喔

yellowhow10/18 19:01沒法規就很難叫廠商自我規律...更別說源碼也散了

raincole10/18 19:04真的有耶 抱歉 是我自己沒查清楚就想當然亂講

raincole10/18 19:04現在的 SD 預設就是有一個 "StableDiffusionV1" 的頻域

raincole10/18 19:05浮水印 當然你可以關掉就是了

Bugquan10/18 19:06廠商幹嘛理你,可能的是能自行選擇要不要上浮水印而已

meatybobby10/18 19:07其實就算強迫放 你一個png轉jpg就沒了

用頻域放浮水印的方式知乎有做測試,破壞性壓縮是沒辦法破解的 不過stablediffusion的出發點確實不錯,可以避免AI用AI算出來的圖來學習

yellowhow10/18 19:09反正目前的發展只會有繪師受害,這是科技發展必要犧牲~

b220276110/18 19:12明明就可以轉型成為會使用ai的繪師

XFarter10/18 19:16PNG to jpg 的 Data layout 沒什麼變化的狀況下,直覺上

XFarter10/18 19:16頻域的資料應該也不太會有變化啦

XFarter10/18 19:16但 Training Dataset 除非每一個 Dataset 都有一模一樣的

XFarter10/18 19:16浮水印,不然被 diffusion 完一樣沒辦法在成品上找到端倪

XFarter10/18 19:16ㄅ?

piazaic10/18 19:23其實就是優越感吧 完全不會畫畫的人突然可以靠AI創造作品

piazaic10/18 19:23就會瘋狂地到處發AI圖 說這樣好看吧 之類的...

naya741596310/18 19:50聽起來是可行的...但這對廠商沒有利益的話...

tsYe10/18 19:53笑死 分享方法而已一堆人在說沒有廠商會放 本來就應該要有

tsYe10/18 19:53辦法控管了 多一點相關的討論不好嗎

Cubelia10/18 19:54上面提到SD的出發點就很不錯,可以避免AI拿AI圖來學習

Cubelia10/18 19:56就以AI學習系統來說,可以分辨AI圖是有利無弊

Cubelia10/18 19:59延伸的話插圖網站也能去分辨是用哪個model去跑的

WOGEchidna10/18 20:20於是接下來有人做了個專門破壞數位浮水印的AI網站出

WOGEchidna10/18 20:20來(喂

※ 編輯: Cubelia (1.173.161.139 臺灣), 10/18/2022 20:46:50

TaiwanXDman10/18 21:47但...為什麼AI繪圖公司要聽你的放浮水印?

Cubelia10/18 22:11懶得回,原因上面都有討論了

smallx310/18 22:28彷彿看到人力車夫的最後掙扎

HAmakers10/18 22:44這剛好是我教授叫我學弟做的論文捏 不過他主要是說DEEP

HAmakers10/18 22:45FAKE

UzInSec10/19 00:01現在AI繪圖源頭都不只一個了 到最後幾家有放浮水印 幾家

UzInSec10/19 00:02沒放浮水印 那還是回有漏網之魚阿

Vulpix10/19 00:59數位浮水印,如果知道是用哪種技術的話應該都是去得掉的

Vulpix10/19 00:59

Vulpix10/19 01:10雜訊效果不會太好。real space浮水印用雜訊去除浮水印的

Vulpix10/19 01:10效果也很有限。但是如果用高頻浮水印,那可以用低通濾波

Vulpix10/19 01:10或頻域模糊化吧?以前也很多人不懂浮水印,不懂原來浮水

Vulpix10/19 01:10印可以有辦法去掉,隨著大眾對浮水印的理解程度上升,一

Vulpix10/19 01:10定會有人找到有效率的去除方法。

Cubelia10/19 01:28就兩種說法1.想辦法修改原圖,各種攻擊讓浮水印無法還原

Cubelia10/19 01:292.逆向工程從頻譜去除浮水印(例如已知浮水印的添加模式)

Cubelia10/19 01:301.就不用說,這樣圖片也不用看了

Cubelia10/19 01:312.開源程式碼那破解法應該是有,這個就超出知識範圍了

Vulpix10/19 04:28如果不做普通傅立葉,而是Hermite-Fourier或甚至非正交、

Vulpix10/19 04:29非線性的轉換,然後保密起來,應該可以防一下?

Vulpix10/19 04:31說到去除real space浮水印,比起AI,我覺得一個macro或一

Vulpix10/19 04:31個程式更或許更好。畢竟PS的處理方式看起來非常routine。