PTT評價

Re: [閒聊] 推特:防止AI學習繪師作品的方法

看板C_Chat標題Re: [閒聊] 推特:防止AI學習繪師作品的方法作者
clothg34569
(提拉)
時間推噓12 推:12 噓:0 →:15

※ 引述《gundamx7812 (亞洲空幹王)》之銘言:
: 就是在作品圖中加入人類肉眼難以辨識的雜訊
: https://i.imgur.com/PBBbNRA.jpg

: https://twitter.com/Akihitweet/status/1577827240330809344?t=FOSz6UZh2oyMsStXJ8LE
: Zg&s=19
: 不過回覆裡也有人說有技術可以克服雜訊問題就是了
: 延伸閱讀:如何欺騙AI
: https://youtu.be/YXy6oX1iNoA

先講結論 這沒屁用==

這根本就像是拿FGO的職階去談碧藍檔案的相剋

題目內容完全不同是在比啥

首先先貼李宏毅教授的影片

https://www.youtube.com/watch?v=xGQKhbjrFRk

https://www.youtube.com/watch?v=z-Q9ia5H2Ig

我真的覺得李弘毅教授的影片真的該列為必修

不然有些真的雲得太誇張

一般雜訊攻擊是加在""""Input"""去干擾一個已經訓練好的Model的Inference

結果這篇加在Training Data上 那是在搞笑嗎

https://youtu.be/WeHM2xpYQpw?t=1044

時間幫忙標好了

一般常見的解OverFitting的方法就是在Training Data上面加上Augmentation

常用Augment方法可以自己上網查一下就不贅述

而Adversarial Attack最簡單的對抗方式

就是在Training Data上面加上雜訊Augment來抵抗這種攻擊

所以說在Training Data上面加上雜訊根本不是攻擊他

而是幫他強化Model穩定性來對抗這種攻擊



另外推文說加個Filter就可以搞定的

實際上這種根本不需要加Filter 甚至有些時候還會在Train的時候自己加入雜訊

或者改變色階呢... 這只是幫他豐富資料而已





我直接講個真的對AI比較實際有傷的啦

我先假設Danbooru這種的Tagging是靠爬蟲爬來的

看那數量感覺不是真的人手動標得

所以你要攻擊他最簡單的方法就是畫個金髮角色然後標褐髮

畫個精靈然後標矮人

畫個中岡標山田

搞亂Tagging對他傷害才真的大

這樣在Trainging時 同一張金髮的圖片可能Tag會是金髮或者褐髮

那他就很難學說哪個才是真正的金髮


結論 : 汙染Tag比汙染圖片實際多了

AI工程師大概有超過一半的時間是在和Data Cleaning奮鬥...

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.74.14 (臺灣)
PTT 網址

medama10/07 20:18李宏毅幾班?大金

ayuhb10/07 20:18污染tag某族群很擅長

andy048110/07 20:18沒錯 發一堆甲圖打上大奶tag 直接廢掉你這個AI

發蘿莉打巨乳 發巨乳打蘿莉就好了 你這個太惡毒了吧 這種不怕直接讓自己被讀者黑單嗎

waitan10/07 20:19李弘毅幾班?

ilove64010/07 20:20李宏毅幾班?

ilove64010/07 20:20原來大家都想到同個梗= =

※ 編輯: clothg34569 (36.231.74.14 臺灣), 10/07/2022 20:21:24

CorkiN10/07 20:21李宏毅的課真的該列為必修 不然一堆人都對現在在講的AI有

CorkiN10/07 20:21過度的幻想==

qxpbyd10/07 20:22https://i.imgur.com/bnllvYC.png 試了一下還行

Koyomiiii10/07 20:22可是都練好了 現在去弄tag也來不及了吧 更何況那邊應該

Koyomiiii10/07 20:22不少人在維護

對 以這議題而言 因為現在Model都已經Train好了 而已經存在的資料庫也很難被汙染 就算汙染了還能用Train好的Model去修正部分資料 所以不管做甚麼攻擊效果都還是有限的...當然這邊是說"AI上的" 直接斷金流或網頁DDOS就不在討論範圍內了

metallolly10/07 20:23貓耳tag成帽子 大肌肌tag成蘿莉

qxpbyd10/07 20:23Danbooru我不知道 不過我知道另一個Tag網站 管理員會管的

qxpbyd10/07 20:23你大量亂搞被發現直接BAN IP

Jameshunter10/07 20:24用強化或監督就能部分規避吧

※ 編輯: clothg34569 (36.231.74.14 臺灣), 10/07/2022 20:31:45

jqp05050210/07 20:42推李弘毅老師的課,可以學到很多

inte629l10/07 20:53李弘毅推個

nalthax10/07 21:37這招人類在資訊政戰裡用很久啦

lucky041710/07 22:08打上小美人魚的tag裡面畫的是黑人鯰魚算不算一種污染ta

lucky041710/07 22:08g

iamnotgm10/07 22:30

longlongint10/08 00:59李宏毅…. ㄐ 沒事

longlongint10/08 00:59覺得簡單版的AI/大數據要做成通識課比較好QQ

longlongint10/08 01:00不然看一堆路人留言我頭超痛

shuncheng10/08 02:20A恭喜 樓上你頭就繼續痛 就算做成通識一樣不會改善現況

greed381910/08 06:09

kimokimocom10/08 14:28李弘毅幾班?