[閒聊] AI模型破壞器Nightshade 正式推出
https://i.imgur.com/hPysBFF.png
https://t.co/knwLJSRrRh
用Nightshade處理過的圖,只要被別人拿去餵AI,
圖就會把AI裏面的模型破壞掉
圖上會有痕跡但聽說不太能看出來
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 65.181.90.41 (香港)
※ PTT 網址
※ 編輯: windowhihi (65.181.90.41 香港), 01/22/2024 09:36:33
推
什麼時候要出AI模型破壞破壞器
→
AI模型破壞器修復 永動機
推
沒用 這個隨便過一層jpeg encode就沒了
→
下一個 反AI破壞器
推
中子干擾器 反中子干擾器
推
AI的自由與正義要出來了
推
之前glaze吹到飛天 結果超影響圖片而且一下就被繞過了
→
現在的這個連範例都沒有
→
原文說你即使手機翻拍螢幕那個干擾效果都在 只是沒範
→
#1a5Hsnqm (AI_Art) 回顧一下glaze
推
有心人士只要丟進繪圖軟體跑一下去雜訊就破解了,只需
→
幾秒鐘
推
跟馬賽克破壞器差不多
推
這種只能騙騙麻瓜
推
簡單來說 這就像加密技術
→
將色碼進行轉換來防止被偷圖?
→
我看起來感覺跟隱寫術差不多?有大老能說明一下嗎
推
不是 看起來是利用模型訓練抓特徵的方式加入誤導
→
讓訓練出錯達成破壞目的 不過就像上面說的用上千張
→
誤導過後的去抓出特徵後過濾掉就好
推
多一道前處理罷了
推
文組手舞足蹈
→
阿我當作某種雜訊處理掉不就沒事了==
→
有沒有聽過adversarial training 這根本沒用
推
等等就有人訓練AI模型破壞器的破壞器
噓
超沒用 做個Normalization 就能濾掉的東西
推
等AI模型破壞破壞器
推
整個網站連範例圖都沒有
推
你繪師等著被抄就好抵抗個屁
推
? 供啥
推
查了一下這個就做glaze的團隊做的...
→
那他們的看不太出來可能跟一般人想像有落差
→
夜帷
→
以後ai就得多弄個雜訊處理而己
4
這邊要說明一下,所謂的喂AI指得是在訓練模式下,阿肥稍微看了paper主要是透過微小 的相素變化產生的被下毒的圖片影響基石模型中正常圖片的高維空間分佈,所以就可以讓 生成模型你跟他說要產生哈士奇圖他給你緬因貓,因為模型產生的高維空間分佈已經被下 毒的圖破壞了。 不過這只限於訓練階段,一但fixed住的模型就影響有限,論文的假設就是以後所有的創5
某方面來說我覺得這個可以說是最有效的武器 因為他所造成的機會成本是在科技時代最重要的資源--時間 未來畫師不需要每一張圖都過Nightshade,只要選幾張過就好 對於模型訓練者來說就會迫使他們必須要開發新的模型來偵測這些被Nightshade跑過的圖 而且隨著版本更新各種Nightshade的變體出現會使的偵測更加困難,或至少變的繁瑣
68
[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型繪師貓鯨老師昨晚的推文 有人讓他看到,自己的圖被剽竊拿去餵AI生成”原創”繪圖模型 貓鯨老師說看到後感覺很痛心,拜託停止這種行為 並在下方的推文表示已向網站提出檢舉及下架該模型的請求,希望網站能做事71
Re: [閒聊] AI畫圖是不是大數據拼圖?只要是深度學習AI,原理都是把圖轉換成矩陣,通過神經網路作back propogation學習特 徵,在整個模型的運算過程中只有矩陣,不存在任何圖像拼接的過程 你認為圖很像,是因為那個tag底下的圖大多有類似特徵,模型通過矩陣學習到這個特徵 當然,也有一些generator的算法是會拿部分來源當輸出,不通過矩陣運算的,怎麼選也 是讓模型自己學,類似概念可以參考pointer network或residual network之類的算法42
Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌其實是兩回事,建議自己去看一下該記者會團體的主張。 日本著作權法明文規定AI機械學習不受著作權管轄, 今天就算你100%確定有人用自己的圖做了個模型來用也是沒辦法反抗。 芳文社一紙公告可以讓創作者刪文,也有權利提告; 而創作者宣告不準拿自己的圖去餵AI,卻沒有任何實際效力,也告不了。39
Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型更新進度 網站下架貓鯨老師被人盜圖去擅自做的AI模型了 老師的推文表示成功讓網站進行下架了,真心感謝各位的協助與關心 並表示會試著諮詢律師這方面的相關知識36
[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG內容如標題所示 至於為何現在才講? 那可能跟這位有關吧29
Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了直接上圖 Calli的很簡單 原PO翻的基本上沒錯 要準確一點翻的話 "我的Art tag僅提供原創作品使用" "因此 我想要求大家不要在AI圖上使用Art tag"22
[閒聊] 現在AI模仿的了這種圖嗎?如標題 https: //pbs.twimg.com/media/FdhevkUaIAAlAkA.jpg https ://pbs.twimg.com/media/FdptcOEagAEEuJ3.jpg @OneneChan 這種過度光汙染(?)背景又填滿還全部白色調的圖11
Re: [閒聊] AI生成的小模寫實寫真其實這根本不是新東西啊 像之前GAN時代-這個人不存在 就已經達到真人圖生成了 而且現在AI照片放大與修復4
Re: [支那] 對付AI委託的辦法之前啊 有繪師發表聲明 禁止將他的作品拿去餵AI 就有人笑他食古不化啊 被AI 技術嚇到啊 也有人罵 人可以學別人的圖 憑什麼AI 不行 還有人說3
Re: [閒聊] 推特:防止AI學習繪師作品的方法污染 tag 也沒有用, stable diffusion 的 tag 是用 CLIP ViT-L/14 圖轉文出來的 訓練過程的圖片並不需要帶 tag == 換句話說就是生圖的時候用 Danbooru 上面的 tag 去下不一定有用 因為圖轉文模型對圖片的「理解」並不是那些 tag
爆
[閒聊] 活俠傳 更新內容預告98
[閒聊] 知道Go Go Power Rangers的年紀多大了?☺83
[自介] dragon80376
[閒聊]〈APT.〉真的很難聽嗎67
[問題] PC遊戲控制器(手把) 現在還推薦Xbox嗎?53
[閒聊] 在廁所抽菸的都什麼人?49
[情報] 這本輕小說真厲害 歷年男女角前3/2025作品48
[閒聊] 賣破84億!《柏德之門3》拉瑞安工作室48
[閒聊] 被GBF養壞,受不了體力制了44
[原神] 茜特菈莉 角色介紹65
[閒聊] 會不會覺得高性能掌機是一條死路?42
[鳴潮] 汐汐為什麼會淪落到今天這地步?20
[閒聊] 遊戲基地是怎麼被巴哈打下去的?31
[情報] 推理要在晚餐後 動畫化爆
[閒聊] 中華隊 真的好強…27
Re: [討論] 日本是不是熱衷棒球大於籃球?27
[閒聊] 揉了仇人的奶後就無法恨她了?26
[閒聊] 青春之箱 17456
[BGD] 12/21Ave Mujica臺灣首映會24
[蔚藍] 催眠對咪卡會有奇效嗎24
[閒聊] 表番女同捉i很少見嗎?20
Re: [卡牌] 出大事了,元美被拔代理36
[閒聊] 螺鈿的XXX美術館工商23
[閒聊] 境界觸發者個人戰是不是有制度問題55
[閒聊] 逆水寒:網易領導全都沒了!發福利沒人管22
[闇龍] 不如FF7RB,紗障守護者銷量未達預期20
Re: [問題] PC遊戲控制器(手把) 現在還推薦Xbox嗎?21
[舊番] 歡迎加入NHK 當公務員要吃很多精神病藥?21
[閒聊] KOFXV 泰瑞的帽子 ¥4,73041
[閒聊] 中國大學思想講座 驚見美少女露內褲