PTT評價

Re: [IWIN] 再說一次,不是 "訂一個能接受的標準"

看板C_Chat標題Re: [IWIN] 再說一次,不是 "訂一個能接受的標準"作者
peterturtle
(彼得龜)
時間推噓34 推:35 噓:1 →:194

AI就是計算機學,計算機學有個特性就是,輸入變數一樣輸出就應該一樣

理論上只要記下每個使用過的亂數與輸入資料,

就理應可以訓練出完全一樣的模型,或是畫出一個像素都不差的結果。



所以只要模型製作者有保存訓練用圖庫,並提供使用者參考亂數,

AI產圖「絕對」可以自證清白,這可比什麼破影響力還是可能性科學簡單多了。

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 115.165.192.240 (臺灣)
PTT 網址

chrisjohn21402/04 21:26為了避免大人不開心,大家正在自我審查,你別攪和

wahaha9902/04 21:26沒錯,只是事情大概會變成這樣:

wahaha9902/04 21:27你為了訓練出蘿感, 找了一堆偽蘿圖來訓練,

wahaha9902/04 21:27接下來除非是大眾熟悉的AV女優,不然你得證實那是偽蘿

wahaha9902/04 21:27幹嘛搞自己

moswu02/04 21:28聽起來他媽超複雜

事實上沒有很複雜,stable diffusion 早就已經有在圖片裡面存關鍵字資訊了 這就純粹是在輸出檔案上多幾行meta的事 跟食安法規定食品上要標內容物與產地差不多

forever980102/04 21:28AI擬真圖最大問題就是你少一個立足點可以抗辯

forever980102/04 21:282次元你可以說這跟真人根本沒辦法產生連結 正常判斷

forever980102/04 21:28能力的人都不會認為這是真人

forever980102/04 21:29擬真圖過幾年你只能以太完美來覺得他是假的

forever980102/04 21:30執法單位要怎麼判斷這是AI還是真人圖?

meta不清楚就當他沒證據啊,持有爭議物品要證明來自合法管道很正常吧 藥物管制不也是差不多的東西。

※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:34:04

forever980102/04 21:31以兒少大旗來講超級逆風 除非你找的到幾個不分區立委

forever980102/04 21:31願意自殺去挺 不然真的難

HanadaIru02/04 21:32簡單說支持AI擬真的基本上就是真的戀童癖無誤了

HanadaIru02/04 21:32這種就是專門在拖後腿的

當然最好的情況是戀童癖們能轉戰純二次蘿

forever980102/04 21:34反正你要打完全創作自由大旗 基本上就是不太可能

forever980102/04 21:35連日本這麼挺二次元的 很多網站這個都自肅禁了

moswu02/04 21:35你都說爭議物品了,官府一定覺得我還放出來自找麻煩

Satoman02/04 21:37不行,我同樣的dataset同樣的設定兩次會現不同的結果

會有不同結果是因為Random一般會帶時間參數來避免重覆, 你要直接紀錄亂數結果才會一樣

moswu02/04 21:37推這個出去砍頭是影響最小的,要100%當兒福聯盟吃素的?

※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:42:50

Satoman02/04 21:39而且目前的訓練機制是完全可以隱藏dataset的

headender02/04 21:39戀童癖都被定義成精神病了 最好還是跟戀童癖切割 看二

headender02/04 21:39次元還能說現實沒人長這樣 看擬真的兒少色情圖很難說服

headender02/04 21:39別人自己不是戀童癖吧

Satoman02/04 21:39坦白講我拿真人訓練二次元風格模型你也不會知道

Peurintesa02/04 21:40還有個問題是是使用工具的有責任還是開發模型的有責任

Satoman02/04 21:40AI生成不可能被保護,因為SD的訓練圖庫本身就有問題

forever980102/04 21:41AI本身在創作上就已經是頗逆風的東西了 有著作權爭議

moswu02/04 21:43老美最近在燒泰勒絲AI圖,看看有什麼結果

forever980102/04 21:44你要挺AI擬真幾乎只有"存在發洩管道"可降低現實犯罪

x215967902/04 21:44人不幫模型負責誰要負責?

x215967902/04 21:44講白了我現在看到一堆人都想把責任推到模型身上

Zzell02/04 21:44是說大家知道美國最高法院20年前就判取締虛擬兒色違憲了嗎

x215967902/04 21:44然後做一堆不負責任的事情

Zzell02/04 21:45所以美國現在明文上虛擬(非擬真)兒色是合法的

dieorrun02/04 21:45AI你就算是用完全合法的兒童寫真 你拿來生色圖當然是

forever980102/04 21:45這一套說法 但這連數據都沒有喔(非一般R18/二次元)

dieorrun02/04 21:45完完全全的剝削兒童 直接禁掉我想沒啥問題

Satoman02/04 21:45美國那邊違憲,但是議會又搞了一個新的法來限制

forever980102/04 21:46而且挺這個幾乎可以直接被貼標戀童癖了

Satoman02/04 21:46所以美國那邊會歸類到灰色地帶去

forever980102/04 21:46犯不犯罪是一件事 有幾個人敢帶著這標籤上檯面辯論?

Zzell02/04 21:47從頭到尾每個人的底線就是合法性 社會觀感從來不是重點吧

nisioisin02/04 21:47現在就是有罪推論呀

Satoman02/04 21:47SD是底模本身就有問題,你是要怎麼証明?

別證明了,換個來源乾淨的底模

Peurintesa02/04 21:47所以這是灰色地帶甚至可以說需要一個新定義的領域

forever980102/04 21:47法律一大部分就是社會觀感的代議士創造出來的喔

nisioisin02/04 21:47先說你有罪要你自己拿出你清白的證據

上面有說了這跟食品標來源類似, 你總不能說你要證明我食品有問題而不是我要證明食品沒問題吧, 舉證責任永遠都該在比較容易處理的那邊。

x215967902/04 21:48所以歐美那邊才想搞訓練來源公開化啊

訓練來源本來就該公開化,說實話我不知道這有什麼好藏的

Peurintesa02/04 21:48AI擬真的虛擬性和二次元圖像的虛擬性應該區分嗎?

※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:51:28

forever980102/04 21:48用符合社會利益禁掉這部分立場是絕對100%充足

Peurintesa02/04 21:48訓練來源要驗證又是一大難題囉

x215967902/04 21:48不然都講「你又不能證明我的訓練來源有問題呵呵」

Zzell02/04 21:48美國明面上就算合法但也沒有人敢碰兒色 但他還是合法

Zzell02/04 21:49代表你可以偷偷看 在私人論壇分享不會被抓被下架

Zzell02/04 21:49若真的被起訴還有違憲判例可以拿來吵

nisioisin02/04 21:49現在是都講「你又不能證明你的訓練來源沒有問題呵呵」

YaKiSaBa02/04 21:49主觀認定你要怎麼自證清白

Satoman02/04 21:49當然不能證明,SD底模本身就來路不明了

x215967902/04 21:50所以誰要負責任?

Peurintesa02/04 21:50zero-shot的生成技術就不見得會真的用到實際存在圖像

x215967902/04 21:50現在就是沒人想對模型負責

Satoman02/04 21:50現在二次元模形用的NAI底模更來路不明

Peurintesa02/04 21:50不是啊 問題就是出在如果你想抓訓練來源 請問怎麼抓?

Satoman02/04 21:51不可能抓啊,除非有人真的掀了SD、NAI

Satoman02/04 21:51你知道SD和NAI這兩個底模訓練成本多高嗎 ==

nisioisin02/04 21:52不知道 可以科普一下嗎?

forever980102/04 21:52反正現實就是這個不切出去妥協 一定全盤皆輸

x215967902/04 21:52不知道 求科普

Peurintesa02/04 21:52而且現在有些訓練模型只是拿來預訓練 借用別人參數

moswu02/04 21:52在台灣只要上檯面就要有跟兒福家長團體纏鬥的準備

Satoman02/04 21:52對使用者來說不可能換,因為那不是個人能訓練出來的東西

Peurintesa02/04 21:53這種情況下是不需要原始訓練圖像的

forever980102/04 21:53人家用二次元能引導三次元犯罪 你可以用超不像來抗辯

moswu02/04 21:53結果大家只想要動司長

forever980102/04 21:53這個我不知道怎麼抗辯 誰敢上檯面去抗辯?

julianscorpi02/04 21:54其實司長已經快要突破事務官臨界點了 很多這個LEVEL

julianscorpi02/04 21:54的都會被抓去當政務官培養

moswu02/04 21:54抗辯很簡單啊,版友示範過了:你有證據嗎哼哼

Satoman02/04 21:5460萬美元,這是SD底模的成本

Hyouri02/04 21:54我覺得拿虛擬引導現實出來就是在唬爛 數據也這麼顯示

moswu02/04 21:55結果就是兒福聯盟推動立法全禁,科科

Hyouri02/04 21:55但執法判斷困難 還滿合理的

Satoman02/04 21:55NAI成本不知道,但是理論上也不是什麼便宜玩意兒

Satoman02/04 21:56某種程度上SD還比較有公信力,NAI天殺的誰知道那是怎麼練

Satoman02/04 21:56出來的

nisioisin02/04 21:57其實禁擬真大部分人都能接受吧!

nisioisin02/04 21:57只是會有跟一般動漫一樣的問題?怎麼計算擬真度?

nisioisin02/04 21:57不然擬真度10% 20% 是不是又打到動漫了?

Zzell02/04 21:57聊天悲觀就算了 實際上先進國家都有守住最後言論自由的底線

Satoman02/04 21:57但二次元AI社群實際就是靠NAI這個訓練集不明的東西在生圖

Satoman02/04 21:57英國就沒有,除非你認為英國不算先進

dieorrun02/04 21:58我只能說擬真這條比什麼幼態實際多了

Satoman02/04 21:58現在衛道團體和保護司就是用英國當先進國家標準在搞

Zzell02/04 21:58台灣最愛跟的美國直接做出違憲判例 歐美保守派也很兇捏

Peurintesa02/04 21:58對 禁擬真的問題點就是在又要定義怎麼樣的擬真出局

oasis40402/04 21:58韓國也沒有啊,甚至都蓋網路長城了

Peurintesa02/04 21:59我印象換臉法案能處理是因為真的像到某人而侵犯權益

oasis40402/04 21:59算了,還是不要先自行妥協好了,這篇看起來驗證方法還

oasis40402/04 21:59算可行

Peurintesa02/04 21:59但是如果生成一個這世界上不存在的人 那要怎麼處理?

macocu02/04 21:59擬真切割了,某方面就自相矛盾了,然後界線也有問題

Zzell02/04 21:59其實那個保護司官員很明顯就是暴走等級的個人言論

nisioisin02/04 21:59除非國際普遍立法要公開訓練來源 要不然永遠都會有問

nisioisin02/04 21:59

Satoman02/04 21:59這次就是小玉換臉和之前某次偷拍論壇讓修法加速

Zzell02/04 22:00這種法界可以吵很久的東西他一句話不會有太大影響

oasis40402/04 22:00可是人家是司長耶不是小咖

Zzell02/04 22:00反而引起眾怒是好事

Satoman02/04 22:00然後二次元創作被掃到颱風尾+偷襲

moswu02/04 22:00生成幼女色情就下去啊,然後問題回到什麼是色情

macocu02/04 22:01舉例來講,A片降低性犯罪,那擬真蘿也應同理

oasis40402/04 22:01就看看會不會引起反對虛擬入罪的學者注意吧

macocu02/04 22:02但是擬真,就暗示的那人確實對現實形象人物會有性慾

moswu02/04 22:02A片降低犯罪,那除罪化肯定沒問題吧

moswu02/04 22:02現實就不是這樣運作的

moswu02/04 22:03更不用講還扯上幼女

forever980102/04 22:04我只能說 歐美法庭片有看過吧 你認罪關2年不認罪關25

rabbit6167702/04 22:05這沒什麼好爭的,成人色清是合法的,兒童色情不合法

forever980102/04 22:05不認罪就是拿那個擬真AI舉言論自由大旗要擋洪水

forever980102/04 22:06陪審團不會有人採信你的說詞的

macocu02/04 22:06阿確實,回歸原則,兒色不合法

Peurintesa02/04 22:07應該說 AI擬真/AI二次元生成圖像/二次元繪圖 這三項

Peurintesa02/04 22:07他們應該綁一起看 還是AI直接再分一區?

rabbit6167702/04 22:08所以用成人片來舉例不對,本來就不能有兒少色情片

forever980102/04 22:08這項目說到底其實沒有什麼AI不AI 重點是擬不擬真

forever980102/04 22:08AI只是達到擬真最容易的手段

Peurintesa02/04 22:08再來就是要用什麼論述去區分它們或是歸為一類

rabbit6167702/04 22:09而且兒少色情在社會倫理道德上絕對是不行的

forever980102/04 22:09擬真就是最接近兒少38條的圖畫

moswu02/04 22:09結果搞到最後擬不擬真還是得靠iwin就好笑了

Peurintesa02/04 22:09我會覺得AI可能要再分一類是因為擬真度會高到起爭議的

forever980102/04 22:09除非你有辦法讓立委修法 不然這個法律解讀就這樣

rabbit6167702/04 22:10就以前根本沒擬真AI圖,所以沒人說要管虛擬

rabbit6167702/04 22:10頂多是猥褻物色情,現在已經造成執法困難才開始管

x215967902/04 22:10倒不如說擬真反而要證明這張不是用拍的吧?

x215967902/04 22:10證明的責任在擬真那邊啊

Peurintesa02/04 22:10所以AI會導致虛擬和真實分開的論述變的很難成立

dieorrun02/04 22:11就說了擬真這條線比討論至今所有的標準明確多了

forever980102/04 22:11你就算上法庭也是法官自由心證判定這算不算

Peurintesa02/04 22:11證明一個不存在的東西不存在 我還真想不到怎麼證明==

rabbit6167702/04 22:12其實雙方都很難證明什麼,AI擬真也可能變成類似

rabbit6167702/04 22:12deepfake的案件,如果剛好有人跟AI圖長很像

dieorrun02/04 22:12就算還是有心證的空間 至少偏差太多大家看的出來

rabbit6167702/04 22:12而這些圖散播對本人造成心靈傷害,這種要怎麼說?

Peurintesa02/04 22:13deepfake還找的到很像的人 如果這個人不存在怎麼處理?

x215967902/04 22:13這種當事人都會把責任推到ai上啊

rabbit6167702/04 22:14即使美系你都不會覺得是真人,日系更不用說

forever980102/04 22:14反正 理想就是底線壓在擬真度 用一些擬真度百分比的

rabbit6167702/04 22:14但擬真AI就有這種以假亂真的問題,還會造成舉證困難

x215967902/04 22:14你說,這個人不存在是因為ai能產生不存在的東西

cloudwolf02/04 22:14用虛擬傷害人,還用不到"擬真"。只要把特色表現出來,

x215967902/04 22:14但是ai不可能負起責任

x215967902/04 22:14不管ai產生了什麼影響都必須要有一個人負擔責任

forever980102/04 22:14圖當判例 看輿論攻防切到幾%

x215967902/04 22:15現在大家都是把責任推到「ai的能力」上

moswu02/04 22:15你要我證明這張很像照片的照片是假的,憑什麼?

cloudwolf02/04 22:15就可以辦到。比如在設計一個禿頭的議員,就算畫的不像

x215967902/04 22:15但社會的發展下這點不可能行得通的,不然會亂成一團

cloudwolf02/04 22:15也能夠達到用該人物傷害某人的效果。

x215967902/04 22:15所以未來一定會是ai被越管越多

moswu02/04 22:15不是質疑的人要證明嗎?

peterturtle02/04 22:16所以不是說了嗎,算圖必然有重複性,同樣的輸入必有

peterturtle02/04 22:16同樣的輸出,你要保留自己無罪的證據啊。然後不給重

peterturtle02/04 22:16複輸出的模型就別用,用了結果上法庭就自己吞吧,食

peterturtle02/04 22:16神不就是栽在有一批牛肉好便宜上的。

Hyouri02/04 22:16「虛擬創作導致現實犯罪」這絕對是狗屁 再真都一樣

Hyouri02/04 22:16但說太真導致執法困難不知道這真的還假的 那有可能

Peurintesa02/04 22:16擬真是個方向 但又高機率回到心證 因為擬真也有程度

x215967902/04 22:17對啊就是這樣,使用者有能力證明生成過程就可以啊

cloudwolf02/04 22:17提出質疑者提出證明是原則,實務上有時會將舉證責任改

dieorrun02/04 22:17絕對不可能沒有心證這件事啦

x215967902/04 22:17我記得著作權有些相關的證明也是要證明過程

cloudwolf02/04 22:17由被質疑者提出,例如食品添加物的安全性。

Peurintesa02/04 22:18對 但心證的前提還是會有個標準 唉 真的頭很痛==

x215967902/04 22:18「提出質疑者提出證明是原則」這點實務上不可能行得通

peterturtle02/04 22:18大原則就是舉證責任在輕鬆的那邊

rabbit6167702/04 22:18重點是如果幾年後AI畫出來真的跟照片一模一樣

rabbit6167702/04 22:18而且你也分辨不出來,警方要如何舉證,這是社會問題

x215967902/04 22:18因為對兒少法來說每個人都說是ai產的不就不用抓了

Peurintesa02/04 22:19問題我前面提過 如何證明不存在的東西不存在?

moswu02/04 22:19保證最後還是回到心證啦,first time?

x215967902/04 22:19這會變成社會問題,所以到時候就會是管ai

x215967902/04 22:19這也是這次議題必須切割ai的原因

rabbit6167702/04 22:19當AI圖跟照片完全分不出來的時代到來,從前會被

rabbit6167702/04 22:19定罪的真實兒少罪犯,變成拿他們沒有辦法的話

x215967902/04 22:20AI擬真已經踩到社會不可能容許的那條線了

peterturtle02/04 22:20所以才說算圖有重複性,你真的是用算出來的話同樣的

peterturtle02/04 22:20數據灌下去一個像素的RGB都不會有任何差別,兩張圖相

peterturtle02/04 22:20減一定是一片零,這就是沒犯罪的證據,反之做不到就

peterturtle02/04 22:20是有罪

Peurintesa02/04 22:21踩線是因為過於真實 但還是不存在實際對象

moswu02/04 22:21官府怕麻煩,最後還是個換名iwin來處理

rabbit6167702/04 22:21那網路傳播存起來的人呢?兒少不是只抓作者

dieorrun02/04 22:21你用AI產兒色 至少會真人兒童的圖吧 就算那張圖是合法的

dieorrun02/04 22:22你產成色圖實際上不就在剝削那名兒童

Peurintesa02/04 22:22以最新的技術來說還真不見得需要真實兒少圖像就能生成

peterturtle02/04 22:22你說呢,使用來路不明的管制藥物有沒有罪?

rabbit6167702/04 22:22如果真實犯罪者說他是網路抓的圖,除非AI圖有

rabbit6167702/04 22:22不可竄改的證明,但說到底有機制就會有人破解

Peurintesa02/04 22:23生成圖像的技術也在進步的 要抓訓練來源更難抓

peterturtle02/04 22:23要自行破壞證據怪我囉

dieorrun02/04 22:24既然很難判斷要馬像模型槍有規定 要馬就禁掉 不就這樣

rabbit6167702/04 22:24如果真的要從技術上說產圖沒罪,但散播絕對是有罪的

peterturtle02/04 22:25就像你主張這片地是你的、又沒有地契、在政府那邊也

peterturtle02/04 22:25沒有文件,你覺得法院會放你過嗎?

rabbit6167702/04 22:26雖然有道德瑕疵,但你自己私底下不管做什麼

rabbit6167702/04 22:26只要全世界沒有人知道,基本上就沒有法律會制裁

leptoneta02/04 22:27所以那個衍算法是犯罪工具囉 更慘

rabbit6167702/04 22:28可是就這個問題來看,就變成你是源頭無罪,散播出去

rabbit6167702/04 22:28拿到的人有罪,所以作者即使產圖無罪卻不可能無罪

rabbit6167702/04 22:28只是會有其他法條去辦而已,而且絕對是社會共識

dbr62302/04 22:28AI 應用現在就是未定灰色地帶了,各國都還沒明顯定論

dbr62302/04 22:28二次元宅泥菩薩過江還要多渡個 AI 是嫌通關難度太低嗎

peterturtle02/04 22:29人家就能證明自己無罪啊,看證據說話

clarkyoona02/04 22:30來了一個不懂transformer模型的

leptoneta02/04 22:30檢察官拿一個兒少色圖 經由不明AI算出類似的圖就夠了

rabbit6167702/04 22:31假設像你講的產圖無罪,那就像是你有持槍證合法持槍

rabbit6167702/04 22:31但是你把槍提供給沒有持槍證的人,那你還是有罪

rabbit6167702/04 22:32只是犯的不是非法持槍而已,而且說到底如果

rabbit6167702/04 22:32沒有散播出去,本來就沒有需要什麼證明好嗎

dbr62302/04 22:33連訓練資料庫都沒公開是要證明什麼,源頭就黑盒子

Peurintesa02/04 22:33二次元這次搞不好就是因為AI生成才掃到颱風尾勒==

totomo16802/04 23:42誰能論述一個人電腦裡有幾T的AI真人蘿天天對的AI真人蘿

totomo16802/04 23:42打槍,大家支持我創作自由<<誰??還有誰支持????<<硬要

totomo16802/04 23:42撞死在這上??不要騙自己電腦裡沒事生幾千張ai真人蘿圖

totomo16802/04 23:42是純欣賞啊,騙誰??誰會買單??怎麼有人就要一頭撞死在

totomo16802/04 23:42這上面??

totomo16802/04 23:51當然你自己關起來誰也不真的沒事,那被抓就是有扯到散

totomo16802/04 23:51播,那更out了直接爆破