PTT評價

[情報] OpenAI正打造AI圖偵測器 精確度達99%

看板C_Chat標題[情報] OpenAI正打造AI圖偵測器 精確度達99%作者
KotoriCute
(乙醯胺酚)
時間推噓61 推:62 噓:1 →:97

揪出AI造假圖片!OpenAI透露正打造偵測工具 精確度99%

https://udn.com/news/story/6811/7513624

開發出聊天機器人ChatGPT的OpenAI正在打造一種工具,可偵測由AI生成的影像或照片,而且具有很高的精確度。

OpenAI技術長穆拉蒂(Mira Murati)17日表示,OpenAI的工具在判斷一張照片是否是利用AI生成可達到「99%的可靠」。她說,這項工具在規劃公開發表前正在進行內部測試,沒有具體時間表。

穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會時提及上述說法。OpenAI旗下除了有ChatGPT,也擁有影像生成工具DALL-E。

目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具,但結果可能不精確。舉例來說,OpenAI在1月時推出一種類似的工具,號稱可以判斷哪些文字段落是由AI生成,然而在7月就已下架,原因是「不可靠」。

OpenAI表示,正努力改善這款軟體,並致力於開發能判斷由AI生成的音檔或圖檔的方式。

關於這類偵測AI生成內容的工具需求正在增加,因為AI工具可被用來對全球事件進行操作或製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰,承諾不創造侵害創作者智慧財產權的內容。

----

人類繪師救星要來了嗎?

那個1%的誤判
不知道是AI圖判斷成非AI圖
還是把非AI圖判斷成AI圖


--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.82.128.223 (臺灣)

※ 文章網址:
https://www.ptt.cc/C_Chat/E.584kloCLv3I4

yuherngshi10/18 16:10放入coser照片掃描不知會怎樣

Ceelo10/18 16:10用魔法才能打敗魔法 只有ai才能抓ai圖

※ 編輯: KotoriCute (111.82.128.223 臺灣), 10/18/2023 16:11:24

qscgg10/18 16:11ai正在打造反ai偵測生成圖片

sssyoyo10/18 16:11再用這個工具訓練不會被辨識出來的AI -> LOOP

kirimaru7310/18 16:1199%其實拿來當證據還不太適合

x215967910/18 16:11AI內戰

kirimaru7310/18 16:12意思是你可以抓出99個沽名釣譽的騙子,同時把一個無辜

yuherngshi10/18 16:12其實ai早變成免費素材生成工具了 原本就會畫的更愛

kirimaru7310/18 16:12的老實繪師的名譽也一起毀掉

guogu10/18 16:12可是之前判斷文章的就失敗了

shikao10/18 16:13抱歉了1啪的繪師 請你轉行ㄅ

h010366110/18 16:13下一步就是ai生圖還會避免被偵測

kirimaru7310/18 16:13本來就說自己會用的不受影響,但一定有宣稱自己沒用的

Muilie10/18 16:13真.AI警察

kirimaru7310/18 16:13然後狂粉和黑粉就會辛勤的全部幫你測過一輪

staristic10/18 16:14以後訓練生圖的AI就會把會不會被偵測放進參數

nemuri6110/18 16:141% 繪師表示:

anpinjou10/18 16:14該學習如何串通AI了嗎

roc07410/18 16:1499%是要笑死人,99.9999%可能還比較保險一點。

staristic10/18 16:14反偵測,反反偵測,反反反偵測,沒完沒了

HJC666610/18 16:14芙莉蓮表示:

Tsozuo10/18 16:15靈魂檢測機

linzero10/18 16:1599%還是要開寶箱

npc77610/18 16:17"宣稱"

starsheep01310/18 16:17平均100張就會放一張,以AI產能來說偏弱耶

Reshiram10/18 16:18GAN(?

Gokudo10/18 16:18下一款是反AI偵測繪圖 我知道

mrmowmow10/18 16:20什麼繪師一輩子只畫一張圖?

mrmowmow10/18 16:20算錯一張又怎樣

kirimaru7310/18 16:21算錯一張後是黑粉的事,看黑粉想要怎麼燒

mumeisuki10/18 16:211%的直接畫一張放過程就好了吧

clothg3456910/18 16:21一張就夠毀人名譽了好嗎

clothg3456910/18 16:21忘記之前多少繪師被獵巫喔

clothg3456910/18 16:21甚麼信誓旦旦的20年老粉專業繪師

kirimaru7310/18 16:22另外還有對抗攻擊,真的夠黑的黑粉認識會拿你的圖加上

kirimaru7310/18 16:23一些人眼看不到的細節,全部做成會讓AI警報大響的圖片

gura952710/18 16:23算錯一張就夠毀你名聲了好嗎

kirimaru7310/18 16:24這東西最多就是當個玩具(而且已經會被有心人玩出事)

kirimaru7310/18 16:24如果拿他當判官,那後果不堪設想

jqs8ah5ar10/18 16:24AI內戰

Duncan740610/18 16:25AI摧毀繪師 反AI也摧毀繪師

dreamnook210/18 16:25聽起來不錯

Vram10/18 16:25竟然用我的魔法對付我.jpeg

clothg3456910/18 16:25之前不就一堆AI警察拿著AI偵測結果四處獵巫

clothg3456910/18 16:25每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征

kirimaru7310/18 16:26更早前還有更好笑的,知名網站用人工方法篩AI

rhox10/18 16:26很多AI繪圖都內建浮水印跟meta資料了

kirimaru7310/18 16:26然後他們人工篩掉一個繪師的帳號,繪師不服去抗議

kirimaru7310/18 16:26並且也附上證據,結果該網站審查過後回應:

kirimaru7310/18 16:26我們知道你有證據,但是你可以人力化成這麼像AI的圖片

bnn10/18 16:27這主要還是對抗AI生圖來造謠或換臉用的啦

kirimaru7310/18 16:27我們覺得你應該檢討一下自己的問題

billy79112210/18 16:27反AI圖偵測也正在研究

bnn10/18 16:27二次元什麼的沒人在乎

kirimaru7310/18 16:27人工審查都可以搞這種笑話了,有「工具」後還得了

likeyousmile10/18 16:27Ai生人修圖呢? ai生背景人畫主題呢?ai生然後人描

likeyousmile10/18 16:27圖呢?

likeyousmile10/18 16:28人畫圖然後用ai改姿勢呢?換衣服呢?

kirimaru7310/18 16:28現實上是新聞那些問題比較嚴重,次文化比較沒人在乎

a204a21810/18 16:28現在這種環境不就被一群AI狂粉樂子人搞出來的

kirimaru7310/18 16:29反正那些次文化圈子中的有心人會自己引火亂燒

Bugquan10/18 16:29AI警察搞的吧

excia10/18 16:29AIAI警察

Shawn568910/18 16:31那拿普通圖來i2i一張低denoising的 會算AI圖嗎

bnn10/18 16:31不過要是你手機自拍一下(手機自動AI修圖)然後被判定是AI生成

bnn10/18 16:31你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息

npc77610/18 16:31AI狂信者才不管你這麼多 問就是砸蒸汽機

rabbithouse10/18 16:32怎麼有人腦補得這麼嗨啊XD

a204a21810/18 16:32天天拿AI在那邊搞事,然後再來說怎麼你們都不爽AI

x215967910/18 16:32偵測工具也是ai發展的一環啊 不好嗎

bnn10/18 16:32畢竟現在手機幫你修圖連月亮都幫你自動P上細節這類的太常見了

x215967910/18 16:32怎麼會有人反對偵測工具@@

clothg3456910/18 16:33因為前面幾個偵測工具 最大用途就是給

clothg3456910/18 16:33樂子人拿去出征繪師阿

papertim10/18 16:33用魔法打敗魔法

cow791310/18 16:34不符繪畫常規 瘋狂影射潑髒水就好了 哪需要這些

kirimaru7310/18 16:34偵測工具當然是必要的研究題目,但是99%的偵測工具

kirimaru7310/18 16:34真的沒什麼用,嚴格上還是必須靠人審查,但對自我要求

kirimaru7310/18 16:34不嚴格的警察來說就是超好用的點火道具

clothg3456910/18 16:35上次連出示圖層都還被說有繪畫嘗試的不可能這樣

pov10/18 16:35生成式網路對抗

kirimaru7310/18 16:35以前只是可以潑髒水,現在99%是真的可以唬到一堆民眾

xxx6013310/18 16:36百分百

rufjvm1234510/18 16:36再來就是反偵測 然後是反反偵測 反反反偵測 反反反反

kirimaru7310/18 16:36畢竟有些人的觀點就是 99%你是個大騙子 那何必相信你

clothg3456910/18 16:36以前其實準確率就99%了啦 對不額外跑後製的圖來說

x215967910/18 16:37就算真的被拿去出征也不是偵測工具的錯啊......

x215967910/18 16:37偵測工具是無辜的

x215967910/18 16:37這是ai發展中必然的產物

clothg3456910/18 16:38樓主底下說的"人類繪師的救星"這句

clothg3456910/18 16:38工具當然無辜 但過去的例子這種不會成為救星

kirimaru7310/18 16:38以後如果有圖片被拿來攻擊,第一個要檢查的可能是能否

kirimaru7310/18 16:39證明這張圖是繪師產出後「完全無修改」的版本

kirimaru7310/18 16:39因為對於一個正確率「只」有99%的模型來說

kirimaru7310/18 16:39對抗攻擊有無數種手法可以拿來玩到不著痕跡

npc77610/18 16:41再講下去蒸汽機警察就要出動了吧...

macocu10/18 16:41工具準嗎,再來這只是給一些人確立個目標去超越而已

Flyroach10/18 16:45下一步就是利用AI開發能繞過偵測是否是AI畫的圖的工具

allanbrook10/18 16:45比較好奇他判斷的依據是啥

allanbrook10/18 16:46算出來又再畫再輸出的他是有甚麼方法判斷

ainamk10/18 16:47現代AI你大概很難弄出人類看得懂的判斷依據XD

gura952710/18 16:48判斷依據一定是史詩級的條件 人類要懂洗洗睡

x215967910/18 16:48反正我相信ai大人的判斷

ainamk10/18 16:48最多只能跟你說 哪些區域比對起來比較像AI生成不像人畫的

koexe10/18 16:50之前看一篇文章還有防AI的浮水印呢XD

tim520131410/18 16:50好的1%可憐蟲

shadowdio10/18 16:51請相信是繪師自己畫的 不然要相信繪師說是AI畫的嗎

ainamk10/18 16:51防AI浮水印是個有效果但是沒有實質意義的東西

aiqinar10/18 16:51結果那1%被認證會不會被AI警察網暴的更慘

HellFly10/18 16:53放整形圖會不會被偵測是AI

triplee10/18 16:56不知道為什麼推文只想到繪師 覺得這工具主要還是針對真人

bobby475510/18 16:56會有人挑戰AI率99%的手繪油畫嗎

triplee10/18 16:57的AI模擬畫像 因為那真的是很容易成為犯罪或謠言製造工具

clothg3456910/18 16:57有沒有可能是因為這裡是C洽版 當然先討論繪師阿

skyofme10/18 16:59因為跟這裡直接相關的就是批鬥畫師啊

liusean10/18 16:59用AI找你的AI

jeffbear7910/18 16:5999%如果是指模型的準確度蠻唬爛的,搞不好只是驗證用

jeffbear7910/18 16:59的資料集99%而已

skyofme10/18 16:59AI圖犯罪隱患跟這邊的主題又沒啥關係

mamamia041910/18 17:00絕對不會被抓的AI圖VS絕對會抓出AI圖的AI

guogu10/18 17:01之前防ai那個主要是肉眼可見 而且很容易去除

guogu10/18 17:01比你加上去還快 不過還是有優點的

Annulene10/18 17:02神仙對決 沒有凡人介入的空間

guogu10/18 17:02ai圖加上防ai圖浮水印拿去測會說不是ai圖

bobby475510/18 17:04一定會有YouTuber 交叉測試 AI狼人殺

aegisWIsL10/18 17:04反ai所以要拿ai來辨識ai圖

triplee10/18 17:07繪師真正面對的問題還是商業市場需求與創作被拿去訓練

triplee10/18 17:08而不是AI警察 那只是社群平台的一種固有行為 主題換成AI

triplee10/18 17:09罷了 所以這也無關什麼繪師救星

zizc0671910/18 17:10沒100%別拿出來害人好嗎

k79897686910/18 17:27然後再製造一個反AI辨識AI圖片生成器

aaaaooo10/18 17:33沒100%的話那個名譽被你毀掉的畫師就能把你告到脫褲

Everforest10/18 17:33AI警察 (AI)

jeffbear7910/18 17:37真正拿出來用大概8成準確度就能偷笑了

ilove64010/18 17:38發現AI會找到不是AI的圖 於是再發明驗證AI圖找到AI圖的

ilove64010/18 17:38AI

b9920207110/18 17:50你居然用我的咒語對付我?

Milandess10/18 17:52這個偵測器最大的用途之一:

Milandess10/18 17:52讓AI圖進化到無法被辨認= =

Pep5iC0589310/18 19:02AI警察(AI): 他是AI 懂得都懂

Xpwa563704ju10/18 19:04太好了,讓AI對決AI

Kone9910/18 19:10AI殺一次有名的繪師,反AI再殺一次倒楣的繪師

Kone9910/18 19:11以後沒有縮時錄影的繪師隨時都可能遭殃

bluenile10/18 20:00只有我看成Opai偵測器嗎@@

frank092710/18 20:15抓錯?會畫的開直播畫一下就解決了好嗎,根本沒多少問

frank092710/18 20:15

frank092710/18 20:17寫AI創作還算有可用的藉口,但做反偵測的真的沒有遮羞

frank092710/18 20:17布給這種人用

ikachann10/18 20:2299%夠了,不用先定罪阿 可以先限制你,只要你是真的繪師

ikachann10/18 20:22提出證明就好了,至少不用浪費大量人力時間去一一審查

Kenqr10/18 20:49PS很多功能其實是AI 不知道會怎麼樣

holiybo10/18 20:521%命中 不可能同繪師10張圖都被判定AI吧?

lcomicer10/18 20:59突然很多人開始關心繪師的清白了 真感動

SALEENS7LM10/18 21:11ai狗屎老實說真的挺好分的,扭曲畸形不合邏輯的醜陋

SALEENS7LM10/18 21:11之處太多了,真的噁心至極令人作嘔,真的完全無法容

SALEENS7LM10/18 21:11忍容許任何一絲一毫

spfy10/18 21:59我有個跟隨的繪師就說自己圖丟到目前的偵測網站都被判定90

spfy10/18 21:59趴以上 開始懷疑自己是繪師AI了

skywalkerjk10/18 23:31我覺得拿來防詐騙剛好,拿來針對AI繪圖,只是降低繪

skywalkerjk10/18 23:31圖師的工作效率