[情報] OpenAI正打造AI圖偵測器 精確度達99%
揪出AI造假圖片!OpenAI透露正打造偵測工具 精確度99%
https://udn.com/news/story/6811/7513624
開發出聊天機器人ChatGPT的OpenAI正在打造一種工具,可偵測由AI生成的影像或照片,而且具有很高的精確度。
OpenAI技術長穆拉蒂(Mira Murati)17日表示,OpenAI的工具在判斷一張照片是否是利用AI生成可達到「99%的可靠」。她說,這項工具在規劃公開發表前正在進行內部測試,沒有具體時間表。
穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會時提及上述說法。OpenAI旗下除了有ChatGPT,也擁有影像生成工具DALL-E。
目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具,但結果可能不精確。舉例來說,OpenAI在1月時推出一種類似的工具,號稱可以判斷哪些文字段落是由AI生成,然而在7月就已下架,原因是「不可靠」。
OpenAI表示,正努力改善這款軟體,並致力於開發能判斷由AI生成的音檔或圖檔的方式。
關於這類偵測AI生成內容的工具需求正在增加,因為AI工具可被用來對全球事件進行操作或製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰,承諾不創造侵害創作者智慧財產權的內容。
----
人類繪師救星要來了嗎?
那個1%的誤判
不知道是AI圖判斷成非AI圖
還是把非AI圖判斷成AI圖
--
放入coser照片掃描不知會怎樣
用魔法才能打敗魔法 只有ai才能抓ai圖
ai正在打造反ai偵測生成圖片
再用這個工具訓練不會被辨識出來的AI -> LOOP
99%其實拿來當證據還不太適合
AI內戰
意思是你可以抓出99個沽名釣譽的騙子,同時把一個無辜
其實ai早變成免費素材生成工具了 原本就會畫的更愛
的老實繪師的名譽也一起毀掉
可是之前判斷文章的就失敗了
抱歉了1啪的繪師 請你轉行ㄅ
下一步就是ai生圖還會避免被偵測
本來就說自己會用的不受影響,但一定有宣稱自己沒用的
真.AI警察
然後狂粉和黑粉就會辛勤的全部幫你測過一輪
以後訓練生圖的AI就會把會不會被偵測放進參數
1% 繪師表示:
該學習如何串通AI了嗎
99%是要笑死人,99.9999%可能還比較保險一點。
反偵測,反反偵測,反反反偵測,沒完沒了
芙莉蓮表示:
靈魂檢測機
99%還是要開寶箱
"宣稱"
平均100張就會放一張,以AI產能來說偏弱耶
GAN(?
下一款是反AI偵測繪圖 我知道
什麼繪師一輩子只畫一張圖?
算錯一張又怎樣
算錯一張後是黑粉的事,看黑粉想要怎麼燒
1%的直接畫一張放過程就好了吧
一張就夠毀人名譽了好嗎
忘記之前多少繪師被獵巫喔
甚麼信誓旦旦的20年老粉專業繪師
另外還有對抗攻擊,真的夠黑的黑粉認識會拿你的圖加上
一些人眼看不到的細節,全部做成會讓AI警報大響的圖片
算錯一張就夠毀你名聲了好嗎
這東西最多就是當個玩具(而且已經會被有心人玩出事)
如果拿他當判官,那後果不堪設想
AI內戰
AI摧毀繪師 反AI也摧毀繪師
聽起來不錯
竟然用我的魔法對付我.jpeg
之前不就一堆AI警察拿著AI偵測結果四處獵巫
每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征
更早前還有更好笑的,知名網站用人工方法篩AI
很多AI繪圖都內建浮水印跟meta資料了
然後他們人工篩掉一個繪師的帳號,繪師不服去抗議
並且也附上證據,結果該網站審查過後回應:
我們知道你有證據,但是你可以人力化成這麼像AI的圖片
這主要還是對抗AI生圖來造謠或換臉用的啦
我們覺得你應該檢討一下自己的問題
反AI圖偵測也正在研究
二次元什麼的沒人在乎
人工審查都可以搞這種笑話了,有「工具」後還得了
Ai生人修圖呢? ai生背景人畫主題呢?ai生然後人描
圖呢?
人畫圖然後用ai改姿勢呢?換衣服呢?
現實上是新聞那些問題比較嚴重,次文化比較沒人在乎
現在這種環境不就被一群AI狂粉樂子人搞出來的
反正那些次文化圈子中的有心人會自己引火亂燒
AI警察搞的吧
AIAI警察
那拿普通圖來i2i一張低denoising的 會算AI圖嗎
不過要是你手機自拍一下(手機自動AI修圖)然後被判定是AI生成
你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息
AI狂信者才不管你這麼多 問就是砸蒸汽機
怎麼有人腦補得這麼嗨啊XD
天天拿AI在那邊搞事,然後再來說怎麼你們都不爽AI
偵測工具也是ai發展的一環啊 不好嗎
畢竟現在手機幫你修圖連月亮都幫你自動P上細節這類的太常見了
怎麼會有人反對偵測工具@@
因為前面幾個偵測工具 最大用途就是給
樂子人拿去出征繪師阿
用魔法打敗魔法
不符繪畫常規 瘋狂影射潑髒水就好了 哪需要這些
偵測工具當然是必要的研究題目,但是99%的偵測工具
真的沒什麼用,嚴格上還是必須靠人審查,但對自我要求
不嚴格的警察來說就是超好用的點火道具
上次連出示圖層都還被說有繪畫嘗試的不可能這樣
生成式網路對抗
以前只是可以潑髒水,現在99%是真的可以唬到一堆民眾
百分百
再來就是反偵測 然後是反反偵測 反反反偵測 反反反反
畢竟有些人的觀點就是 99%你是個大騙子 那何必相信你
以前其實準確率就99%了啦 對不額外跑後製的圖來說
就算真的被拿去出征也不是偵測工具的錯啊......
偵測工具是無辜的
這是ai發展中必然的產物
樓主底下說的"人類繪師的救星"這句
工具當然無辜 但過去的例子這種不會成為救星
以後如果有圖片被拿來攻擊,第一個要檢查的可能是能否
證明這張圖是繪師產出後「完全無修改」的版本
因為對於一個正確率「只」有99%的模型來說
對抗攻擊有無數種手法可以拿來玩到不著痕跡
再講下去蒸汽機警察就要出動了吧...
工具準嗎,再來這只是給一些人確立個目標去超越而已
下一步就是利用AI開發能繞過偵測是否是AI畫的圖的工具
比較好奇他判斷的依據是啥
算出來又再畫再輸出的他是有甚麼方法判斷
現代AI你大概很難弄出人類看得懂的判斷依據XD
判斷依據一定是史詩級的條件 人類要懂洗洗睡
反正我相信ai大人的判斷
最多只能跟你說 哪些區域比對起來比較像AI生成不像人畫的
之前看一篇文章還有防AI的浮水印呢XD
好的1%可憐蟲
請相信是繪師自己畫的 不然要相信繪師說是AI畫的嗎
防AI浮水印是個有效果但是沒有實質意義的東西
結果那1%被認證會不會被AI警察網暴的更慘
放整形圖會不會被偵測是AI
不知道為什麼推文只想到繪師 覺得這工具主要還是針對真人
會有人挑戰AI率99%的手繪油畫嗎
的AI模擬畫像 因為那真的是很容易成為犯罪或謠言製造工具
有沒有可能是因為這裡是C洽版 當然先討論繪師阿
因為跟這裡直接相關的就是批鬥畫師啊
用AI找你的AI
99%如果是指模型的準確度蠻唬爛的,搞不好只是驗證用
的資料集99%而已
AI圖犯罪隱患跟這邊的主題又沒啥關係
絕對不會被抓的AI圖VS絕對會抓出AI圖的AI
之前防ai那個主要是肉眼可見 而且很容易去除
比你加上去還快 不過還是有優點的
神仙對決 沒有凡人介入的空間
ai圖加上防ai圖浮水印拿去測會說不是ai圖
一定會有YouTuber 交叉測試 AI狼人殺
反ai所以要拿ai來辨識ai圖
繪師真正面對的問題還是商業市場需求與創作被拿去訓練
而不是AI警察 那只是社群平台的一種固有行為 主題換成AI
罷了 所以這也無關什麼繪師救星
沒100%別拿出來害人好嗎
然後再製造一個反AI辨識AI圖片生成器
沒100%的話那個名譽被你毀掉的畫師就能把你告到脫褲
AI警察 (AI)
真正拿出來用大概8成準確度就能偷笑了
發現AI會找到不是AI的圖 於是再發明驗證AI圖找到AI圖的
AI
你居然用我的咒語對付我?
這個偵測器最大的用途之一:
讓AI圖進化到無法被辨認= =
AI警察(AI): 他是AI 懂得都懂
太好了,讓AI對決AI
AI殺一次有名的繪師,反AI再殺一次倒楣的繪師
以後沒有縮時錄影的繪師隨時都可能遭殃
只有我看成Opai偵測器嗎@@
抓錯?會畫的開直播畫一下就解決了好嗎,根本沒多少問
題
寫AI創作還算有可用的藉口,但做反偵測的真的沒有遮羞
布給這種人用
99%夠了,不用先定罪阿 可以先限制你,只要你是真的繪師
提出證明就好了,至少不用浪費大量人力時間去一一審查
PS很多功能其實是AI 不知道會怎麼樣
1%命中 不可能同繪師10張圖都被判定AI吧?
突然很多人開始關心繪師的清白了 真感動
ai狗屎老實說真的挺好分的,扭曲畸形不合邏輯的醜陋
之處太多了,真的噁心至極令人作嘔,真的完全無法容
忍容許任何一絲一毫
我有個跟隨的繪師就說自己圖丟到目前的偵測網站都被判定90
趴以上 開始懷疑自己是繪師AI了
我覺得拿來防詐騙剛好,拿來針對AI繪圖,只是降低繪
圖師的工作效率
21
[閒聊] 串連數千個 Nvidia GPU,微軟打造 Chattechnews 串連數千個 Nvidia GPU,微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 微軟斥資數億美元打造一台大型超級電腦,串連數千個 Nvidia GPU,為 OpenAI 的聊天機17
[閒聊] AI自動生成插畫的持續進展最近 AI 畫圖似乎又有很大的進展 OpenAI 日前公佈了 DALL E 2: 可以輸入任意文字轉成圖片 比如說這張是浮世繪風格的泰迪熊購買雜貨圖 ->13
[閒聊] AI繪畫進軍圖庫!AdobeStock圖庫將開賣AI繪畫進軍圖庫!Adobe Stock圖庫將開賣AI生成的圖片 與Getty等圖庫禁止在其平台上使用人工智慧生成的插圖的圖片不同,Adobe目前正在接受 用DALL-E和Stable Diffusion等生成器製作的內容。Adobe Stock圖庫在官方部落格表示 ,它將接受由人工智慧在其服務上生成的圖像。11
[閒聊] 微軟跟Adobe加入AI繪圖工具市場今天三大AI消息的其中兩條。 1. Adobe公布AI繪圖工具Firefly, 使用公眾圖庫+Adobe Stock創作者給他授權販售的圖庫做為訓練素材, 未來將融入Photoshop在內的旗下工具。3
[問卦] 為了台灣AI發展 政府應該幫每個人買OPENA為了台灣AI發展與向下紮根 政府應該幫每個人購買OPENAI GPT4 KEY 大家說這樣的提議好不好 未來使用類似GPT工具來輔助學習 研究 創業 生活 已經是不可避免的 為了不讓台灣人在世界AI潮流中落後 我建議政府應該跟OPENAI 大量採買 OPENAI GPT4 KEY 讓所有台灣人開始認真使用這革命性的AI工具5
[閒聊] 反魔法屏障 NO-AI 浮水印工具簡介: 部分AI繪圖工具會讓生成的圖片加上一個隱形的浮水印,避免被AI模型二次訓練, 過去有人提議用這個辨識是否是AI生成的圖,但破解方法太多了。 (也不是所有AI軟體都會加上,甚至能關掉這樣的功能,也還是防堵不了描AI圖之類的)5
Re: [問卦] 聊天AI會搶了碼農的工作嗎?現在OpenAI只是輔助用,它只能給方向,solution還是得靠自己判斷。 By the way,之前在政黑版,看到有人利用OpenAI生成新聞稿,很確定的是,記者非常有可 能會被取代,反正記者的專業性,就只有那樣。 ---- Sent from BePTT on my OPPO CPH22374
[問卦] 非AI工程師,用ChatGPT最猛的方法是什麼ChatGPT的文本數據只到2021年, 但現在OpenAI開放PlugIn給企業自己接入, 可以拿自己的平台的文本數據去訓練, 從而獲得比ChatGPT有時效性跟知識網域限制的更精準AI生成內容。 那普通人呢?
84
[閒聊] 一般人都是主機pc都有吧71
[妮姬]二周年 HARD劇情 太苦了...QQ爆
[閒聊] 我推的孩子 最終回 星26
Re: [閒聊] 為什麼死神的腰帶比較好看14
[閒聊] 你喜歡日本樂團嗎?55
[閒聊] 今天有數百名 Bethesda 員工發起罷工24
[閒聊] 魔獸三重鑄…2.018
[閒聊] 一拳超人村田版 2539
Re: [閒聊] 修道院的修女們8
[閒聊] 所以IA是赤坂老師畫工的巔峰嗎7
[討論] 老處女英王是不是很殘忍?7
Re: [閒聊] 今川議員其實比武田信玄還強?12
[問題] 為何工程師母星這麼弱11
[情報] 《魔物獵人 Outlanders》製作人訪談24
[閒聊] 輕解羅裳 露出襯衫下的纖細稚嫩身軀37
[閒聊] 為什麼死神的腰帶比較好看6
[閒聊] 公務員長官這樣濫用權勢不怕逼死人嗎55
[我推] 日本網友也太心平氣和6
[活俠] 創作-雪山派的午茶時間5
[閒聊] 小美人魚 預告25
[閒聊] 驚爆危機的小說版變遷27
[討論] 妮姬最神的歌是camellia嗎43
[24秋] Re0三期07 到底做糞在哪?9
[閒聊] 王者天下的韓國是雜魚沒錯吧?X
[24秋] Re0三期07 到底做神在哪?32
[閒聊] DQ3 HD 2D重製版 MC85分2X
[情報] 咒術迴戰塌房了 日本特裝版出清只要22元5
Re: [閒聊] 有為了一款遊戲買主機的人吧3
Re: [40K] 靈族會不會覺得暗黑靈族這名稱很怪?11
[閒聊] 摩爾莊園 X Cayenne Café主題餐廳