PTT評價

[討論] 分辨AI跟人類作畫的方法

看板C_Chat標題[討論] 分辨AI跟人類作畫的方法作者
x2159679
((● ω ●))
時間推噓20 推:20 噓:0 →:24

原文:https://blog.oimo.io/2022/10/21/human-or-ai-walkthrough/

這篇的作者在Human or AI測驗中拿到低分,因此開始研究AI的作畫特徵
原文排版比較容易閱讀,日文OK建議可以看原文。

以下節錄幾點

大前提:

1.這邊比較是指"完全"AI作畫跟"完全"人力作畫,不包含加工成品等
2.比較對象為"包含人臉"的作畫

(也不考慮img2img)

有時也不能靠單一特徵來判斷,但AI會犯下大量人力不太會犯的錯誤。





一般常用來判斷AI但實際上很容易失敗的特徵:

1.完成度,AI作畫的完成度是能達到人類水準的
2.氛圍,幾乎不可能用氛圍來判斷AI與否
3.畫風,AI也有模仿畫風的能力,所以單靠畫風判斷AI是不準的
4.既有角色與否,AI能產生既有的角色(例如初音等),資料越多越容易




主要判斷材料:

現在AI最擅長的是"全體氛圍"和"一眼望過去沒什麼崩壞的人體",
但AI很不擅長"保持細節的一致性"。
這種一致性對人類來說和繪畫技術沒關係,是人類天生具有的能力。





1.左右瞳孔與高光的一致性
這似乎是現在AI的最大特徵之一。
對人力作品來說,在不考慮特殊設計和演出的狀況下,
左右眼瞳孔形狀和高光的數量形狀是一致的。

但是AI產圖的場合,左右眼的上色和高光手法幾乎無法維持一致性。
人類能理解左右眼本來就是一樣的東西,AI沒有這背後的理論。
AI只能知道眼睛是大概放在這邊的這樣形狀的東西。
就算乍看之下沒有違和感,仔細去看細節也會發現有很多缺陷。

最常見的是「讓眼白部分往瞳孔陷入導致其形狀崩毀的高光」
對人類來說知道眼球、瞳孔和周圍的反光構造。
「高光是反光,本身並不會使其形狀改變」對人來說是常識。

但AI學習會沒辦法把這三者明確分開
(可能是把高光當成眼白的一部份了?)


另外AI也常會扭曲瞳孔的形狀,
或是讓左右眼的顏色有微妙的不同,
雖然本來就有異色瞳的角色在,但在表現時都會明確表達,
AI產圖常常會有「看起來像同個顏色,仔細一看根本不一樣」的狀況。


但是,就算有這樣的設計也不奇怪,人物的眼睛顏色也有可能隨著環境光源影響,
所以也要多加考量。





2.左右眼睫毛的一致性
人類的畫作中,通常兩眼眼睫毛的表現特徵是對稱的。
AI最常出現的問題是左右眼的睫毛數和出現場所都亂七八糟。

人力作品左右眼睫毛也會有一定程度的不一致性,所以這並不是很強力的判斷材料。
但相對來說,包括瞳孔、高光、睫毛等都能維持一致性的作品幾乎能確定是人力作品。



3.服裝左右對稱的一致性
人類知道「大部分服裝是左右對稱的」,AI並不知道這點。
AI只知道「服裝左右看起來很相似」,
所以常常會發生「乍看之下左右一樣,仔細一看左右設計在拓樸級別上不一樣」
(拓樸級別:形狀聯繫和個數等等)

雖然人類多少也沒辦法完全左右對稱的描繪,
但不會把「完全不一樣的形狀」弄成「看起來很像就放在對稱位置」

但人類的服裝也會有不對稱設計,
所以這邊要注意的是該作品的意圖「這位作者是不是想給我們看不對稱設計?」

這種對稱問題在髮冠髮飾上也通用。


4.反覆形狀的一致性
也是一個很大的判斷材料,因為對AI來說沒辦法判斷同個物體的一致性。
像是衣服的鈕扣,AI很難維持每個鈕扣的形狀。

當然人類描繪有時也不會維持相同形狀,甚至也會有失誤。
但這邊說的是AI沒辦法將「意圖相同的相同形狀以相同距離並列」。


5.簡單的幾何形狀
雖然可能會有點令人意外,但AI很不擅長描繪一定大小的直線、正圓或是漂亮的橢圓等
是因為AI不理解這些形狀的造型設計。
雖然繪畫軟體都有繪畫幾何形狀的機能,但那都是程式編程好的。
AI產圖不理解這些形狀的存在意義。
就算能嘗試產出類似的東西也很難達到完全正確。

但是AI因為有大量學習背景相關的直線,
所以對於建築物邊緣或是水管等的直線能好好作圖的例子不少。



6.人造物機能的一致性
這邊是指AI無法正確描繪該人工物為了特定目的而有的構造。
AI只能做到"把感覺好像是那樣的零件隨便擺放"。
不過人類也會有刻意這樣描繪的狀況,因此最重要的是要先判斷該作品的意圖。



7.文字
AI產圖沒辦法好好描繪實際的文字,AI產圖的文字通常都會變成異文明文字。
當然人類也能創作異世界文字,因此這邊是指當該好好使用實際文字表現時,
AI會無法做到,所以需要先判斷該作品的意圖。

(但某個超巨大model的AI似乎能生成文字的樣子)



8.線連接的一致性
不特別注意比較不會發覺的特徵。
對繪畫來說,一條線只會有一個目的,
一個物體的輪廓線不太可能突然變成其他物體的輪廓線,甚至是內外交替。
會出現這種特徵的人類作品通常是「錯視圖」。
AI常常會有線就接。



9.溶解、融合與雜訊
難以判定內外的物體會容易與其他物體融合或是產生雜訊。
就算線畫得很漂亮也會發生著色和其他物體融合的現象,
而且這不會是人類上色失誤的等級。



10.虛假的空洞
明明被毛髮包圍的空間沒有東西,
AI卻會因為不知道要填上什麼而塗上和周圍不一樣的顏色。
這是一個平常不會發覺,但只要知道就會很容易看出來的特徵。


11.遮蔽物前後物體的一致性
AI不像人類能認知物體被遮蔽後,另一端物體的一致性。
有時會出現被毛髮遮蔽的物體喪失一致性,或者是沒有遮蔽卻突然憑空產生物體的狀況。但人類有時也會犯這種錯誤,所以要以失誤嚴重度斟酌判斷。



12.根據大小判斷重要性
AI在整體構圖上會有對"小東西"的描繪很隨便的傾向。
然而對於人類來說物體的大小和重要性是彼此獨立的,
就算是小東西只要重要也會仔細描繪。



以上有部分特徵,AI並非"完全"辦不到,而是很難做到,
原文還有列出表格。


此外原文還有Human or AI 題目的分析,有興趣可以看一下。


這篇文蠻不錯的,作者最後還有說特地去辨別AI其實沒什麼意義,
現在AI產圖的最終目的應該是「生成高品質的繪圖」,
而不是「生成和人類作品沒有區別的繪圖」。



--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.216.0.169 (臺灣)
PTT 網址

chinnez10/23 10:57問題是有些沒有明顯破綻的ai圖還是跟人畫很爛的圖一樣難

chinnez10/23 10:57分辨啊

他裡面提到的特徵大多是人類的固有技能,而且部分有提到人類也有可能會犯錯 我是建議有興趣可以看看原文啦 像是畫得很隨便但是邏輯性很強的作品反而幾乎能確定是人畫的

msbdhdfceb10/23 10:59之前被講話很好的那張AI 粉毛圖,一看就發現背景的樹

msbdhdfceb10/23 10:59長在海上XD

msbdhdfceb10/23 11:00*畫很好

arrenwu10/23 11:03但「生成和人類作品沒有區別的繪圖」是達到最終目的的

arrenwu10/23 11:03一個里程碑就是了

x215967910/23 11:04我有點好奇就是了,這是現在ai產圖的發展目的嗎?

amsmsk10/23 11:08結論就是很難分辨吧

arrenwu10/23 11:11最理想的情況應該會是像我們委託繪師那樣

kilva10/23 11:11一拳超人原作版就一定是人畫的

t7713356200310/23 11:13反正最後變爛圖指引 誤殺人類

x215967910/23 11:14不過內文那個眼睛形狀崩毀的問題我覺得是因為ai學習很難

x215967910/23 11:14分辨高光跟眼白的部分,因為兩者顏色很類似

JamesHunt10/23 11:19認同刁「細部」瑕疵毫無意義,即便世界級插畫、漫畫、

JamesHunt10/23 11:19電影等等也是抓不勝抓。AI圖基本「邏輯」過關即可,該

JamesHunt10/23 11:19優先補的是風格多樣性與精確度。

suanruei10/23 11:24運用邏輯跟對稱的確可以過濾很多

IbukiPumpkin10/23 11:26這些都是未來AI會改進的地方 到最後會只剩下叫作者

IbukiPumpkin10/23 11:26跳出來喊說"我是人類"才有辦法分XD

k4710001410/23 11:29可以去想像你沒見過某一種類的動物,你只能從別人畫的

k4710001410/23 11:29來認識這種動物,之後讓你嘗試畫細節上也會抓不到精髓

x215967910/23 11:30但是ai很會畫大奶(′・ω・‵)

x215967910/23 11:31像下面布袋戲那串其實也是,第一張ai就直接拿頭髮的線去

x215967910/23 11:31接手臂,但手臂其實不該在那邊

fidic164310/23 12:00第6點應該是AI最難克服的

assss4910/23 12:05其實最簡單的做法就是訓練一個辨認ai 跟人類的ai 這也是

assss4910/23 12:05對抗生成網路GAN實作的方式之一 訓練一個專門生成圖片的a

assss4910/23 12:05i 跟一個專門辨認的ai

avans10/23 12:11推 有趣的分析!

LiangNight10/23 12:16自由心證 嘻嘻

bill5051410/23 12:18這篇雖然在討論AI作圖 但怎麼看都像探討人類視覺認知

sesame30710/23 12:32看手也很容易分辨

tim91028210/23 12:35用AI去判斷吧,最後就會衍伸出人類也沒辦法判斷的作畫

tim91028210/23 12:35

brightwish10/23 12:44如果你看得出是AI畫的 那只是代表產出的人沒有顧到細

brightwish10/23 12:44節罷了 像素就這麼多 有一天人類畫得出來的AI都能畫

x215967910/23 13:07我覺得這個問題涉及到ai怎麼去理解人類給予的訓練資料

chuckni10/23 13:15有沒有想過很會畫大奶的其實是人類?

naya741596310/23 13:18很有趣欸,這些細節是人類天生邏輯的展現

naya741596310/23 13:18可以說是透過AI的對比凸顯出了人類思考的方式

mahimahi10/23 13:29眼睛最好分了吧 看起來像動漫眼 近看會發現只是非常類似

mahimahi10/23 13:29的混亂色塊

※ 編輯: x2159679 (61.216.0.169 臺灣), 10/23/2022 13:45:21

linzero10/23 13:54不平衡美學