Re: [心得] 蘋果揭露人工智能並不思考

※ 引述《midas82539 (喵)》之銘言：
: 大語言模型(LLM)它的原始目的是要「模仿人類回答出人類看得懂的答案。」
: 但跟人類的語言不同，你我使用的與言語表達會是一系列的文字規則，
: 例如「主詞，動詞，受詞」的SVO結構。
: 但模型本身並不是這樣學習的，它是把你看到的字，拆成詞素(token)
: 然後將這些詞向量化，變成一系列數列：
: king → [0.8, 0.1, 0.3, 0.7]
: queen → [0.9, 0.1, 0.5, 0.9]
: man → [0.9, 0.0, 0.3, 0.6]
: woman → [0.8, 0.0, 0.5, 0.8]
: 這個數列可以很長，例如有必要的話，可以到有300多個。然後模型可以找到特徵。
: 這個特徵用人類可以理解例子，就姑且濃縮成一個角度，便為說明就簡化成：
: king=右上 man=右上
: queen=左上 woman=左上
: 那麼就算是你，也可以找到king跟man都是右上，故似乎有關連性。
: 而king跟queen角度不同，所以這兩個不是同樣的東西。
: 再把朕、殿下、皇帝、國王，排在一起。
: 只要資訊夠多，理論上是可以讓模型自己圈出有向量角度相近的集合。
: 我們可以再增加這個字出現在字首、字尾、中間第幾個字的頻率作為變數。
: 那麼就可以算出這個字出現在哪裡的特徵比較大。
: 這時我們回到剛剛的SVO結構，模型就可以在不懂中文，但憑統計出的特徵，
: 可以拼湊出一個你可以看懂的中文回答。
: 然而這並不是人類的理解與語意判定，以及衍伸的推理。
: 所以它就會造就出「中文房間」的錯覺，例如假設一個外國人被關在房間。
: 但他有一本教戰手則，上面說明了那些字出現了，可以給出哪些答案。
: 那他就算不懂中文，在手冊的指引上也可以回答定型文。
: 大語言模型也是同樣的概念，它是基於大量的資料來找出「特徵」，
: 而這些特徵的組合在在它的神經網絡會給予特定的權重，最後形成類似"手冊"
: 的東西，然後依照手冊找到近似值的解答，生成給你看。
: 但它不見得是理解回答是否有意義，所以才會出現錯誤。
: 比如說很常見的，現在threads被一堆詐騙仔用AI生成圖片，
: 例如啥我是護理師給我一個讚好嗎？但裡面的圖片會出現一些錯誤，
: 例如敘述自己是75年出生，但生成的身分證是57年出生。
: 或者有生成名字了，但它的字型大小很明顯不一致。
: 然而對於模型來說，它不會知道"怎麼樣才是對的格式"，而它只是針對
: 中華民國身分證大概是長怎樣，而隨機生成一個結果。
: 故單純直接產出，就免不了會有以上的問題。
: GPT4-O3它是說有多一個推理功能。然而它的底層還是大語言模型(LLM)
: 加上它的數據處理是弄成很長串的多維資料，你人類也看不懂，
: 所以你還是不會知道，它的推理過程，是不是也是模仿生成人類看得懂的邏輯。
: 但這個算法是否正確與必要，不見得正確。
: 這個問題在你處理只有你會面對的數學問題就有機會發生。
: 例如假設你要模型生成一個模型由0至指定最大值，與指定最小值機率遞減，
: 而機率遞減的分配公式，正常我們人類就是設一個權重來分配。
: 但我問過O3它就很奇葩，它想用自然常數來分配，然後算式會出現錯誤。
: 其他你看過的就是GPT跟deepseek下西洋棋，結果deepseek憑空出現棋子，
: 或者無視規則走奇怪的動作。這些都說明了語言模型並不是真的了解規則，
: 而只是像兩隻猴子看人類下棋，而模仿人類玩西洋棋。
: 由於這不是你熟知的建立規則(base rule)，所以在面對複雜的隨機模擬。
: 它可能做出錯誤的資訊，而你沒有發現錯誤的話，它就會繼續引用上下文
: 而給出錯誤的結論，但你看起來覺得是對的。
: 比如說你不會選擇權，但你想要模型直接生成一個賣方與調整策略。
: 而模型基於call有正的delta，而錯誤認為sell call也有正dela，
: 那它就會繼續基於錯誤資訊引用，而得出：
: 當標的價格趨近於SC履約價，整體delta會變正而且增加，故需要買put調整的規則。
: 當然對我來說我可以看出哪裡有問題，但對於沒有理解的人來說，
: 那他就不會發現這個推理與建立規則錯誤，就會導致利用而產生虧損。
: 而這我認為基於大語言模型的訓練方式，本質上是無解。
: 你只能靠自己判斷模型的回答是否邏輯正確。而不是期望模型像神燈精靈，
: 你不用會你也可以產出一個東西跟專業的人競爭。

在現代哲學的知識論中將[知識獲得]分為兩種類型，

一種叫[內部論]，一種叫[外部論]。

內部論強調的是對知識或主張背後整套理論或觀念的理解和掌握，

而外部論強調的是放棄主觀理解，以外在的權威、輿論聲量等來判別知識。

原PO說的[中文房]就是很典型的外部論，

LLM目前採用的方法就是主要透過的方式找出答案，

但是可以完全跳過所謂的[理解]。

而作為一項[工具]，這其實也完全沒有問題，

但就如樓主說的，你必須有起碼的知識背景才好配合用它，

否則LLM說出的事似真實假的東西，你也看不出來，反而害更大，因為它不會說他不懂。

他是負責給答案看看是否過關的中文房內的機器人，他不負責[理解]。

這並非說AI發展毫無處理[理解]，之前的深藍、阿法狗等已經在圍棋方面屌打人類，

但是他這套演算法就只負責下圍棋，你叫它說話它能力是0，叫他認圖、畫圖也是0。

阿法狗跟深藍又不一樣，它不是靠暴力演算法下贏人類的，它是真的[理解]圍棋的

[邏輯]：只要你給它明確的遊戲規則，它能慢慢累積算出最佳解。

(這幕後最大的英雄我覺得是發展出那些演算法的人類)

本來LLM嘗試用一樣的[規則理解]來開發，可是碰壁，

於是後來改採歸納法為主的算法，加上[權重]、[反溯]等能力，以及人工訓練，

結果產生重大突破。

其實這種學習法也確實在某方面比較符合人類(和動物)的學習歷程，

人類的初始學習並非靠一套內洽的理論，

也是不斷的試錯、反饋，然後形成可行的模糊知識，並容許後續的修正。

認圖、畫圖AI也是一樣的，它並不(也無須)理解它在畫甚麼，

它是靠大量局部訓練過畫好的圖，組合起來，

交給人類去判斷是否過關，

如果不過關，就下次重畫，大量的反饋機制使它越畫越好。

但是它不知道自己在畫啥，你叫它畫[猴子]，它只是畫出千錘百鍊的外貌，

它沒有理解[猴子]生物特性。

當然，也許語言模型跟畫圖模型串在一起，能發揮這樣的功能，我就不知道了。

當然[通用型AI]似乎仍有關鍵性的落差，

也確實其實所謂[AI]其實是個[集合稱]，

負責畫圖的AI跟負責模仿語音的AI，可能除了在開發模型上有共享一些方法外，

其他方面天差地遠。

但是AI仍然有龐大的發展潛力，

因為它是由電力直接驅動的，只要給它演算法、資料，

它可以24小時不停歇的進步下去。

另一方面，更關鍵的是，它不需要全然仿照人類的智力來運作，

它只要在某些特化功能上，比人類幹得好就行了。

比如車跑得比人快、起重機舉的比人有力、風扇吹的風比人強，

AI也是一樣的道理，

其實不需用人的判準來評價它，例如自覺、思考、價值觀、情感等等的，

因為它目前主要就是[工具]，而且是人發明出來的，

只是它確實潛力強大，擁有部分人類難以駕馭的潛力，

這就好像核武一樣，為善為惡其實看人的造化。

而且通用型AI很可能不是好事，

雖然AI似乎只是特化功能很強的[計算機]，

但是人腦其實目前來看也是神經細胞花幾億年演化出來的，

沒有理由斷定電腦無法辦到。

而如果它辦到了，肯定是千古巨變，後面會怎樣都不知道。

扯遠了，總而言之，就算AI不會[思考]也不怎樣，

它只要某功能好用就夠了，這本來就是如何理解AI的特質和目標。

因為人腦也會犯很多錯，而且很容易累，

AI就是能把某些人類能做到的事，

用千百倍的精神做好，然後資料蒐集很快很廣，

一個任務它就幫你參照古今往來的案例丟答案給你，

對不對就靠你自己判斷了，

這樣還不夠好嗎? 已經很好了，

若還要它更好，它就要反客為主了。

--
奧茲：你可以吃一堆香蕉！
芬利：哦，我懂了，就因為我是一隻猴子，所以我一定要喜歡香蕉！
奧茲：你不喜歡香蕉嗎？
芬利：別傻了！ 我當然喜歡香蕉，我可是一隻猴子！我只是不喜歡你的推論方式。

https://philog8sophia.blogspot.com/

--

這問題其實很有趣，牽涉到語言哲學的意義、語意問題， 語言是一種有遊戲規則但無絕對嚴格規則的活動。 用維根斯坦的話來說，像是一場遊戲。 眾人的互動形成大致共識，但是仍有創造的空間。 有一案例可以參考是哲學家Quine的 [Gavagai]案例， 即便你看到語言不同的原住名，每次看到兔子都說'Gavagai'， 你也無法斷定Gavagai=兔子， 也許Gavagai的意思是白色、獵物、食物、好運...， 除非有更多參照資訊，讓你能深化理解， 但是這始終是一種非完美的歸納法。 (內部論、外部論就是Quine的主張) 人們對[猴子]的理解當然也有不同面相， 可能約定俗成，也可能是現代的基因、生物學， 但也是有生物學研究人們才知道，雞的祖先是恐龍、海豚被歸為哺乳類等等， 這些知識顯然古人不會懂，所以對一物或概念的理解顯然會隨著背景知識轉變而轉變。 根據語言學家研究，人類似乎天生內建一套語言認知系統， 只要在幼年經過適當的刺激，很快能觸類旁通， 學習使用甚至創造性使用一套語言，但是只有一套。 (母語) 簡言之，人學習概念、語言的過程適複雜的，也可能是先外部、後內部， 而這跟知識的學習路徑是類似的，先依循傳統，學而熟習之， 然後融會貫通後，就能舉一反三，一以貫之。 這與鸚鵡學語是截然相反的。 至於說判別眼前的猴子是猴子， 這應該牽涉到認知科學， 但我印象中，人類辨別能力和現在的AI應用也是有些異曲同工之妙的， 比如人類的天生的人臉辨識系統，直覺認知、經驗記憶等， 接續才是背景知識等等更複雜的認識。 人類的大腦也是多工運行的，有的鑑識表情、有的觀察細節、聲音、色澤光暗、 行動等等的，然後再形成統覺。 或是再連到概念、語言區， 總之大腦是非常奧妙的東西。