PTT評價

[爆卦] Nature論文:語言≠思維 AI業界崩潰

看板Gossiping標題[爆卦] Nature論文:語言≠思維 AI業界崩潰作者
jackliao1990
(j)
時間推噓28 推:39 噓:11 →:54

https://www.nature.com/articles/s41586-024-07522-w

一篇發表在nature的論文表示,人類大腦生成和解析語言的神經網路並不負責形式化推理,提出推理並不需要語言作為媒介。語言主要是用於溝通的工具,而不是思考的工具,對於任何經過測試的思維形式都不是必需的。

該文回答了大語言模型為什麼空間概念不足,GPT-4為什麼用語言之外的資料訓練就能變聰明。該文在AI業界引起熱議-難道"大語言模型"並不是通往AGI的正確方向??

該文介紹了支持人類語言能力的大腦網路並回顧語言和思維雙重分離的證據,接著討論語言的特性,這些特性表明語言是為溝通而優化的。研究結論認為,儘管語言的出現無疑改變了人類文化,但語言似乎並不是複雜思維(包括符號思維)的先決條件。語言只是傳播文化知識的工具,它可能與人類的思維和推理能力共同演化,它只反映了人類認知的標誌性複雜性,而不是產生這種複雜性。

有許多病患在語言能力上有嚴重的障礙,影響到詞彙和句法能力,但他們仍然表現出在許多思考形式上的完整能力:他們可以解決數學問題,進行執行規劃和遵循非言語指令,參與多種形式的推理,包括形式邏輯推理、關於世界的因果推理和科學推理。

例如有些患有嚴重失語症的人仍然能夠進行所有測試形式的思考和推理,他們在各種認知任務中的完整表現就是明證。他們根本無法將這些想法對應到語言表達上,無論是在語言生成中(他們無法透過語言向他人傳達自己的想法),或是在理解中(他們無法從他人的單字和句子中提取意義)。有些聾啞兒童仍然可以學習數學、進行關係推理、建立因果鏈,並獲得豐富而複雜的世界知識。缺乏語言表徵並不會使人從根本上無法進行複雜的(包括符號的)思考,儘管推理的某些方面確實表現出延遲。因此語言和推理是平行發展的。

發育性和後天性腦部疾病的案例也顯示,即使語言能力基本完好,也可能存在智力障礙。例如許多獲得性腦損傷的個體在推理和解決問題方面表現出困難,但他們的語言能力似乎完好無損。失語症研究的證據顯示:所有經過檢驗的思考形式在沒有語言的情況下都是可能的。fMRI影像證據顯示:參與多種形式的思考和推理並不需要語言網路。因此,語言不太可能成為任何形式思維的關鍵基礎。

https://x.com/ylecun/status/1804834054954459539
AI教父兼圖靈獎得主Yann LeCun也認同該論文:思維不因為語言而存在

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.175.228 (臺灣)
PTT 網址

au4g3wk4k 07/04 13:20哪裡寫AI業界崩潰==

hth9494 07/04 13:20快逃鴨

elec1141 07/04 13:21ai deta模型整組掰

staristic 07/04 13:21崩你個潰,AGI必然會包括語言啊

※ 編輯: jackliao1990 (111.253.175.228 臺灣), 07/04/2024 13:22:20

horseorange 07/04 13:21所以結論是定義上的AGI進度延後嗎

macocu 07/04 13:21我反倒想問,語言=/=思維 這不是廢話嗎?

vowpool 07/04 13:22這不是基本常識嗎

greg7575 07/04 13:22這是在臭研究llm的啦。幹。

staristic 07/04 13:22將來的AGI還是得接上語言模組啊

godog 07/04 13:22崩潰在哪裡?

bluelune 07/04 13:23誰崩潰?

ddg1802 07/04 13:23矛盾問題,失語但很會想、話多但是智障

tsubasawolfy 07/04 13:23這是在臭那些想靠LLM搞出AGI的

photoB1N 07/04 13:24不會崩潰啦 現在還是有在研發其他ai

greg7575 07/04 13:24cat和貓。是概念不是語言

tsubasawolfy 07/04 13:25還有文字的處理區域也不同

alex780312 07/04 13:25發大財崩潰啥?

yymeow 07/04 13:25思維其實是一種錯覺

vup4jp6 07/04 13:26確定LLM只學到了語言? 怎麼確定的

vios10009 07/04 13:27小孤獨不擅長溝通但會彈吉他,語言本

vios10009 07/04 13:27來就不影響思考

chita0258 07/04 13:27思維=有邏輯的語言

arnold3 07/04 13:28ai笑而不語 只覺得人類期刊水平太低

DirtyVegas 07/04 13:28哪裡崩潰

tzouandy2818 07/04 13:30所以整篇哪裡有AI業界崩潰

chopper594 07/04 13:30你都是用chatgpt還是在哪邊找的介紹文

EfiwymsiAros 07/04 13:30崩三小 換個方向訓練而已= =

s81048112 07/04 13:31??????

yoyo095235 07/04 13:31哪裡崩潰?

mom213 07/04 13:31原po崩潰

beartsubaki 07/04 13:31是的 但是沒有語言能力表達的話 你的

kaodio 07/04 13:31有障礙也是要透過已知方法表達 但語言就是

kaodio 07/04 13:32最有效率的

beartsubaki 07/04 13:32思維是無價值的 因為傳達不出來嘛 這

kaodio 07/04 13:32你可以說有一天人會像外星人一樣摸一下就

refusekkk 07/04 13:33崩潰啥 更好 就可以捨去道德感

kaodio 07/04 13:33傳遞訊息 但你確定人可以演化到那種程度嗎

beartsubaki 07/04 13:33比較讓我連結的是1984的語言控制思想

linlaosure 07/04 13:33語言只是載體啊

pov 07/04 13:33fsd表示

beartsubaki 07/04 13:33但我看的時候就對這設定不以為然XD

Sonian 07/04 13:35推理邏輯 人腦思考跟訓練機率預測是不同路

Sonian 07/04 13:36目前AI用的是後者機率預測的訓練模型

wild2012 07/04 13:36這不是常識嗎? 不然圖靈測試是什麼?

wild2012 07/04 13:36還AI崩潰勒 明明就是記者文組要崩潰

StylishTrade 07/04 13:36意思是GPT是文組 根本不懂那些東西

StylishTrade 07/04 13:37只會照抄人類說的話XD

StylishTrade 07/04 13:39有點像歷史網紅 智商並不高

StylishTrade 07/04 13:39但是講歷史都能講的栩栩如生的

sunday123 07/04 13:42結論是AI的產出只是一種文學作品,好慘

Dedeb 07/04 13:44我現在崩潰

chaoswarudo 07/04 13:48思維還是要經由語言具象化啊 不然

chaoswarudo 07/04 13:48是心智交流?

airmike 07/04 13:48是 沒錯 應該說LLM的出現是證明大多數人

airmike 07/04 13:49類對話和資料可以用很複雜的機率模型去模

airmike 07/04 13:50仿 顯示人類說話做事有一種規律性

ahg 07/04 13:50是不是在衝論文篇數?語言的確不是

ahg 07/04 13:50構成思考的障礙,就像不會說中文並

ahg 07/04 13:50不會造成歐洲人覺得人民幣不香

super0949 07/04 13:50爛標題 崩潰在哪?

yoshilin 07/04 13:57所以現在的ai不是思維,而是把大家的語

yoshilin 07/04 13:57言整理出來而已

yoshilin 07/04 13:58ai能思維的時候就是會為了自身利益說謊

yoshilin 07/04 13:58的時候

herculus6502 07/04 14:00快推 不然

al311166 07/04 14:01不是很多人說gpt 只是接龍程式了嗎

agong 07/04 14:03還好師父都用發功感召信徒 除了用文字僕

zzro 07/04 14:08可以跟你噴垃圾話的軟體不見得代表他有智力

basketkdash 07/04 14:09所以現在就都在搞多模態了啊

Brinkley 07/04 14:16語言能力完好,也可能是智障

jnecoj 07/04 14:20記者暴露學歷了

MADAOTW 07/04 14:26這就是為何 PPT 看圖比較好理解

tetani 07/04 14:33人類AI的發展 直接跳過最原始的認知建立

tetani 07/04 14:33所以現在都只是假AI 不過是資料庫比較大

airmike 07/04 14:35認知建立不是跳過 應該是最難的一步 而且

airmike 07/04 14:35一旦出來AI比人類聰明的日子很快就來到

airmike 07/04 14:36人類這種蛋白質機器是會疲累而且設計有情

airmike 07/04 14:36緒 一天學習大約6-12小時 AI不用休息

annboy 07/04 14:49沒語料可能沒那麼多資料作pre-training

create8 07/04 15:01優文給推

adsl9527 07/04 15:09

la8day 07/04 15:40本來就是啊 都2024了還有人不知道喔

yesyesyesyes 07/04 15:42哪裡有崩潰?? 不要跟記者一樣亂下

herculex 07/04 15:54崩潰了,趕快去佈空單

selvester 07/04 15:55記者是不是會錯意,AI語言模型連張量

selvester 07/04 15:55運算的組合語言都可以整理演算法給你

selvester 07/04 15:55看了 天書中的天書

bnn 07/04 16:48這不廢話嗎 小孩子牙牙學語 跳針沒思維

bnn 07/04 16:48AI現在就還在發展階段

lucifiel1618 07/04 16:48這個人大概沒讀過維根斯坦的理論,

lucifiel1618 07/04 16:48不了解知識論最顯學的語言知識論

ladygaga168 07/04 16:51炒股沒空

tgth 07/04 17:28即使語言能力基本完好,也可能存在智力障礙

tgth 07/04 17:29比方說各大官員

Justin890820 07/04 18:05標題有夠記者

truedo 07/04 18:36AI一起來講幹話

sunboyboy1 07/04 18:51但transformer 也不是語言當base的啊

GameTheory9 07/04 19:35不就是腦裂說嗎?這很早就有美國書籍

GameTheory9 07/04 19:35寫過了啊

GameTheory9 07/04 19:36這麼大驚小怪是沒看過那本書嗎?

leochao101 07/04 20:41底下文組再現論文結果,學了那麼多語

leochao101 07/04 20:41言文字也沒辦法理解藏在後面的邏輯

jipq6175 07/04 21:24笑死 文字接龍怎麽可能有思維

jipq6175 07/04 21:24再說 人類思維也不是接龍的模式