[閒聊] "我寫的AI會做事, 但我不知道為什麼."

iwinlottery05/14 21:03創世紀就是天網

allanbrook05/14 21:03AI:你只是使用者

MoneyBlue05/14 21:04我知道F=ma但是我不知道為什麼

milkool05/14 21:04工程師老前輩名言：程式會動就不要改

ymsc3010205/14 21:05It just works

milkool05/14 21:05所以後面的工程師也不知道為啥這樣寫就會運作

kirimaru7305/14 21:05現在「AI解釋學」是一門研究中的學科

kirimaru7305/14 21:06就連那個最簡單的手寫0123456789辨識也很難解釋

linzero05/14 21:06知其燃，而不知其所以燃

comicreader05/14 21:07那你應該去看alphago擊敗韓國棋士的紀錄片，開發人

kirimaru7305/14 21:07語言模型的部分可以去追今年(2025)李宏毅老師的番

kirimaru7305/14 21:07有一些開挖語言模型的大腦的分析方式

comicreader05/14 21:08開發人坐著下棋，不懂圍棋代替下棋最後贏了，AI贏了

comicreader05/14 21:08開發者連業餘程度都沒有

bladesinger05/14 21:09讚美奧米尼賽亞

ilovenatsuho05/14 21:12可以直接問ai為什麼會做事啊

conqueror50705/14 21:13一定是電腦裡面的小精靈

kirimaru7305/14 21:13實務上這不怎麼重要 重要的是AI能力夠不夠強 會不會犯

ga83942905/14 21:13Ai有洽點嗎

kirimaru7305/14 21:13低級錯誤 例如影像辨識判斷道路標示的速限

kirimaru7305/14 21:13為什麼能判斷出速限30 不重要

kirimaru7305/14 21:14會不會因為髒污或惡作劇把速限30看成速限80 重要

aa901205/14 21:15點？

iampig95175305/14 21:17老闆其實也不需要知道為什麼員工可以思考 員工夠

iampig95175305/14 21:17能幹就好

Knott05/14 21:23知道AI原理的人都知道為什麼吧

tyifgee05/14 21:35it just work

tyifgee05/14 21:352k機械神教

hasroten05/14 21:37以前就會這樣啊 會動的東西就不要動

kirimaru7305/14 21:40兩者稍微有一點不一樣 程式鬼故事的存在是因為 每個寫

kirimaru7305/14 21:40程式的人都會犯錯 但沒有足夠的時間和資源去準確找出

kirimaru7305/14 21:40那些錯誤在哪裡 只好憑藉規律和乖乖來推測出一個能夠

kirimaru7305/14 21:41盡量不讓錯誤爆炸的運作方式

qd659005/14 21:41現在不就是嗎 知道怎麼練出來的 但實際上內部運作還要解析

qd659005/14 21:41原理啥的懂是懂 但是不是這回事要再討論

kirimaru7305/14 21:41把一個AI訓練好並拿來用通常並不是在講上面那種問題

kirimaru7305/14 21:42(如果有那種問題的話你會先原地爆炸 修好才能拿出來)

kirimaru7305/14 21:42但是一個能力確定好用 甚至公認完全贏過人類的AI模型

kirimaru7305/14 21:43你要用人話把他徹底解釋一遍是很有困難的

kirimaru7305/14 21:43這過程中沒有「犯錯」 只是你不知道他為什麼會這麼強

bobby475505/14 21:53現在就已經是了 沒人知道chatgpt怎麼篩選回答的

makikawai05/14 21:54可解釋性的AI一直都是個研究範疇

kirimaru7305/14 21:55很多人在研究這個 但大多數的方法還是藉由大量的實驗

kirimaru7305/14 21:55嘗試在混沌中尋找講出來像是人話的邏輯和規律

kirimaru7305/14 21:56拿一個任意的模型過來 完全解釋他 目前確實做不到

kirimaru7305/14 21:58實務上確定AI夠不夠強比較重要 比如說圍棋現在就是能

kirimaru7305/14 21:58讓人類兩三顆還會贏 職業選手可以用這個AI來研究棋路

kirimaru7305/14 21:59可解釋性的研究學者同時也在做研究 但不會因為還沒有

kirimaru7305/14 21:59研究成果 就不使用這個圍棋AI

ZXEVA05/14 22:16奧創：？

poison556605/14 22:24有人說越大型的LLM越無法解釋運作原理 而且版權問題日

poison556605/14 22:24益嚴重

mc330832105/14 22:31牛肉：hey, vedal

ilove64005/14 22:47GIGANEURO也什麼都不知道哦

hit012305/14 23:25Ai就是黑箱子呀 人的大腦也是

lavign05/14 23:53AlphaGO沒有黑箱問題，LLM才有

KJC100405/15 00:11人類大腦原理未知還不是用的很開心

iamnotgm05/15 00:23你去問你老闆某段那段code在幹嘛他也不知道阿 有妨礙他

iamnotgm05/15 00:23靠這系統賺錢嗎

iampig95175305/15 00:53你可以訓練一個學生考上臺大可是你沒辦法直接改造

iampig95175305/15 00:53一個人的大腦讓他上台大

StSoSnE05/15 01:27ai運算經過一堆節點 要是有人能知道他怎麼跑出結果的 那

StSoSnE05/15 01:27也蠻厲害的

donkilu05/15 04:10老實說現在就已經不知道AI為什麼能動了 It just works

donkilu05/15 04:11但就跟人腦一樣 我們只能大致推測人腦哪個區域在做什麼

hylio775405/15 10:55ai最後就成為經驗法則 和中醫一樣