[閒聊] 這就是為什麼生成AI不是很可靠

bamama5605/19 15:41有沒有可能中國是認真的

a1207331105/19 15:41中國村民那麼多 應該達成鐵塊自由了

linzero05/19 15:41這個學術用語好像叫 AI幻覺

error40505/19 15:41哼啊~

aya1681005/19 15:41這個要賣錢有夠狠ww

sunrise200305/19 15:42你怎麼知道這不是某種對未來的隱喻

adgbw872805/19 15:42吼嗯～

NoLimination05/19 15:42遊戲攻略可以賣這麼貴

WLR05/19 15:43這什麼鬼售價

lightdogs05/19 15:43笑死

jojojen05/19 15:44怎麼不直接開創造模式

madaoraifu05/19 15:44這已經不是幻覺了，是AI吃到髒東西

fenix22005/19 15:46前幾個禮拜看一部分解秘銀龍原來是不是亂畫的

serding05/19 15:47這報告很混

chrisjeremy05/19 15:49笑死

weltschmerz05/19 15:49https://i.meee.com.tw/XmbJlpt.jpg

dinel782196705/19 15:50笑死

moonlind05/19 15:50 這本攻略賣好貴啊！？

tim111205/19 15:50中國的工人還要兼具戰鬥力才能生產

laugh856205/19 15:50超好笑

HJC666605/19 15:50連官方報告也有系統了

a4316491005/19 15:50你怎麼知道他們沒有鐵巨人

laugh856205/19 15:51連看都不看的嗎

usoko05/19 15:51這真的是AI嗎....

played05/19 15:51我記得有研究指出DeepSeek幻覺率很高的樣子

Senkanseiki05/19 15:52如果是人寫出來的我覺得更恐怖就是了

CactusFlower05/19 15:52你484在找：文革大躍進

linzero05/19 15:53有人說文章是在AI興起前發表的，可能是爬蟲弄的

uclala05/19 15:54Deepseek開始吃牆內的資訊後就壞的差不多了

Haruna199805/19 15:552020那篇應該是人寫的吧…？

syk110405/19 15:55DS有教授查資料給錯資訊,這錯資訊還生成一份假論文佐證

WLR05/19 15:55一套攻略被內容農場複製個幾十遍，就成了common sense

miyazakisun205/19 15:55當然我們說的是麥塊

Muilie05/19 15:55deepseek原本很正常的，是亂餵東西後開始上吐下瀉

LouisLEE05/19 15:5760年代的土法煉鋼誠不欺我

aa147788805/19 15:57你怎麼不反過來想想 現實世界其實是個巨大的MC地圖

hoshitani05/19 15:59Deepseek給文件叫他翻譯翻得還蠻準確的 比ChatGPT好用

RevanHsu05/19 15:59你怎麼覺得對面是寫假的

linzero05/19 15:59MC世界的圓周率是多少？

hoshitani05/19 15:59ChatGPT常常亂掰文件裡面根本沒有的東西

a4316491005/19 16:00以前也是有遇過同學做報告都在GOOGLE隨便剪貼不看內容

a4316491005/19 16:00上台報告的時候才在讀稿 越念越心虛 大概就這種情況==

DON300005/19 16:00難怪中國之前要限制國外ip看B站的minecraft實況...

kirimaru7305/19 16:00Deepseek的文采好到太過頭了，特別容易創作這種東西

Jerrybow05/19 16:01其實現實已經被麥塊逐漸侵蝕了

a2578588505/19 16:01天堂處女 應許的別人之地 虛空麵包 做功德 台籍媽祖

a2578588505/19 16:01我覺得ai還是略遜一籌 工程師還有很大的進步空間

kirimaru7305/19 16:01髒東西可能是吃到或是聰明到可以生成 兩種來源都有

kirimaru7305/19 16:01但是現在的AI聰明程度已經危險到唬爛能力有點太強

kirimaru7305/19 16:02有時候它生成的唬爛內容你瞇著眼睛看還不太好看出來

kinuhata05/19 16:02生出來的文章自己都不審一遍也是很勇 我學生時期寫報告

kinuhata05/19 16:03都要自己反覆讀個5 6遍以上確定沒有錯字或語病

kirimaru7305/19 16:03https://www.bilibili.com/video/BV1GFQAYwEyV

kirimaru7305/19 16:04這篇講得很好 他舉的哪吒製作團隊送房子事件就是一個

kirimaru7305/19 16:04完全由AI產出 但已經實際被傳成「真消息」的經典案例

goodjop1105/19 16:04他們的鐵傀儡不會直接掉鐵錠哦？

kinghtt05/19 16:07AI即便會出錯還是一堆企業在用...資料多了自然會完善內容

morphyster05/19 16:07DS一開始沒有吃屎的時候還滿正常的，但是開放連網吃屎

morphyster05/19 16:08之後，根本就完全不能用

kirimaru7305/19 16:11目前還不能太有信心 資料多了幻覺反而越來越多確實是

NekomataOkay05/19 16:11好爛喔哈哈

kirimaru7305/19 16:11現實正在發生的事情 然後那些幻覺都極難用肉眼分辨

kirimaru7305/19 16:11最有效率運用AI的方法就是把你自己進修到比AI聰明

diablohinet05/19 16:14原來是麥塊世界啊

gifdvdoesa05/19 16:15中國原來已經在玩真人麥塊 怕.jpg

ex99000005/19 16:22？？我以為現在門只開在韓國

dnek05/19 16:22一下子曝露了中國報告混習慣了

Shichimiya05/19 16:23哼～～

kirimaru7305/19 16:24DeepSeek少數吃了誠實豆沙包的合理言論

kirimaru7305/19 16:24https://i.meee.com.tw/1Rbz57F.jpg

CombatWombat05/19 16:24笑死

n368805/19 16:26原來是MC，還以為是DS

necrophagist05/19 16:26Ds就很會喇賽 但專業度遠輸gpt

ex99000005/19 16:27中國也有獵人跟地下城對吧

Ardve05/19 16:27DS就中文對口特化，非專業知識挺好用的

efkfkp05/19 16:27deepseek你跟他聊一些文藝作品的閱讀理解還不錯，相較於gp

efkfkp05/19 16:27t的優勢是他可以直接閱讀許多含版權的資料，比如聊輕小說

efkfkp05/19 16:27很多時候gpt會直接跟你說他無法閱讀版權相關資料請你主動

efkfkp05/19 16:27提供，deepseek就可以直接聊。

efkfkp05/19 16:27但問一些宏觀社會問題，他只會給你胡說八道，估計吃太多營

efkfkp05/19 16:27銷號垃圾資料跟遊戲攻略了w

kirimaru7305/19 16:28中國有些單位的這種案例是上面部署下來 要求下面的人

kirimaru7305/19 16:28學習並使用以提升工作效率的 例如提升鐵廠產生報告文

kirimaru7305/19 16:28件的效率 你不學著用可能還不行

kirimaru7305/19 16:28效率是提升了 但沒有保證不會產生鐵傀儡

linzero05/19 16:29有人是說deepseek是語意理解比較強，但邏輯推導之類較差

Marle05/19 16:37幹媽的笑死

oyaji556605/19 16:39網路上內容農場太多了 被AI判斷有效資料引用了吧

CCNK05/19 16:40AI還是去生成色漫好了

Strasburg05/19 16:43那就觀知海內股份有限公司是賣產業分析服務的 感覺是

Strasburg05/19 16:43刻意炒作知名度

Pochafun05/19 16:43我大學時看中國的期刊論文就常看到亂寫的 還有一堆抄襲

Pochafun05/19 16:43現在有AI可用 一定會用

kirimaru7305/19 16:46AI的天性一定會唬爛 因為它的訓練要求之一就是一定要

asdfg061205/19 16:46以前做生物相關的 meeting報中國人寫的paper會被罵 XD

kirimaru7305/19 16:46有回答 即使資料完全乾淨 你問它不懂的問題仍然會產生

acs8104605/19 16:46hmmmmm

kirimaru7305/19 16:46這種結果 當然如果你資料是髒的 情況就會更恐怖

Muilie05/19 16:49可以看看以前中國遊戲攻略網的情況就是DS現在的情況，一

Muilie05/19 16:49個人在論壇寫了結果成功但是過程有誤的，農場開始瘋狂轉

Muilie05/19 16:49載，版本更新後也沒改，因為出產早又被農場的多，到後來

Muilie05/19 16:49中文能找到的都是被污染的錯誤資料

suanruei05/19 16:51不是，大陸到底都餵ai吃什麼資料啊

sunwit05/19 16:55中國人自己都說DS越用越智障.只會抄網路卻不分辨真偽

L1ON05/19 16:55現在的AI就很會一本正經講幹話

a2212221205/19 16:59這售價是怎樣

newtypeL905/19 17:02笑死哈哈哈

smart0eddie05/19 17:03吃到什麼東西

tf01071405/19 17:04查法條判決書 請它彙整 gpt居然還會生成不存在的法條

tf01071405/19 17:04不然就是請它依照刑法三段論討論某事實結果亂唬爛

tf01071405/19 17:05把主觀混成客觀 不然就法條罰未遂它居然無視

nalthax05/19 17:09哈哈哈哈哈哈

justdoit05/19 17:11四邊包繩不打洞

nalthax05/19 17:12用ChatGPT讀判決書一點用都沒有，說查不到判決；拿案源的

nalthax05/19 17:12判決餵它，結果說不相干，還是拿去生一些無傷大雅的娛樂

nalthax05/19 17:12內容就好了

bladesinger05/19 17:15垃圾進垃圾出就是這樣，你扔給糞坑給AI還期望他出奇

bladesinger05/19 17:15蹟？

felaray05/19 17:16鐵巨人農場是一個專業的課題..

SunnyBrian05/19 17:24當你以為是亂寫的時候……

zeon1984110205/19 17:25魔導學XD

Tsucomi6905/19 17:26麥塊論文吧

kirimaru7305/19 17:29這個狀況需要仔細審視的就是AI插入這些內容的能力

kirimaru7305/19 17:29一般人如果寫報告到一半遊戲癮上身，或是故意想惡搞

kirimaru7305/19 17:29，插入的內容也沒辦法太過自然，很容易被看穿

kirimaru7305/19 17:29但是AI（尤其是中文特化的DeepSeek）把這些異物自然

kirimaru7305/19 17:29混入的能力是非常強的

rogerlarger05/19 17:32需要RAG啦，把真正的煤炭業資料嵌入到向量資料庫，

rogerlarger05/19 17:32再跟模型串接起來

DARUGU05/19 17:42好奇這種還有辦法修正回來嗎？還是只能拿大量正確的資料

DARUGU05/19 17:42洗回來？

kirimaru7305/19 17:44可以再訓練懲罰他 但訓練模型本身是高風險的困難行為

kirimaru7305/19 17:45可以參考李宏毅老師2025年的年番 YT上有 現正連載中

kirimaru7305/19 17:46要逼模型學一件事並不算太困難

kirimaru7305/19 17:46要逼模型學一件事「且不產生副作用」 極度困難

Kururu807905/19 17:47大煉鋼鐵！！！

kirimaru7305/19 17:48機器學習永遠有一種無限迴圈 你應該用正確的資料

kirimaru7305/19 17:48然後網路上有巨量的資料 沒人保證什麼是正確的

kirimaru7305/19 17:48你要怎麼挑出大量正確的資料呢？

kirimaru7305/19 17:49再訓練一個會胡說八道的模型負責判斷什麼是正確的嗎？

probsk05/19 17:49是這樣沒錯但不是這樣

jay92031405/19 17:59幹超好笑 這階段真信了AI還不矯正or沒能力判斷內容是這

jay92031405/19 17:59樣的

chy1989051705/19 18:01如果人類可以一比一換鐵，你信不信中國明天鐵價直接

chy1989051705/19 18:01崩盤？

necrophagist05/19 18:02所以訓練ai時資料的tagging分類很重要

scott03205/19 18:05需要一個有專業的ai或人類來監督這些ai

asdfadsl05/19 18:05看別人說發布時間比較像是爬蟲爬出來的

kirimaru7305/19 18:06這也是一個比較困難的問題 如果是向人臉辨識那種資料

kirimaru7305/19 18:06你確實可能拿到一堆大便tagging 但你還是有比較有效率

kirimaru7305/19 18:06的方法來修正 讓那些資料變成有效的人臉辨識資料

kirimaru7305/19 18:07不過語言就難了 我們現在要判斷的是這一段內容的語言

kirimaru7305/19 18:07是否會損害您的大腦 而資料量又多到爆炸

aaronpwyu05/19 18:08你不要這麼說 牆內養好的蛙蛙可不會懷疑 是就是

aaronpwyu05/19 18:09質疑就是未受教育 去新疆先

zxcasd32805/19 18:35這是直接複製貼上百度百科 不是AI吧

xBox1Pro05/19 18:49這是用的人自己笨的問題啊，以前很多人也是直接貼農場

tim1913105/19 18:51食物近，垃圾出

Dayton05/19 19:00這就麥塊無限收成鐵塊的方式…

kirimaru7305/19 19:08現在的AI有搜尋資料的能力啊 也有明確的方式來要求AI

kirimaru7305/19 19:08「去網路上找資料」「確認正確性」「要附上來源」

kirimaru7305/19 19:08問題就是他真的找了有來源的資料 也覺得那是正確的

kirimaru7305/19 19:08那接下來出事了要怎麼辦呢？

kirimaru7305/19 19:09網路上的資料有可能是其他AI唬爛的幻覺內容，這已經不

kirimaru7305/19 19:09只是一個戲謔的講法，而是持續不斷在發生的事實

kirimaru7305/19 19:14為什麼使用者不驗證內容就把資料丟出來 這可能還要看

kirimaru7305/19 19:14使用者所在的機構是怎麼制定政策的

kirimaru7305/19 19:15如果政策是「學習使用AI工具來提升工作效率」

kirimaru7305/19 19:15那我為什麼還要驗證呢 花時間驗證要怎麼提升工作效率

lolicon05/19 19:19什麼時候可以附魔 我等不及翱翔天際了

bnn05/19 19:44自信點 人腦從網路上學習也學壞了很多個人

bnn05/19 19:45你連人都沒法分辨了你要怎麼教AI分辨

linzero05/19 20:00有說要附來源，但也是弄個假的

ksng109205/19 21:18我非常肯定chatgpt超會唬爛，還能生出根本不會有作用的

ksng109205/19 21:20"底層邏輯修正方法"跟"禁制清單"，一直試圖讓我相信只要

ksng109205/19 21:20我指正過的事情他就不會再犯

hollen905/19 21:36deepseek是拿chatgpt蒸餾

hollen905/19 21:36幻覺率更高 不是從零訓練

king827705/19 22:29之後會越來越強啊 你在急什麼

DA392199905/19 22:42他們在玩我的世界(x) 我們的世界(o)

handsomeburg05/19 23:49真的假的啦，我讀書少不要騙我

shadowkurumi05/20 00:07這應該不是AI生成的，像人為複製貼上

shadowkurumi05/20 00:11https://i.imgur.com/w50Ba32.jpeg

shadowkurumi05/20 00:13刷鐵機那個可能是P的

shadowkurumi05/20 00:16壓力板也是複製百度百科的

shadowkurumi05/20 00:16https://i.imgur.com/Hax56WY.jpeg

v8686106205/20 07:16哈哈哈哈哈哈哈