Re: [討論] 中國快被AI狂潮淹沒
※ 引述《sxy67230 (charlesgg)》之銘言：
→ kuma0326: 中國在生成式語言AI研究上最大的麻煩是223.138.120.220 06/03 12:39
→ kuma0326: 需避免出現敏感詞、思想不正確的內容223.138.120.220 06/03 12:39
今天剛好處理新的研究項目忙到沒時間回覆，這邊說一下，其實當前生成式語言模型避免出現敏感詞或思想不正確不止是中國，包含Meta、Google很多研究員都在研究如何讓模型可控（包含關注我們想關注的內容並且可以給予模型個性設定並且避免遺忘性格設定諸如此類）。
不過語言模型其實比很多人想像的更難控制，原因就出在於訓練數據的天然分佈跟下一個詞預測的熵累加，這會導致最終損失跟不確定性被放大，當前還是一個待解決如何讓AI學習人類大腦的雙系統模式（快思-系統1，慢想-系統2）。像最近gpt4o就有prompt注入風險，駭客可以直接透過注入特殊格式的prompt開啟上帝模式，若是有廠商拿4o進行具體商業利用可能還會有嚴重的損失，這也是為什麼可控、安全的AI模型是這幾年來從業研究員在呼籲連署的。
差不多4醬，因為話題剛好涉及最近正在研究的東西所以就有點雜念隨筆談一下。
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.7.80 (臺灣)
※ PTT 網址
→
用生成式AI寫病毒
→
可控安全，又要強大，感覺互斥
推
光叫AI看法條他就看不懂了
→
正常人都看得出來花東三法裡面有兩兆
→
我看不出來
→
那個兩兆不就自己找數字兜的嗎= =
→
重點也不再那兩兆吧
→
國六根本就蓋不出來
→
花蓮王說10年完成 就是10年
推
你去問GPT4 識字632 氣死 根本文盲
推
想問原po科系
→
記得有次neuro突破禁止詞彙vedo嚇到
→
當場開始測試
爆
[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武原來AI都有內建甘地的核平人格... 美國康奈爾大學（Cornell University）一項新研究發現，大型語言模型（LLMs）人工智 慧（AI）在模擬情境中充當外交代表時，時常展現出「難以預測的局勢升級行為，往往會 偏好直接以核攻擊作為結束」。![[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武](https://i.imgur.com/TjVItSzb.jpg "[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武")
46
[情報] 隨著蘋果發布新AI模型，這表示iPhone 16隨著蘋果發布新AI模型，這表示iPhone 16將成為軟硬體都具AI支援的首個產品 【情報來源】 原網址： 短網址： 【情報/優惠內容】![[情報] 隨著蘋果發布新AI模型，這表示iPhone 16](https://iknow.stpi.narl.org.tw/Post/Figures/2024/market/telecomm_20666_20240429.png "[情報] 隨著蘋果發布新AI模型，這表示iPhone 16")
23
Re: [爆卦] 中央研究院詞庫小組大型語言模型阿肥 中研院資訊所早已回應了 研究人員直接說這是幻覺～ 沒你說的這麼高端解釋啦～14
Re: [新聞] 馬斯克等千人簽署公開信：呼籲暫停巨型AI公開信的原文： 它裡面提到4個自我省思，其中第1點：假訊息 是曾經/正在發生，而且造成實質損失 人類判讀訊息真實性時，經驗/直覺可以在新證據 (假設是新聞、訊息) 不多、不強![Re: [新聞] 馬斯克等千人簽署公開信：呼籲暫停巨型AI](https://futureoflife.org/wp-content/uploads/2023/03/Open-letter-mockup-4.jpg "Re: [新聞] 馬斯克等千人簽署公開信：呼籲暫停巨型AI")
17
[蒸汽機] 芝加哥大學研究團隊發布防模仿AI模型目前生成式 AI 模型可以學習去模仿特定畫家的繪畫風格![[蒸汽機] 芝加哥大學研究團隊發布防模仿AI模型](https://i.imgur.com/CMsJc1tb.png "[蒸汽機] 芝加哥大學研究團隊發布防模仿AI模型")
5
Re: [新聞] 中研院 AI 大翻車！繁中大型語言模型 CKI那個 我記得以前的新聞是這樣講的 防止簡體版AI偏見，產官學聯手開發繁體版AI語音模型 聯發創新基地負責人許大山博士表示: 「大型語言模型是近年來人工智慧技術進步的亮點 ，更是未來進步不可或缺的基石。聯發科技向來重視創新及科技發展，此次結合中研院及 國教院，成為台灣極少數能訓練大型語言模型的團隊，既發展自主訓練大型人工智慧模型![Re: [新聞] 中研院 AI 大翻車！繁中大型語言模型 CKI](https://i.imgur.com/BvktRr1b.jpg "Re: [新聞] 中研院 AI 大翻車！繁中大型語言模型 CKI")
7
Re: [新聞]黃仁勳發表客製化生成AI模型 指AI將成未來NVIDIA ACE for Games Sparks Life Into Virtual Characters With Generative AI NVIDIA ACE for Games 通過生成 AI 為虛擬角色注入活力 (以下google翻譯) COMPUTEX—— NVIDIA 今天宣布推出適用於遊戲的NVIDIA Avatar Cloud Engine (ACE)，![Re: [新聞]黃仁勳發表客製化生成AI模型 指AI將成未來](https://s3.amazonaws.com/cms.ipressroom.com/219/files/20234/646ec444b3aed34ea82f0ed7_nvidia-ace-for-games/nvidia-ace-for-games_b71f46a0-fffd-445d-984b-b531c995ecfb-prv.jpg "Re: [新聞]黃仁勳發表客製化生成AI模型 指AI將成未來")
5
Re: [新聞] Google與Hugging Face合作宣布推動開放結果Google竟然釋出了開源大模型Gemma，超出預期！ Google 2 款新開源模型「Gemma」來了！直接挑戰 Meta Llama 2 7B 2024/02/22 Sisley 聊天機器人 、 生成式 AI 、 摘要 、 輕量級語言模型 、 負責 任生成式 AI![Re: [新聞] Google與Hugging Face合作宣布推動開放](https://bucket-img.tnlmedia.com/cabinet/2024/02/30fbd444-75f7-43da-9eaf-5b1383f3e73a.jpg?w=1200&h=630&fit=crop&auto=compress "Re: [新聞] Google與Hugging Face合作宣布推動開放")
3
[閒聊] 哈利波特成為AI界學習用普世聖經AI:讚頌萬母之母莉莉絲，智慧之果的恩賜者\[J.K. 羅琳]/。 話說回來如果偷偷換成哈綴本不知道會發生什麼事？ 學術界超夯！研究人員最愛用《哈利波特》衡量 AI 技術理解成效 作者 林 妤柔 | 發布日期 2023 年 12 月 27 日 12:37![[閒聊] 哈利波特成為AI界學習用普世聖經](https://img.technews.tw/wp-content/uploads/2019/10/21173620/harry-potter-3619615_1920.jpg "[閒聊] 哈利波特成為AI界學習用普世聖經")
![Re: [爆卦] 中央研究院詞庫小組大型語言模型](https://i.imgur.com/sLSdSaOb.jpg220.132.181.237 "Re: [爆卦] 中央研究院詞庫小組大型語言模型")
爆
[討論] 川普正式宣布由盧比歐擔任國務卿！![[討論] 川普正式宣布由盧比歐擔任國務卿！](https://i.imgur.com/zEk0x8Ab.jpeg "[討論] 川普正式宣布由盧比歐擔任國務卿！")
38
[討論] 選前賀錦麗愛荷華州贏3趴民調怎做的？![[討論] 選前賀錦麗愛荷華州贏3趴民調怎做的？](https://i.imgur.com/VjAqpKzb.jpeg "[討論] 選前賀錦麗愛荷華州贏3趴民調怎做的？")
19
[討論] 柯文哲做啥都爭議？![[討論] 柯文哲做啥都爭議？](https://i.imgur.com/xm8EmGWb.jpeg "[討論] 柯文哲做啥都爭議？")
18
[討論] 綠畜黨害死人的咖，後台很大水很深![[討論] 綠畜黨害死人的咖，後台很大水很深](https://i.imgur.com/ftz5YGkb.jpeg "[討論] 綠畜黨害死人的咖，後台很大水很深")
17
[討論] 柯P沒解語花用 心靈會不正常嗎？15
[討論] 盧比歐跟台灣關係很好耶![[討論] 盧比歐跟台灣關係很好耶](https://i.imgur.com/gaOJPx1b.jpeg "[討論] 盧比歐跟台灣關係很好耶")
26
[討論] 川普總統和阿拜在白宮見面![[討論] 川普總統和阿拜在白宮見面](https://i.imgur.com/Tb42Gg0b.jpeg "[討論] 川普總統和阿拜在白宮見面")
7
[黑特] 請問有人考上醫學系不唸 然後重考學士後?![[黑特] 請問有人考上醫學系不唸 然後重考學士後?](https://i.imgur.com/KgiKUC7b.jpeg "[黑特] 請問有人考上醫學系不唸 然後重考學士後?")
10
[討論] 黃國昌早就預言執政者在民眾黨內搞分化![[討論] 黃國昌早就預言執政者在民眾黨內搞分化](https://i.ytimg.com/vi/2jH1Y4QqLhs/maxresdefault.jpg "[討論] 黃國昌早就預言執政者在民眾黨內搞分化")
5
[討論] 黃國昌說要拿出民進黨當年的財劃法版本![[討論] 黃國昌說要拿出民進黨當年的財劃法版本](https://i.imgur.com/TCDVktOb.jpeg "[討論] 黃國昌說要拿出民進黨當年的財劃法版本")
23
[討論] 民眾黨何時要切割館長？7
Re: [黑特] 賀錦鯉競選花錢花到欠20M![Re: [黑特] 賀錦鯉競選花錢花到欠20M](https://pbs.twimg.com/profile_images/1813596199284252672/LqORNcn__200x200.jpg "Re: [黑特] 賀錦鯉競選花錢花到欠20M")
6
[黑特] JD Vance美食地圖來囉![[黑特] JD Vance美食地圖來囉](https://www.washingtonian.com/wp-content/uploads/2024/07/53809189416_8701cc38dc_k.jpg "[黑特] JD Vance美食地圖來囉")
3
Re: [黑特] 柯癖去中國高達19次 沒吃甜點![Re: [黑特] 柯癖去中國高達19次 沒吃甜點](https://tfc-taiwan.org.tw/sites/default/files/upload/node/field_blog_images/2670_%E6%9F%AF%E6%96%87%E5%93%B2%E5%8E%BB%E4%B8%AD%E5%9C%8B%E8%88%87%E5%A5%B3%E6%80%A7%E5%90%88%E7%85%A7.png "Re: [黑特] 柯癖去中國高達19次 沒吃甜點")
3
[討論] 柯文哲貪財、愛權、好色又怕死![[討論] 柯文哲貪財、愛權、好色又怕死](https://i.imgur.com/iPsYtdyb.jpeg "[討論] 柯文哲貪財、愛權、好色又怕死")
5
Re: [黑特] 為什麼賴清德不幫波波醫生說話?![Re: [黑特] 為什麼賴清德不幫波波醫生說話?](https://img.youtube.com/vi/E3rH2OeosD4/mqdefault.jpg "Re: [黑特] 為什麼賴清德不幫波波醫生說話?")
3
[黑特] 師父一手唸經一手摸乳？4
Re: [討論] 亮叮噹：民進党不會再搞罷免！![Re: [討論] 亮叮噹：民進党不會再搞罷免！](https://img.youtube.com/vi/ZvEyXKWQ4Hs/mqdefault.jpg "Re: [討論] 亮叮噹：民進党不會再搞罷免！")
2
[討論] 李子柒回來了代表中國要雄起了嗎![[討論] 李子柒回來了代表中國要雄起了嗎](https://img.youtube.com/vi/IrXjnw8BpM0/mqdefault.jpg "[討論] 李子柒回來了代表中國要雄起了嗎")
2
[黑特] 保養得很好？整張臉都垮掉了！![[黑特] 保養得很好？整張臉都垮掉了！](https://i.imgur.com/xsmSSvab.jpeg "[黑特] 保養得很好？整張臉都垮掉了！")
4
[討論] 馬斯克買推特 vs 祖克柏買IG哪個比較強？12
[討論] 小草：黃珊珊是內奸![[討論] 小草：黃珊珊是內奸](https://i.imgur.com/BIaUdAob.jpeg "[討論] 小草：黃珊珊是內奸")
X
[黑特] 辦案進度:貪汙->圖利->性騷?7
[討論] 許銘春現在就在選高雄市長？![[討論] 許銘春現在就在選高雄市長？](https://i.imgur.com/KD7W5EDb.jpeg "[討論] 許銘春現在就在選高雄市長？")
9
[討論] 藍白粉在哪個平台都沒有思維正常的嗎？![[討論] 藍白粉在哪個平台都沒有思維正常的嗎？](https://i.imgur.com/JvFCFljb.png "[討論] 藍白粉在哪個平台都沒有思維正常的嗎？")
5
[討論] 余天在政壇有留下什麼？X
Re: [討論] 川普正式宣布由盧比歐擔任國務卿！2X
Re: [討論] 川普正式宣布由盧比歐擔任國務卿！3
Re: [討論] 小草：黃珊珊是內奸5
[討論] woke文化會被殲滅嗎?
![[討論] 余天在政壇有留下什麼？](https://i.imgur.com/jAPxswqb.jpeg111.241.146.153 "[討論] 余天在政壇有留下什麼？")
![Re: [討論] 川普正式宣布由盧比歐擔任國務卿！](https://i.imgur.com/hSl1Q07b.jpeg118.168.206.162 "Re: [討論] 川普正式宣布由盧比歐擔任國務卿！")
![Re: [討論] 川普正式宣布由盧比歐擔任國務卿！](https://i.imgur.com/aPd20Wcb.jpeg114.136.131.207 "Re: [討論] 川普正式宣布由盧比歐擔任國務卿！")