Re: [討論] 中國快被AI狂潮淹沒
※ 引述《sxy67230 (charlesgg)》之銘言:
→ kuma0326: 中國在生成式語言AI研究上最大的麻煩是223.138.120.220 06/03 12:39
→ kuma0326: 需避免出現敏感詞、思想不正確的內容223.138.120.220 06/03 12:39
今天剛好處理新的研究項目忙到沒時間回覆,這邊說一下,其實當前生成式語言模型避免出現敏感詞或思想不正確不止是中國,包含Meta、Google很多研究員都在研究如何讓模型可控(包含關注我們想關注的內容並且可以給予模型個性設定並且避免遺忘性格設定諸如此類)。
不過語言模型其實比很多人想像的更難控制,原因就出在於訓練數據的天然分佈跟下一個詞預測的熵累加,這會導致最終損失跟不確定性被放大,當前還是一個待解決如何讓AI學習人類大腦的雙系統模式(快思-系統1,慢想-系統2)。像最近gpt4o就有prompt注入風險,駭客可以直接透過注入特殊格式的prompt開啟上帝模式,若是有廠商拿4o進行具體商業利用可能還會有嚴重的損失,這也是為什麼可控、安全的AI模型是這幾年來從業研究員在呼籲連署的。
差不多4醬,因為話題剛好涉及最近正在研究的東西所以就有點雜念隨筆談一下。
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.7.80 (臺灣)
※ PTT 網址
→
用生成式AI寫病毒
→
可控安全,又要強大,感覺互斥
推
光叫AI看法條他就看不懂了
→
正常人都看得出來花東三法裡面有兩兆
→
我看不出來
→
那個兩兆不就自己找數字兜的嗎= =
→
重點也不再那兩兆吧
→
國六根本就蓋不出來
→
花蓮王說10年完成 就是10年
推
你去問GPT4 識字632 氣死 根本文盲
推
想問原po科系
→
記得有次neuro突破禁止詞彙vedo嚇到
→
當場開始測試
爆
[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武原來AI都有內建甘地的核平人格... 美國康奈爾大學(Cornell University)一項新研究發現,大型語言模型(LLMs)人工智 慧(AI)在模擬情境中充當外交代表時,時常展現出「難以預測的局勢升級行為,往往會 偏好直接以核攻擊作為結束」。46
[情報] 隨著蘋果發布新AI模型,這表示iPhone 16隨著蘋果發布新AI模型,這表示iPhone 16將成為軟硬體都具AI支援的首個產品 【情報來源】 原網址: 短網址: 【情報/優惠內容】23
Re: [爆卦] 中央研究院詞庫小組大型語言模型阿肥 中研院資訊所早已回應了 研究人員直接說這是幻覺~ 沒你說的這麼高端解釋啦~14
Re: [新聞] 馬斯克等千人簽署公開信:呼籲暫停巨型AI公開信的原文: 它裡面提到4個自我省思,其中第1點:假訊息 是曾經/正在發生,而且造成實質損失 人類判讀訊息真實性時,經驗/直覺可以在新證據 (假設是新聞、訊息) 不多、不強17
[蒸汽機] 芝加哥大學研究團隊發布防模仿AI模型目前生成式 AI 模型可以學習去模仿特定畫家的繪畫風格5
Re: [新聞] 中研院 AI 大翻車!繁中大型語言模型 CKI那個 我記得以前的新聞是這樣講的 防止簡體版AI偏見,產官學聯手開發繁體版AI語音模型 聯發創新基地負責人許大山博士表示: 「大型語言模型是近年來人工智慧技術進步的亮點 ,更是未來進步不可或缺的基石。聯發科技向來重視創新及科技發展,此次結合中研院及 國教院,成為台灣極少數能訓練大型語言模型的團隊,既發展自主訓練大型人工智慧模型7
Re: [新聞]黃仁勳發表客製化生成AI模型 指AI將成未來NVIDIA ACE for Games Sparks Life Into Virtual Characters With Generative AI NVIDIA ACE for Games 通過生成 AI 為虛擬角色注入活力 (以下google翻譯) COMPUTEX—— NVIDIA 今天宣布推出適用於遊戲的NVIDIA Avatar Cloud Engine (ACE),5
Re: [新聞] Google與Hugging Face合作宣布推動開放結果Google竟然釋出了開源大模型Gemma,超出預期! Google 2 款新開源模型「Gemma」來了!直接挑戰 Meta Llama 2 7B 2024/02/22 Sisley 聊天機器人 、 生成式 AI 、 摘要 、 輕量級語言模型 、 負責 任生成式 AI3
[閒聊] 哈利波特成為AI界學習用普世聖經AI:讚頌萬母之母莉莉絲,智慧之果的恩賜者\[J.K. 羅琳]/。 話說回來如果偷偷換成哈綴本不知道會發生什麼事? 學術界超夯!研究人員最愛用《哈利波特》衡量 AI 技術理解成效 作者 林 妤柔 | 發布日期 2023 年 12 月 27 日 12:37
爆
[討論] 民進黨新北議員林銘仁被搜索爆
[討論] 吳子嘉:PG收到傳票轉被告了90
[轉錄] 賴清德FB:角力隊新鞋送到了66
[討論] 國民黨團宣布將修憲法訴訟法51
[討論] 郭正亮:賴清德打從骨子看不起韓國瑜54
[黑特] 《都市計畫法台灣省施行細則》第25條56
[討論] 小草:「其實TVBS民調我們也不太相信」51
[討論] 認真問柯文哲關出來後 他的嘴會收斂嗎 ?48
Re: [黑特] 政論節目來賓的論述都是製作單位set好的?46
Re: [新聞] 快新聞/蔣友青現身士林地檢署外頭!45
Re: [討論] 國民黨團宣布將修憲法訴訟法54
Re: [討論] 現金占捐贈比例 柯86% 侯23% 賴0%43
[討論] 原來疫情期間都在偷渡資產送財團喔…爆
[討論] 現金占捐贈比例 柯86% 侯23% 賴0%35
[討論] 劉寶傑:(柯文哲)去死吧!36
[黑特] 你後悔捐款給柯文哲跟黃國昌嗎36
[討論] 中國上海3天內兩颱風登陸8
[轉錄] 台灣民眾黨 FB 依法行政,何來圖利!?爆
Re: [轉錄] 姚惠珍FB - 柯文哲拯救威京集團24
[討論] 鐘小平:1500顆比特幣 消息來源上海台商31
[討論] 京華城到底是用哪一條法令?70
[討論] 被中國人殺害的男童確定死亡了24
[討論] 關鍵時刻:柯文哲是2021疫情最大破口!25
[討論] 台灣史上最貪市長?44
[轉錄] 凌濤FB DPP拿無關痛癢的手諭要唬弄社會28
Re: [討論] 國民黨團宣布將修憲法訴訟法20
[黑特] 台北市20%容獎大方送?26
[討論] 年初票投柯文哲的出來+127
[討論] 小草現在該信哪份民調?22
[討論] 立法院反對到底,台灣會怎樣?