Re: [閒聊] 現在橫空出世的NPU
NPU還是很有用的,以後應用會越來越多。
我舉個遊戲應用的例子。
現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。
玩家用語音跟遊戲角色對話。
用Whisper轉換語音到文字。
用bert/gpt來分析文字的情緒與關鍵字。
用RAG(embedding vector database)來取出遊戲設計的答案。
如果跑得動,用gpt+答案+情緒prompt來回答。這是最有變化的。
跑不動gpt,就用預先(gpt+答案+prompt)錄好的回答。這只要bert+vector database。
也可跑自然聲的TTS來說話,這個目前還有很大的(問題/發展空間)
這些是npu剛好可以實踐的東東。
------------------
以上是我在某個call center的案子得到的靈感。
現在國外很多公司辦公的流程也是在弄這些ai。重點是提高品質,並不是取代人。
--
是這樣嗎 那一張3060比npu有用多了吧
GPU要有GPU的樣子
內文說的 CPU+3060都跑的好好的 不覺
得npu有特別優勢
現在npu尷尬的地方在於它能做的事gpu也
做得來,gpu做的來npu做不到或是效能很
差
只能期望未來軟體能針對npu做優化然後np
u晶片規模也能上去吧,但到時功耗又是一
個問題
推
第一個做出內建gpt的開放世界應該會紅很久
跑很久是真的,每次對話都要跑一次
我不覺得這遊戲會紅 等對話生成要等好幾
秒吧? 而且有時會跳針或跨服聊天?
skip流的speedrun玩家不會喜歡
而且頂多是用在罐頭任務之類的玩意,
用在主框架上還要加一堆限制,會需要
重跑N次
不懂一直在吹gup幹麻,跑4k時喊不夠跑
推論又說好好的,自助餐吃好吃滿
遊戲不是把gpt弄進去就完事
還要寫出適合的遊戲類型
而NPU的目的不就是自己做AI演算嗎
比如像模擬市民這類就很容易整合AI
不否認未來有用途,但現在買soc附帶
的npu等到應用成熟早就不堪使用了,
還得買最新一代,消費者不要過早為
它買單付出溢價是重點
剛開始模擬類型比較適合,如大逆轉裁判,
用在戀愛遊戲,攻略難度倍增。
avg遊戲,美少女夢工廠這類的。
不爽可以去買AMD,如果每家都硬綁該想
的是你為什麼這麼抗拒
ai*少女dlc 「真」,npu即時口說互
動,滑鼠無用。
不是欸,AMD的Phoenix跟Hawk Point上面
也有NPU啊
攻略難度不一定增加...沒擋好會直接被
話術催眠XD
被話術催眠也是玩點啊XD
這個東東會越來越成熟越來越有趣
INTEL幾年前還有推出過的VPU,想拿來做邊
緣運算,結果一下子就停產了
肥宅的春天
玩遊戲的時候 GPU 沒空算這種東西好不好
,一定要讓其他東西來做
10年後KK園區都塞滿機房,連人都不
要了
NPU 用在低功耗筆電, 伺服器電競電
腦都馬用GPU
而且NPU也沒辦法處理參數太大的模
型
遊戲最終目的還是娛樂玩家 Ai 只是
輔助開發公司把一些非主線且繁瑣的
工作由他來補
而且生成的內容也不太能脫離主線或
意外劇透
一開始可能很新鮮 久了就跟手遊的每
日任務一樣無聊
codemiko就正在開發結合chatgpt的
遊戲
那他的粉絲就要為這些token買單
預先處理好成本可以控制,動態產生
未來都要持續算錢
像模擬市民這個遊戲沒太高科技的輔
助下製作到現在相當成熟,如果還要
再導入現在的Ai…你就要問 你到底是
在做遊戲 還是在做專業社會科學模擬
軟體XD
遊戲本身設計還是最重要的,AI真的只是輔
助。變成每日任務,乾脆讓ai來掛著玩
AMD的問題是。npu有的有,有的沒有,也不
了解它在client端的策略。也不自己開放sdk
是掛在onnx下面。沒有很清楚的roadmap
可以瑟瑟對話了
H-Game
怎麼覺得開發遊戲開始複雜了起來,有些決
策的部分套用AI是不錯,像棋手這類專競技
方面,可是一般人遊戲其實也就跑跑劇本,
套AI實際上遊戲的本質會提升多少是蠻值得
商榷的。
推,有趣的應用
感覺意義不大,你有大量生成需求就用顯
卡,小量用cpu也能跑,npu一個食之無味
棄之可惜
啊你套用ai npc每個舉動要等他跑根本沒
有人玩得下去
怎麼大家都預設十年後AI還是跑在server上
AI這玩意兒就是要在客戶端並客戶化才能起飛
一個遊戲叫你要等十年的話,哪會有人
買單,這都還是研發端的部分,要到最
終消費者端還要好幾年
這東西如果能跟VR結合,那蘋果有救了
從FPU到APU,從APU到NPU
玩家都很懶的,你讓玩家用語音指令,玩家
會說還不如我滑鼠點一下快
看看VR,視覺回饋那麼強,還不是懶得玩
你確定連續動作時,還是口說好,例
如:蜜雪兒換一下。
請給我木頭,請給我黃金
你可以去看目前最強的Ai neuro-sama 觀察
那個回話應對 真的是很可怕
蜜雪兒換一下.....是我想的那樣嗎XD。
PVE敵人AI不能用AI 會變糞game 這東西
需要的是精巧的設計 更像是發條玩具
現在不是在聊NPU這玩意的用處嗎
npu便宜阿... nv卡東卡西還限東限西
用在不是支線任務的路人NPC不錯啊
,不會只有固定幾種罐頭訊息
這還是第一代,不要奢望性能能多好,不如等
個兩、三代算力提升後再看看
27
Re: [情報] Ja Morant 道歉聲明手機發文見諒 P 的啦,ChatGPT 做的是文字接龍,根據 prompt 的不同,每次接上的詞都有不同的機率 除非你去開發人員的 platform 把 temperature (可以想成隨機程度) 調整成 0,讓每次 出來的結果都一樣,否則再讓他生個100次都生不出同樣的答案 至於要怎麼 P 也很簡單,就按 F12 去改就好了22
[Vtub] AI是不是可以做即時字幕了?如題 像是這部短片 都是日文 看攏無 但在chatGPT的加持下10
[問卦] 買了GPT4帳號 可以幹啥公司鼓勵大家多用用ai,說gpt帳號可以報帳 就買了一個月600台幣的plus版本 結果突然不知道用來做啥,單純prompt沒啥意思 感覺不如早點接入gpt plugin4
Re: [問卦] chatGPT是不是把經典機率考題都算錯了昨天李永樂老師才拿高考題目讓gpt考 裡面有幾個亮點 李永樂:這題目我也看不懂 gpt說對就對吧 然後這題gpt答對了。 (李永樂看到是ai的潛力 而不是笑ai答錯題有夠笨) 下面還有人留言 電影 機械公敵裡 男主對機器人說 ai無法畫圖跟具有創造力2
Re: [請益] 為什麼有人說AI會讓資工人失去工作?蛤 說說自己的看法,畢竟以前混過119,現在剛好在這間又是被提到的系 現在的chatgpt,bert之類的模型,簡單來說就只是輸入大量前人從古到2021寫好的各種 規則文本下去train,之後根據問題開始玩文字接龍。如果是沒有train過的資料,比如說 明天突然物理界有什麼超重大突破,打破現在的物理規則,這時你請GPT解釋,你也只會3
[問卦] 哪裡有地下GPT平台?AI的發展速度實在超快, 都已經有能自己建立GPT的Github source codes了. 可惜沒錢購買昂貴的設備. 看對岸b站有人聲稱有地下GPT平台, 對話沒有任何限制,3
Re: [問卦] AI也過了快一年了,有重大突破了嗎?: 目前幾個重大成果 MIT新一代的 streaming LLM 讓資料可以無限長 解決之前AI只能固定token數量問題 繪畫部分DALLE3是由使用者跟gpt要圖 GPT再跟AI下prompt1
Re: [問卦] 為什麼人工智慧在這今年炸開了這一波是十年前的AlexNet才開始讓ML實用化 以往都只是研究 AlexNet橫空出世 GPU+大型CNN 辨識率高 忽然讓一堆人想到 啊幹 原來GPU能幹那麼複雜的事情 所以從2012年之後 ML/AI的研究如同雨後春筍呈現爆炸性的增長 ML從事的人多 想法就多 推出的模型多 成功的總會有幾個- chatgpt開放給大家使用快一年了,平常在網路上看到大家的分享,就是跟gpt聊天啊,不 然就出題目測試它之類的。 之前我也玩過幾次gpt,只是覺得好玩好奇,天馬行空隨意亂問。這次趁連假看了《好好 問ChatGPT》一書,有些感想。
- 現在的電腦是CPU GPU 以後的AI PC 還加入了 神經處理器(NPU) 變成 CPU GPU NPU 這樣才潮