PTT評價

Re: [閒聊] 現在橫空出世的NPU

看板PC_Shopping標題Re: [閒聊] 現在橫空出世的NPU作者
oopFoo
(3d)
時間推噓29 推:29 噓:0 →:84

NPU還是很有用的,以後應用會越來越多。

我舉個遊戲應用的例子。

現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。

玩家用語音跟遊戲角色對話。
用Whisper轉換語音到文字。
用bert/gpt來分析文字的情緒與關鍵字。
用RAG(embedding vector database)來取出遊戲設計的答案。
如果跑得動,用gpt+答案+情緒prompt來回答。這是最有變化的。
跑不動gpt,就用預先(gpt+答案+prompt)錄好的回答。這只要bert+vector database。
也可跑自然聲的TTS來說話,這個目前還有很大的(問題/發展空間)
這些是npu剛好可以實踐的東東。

------------------
以上是我在某個call center的案子得到的靈感。
現在國外很多公司辦公的流程也是在弄這些ai。重點是提高品質,並不是取代人。

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
PTT 網址

sheng76314 12/29 07:05是這樣嗎 那一張3060比npu有用多了吧

ltytw 12/29 07:07GPU要有GPU的樣子

sheng76314 12/29 07:10內文說的 CPU+3060都跑的好好的 不覺

sheng76314 12/29 07:10得npu有特別優勢

wind183 12/29 07:21現在npu尷尬的地方在於它能做的事gpu也

wind183 12/29 07:21做得來,gpu做的來npu做不到或是效能很

wind183 12/29 07:21

wind183 12/29 07:23只能期望未來軟體能針對npu做優化然後np

wind183 12/29 07:23u晶片規模也能上去吧,但到時功耗又是一

wind183 12/29 07:23個問題

yenchieh1102 12/29 07:35

widec 12/29 08:25第一個做出內建gpt的開放世界應該會紅很久

justicebb 12/29 08:28跑很久是真的,每次對話都要跑一次

ltytw 12/29 08:30我不覺得這遊戲會紅 等對話生成要等好幾

ltytw 12/29 08:30秒吧? 而且有時會跳針或跨服聊天?

ltytw 12/29 08:31skip流的speedrun玩家不會喜歡

justicebb 12/29 08:32而且頂多是用在罐頭任務之類的玩意,

justicebb 12/29 08:32用在主框架上還要加一堆限制,會需要

justicebb 12/29 08:32重跑N次

Ceferino 12/29 08:38不懂一直在吹gup幹麻,跑4k時喊不夠跑

Ceferino 12/29 08:38推論又說好好的,自助餐吃好吃滿

widec 12/29 08:47遊戲不是把gpt弄進去就完事

widec 12/29 08:48還要寫出適合的遊戲類型

widec 12/29 08:48而NPU的目的不就是自己做AI演算嗎

widec 12/29 08:49比如像模擬市民這類就很容易整合AI

littlefish1 12/29 09:01不否認未來有用途,但現在買soc附帶

littlefish1 12/29 09:01的npu等到應用成熟早就不堪使用了,

littlefish1 12/29 09:01還得買最新一代,消費者不要過早為

littlefish1 12/29 09:01它買單付出溢價是重點

oopFoo 12/29 09:19剛開始模擬類型比較適合,如大逆轉裁判,

xxxx9999xxxx 12/29 09:19用在戀愛遊戲,攻略難度倍增。

oopFoo 12/29 09:21avg遊戲,美少女夢工廠這類的。

Ceferino 12/29 09:23不爽可以去買AMD,如果每家都硬綁該想

Ceferino 12/29 09:23的是你為什麼這麼抗拒

xxxx9999xxxx 12/29 09:31ai*少女dlc 「真」,npu即時口說互

xxxx9999xxxx 12/29 09:31動,滑鼠無用。

mayolane 12/29 09:33不是欸,AMD的Phoenix跟Hawk Point上面

mayolane 12/29 09:33也有NPU啊

BruceChang 12/29 09:39攻略難度不一定增加...沒擋好會直接被

BruceChang 12/29 09:39話術催眠XD

oopFoo 12/29 09:55被話術催眠也是玩點啊XD

oopFoo 12/29 09:55這個東東會越來越成熟越來越有趣

Makeinu 12/29 09:58INTEL幾年前還有推出過的VPU,想拿來做邊

Makeinu 12/29 09:58緣運算,結果一下子就停產了

pcfox 12/29 10:14肥宅的春天

chchwy 12/29 10:34玩遊戲的時候 GPU 沒空算這種東西好不好

chchwy 12/29 10:34,一定要讓其他東西來做

RaiGend0519 12/29 10:4810年後KK園區都塞滿機房,連人都不

RaiGend0519 12/29 10:48要了

lolpklol0975 12/29 11:10NPU 用在低功耗筆電, 伺服器電競電

lolpklol0975 12/29 11:10腦都馬用GPU

lolpklol0975 12/29 11:18而且NPU也沒辦法處理參數太大的模

lolpklol0975 12/29 11:18

guanting886 12/29 11:23遊戲最終目的還是娛樂玩家 Ai 只是

guanting886 12/29 11:23輔助開發公司把一些非主線且繁瑣的

guanting886 12/29 11:23工作由他來補

guanting886 12/29 11:25而且生成的內容也不太能脫離主線或

guanting886 12/29 11:25意外劇透

guanting886 12/29 11:26一開始可能很新鮮 久了就跟手遊的每

guanting886 12/29 11:26日任務一樣無聊

kamichu 12/29 11:27codemiko就正在開發結合chatgpt的

kamichu 12/29 11:27遊戲

guanting886 12/29 11:30那他的粉絲就要為這些token買單

guanting886 12/29 11:30預先處理好成本可以控制,動態產生

guanting886 12/29 11:30未來都要持續算錢

guanting886 12/29 11:36像模擬市民這個遊戲沒太高科技的輔

guanting886 12/29 11:36助下製作到現在相當成熟,如果還要

guanting886 12/29 11:36再導入現在的Ai…你就要問 你到底是

guanting886 12/29 11:36在做遊戲 還是在做專業社會科學模擬

guanting886 12/29 11:36軟體XD

oopFoo 12/29 11:48遊戲本身設計還是最重要的,AI真的只是輔

oopFoo 12/29 11:49助。變成每日任務,乾脆讓ai來掛著玩

oopFoo 12/29 11:54AMD的問題是。npu有的有,有的沒有,也不

oopFoo 12/29 11:54了解它在client端的策略。也不自己開放sdk

oopFoo 12/29 11:56是掛在onnx下面。沒有很清楚的roadmap

roiop710 12/29 12:04可以瑟瑟對話了

sdbb 12/29 12:33H-Game

ILike58 12/29 13:01怎麼覺得開發遊戲開始複雜了起來,有些決

ILike58 12/29 13:01策的部分套用AI是不錯,像棋手這類專競技

ILike58 12/29 13:01方面,可是一般人遊戲其實也就跑跑劇本,

ILike58 12/29 13:01套AI實際上遊戲的本質會提升多少是蠻值得

ILike58 12/29 13:01商榷的。

AmigoSin 12/29 13:30推,有趣的應用

ehai0725 12/29 13:48感覺意義不大,你有大量生成需求就用顯

ehai0725 12/29 13:48卡,小量用cpu也能跑,npu一個食之無味

ehai0725 12/29 13:48棄之可惜

ehai0725 12/29 13:48啊你套用ai npc每個舉動要等他跑根本沒

ehai0725 12/29 13:48有人玩得下去

sdbb 12/29 13:55

widec 12/29 14:01怎麼大家都預設十年後AI還是跑在server上

widec 12/29 14:02AI這玩意兒就是要在客戶端並客戶化才能起飛

garlic1234 12/29 14:11一個遊戲叫你要等十年的話,哪會有人

garlic1234 12/29 14:11買單,這都還是研發端的部分,要到最

garlic1234 12/29 14:11終消費者端還要好幾年

Amulet1 12/29 14:16這東西如果能跟VR結合,那蘋果有救了

labbat 12/29 14:44從FPU到APU,從APU到NPU

Litfal 12/29 15:12玩家都很懶的,你讓玩家用語音指令,玩家

Litfal 12/29 15:12會說還不如我滑鼠點一下快

Litfal 12/29 15:23看看VR,視覺回饋那麼強,還不是懶得玩

xxxx9999xxxx 12/29 15:36你確定連續動作時,還是口說好,例

xxxx9999xxxx 12/29 15:36如:蜜雪兒換一下。

pxhome 12/29 15:58請給我木頭,請給我黃金

ziya 12/29 16:43你可以去看目前最強的Ai neuro-sama 觀察

ziya 12/29 16:43那個回話應對 真的是很可怕

ILike58 12/29 17:10蜜雪兒換一下.....是我想的那樣嗎XD。

WiLLSTW 12/29 18:02PVE敵人AI不能用AI 會變糞game 這東西

WiLLSTW 12/29 18:02需要的是精巧的設計 更像是發條玩具

widec 12/29 18:45現在不是在聊NPU這玩意的用處嗎

scarbywind 12/29 20:24npu便宜阿... nv卡東卡西還限東限西

chauan 12/30 00:19用在不是支線任務的路人NPC不錯啊

chauan 12/30 00:19,不會只有固定幾種罐頭訊息

a1e 12/30 02:47這還是第一代,不要奢望性能能多好,不如等

a1e 12/30 02:48個兩、三代算力提升後再看看