PTT評價

[討論] 國防部應該考慮AI單片機開發板

看板Military標題[討論] 國防部應該考慮AI單片機開發板作者
michelin4x4
(米其林滾來滾去)
時間推噓 推:4 噓:4 →:39

台灣國防部 應該要考慮 開規格標 讓廠商預先研發

CPU/GPU 統一架構記憶體256-512GB Ram

算力要求20 tokens以上,功耗在可接受範圍內

這已經可以單機跑AI LLM模型

未來要開標的無人機 無人車

都有可能可以試試看裝載AI 本機運行模組

只要電力能夠跟得上


-----
Sent from JPTT on my iPhone

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.232.80.174 (臺灣)
PTT 網址

wahaha99 07/30 05:39...這不叫單片機 還有 你覺得這系統的功耗多少?

MartianIT 07/30 05:44Jetson都沒這種規格!

wahaha99 07/30 05:47以及為什麼無人機需要能放LLM的AI?

michelin4x4 07/30 05:50如果依照我主文內的 蘋果電腦同規格是最頂級配備是2

michelin4x4 07/30 05:5095W,放寬一下功耗 有機會500W功耗內。這對很多燃油

michelin4x4 07/30 05:50無人機 無人車 很容易達成。

michelin4x4 07/30 05:55能放LLM,無論想訓練它做什麼幾乎都能達成,而且如

michelin4x4 07/30 05:55果有一定數量 或許這樣的單片機開發板 功耗能接受的

michelin4x4 07/30 05:55 或許台幣15萬以內很容易達成。

scotch 07/30 06:00說個笑話,無人車用LLM。LLM只是架好看的一堆MLLM都

scotch 07/30 06:00只是紙上談兵,Time critical一個都不會過。

MartianIT 07/30 06:01Tesla FSD都用不到這麼多RAM 你的AI模型還得優化

scotch 07/30 06:03關鍵在於你的支援多好,硬體有了,你的軟體支援?硬

scotch 07/30 06:03體加速你也要軟體會最佳化適應硬體,問題是你那是候

scotch 07/30 06:03看過台灣做出好生態系了?

michelin4x4 07/30 06:07Time critical 確實是不會過,但是在完全電磁波干擾

michelin4x4 07/30 06:07下,還是有很多可以讓系統主動決策的,比如 地形研

michelin4x4 07/30 06:07判來更確認 目前所在地,飛行到該位置 哪一個目標對

michelin4x4 07/30 06:08象是最高攻擊價值排列。決策的用意就是可以有十秒的

michelin4x4 07/30 06:08時間去考慮的事情

michelin4x4 07/30 06:13Tesla FSD雷達點陣的資料量極大,只是前端都處理好

michelin4x4 07/30 06:13了,直接硬體電路運算後,即時低延遲就送進去運算單

michelin4x4 07/30 06:13

iterator 07/30 06:15你要跑 LLM 幹嘛.. =.=

michelin4x4 07/30 06:20因為半導體技術已經進步到 能300W功率跑AI本地模型

michelin4x4 07/30 06:20了,這實在是很香。

airforce110107/30 06:27有些東西傳統演算法可以做為啥要AI?

airforce110107/30 06:27可以說說為什麼開這個規格

scotch 07/30 06:29你也不會用LLM,無人機要的感知距離更大,用LLM既不

scotch 07/30 06:29穩定也不準。100% 是影像、雷達Encode然後某種Fusio

scotch 07/30 06:29n然後產生某種Map和Object,然後你還要Tracking確保

scotch 07/30 06:29不是誤報、後面要瞄還要軌跡預測、然後看價值做Plan

scotch 07/30 06:29ning,LLM、VLM Query set沒設計到也是聽天由命

nanozako 07/30 06:29山馬LLM 海馬LLM 十年前萬物雲端大數據的既視感

airforce110107/30 06:29你希望解決的場景(需求)是什麼

airforce110107/30 06:30描述場景清楚,比突然用什麼潮流科技還重要

Numenor 07/30 07:59現在一卡車的AI就以前的大數據舊瓶新標而已

iaminnocent 07/30 08:22其實不用到LLM,這種是專門邊緣型AI計算就可以了

luke4836 07/30 10:25你知道趙括是誰嗎?不知道去看一下

ptgeorge2 07/30 12:20這耗電量...

abcd1100110007/30 14:22要上水冷,介面還能選老婆對不對

pooznn 07/30 18:42跑LLM 勸降先嗎???

kokoko 07/30 20:06不懂就別發文

wahaha99 07/31 15:11....如果是用來影像識別, 不用LLM

wahaha99 07/31 15:11如果是戰術決策, LLM也不好用

wahaha99 07/31 15:12大概唯一的用途是拿來心戰喊話....

ben91lin 08/01 13:22LLM決策速度不會太慢嗎