Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?
※ 引述《litsix (Altwort)》之銘言：
: 回頭看看老黃在CES端出來的Project Digi，你要說他事前沒收到Deepseek的相關消
: 息，我是不信的。
: 這次的Deepseek事件不亞於當年NovelAI v1流出，個體戶或中小型公司也有機會拿到
: 門票了，AI的大海賊時代來臨啦!!
: 誰會先找到大秘寶呢，有洽否?
我看板上的討論，好像對於「免費爽用的模型」非常的驚喜！？
那我分享一下好了
網路上有不少有名的軟體都可以免費使用開源的語言模型
Ollama 應該是最自由的，
不過我目前覺得第一次使用的話，LM Studio 比較容易。
步驟非常簡單：
1. 到 https://lmstudio.ai/ 下載 LM Studio，然後安裝
2. 安裝完之後點開程式，他會引導你下載一個比較陽春的語言模型，
把語言模型載入之後，就可以開始玩了
https://i.imgur.com/nrg2nZx.jpg
3. 如果對於陽春的模型不喜歡，
還有一堆語言模型可以隨意下載使用 https://lmstudio.ai/models
VRAM 12GB 的話大概可以用到 14B 的模型
就算沒有GPU也可以跑啦，就只是出結果的速度會比較慢而已
--
角卷綿芽 五周年紀念套組
https://i.imgur.com/k9SZ73Z.jpg
預購連結：https://bit.ly/4j6AXIg
--
ollama要設定安裝路徑竟然是打指令的 他那個gui做好看的
其實 Ollama 那個指令也就是一行文，然後就可以開始了。 只是CLI的界面對一般人來說實在不太討喜XD
ollama沒有gui吧 就是純文字 只是載入有點麻煩...
我記得應該搭配 openai-gui 使用？
又鬼轉綿芽
lmstudio能用A卡加速嗎? GPT4ALL可以
但只有官方處理過的模型可以 但後來它都沒更新新的模型
ollama目前只支援6800以上 可是我用的是6600XT阿
ollama是工具不是模型
Ollama有chrome外掛
然後不要期待本地模型的效果 應該說一般家用電腦能跑的
網頁版還是適合大眾使用 電腦小白不會用就是不會用
像是7B 14B這種等級 基本上都蠻蠢的 除了限制少
完全被線上的吊起來打 除非有特殊需求不然用線上的就好
要免錢 不用登入的可以去鴨鴨走玩
我有色情相關內容要翻譯都是去找鴨鴨走
也是找鴨鴨+1
7B 14B這種就相關行業會玩的在特定情境下好用
Ollama 是用來讀取模型的吧，本地小模型目前好像沒什麼
能讓人驚艷的應用吧，除了拿來跑翻譯跟聊天之類的
嗯 像是聊天AI那種基本都是7B 8B左右
現在AMD的AI MAX 也搞統一記憶體了 最大可以吃到96G 已經可
以跑70B了 #相信AMD
老黃不是要推一個AI盒子 #相信老黃
Project Digits要3000美金起 MAX395+128G的ROG Z13 2025
也才不到台幣8萬 對預算比較拮据的人還是有差
自問自答 lmstudio應該是可以用A卡加速
跑7B模型大概是27token/sec
local模型都不怎麼樣 除非自架R1 不然還是線上的好用
純GUI我是用Cherry Studio
自架要到線上等級大概有難度 看B站討論
線上版本是698B 這等級少說也要個300GB的記憶體吧
![Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?](https://i.imgur.com/k9SZ73Zb.jpg "Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?")
15
[問卦] 馬斯克決定開源Grok-1的原因是啥？馬斯克的AI模型Grok-1正式開源，包含3140億個參數，是目前參數最大的開源大模型，是GP T-3.5的兩倍。 這個模型可以免費下載，並且允許商業使用，所有賺取的費用都歸用戶所有 。![[問卦] 馬斯克決定開源Grok-1的原因是啥？](https://i.imgur.com/WJewdoJb.jpg "[問卦] 馬斯克決定開源Grok-1的原因是啥？")
8
[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了出大事了 Meta 用來對標 OpenAI ChatGPT 的語言模型 LLaMA 被人洩漏出來 還打包成 Torret 在網路上供人下載了![[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了](https://i.imgur.com/W4fvKrpb.png "[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了")
1
[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣剛看了DeepSeek R1原始文件 Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., ... & He, Y. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arXiv preprint arXiv:2501.12948. 看完結論就是![[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣](https://i.imgur.com/jY9j0u3b.jpg "[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣")
4
[問卦] ChatGPT APP版？Quora 出了自己的AI Chatbot app 使用OpenAI和Anthropic的語言模型 iOS版開放下載 然後是免費ㄉ![[問卦] ChatGPT APP版？](https://i.imgur.com/kvVDuhsb.jpg "[問卦] ChatGPT APP版？")
5
[問卦] 台灣有沒有AI語言模型？中國大陸的Deepseek用低成本做出語言模型 美國科技股嚇到皮皮挫 台灣的AI語言模型進度到哪了？ --X
Re: [問卦] 中研院自己做的大型語言模型怎麼了？這語言模型基礎是建構於Llama 2，meta提供的開源模型 另外Atom 7b則是中文社群跟一間中國公司在Llama 2之上訓練成中文使用者適合的模型， 也是開源且開放商用 技術上也不用解釋太多，反正開源模型他本來就不會像GPT或百度的文心一言那樣限制某 些爭議性回答![Re: [問卦] 中研院自己做的大型語言模型怎麼了？](https://i.imgur.com/GQlNhZjb.jpg "Re: [問卦] 中研院自己做的大型語言模型怎麼了？")
4
[問卦] AI推理 LPU會打扒GPU嗎groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事（遊戲 生圖等等）？ --3
Re: [情報] 3D桌寵《Desktop Mate》免費登Steam(部分恕刪) : 根據開發者介紹，該軟體被設計成具有高度擴展性的平台，使用者可以導入各種角色模型， : 或透過購買喜歡的 DLC 來打造自己理想的桌面環境。 今天這軟體推出了，自然是迫不及待的下載，想要把她替換成其他角色...... 然後就卡住了，找不到地方可以匯入模型@@1
[問卦] 訓練阿美語的大型語言模型當碩論可行嗎以下是chatGPT的生成內容 ----- 訓練一個專注於特定語言，如阿美語的大型語言模型，是一項複雜且耗時的工程，但可以透 過以下步驟逐漸達成： 1. **數據收集**：阿美語作為一種少數民族語言，其可用於訓練的數據可能相對有限。首![[問卦] 訓練阿美語的大型語言模型當碩論可行嗎](https://i.imgur.com/Ivb1mNSb.jpg "[問卦] 訓練阿美語的大型語言模型當碩論可行嗎")
2
[討論] LPU在deepseek上能否取代GPU？看到新模型出來後發現 算力並非全部 特化後的演算法反而比較有用 那這樣本來就為了大型語言模型而生的LPU 是不是才是未來的主流 看了Groq的官網 已經有人在測lpu效能了
![[問卦] 台灣有沒有AI語言模型？](https://i.imgur.com/tUCy03Ob.jpeg118.171.129.133 "[問卦] 台灣有沒有AI語言模型？")
爆
[Vtub] 七詩無名 重大告知![[Vtub] 七詩無名 重大告知](https://i.ytimg.com/vi/4qCfplhCk6A/maxresdefault.jpg?v=67e5aef4 "[Vtub] 七詩無名 重大告知")
爆
[情報] UBI將成立由騰訊出資的子公司 分離當家IP68
[Holo] 現在齁最鐵的是ID嗎？55
[閒聊] ChatGPT4o這次的新玩樣也太強![[閒聊] ChatGPT4o這次的新玩樣也太強](https://i.imgur.com/LAJo8BLb.jpeg "[閒聊] ChatGPT4o這次的新玩樣也太強")
62
Re: [Vtub] 七詩無名 重大告知![Re: [Vtub] 七詩無名 重大告知](https://i.imgur.com/05INtaBb.jpeg "Re: [Vtub] 七詩無名 重大告知")
48
[母雞] 說到底MyGO只是一次奇蹟罷了![[母雞] 說到底MyGO只是一次奇蹟罷了](https://i.imgur.com/9Hdroubb.jpeg "[母雞] 說到底MyGO只是一次奇蹟罷了")
39
[母雞] 整季下來哪個角色塑造的最差☺37
Re: [鳴潮] 坎特蕾拉&椿復刻第一波營收![Re: [鳴潮] 坎特蕾拉&椿復刻第一波營收](https://i.imgur.com/KTEnVVXb.png "Re: [鳴潮] 坎特蕾拉&椿復刻第一波營收")
34
[母雞] 樂奈牽手時的小動作![[母雞] 樂奈牽手時的小動作](https://pbs.twimg.com/media/GnDdiL4a8AAYatN.jpg "[母雞] 樂奈牽手時的小動作")
31
[母雞] 不得不佩服柿本這個人（雷）30
[妮姬] 布蕾德這個女人恐怖至極![[妮姬] 布蕾德這個女人恐怖至極](https://i.meee.com.tw/S0TRSwa.png "[妮姬] 布蕾德這個女人恐怖至極")
28
[討論] 完結了 睦在祥子心中的地位？幹你娘 噁心![[討論] 完結了 睦在祥子心中的地位？幹你娘 噁心](https://i.imgur.com/UxNVinLb.png "[討論] 完結了 睦在祥子心中的地位？幹你娘 噁心")
26
[MHWs] 銃槍多配個1級攻up跟1級守勢有差這麼多?33
[閒聊] 水星の魔女上推特趨勢![[閒聊] 水星の魔女上推特趨勢](https://i.imgur.com/7W58Iptb.png "[閒聊] 水星の魔女上推特趨勢")
49
[問題] 喜歡睦的粉絲是不是就是比較賤一點![[問題] 喜歡睦的粉絲是不是就是比較賤一點](https://i.imgur.com/q1VntxPb.jpeg "[問題] 喜歡睦的粉絲是不是就是比較賤一點")
28
[母雞] 說真的會想買票進場mygo還母雞？19
[鳴潮] 鳴潮主線史上最惡劣Bug![[鳴潮] 鳴潮主線史上最惡劣Bug](https://i.imgur.com/sMAxiECb.jpeg "[鳴潮] 鳴潮主線史上最惡劣Bug")
18
[閒聊] 給母雞卡24集484一切都會好起來？58
[討論] 育碧成立與騰訊合資子公司![[討論] 育碧成立與騰訊合資子公司](https://insider-gaming.com/wp-content/uploads/2023/09/cloud-gaming-ubisoft.jpg "[討論] 育碧成立與騰訊合資子公司")
17
Re: [母雞] 無定形之神睦（分析![Re: [母雞] 無定形之神睦（分析](https://i.imgur.com/tXveJT7b.jpeg "Re: [母雞] 無定形之神睦（分析")
16
[情報] 陰陽眼見子 真人電影化 海報&預告公開![[情報] 陰陽眼見子 真人電影化 海報&預告公開](https://i.imgur.com/wj04V9ob.jpeg "[情報] 陰陽眼見子 真人電影化 海報&預告公開")
15
[鳴潮] 2.2劇情迫害汐汐(應該不算雷？)![[鳴潮] 2.2劇情迫害汐汐(應該不算雷？)](https://i.imgur.com/HcELYJqb.png "[鳴潮] 2.2劇情迫害汐汐(應該不算雷？)")
92
[母雞] 無定形之神睦……![[母雞] 無定形之神睦……](https://i.imgur.com/hzrZqOYb.jpeg "[母雞] 無定形之神睦……")
14
Re: [金毛] 純情大熊色情兔13
[母雞] 這集我最感動的是燈![[母雞] 這集我最感動的是燈](https://img.youtube.com/vi/lQuWN0biOBU/mqdefault.jpg "[母雞] 這集我最感動的是燈")
9
[母雞] 睦頭人的粉絲是不是沉默的多數![[母雞] 睦頭人的粉絲是不是沉默的多數](https://i.imgur.com/Ege68Zfb.png "[母雞] 睦頭人的粉絲是不是沉默的多數")
11
[漫畫] 逃不出章魚醬的手掌心 01：可愛![[漫畫] 逃不出章魚醬的手掌心 01：可愛](https://i.imgur.com/hszrJkDb.jpeg "[漫畫] 逃不出章魚醬的手掌心 01：可愛")
20
[妮姬] 布蕾德 個人劇情![[妮姬] 布蕾德 個人劇情](https://i.meee.com.tw/pnJwMcP.png "[妮姬] 布蕾德 個人劇情")
10
[母雞] 睦祥這一集10
Re: [邦邦] 雞狗二期希望踢掉柿本還是獨角獸？