Re: [問卦] Llama 是不是失敗的模型啊
※ 引述《GGFACE (GGFACE)》之銘言:
: 剛看到
: Llama3.1 405B 宣稱跟GPT-4o 同等級
: 問題Llama尬到405B
: 搞不好GPT-4o 80B而已(我猜的啦感覺就輕很多
: 很像黃種人練籃球10年跟黑人訓練一個月差不多強的感覺
: Llama是不是天賦就是比較差
: 有沒有卦
gpt4o mini價格跟gpt3.5差不多 可以想成算力也差不多
那gpt3.5大約是 175B 這樣回推gpt4omini可能也在這附近
然後gpt4o比gpt4mini大 比gpt4小(1.8T x 4)
可以看做4o可能在500B~1T上下
另外llama3.1 instruct 已經具備可fine-tune和tool using還有128k context
可以在個人電腦上用4090做私有化處理
已經是企業級solution了
很多企業絕對不接受資料上雲 比如很多科技公司都有內網 是不能連WAN的
這些企業要部屬一定都是要找offline方案 那目前最強的確實就是 llama3.1
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.71.211 (臺灣)
※ PTT 網址
→
meta現在對人類的唯一貢獻就是開源
光這樣就屌打CloseAI了 更不用說performance幾乎是state of art
※ 編輯: KanzakiHAria (36.231.71.211 臺灣), 07/24/2024 20:05:29推
晚點或是明天來看看
→
4090是跑8B的吧? finetune 也還是要靠
→
LoRA
→
你4090跑的動?
11
Re: [標的] 3443創意 跳水台空Google 辛辛苦苦追趕 ChatGPT 好幾個月,還沒拿出什麼具體對策,OpenAI 今日又火上 加油發表 GPT-4 模組,在這條人工智慧賽道別說車尾燈,Google 現在要擔心的是被 OpenAI 套圈了。但究竟 GPT-4 有什麼威能,和現在聊天好好玩的 ChatGPT 有什麼差別 ?11
Re: [急了] 日本翻譯協會對AI翻譯漫畫發表聲明其實現在已經有這種東西 這是一個叫SakuraLLM開源語言模型, 使用日文及簡體譯文的輕小說文本進行訓練,據說翻譯效果好過GPT3.5 燒家用顯卡即可本機運行,不需要錢,翻一本輕小說也就十幾分鐘的事情7
[分享] 自動批次翻譯漫畫工具部落格完整文章: 最近在github上發現一個超棒的開源批次翻譯漫畫工具: manga-image-translator 這個工具支援多個翻譯引擎, 並且直接整合OCR, 所以可以一行指令就直接自動翻譯一整6
[問卦] GPT-4o的功能有比GPT-4強大嗎,呱???打給厚~ 新聞說新出的GPT-4o功能豪厲害 在此之前GPT-4最強大但要付費使用 那麼本肥就好奇了 免費GPT-4o有比付費GPT-4強大嗎5
Re: [爆卦] ChatGPT推出GPT-4想說我有plus,怎麼還不能測試。 一直reload幾十次終於出來了。 要切換進GPT-4.0前的畫面: 進去後的畫面:4
[情報] OpenAI提出GPT-4o模型 超級語音助理GPT-4o是邁向更自然的人機互動的一步——它接受文字、音訊和圖像的任意組合作為輸入 ,並產生文字、音訊和圖像的任意組合輸出。 它可以在短至 232 毫秒的時間內反應音訊 輸入,平均為 320 毫秒,這與人類在對話中的反應時間相似。它在英語文字和程式碼上的 表現與 GPT-4 Turbo 的效能相匹配,在非英語文字上的效能顯著提高,同時 API 的速度4
[問卦] 我為啥無法免費使用GPT-4o,蛤???打給厚~ ㄚ肥我是免費仔辣 昨天看到新聞說GPT-4o的功能豪厲害 而且開放免費仔使用 但ㄚ肥我註冊登入之後3
[問卦] GPT3.5 16k 是不是有料?如題 最近openAI 開放了GPT3.5 16k token版本 用了一下真的好用 以前很多問題答一答 token就會到上限 現在一次4倍 可以問到爽- 如題 因為chatGPT plus太貴惹 所以一直都用GPT API 上個月才花不到1美金 可是現在API最新的只有3.5 要用GPT-4 要排隊申請
爆
[問卦] 八炯:我敢承認 我來面試拿文化部的錢爆
[爆卦] 新一批波波醫師已放水完畢爆
Re: [新聞] 快訊/羈押105天將起訴!柯文哲聲請解除79
[問卦] 上街抗議被酸面試 你真的不會生氣?96
Re: [新聞] 青鳥「民主碰瓷」全都錄!假摔先怪人66
[問卦] 股票一晚賠超過50萬 怎麼調適?68
[問卦] 數位部今年花225億是在幹嘛?60
[問卦] 黃小柔在台灣是什麼咖位的藝人?47
[問卦] 自摔哥可以拿金像獎嗎40
[問卦] 澤連斯基再次表示他們無能力收回失土30
[問卦] 自摔哥的演技該封影帝還是視帝?30
[爆卦] 檜山沙耶 宣布結婚26
[問卦] 林襄帶起不禮貌運動嗎?19
[問卦] 娶青鳥要注意什麼?22
[問卦] 中國流行碰瓷,台灣也流行起來了嗎?41
[問卦] 新加坡是一個什麼樣的國家?15
[問卦] 有人會看手相嗎? 我的命運是 ?17
[問卦] 扣掉科技業老闆賺的真的只夠付員工三萬塊18
[問卦] 火鍋湯該喝完嗎?17
[問卦] 八炯可以被列入台灣「偉人」的行列嗎?16
[問卦] 立院前面試 HR評分標準是什麼15
[問卦] 網軍跟酸民是不是可以出書教人辯論14
[問卦] 美股大跌,爽啦! 輝達100塊all in?還往13
[問卦] 所以位置被坐到很嚴重嗎36
[問卦] 我下腹左邊好像比較大12
[問卦] 郭哲榮投資長到底有沒有料?13
[問卦] 真的有好的職場環境嗎= =....?9
Re: [新聞] 賴清德:立院議事 應尊重民主程序6
[問卦] 幹你娘淘寶稅金3元手續費30元數位部吃屎29
[問卦] 小夜剛下班,發生什麼事了,有懶人包嗎?