Re: [問卦] Llama 是不是失敗的模型啊
※ 引述《GGFACE (GGFACE)》之銘言:
: 剛看到
: Llama3.1 405B 宣稱跟GPT-4o 同等級
: 問題Llama尬到405B
: 搞不好GPT-4o 80B而已(我猜的啦感覺就輕很多
: 很像黃種人練籃球10年跟黑人訓練一個月差不多強的感覺
: Llama是不是天賦就是比較差
: 有沒有卦
gpt4o mini價格跟gpt3.5差不多 可以想成算力也差不多
那gpt3.5大約是 175B 這樣回推gpt4omini可能也在這附近
然後gpt4o比gpt4mini大 比gpt4小(1.8T x 4)
可以看做4o可能在500B~1T上下
另外llama3.1 instruct 已經具備可fine-tune和tool using還有128k context
可以在個人電腦上用4090做私有化處理
已經是企業級solution了
很多企業絕對不接受資料上雲 比如很多科技公司都有內網 是不能連WAN的
這些企業要部屬一定都是要找offline方案 那目前最強的確實就是 llama3.1
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.71.211 (臺灣)
※ PTT 網址
→
meta現在對人類的唯一貢獻就是開源
光這樣就屌打CloseAI了 更不用說performance幾乎是state of art
※ 編輯: KanzakiHAria (36.231.71.211 臺灣), 07/24/2024 20:05:29推
晚點或是明天來看看
→
4090是跑8B的吧? finetune 也還是要靠
→
LoRA
→
你4090跑的動?
11
Re: [標的] 3443創意 跳水台空Google 辛辛苦苦追趕 ChatGPT 好幾個月,還沒拿出什麼具體對策,OpenAI 今日又火上 加油發表 GPT-4 模組,在這條人工智慧賽道別說車尾燈,Google 現在要擔心的是被 OpenAI 套圈了。但究竟 GPT-4 有什麼威能,和現在聊天好好玩的 ChatGPT 有什麼差別 ?11
Re: [急了] 日本翻譯協會對AI翻譯漫畫發表聲明其實現在已經有這種東西 這是一個叫SakuraLLM開源語言模型, 使用日文及簡體譯文的輕小說文本進行訓練,據說翻譯效果好過GPT3.5 燒家用顯卡即可本機運行,不需要錢,翻一本輕小說也就十幾分鐘的事情7
[分享] 自動批次翻譯漫畫工具部落格完整文章: 最近在github上發現一個超棒的開源批次翻譯漫畫工具: manga-image-translator 這個工具支援多個翻譯引擎, 並且直接整合OCR, 所以可以一行指令就直接自動翻譯一整6
[問卦] GPT-4o的功能有比GPT-4強大嗎,呱???打給厚~ 新聞說新出的GPT-4o功能豪厲害 在此之前GPT-4最強大但要付費使用 那麼本肥就好奇了 免費GPT-4o有比付費GPT-4強大嗎5
Re: [爆卦] ChatGPT推出GPT-4想說我有plus,怎麼還不能測試。 一直reload幾十次終於出來了。 要切換進GPT-4.0前的畫面: 進去後的畫面:4
[情報] OpenAI提出GPT-4o模型 超級語音助理GPT-4o是邁向更自然的人機互動的一步——它接受文字、音訊和圖像的任意組合作為輸入 ,並產生文字、音訊和圖像的任意組合輸出。 它可以在短至 232 毫秒的時間內反應音訊 輸入,平均為 320 毫秒,這與人類在對話中的反應時間相似。它在英語文字和程式碼上的 表現與 GPT-4 Turbo 的效能相匹配,在非英語文字上的效能顯著提高,同時 API 的速度4
[問卦] 我為啥無法免費使用GPT-4o,蛤???打給厚~ ㄚ肥我是免費仔辣 昨天看到新聞說GPT-4o的功能豪厲害 而且開放免費仔使用 但ㄚ肥我註冊登入之後3
[問卦] GPT3.5 16k 是不是有料?如題 最近openAI 開放了GPT3.5 16k token版本 用了一下真的好用 以前很多問題答一答 token就會到上限 現在一次4倍 可以問到爽- 如題 因為chatGPT plus太貴惹 所以一直都用GPT API 上個月才花不到1美金 可是現在API最新的只有3.5 要用GPT-4 要排隊申請
爆
[問卦] 竹科太太徹夜未歸 怎麼辦?爆
[問卦] 長輩:護理師年薪155萬,平常在裝窮?爆
[問卦] 聽說護理師排隊辦離職,怎辦?56
[問卦] 梁靜茹腫麼了?47
[問卦] 窮盡一生只為了小房子不覺得很扯嗎?61
[爆卦] 川普宣布要開始肅清"不誠實"的壞律師43
[爆卦] 崩了崩了, 500點36
[問卦] 八卦板被股票板超越了!41
Re: [新聞] 孤獨死真實上演!42歲單身男「沒工作沒31
[問卦] 台股怎麼了??37
[問卦] 一個人待在中國身上沒錢怎麼辦31
[問卦] 為什麼大跌還是只救台積電?27
[問卦] 竹科媽媽的荒唐故事27
[問卦] 幹 賴用魏哲家騙我26
[問卦] 俄軍在1.4米寬管道行軍15公里?13
[問卦] 被嗆「不要貪污就好」怎回?13
[問卦] 幹 美國選出特朗普這種白癡13
[問卦] 台灣唯一有價值的只有台積電嗎?25
[問卦] 中國飛彈打來對我們幫助很大算戰爭販子嗎15
[問卦] 今天484撿鑽石的日子???!!!16
[問卦] 美國國債36兆美元,賴帳不還會怎樣?27
[問卦] 中壢環北路這個彎 出來前都不停的嗎?20
[問卦] 美股又中風了嗎??35
[問卦] 台積ADR -4.63%13
Re: [問卦] 竹科太太徹夜未歸 怎麼辦?9
[問卦] 台灣為何會走向高房價呢?10
Re: [新聞] 台灣2月新生兒1萬407人 總人口連14個月負10
[問卦] 有人吃一個三明治就飽 我吃三個還餓的?9
[問卦] 今天台北空氣品質是三小???9
[問卦] 大爆崩了該衝了嗎????