[開箱] 入門顯示卡 AI 應用性能對決!
CUDA 護城河現階段很深很廣
原文轉自 UNIKO's Hardware
網頁好讀版:https://reurl.cc/RWb8eg
https://i.imgur.com/usggQmS.jpg
AI 這個名詞絕對是今年與未來最火熱的議題之一,目前出現各類生成式 AI 應用,例如 ChatGPT 和 Stable Diffusion,為產業帶來全新的發展路線。
為了讓生成式 AI 應用有更高效的產出,AMD、Intel 與 NVIDIA 等晶片廠商皆不斷研發新的軟硬體,以期在這塊市場上取得更多收益。這次筆者就利用目前持有的三張入門顯示卡 (ARC A380、GTX 1650 和 RX 6400),來讓讀者了解三家晶片廠商的入門產品能提供多少運算效能。
GUNNIR ARC A380 Photon 6G OC 外觀
筆者這張 ARC A380 品牌是 GUNNIR,是一張需要外接電源的版本,目前台灣電商平台有銷售的 SPARKLE ARC A380 ELF 則無需外接電源。兩者主要差別是 GPU 加速頻率。
據 TechPowerUp 資料庫顯示,ARC A380 Photon 6G OC 加速頻率是 2450 MHz,ARC A380ELF 加速頻率是 2050 MHz,差了 400 MHz。
ARC A380 Photon 6G OC 外盒正面印有產品外觀彩圖,散熱器跟外接電源的設計,讓它看起來不像入門級顯示卡。右上角標示該卡為 Intel ARC 3 系列成員,支援 XeSS 超採樣技術和 DirectX 12 Ultimate API。
背面標示該卡需要的環境配備,例如 350W 以上並且有 8 Pin PCIe 電源接頭的電源供應器、建議 8GB 以上系統記憶體、AMD Ryzen 3000 系列及更新的處理器並能開啟 ResizableBAR 功能的平台,以及 Windows 10 或 Windows 11 64 位元系統。
https://i.imgur.com/mxcUogL.jpg
正面可以看到整體採黑色雙風扇散熱器,背面也有一塊黑色的金屬強化背板,已經是接近中階顯示卡才有的待遇,整體尺寸不含擋板為 222 x 114 x 42 mm。
https://i.imgur.com/IBg77zj.jpg
內部可以看到有一塊不小的鋁擠散熱片,還有一根導熱管。
上方印有 Intel ARC 字樣,8 Pin 電源插座旁還有一塊 GUNNIR Logo 的發光區域,正常開機時會發藍光。
https://i.imgur.com/3bHdodZ.jpg
在影像輸出方面,具備 1 個 HDMI 2.0 跟 3 個 DisplayPort 2.0 輸出接頭,是新台幣 4000 左右顯示卡中輸出接頭最多的。
https://i.imgur.com/pmjdbng.jpg
硬體規格
處理器:AMD Ryzen 5 5600X (關閉 PBO)
主機板:ASUS PRIME B550M-K/CSM
記憶體:XPG SPECTRIX D60G DDR4 RGB 3000 8GB x2 (OC 3200)
顯示卡:
1.ASUS Dual Radeon RX 6400
2.GUNNIR ARC A380 Photon 6G OC
3.ZOTAC GAMING GeForce GTX 1650 Low Profile儲存:ADATA Legend 710
螢幕TUF Gaming VG27AQL1A ZAKU II EDITION
驅動版本:
ASUS Dual Radeon RX 6400 - AMD Software : Adrenalin Edition 23.11.1
GUNNIR ARC A380 Photon 6G OC - Intel Arc & Iris Xe Graphics 31.0.101.4972
ZOTAC GAMING GeForce GTX 1650 Low Profile - GeForce Game Ready 546.17
作業系統:Windows 11 23H2 (關閉防毒)
電源設定:平衡模式
性能與遊戲測試
3DMark
不免俗的還是要跑一下 Benchmark,首先是 3DMark,Time Spy 中 ARC A380 分數最高,Fire Strike Extreme 中則是 RX 6400 表現最佳。
https://i.imgur.com/QGgqja4.png
Geekbench
再來是 Geekbench,OpenCL 性能 GTX 1650 具備優勢,Vulkan 則是 RX 6400 領先,而 ARC A380 在這兩項測試中性能皆居次。
https://i.imgur.com/Pli4iaj.png
GravityMark Vulkan
GravityMark Vulkan 的顯示卡性能排名與 Geekbench Vulkan 相同,表示 RX 6400 在 Vulkan API 的效能表現是三者中最強的,只是大家性能差距也不大。
https://i.imgur.com/UKJVTYP.png
Counter-Strike 2
簡單試個遊戲,首先是 Counter-Strike 2,由於是入門顯示卡,所以筆者統一使用 1080P120Hz 低特效全螢幕設定,地圖選 Dust 2 進行 AI 對戰,結果 RX 6400 出現畫面異常不能玩,只有在未設定全螢幕前的視窗化狀態下正常,因此 RX 6400 在這項沒有成績。GTX 1650 在 CS2 遊戲測試中 AVG FPS 最高。
https://i.imgur.com/i9dhqCL.png
Overwatch 2
接著測 Overwatch 2,一樣是 1080P 120Hz 低特效全螢幕,關閉動態渲染比率,遊戲解析度設定 100%,最大幀率 300,地圖 66 號公路,AVG FPS 由 RX 6400 勝出。
https://i.imgur.com/yEqZ53l.png
AI 相關應用測試
Stable Diffusion WebUI
現在進入重頭戲,先來試個最常用的本地 AI 應用 Stable Diffusion WebUI,模型使用 Stable Diffusion V1.5,GTX 1650 用的是AUTOMATIC1111 的 Stable Diffusion web UI,版本 1.6.0;ARC A380 用的是 openvinotoolkit 的 Stable Diffusion web UI,版本 1.6.0;RX 6400 使用 Nod.AI 專為 AMD RDNA 顯示卡最佳化的 Shark (Vulkan API),版本 20231009.984。測試使用的設定和 Prompt 跟「Stable Diffusion AI 生圖加速新利器!透過 LCM LoRA 大幅提升生圖速度」這篇*註1 相同,測試結果顯示 Intel 的 OpenVINO加速相當出色,速度讓對手看不到車尾燈。
https://i.imgur.com/ea2bs1W.png
本地 LLM 大型語言模型運作效能測試
筆者使用 KoboldCpp V1.5 載入 Taiwan-LLM-7B-v2.1-chat-Q4_K_S.gguf 模型進行測
試,設定只更改 Presets,GTX 1650 選擇 cuBLAS,ARC A380 和 RX 6400 選擇 CLBlast,詢問的問題是「什麼是LLM」,連續三次。圖片排序左至右依序是 GTX 1650、ARC A380、RX 6400,測試結果顯示 GTX 1650 效率最高,RX 6400 次之。
https://i.imgur.com/kkTADmY.jpg
AI 影片放大補幀效能測試
測試工具使用 Waifu2x-Extension-GUI 版本 3.108.01, 放大工具選擇 Real-CUGAN ncnn Vulkan,放大倍率為預設的 2X,補幀工具選擇 RIFE ncnn Vulkan,針對各顯示卡開啟硬體加速選項,圖片儲存格式用 WebP,圖片品質設 80,測試的影片來源 (360P) 可按此下載*註2。
此項測試由 GTX 1650 拿下冠軍,RX 6400 獲得亞軍。
https://i.imgur.com/My89rrL.png
結論
以一般娛樂用途而言,在新台幣 4000 這個價位上,三款顯示卡的效能其實差不多,要是真的想跑 AI 應用,那麼 NVIDIA 的顯示卡絕對是目前最穩的選擇,AI 相關應用軟體基本上都支援 CUDA,可以讓你獲得下載即可用的體驗。
在本次測試結果中,AMD 顯示卡雖然性能表現不如 NVIDIA (這邊僅考慮 Windows 平台) ,透過 OpenCL 或 Vulkan API 還是可以獲得一定程度的效果。另外,AMD 的 ROCm 雖然說已登陸 Windows 平台,但筆者使用 KoboldCpp 的 ROCm 版本只能正常開啟程式,載入模型後就自己關閉了,而 Shark 從 Vulkan 改為 ROCm 會顯示錯誤出不了圖,因筆者手上沒 AMD 更高階的顯示卡 (本身偏好用無須外接電源的顯示卡),不曉得是不是 VRAM 不夠所以跑不了,或是有其他原因,也希望能在 Windows 系統上看到更多最佳化解決方案出現。
至於 Intel ARC 顯示卡在 AI 的發展,只要 Intel 持續積極對社群 / 開發者進行資源投入,以本次 Stable Diffusion WebUI 測出來的效率來看,在 Windows 系統的未來令人期待。
筆者並非 AI 相關產業人員,對這方面並不熟悉,若是大家有更準確且方便比較性能的測試方法 / 工具歡迎提出,希望是以簡單安裝、容易使用且免費或開放原始碼,能夠在 Windows 系統正常運作為主。關於 AI 應用測試結果僅供參考,測試期間為 11 月底至 12 月初,有機會且剛好有硬體的話會繼續測試一些東西給大家看。
喜歡我們的文章歡迎分享原文
也可以UNIKO's Hardware 粉絲專頁並設為最愛,或是到 UNIKO's Hardware 官方網頁逛逛,觀看各種開箱及測試!
--
Sent from my Nothing A065
○ PiTT // PHJCI
--
※ 編輯: AreLies (36.238.40.102 臺灣), 01/02/2024 00:17:17
破產版AI
雜魚們等級對決是嗎?
5000價位的話 2月會出3050 6GB版 免外接電卡
3050 6GB對比這幾張多了Tensor Core
相對比較的話 3050 6GB好像也還行XD
其實現行的3050 8G會更好用 只是價格太貴 捏上3060 12G還比較有CP值
※ 編輯: AreLies (36.238.40.102 臺灣), 01/02/2024 01:44:46推
想知道入門顯卡跟SoC的NPU能比嗎
APU(780M)呢? 完全不能打?
Arc a380也有xmx(tensor core)。
intel/amd的igpu/dgpu跑LLM選擇MLC會快很
多。OpenCL基本上優化的不夠。MLC用vulkan
效果更好。vLLM看起來也蠻有潛力的。
koboldcpp/llamacpp主要是普及,易入門,
cpu/gpu自動幫你配好,N家優化極好。
LLM現在的發展極快,變化也很快,希望明年
不對,今年上半年有比較明顯的結果出來,
NPU目前支援都不好。AMD的NPU鎖在onnx後面
支援可能更難.
顏色選擇好怪啊 一般是用i藍 n綠 A紅吧
推比較
與其買入門卡,不是用內顯就好?
VRAM入門感覺要12GB吧?
訓練模型要12g,畫圖不用
58
[情報] Intel Arc A380 顯卡遊戲效能小輸RX6400來自 什么都能测的 bilibili 影片,內容提及 目前在中國大陸首先上市的 Intel Arc A380 獨立顯示卡 從效能來看只能在 3DMark 跑分有著不錯的性能 但在遊戲效能上則輸給 RX 6400 與 GTX 1650。 測試的顯卡是 GUNNIR Intel Arc A380 Photon 6G OC26
[情報] 藍戟Intel Arc A380獨立顯示卡終於開賣6月15日Intel正式發布了Arc獨立顯示卡的桌上型版,首發Arc A380 僅限中國市場,初期僅限OEM整機。現在Arc A380終於進入零售市場 首發的還是核心合作夥伴藍戟的Arc A380 Photon 6G OC Arc A380中國建議零售價為1030元人民幣,藍戟這款目前售價1299元人民幣。25
[情報] 7星/共碩/PROG套裝電腦都出現i皇A380選項ROG Strix 與 ExpertCenter 桌機加入新選項,ASUS 產品頁露出 Intel Arc 顯示卡資訊 -- ASUS 產品頁面已經將 Intel Arc 顯示卡資訊加入,應該就快要有產品了吧。 Intel 在 6 月底於中國市場發表了入門級別的 Intel Arc A380 獨立顯示卡,而至今我23
[情報] 撼與 SPARKLE INTEL ARC 顯卡上市Sparkle Computer與Intel宣佈建立新的合作夥伴關係,推出SPARKLE Intel Arc系列顯示 卡 憑藉在生產優質工業顯示卡、ODM解決方案和外接設備方面的豐富經驗 Sparkle現在正在將業務範圍擴展到消費類顯示卡業務16
[情報] Intel A310 4GB 入門級顯示卡將取代 DG1據傳Intel的Arc Alchemist A系列顯示卡產品配備了一款絕對低階的顯示卡,稱為A310。 儘管Intel從未在桌上型領域正式推出DG1,GPU最終還是進入了OEM領域 提供了包括ASUS在內的一系列AIB的選項。DG1顯示卡作為入門級設計 由於其低廉的價格和功能確實受到了歡迎。根據新的傳聞 Intel有望以Arc A310顯示卡的形式發布DG1顯示卡的繼任者。12
[情報] 技嘉成為三吃顯卡的品牌Intel AMD NV第二家通吃NVIDIA、AMD、Intel的顯示卡品牌誕生!但這也太貴了 [複 我們知道NVIDIA顯示卡品牌合作陣營叫做AIC,AMD這邊則是AIB Intel現在也重新加入了獨立顯示卡市場。 很多顯示卡品牌不止做一家GPU,但是三家通吃的還是極為罕見 此前只有ASUS,而且在Intel這邊並不是很上心,只做過超低功耗的DG110
[情報] Intel首款非公版ARC A380顯卡在大陸上市~ GUNNIR Arc A380 Photon是全球首款採用Intel Xe-HPG/DG2架構的非公版顯示卡 該型號剛剛在中國上市銷售。 Photon顯示卡是採用雙風扇散熱解決方案的非公版設計 該型號出廠時超頻至2450MHz,TDP增加至92W(從75W)11
[情報] Sparkle 展出全系列 Alchemist 架構獨顯Intel 雖然不給力,但其合作夥伴還是很努力。 Sparkle,曾經的 NVIDIA AIC 合作夥伴,在淡出消費性顯示卡市場後 在 2023 年以 Intel Arc 顯示卡回歸。 現在的 Sparkle 與早前的 Sparkle 屬於不同經營團隊; 原先的 Sparkle 屬於斯博科9
[情報] Intel Arc 添加新品牌,許久未見 Sparkle算一下,目前 Intel Arc 陣營已經有 1、2、3、4… 8 – 3 家品牌。 Sparkle 這個品牌對於老屁股來說,可能較為熟悉 但對於年輕的小朋友來說,就相對要陌生許多。 作為曾經的 NVIDIA AIC 合作夥伴之一,已經許久沒有在消費性顯示卡市場上出沒3
[情報] 微星Low-Profile Intel Arc A380 LP 曝光MSI的第一款Intel Arc A380顯示卡已被曝光出來 它採用簡潔的SFF設計,適合針對入門級PC使用。 MSI的Intel Arc A380顯示卡採用非公版的Low-Profile設計 並遵循公版規格。該卡有專為SFF(小型)PC設計的PCB 到目前為止我們已經看到了GUNNIR和ASRock的Arc AIB設計。