[請益] 邊緣運算/資料中心 伺服器
由於最近公司成員在電腦跑類神經網路訓練時花的時間太長,
因此上頭萌生要買機架型伺服器來增加運算力的念頭,
不幸公司目前沒有專門IT人員或較懂這方面的同事來處理,
這件事情就落到了也是不懂的我的身上了....
整理目前的需求如下:
1. 機架行伺服器,搭配Nvidia A100 GPU
2. 運算中心: 需要的同仁可連線進入使用運算資源
3. 資料中心: 建造如google drive的線上儲存空間,這裡應該使用NAS廠商
其實一開始公司有丟了技嘉與Dell的網頁給我說可以直接連絡客服就好,
但不知為何寄信過去都石沉大海。
如同前面所述目前沒有IT人員,
我本身其實也算是使用者而已,
可以預見自己導入未來一定會遇到很多問題,
自己是想找一個配合廠商的業務來做技術諮詢就好,
未來若有要擴充功能或是除錯也比較安心,
因此想請問版上在這類需求購買上有沒有什麼建議?
還請不吝告知,
謝謝各位。
--
貴司沒有申請電話嗎?客服用打的
明天打算打去技嘉問問,想說一開始先寄信看回信做點功課..
第一步:開IT缺
不要接這鳥差 推不掉就辭職 這公司沒救
公司要買的東西可能都超過你的年薪
找廠商來問,絕對不要接這工作
找SI廠商招標啦,這種東西要考慮後續
保固維護合約,這又不是小錢,出事你
要負責嗎還是出錢?
你沒有覺得怪怪的嗎?
建議換新的...工作
這是啥IT鬼故事
不要蹚渾水
建議換工作
請開履歷準備投了 這公司絕對完蛋
需要跑到這種程度還沒有人專門管機器,有
點慘
快逃
直接打電話會有廠商接啦 看起來不是沒預算阿
恩恩,是沒想到兩間寫信都沒人回,我會直接打電話問看看
※ 編輯: hirofumisyo (36.225.13.86 臺灣), 07/07/2024 22:07:23我只提醒一點 貴公司確定拿得出這麼多錢
嗎
DGX A100 600萬起跳 更新的代的都千萬
稍微低一階的用A6000之類的就比較多廠商
剛剛看一下應該不會用到像DGX A100這樣等級的,之前了解的需求比較像普通(?) 機架型伺服器+1~4張A100顯卡,達到運算中心跟資料中心目的,有心理準備花費 會破百萬這樣。但實際會多少真的沒有概念,但600萬也太嚇人。
公有雲應該有得租?
因此上頭萌生+公司沒有專門IT人員=涼涼
聯繫SI廠商報價不過這種情況大概上頭看到價
格就縮惹
沒錢請IT會有錢買這個? 快逃.jpg
原本想推薦看一看還是算了
語言相通打一通電話就會有專人服務,有技
術問題會有專門的工程師處理,上班日一定
有人。
這點我是比較擔心的,有的知識都是網路上臨時查到的
你的狀況看起來就是上頭只是想打聽
一下報價找你去查一下
公司成員有心或他們知道真的要做應
該自己就先去找了 還讓你寫信..不是
有電話不打寫信
高機率到後面看到報價想一想還是算
了
至於公有雲 公有雲用租不一定划算
新的硬體可能是要加入beta計畫 另外
也要看你選的資料中心那裡有沒有機
器可以給你用 GPU伺服器很夯 最夯的
時候你沒得用 發生意外或要擴增時不
一定有機器會很尷尬
找SI廠商,維護叫他們做,別自己搞,
會想死
:)
電可能還要重配
看這種需求 我看也不見得花得起
這什麼新創公司?
直接用租的啦 不用煩惱維護 反正也用不到
那麼多效能 真要擴充再擴租就好 免煩惱
沒有專門IT人員處理看到就怕
隔壁角川的事情你要不要了解一下
公司沒有人懂 你也不懂 推薦換新的
工作
你系統買進來誰維護?
有的廠商寄信過去之後打電話才會理你,
原po可以試試看打電話去
好的,謝謝你
※ 編輯: hirofumisyo (36.225.39.92 臺灣), 07/08/2024 09:07:19別鬧惹有先了解行情嗎知道A100一張就多少嗎
只有上百萬根本買不了啥
HPC不是買進來就可以用了,最基礎的機房
環境都要評估不然買進來還沒幹正事就跳電
熱當有你受的,你公司沒有專職IT我猜也沒
像樣的機房
有些伺服器電源的瓦數要評估
不然操下去直接跳電
東西買了沒達到長官想要的預期效能
責任你要擔嗎
電的問題基本上就是租IDC看你要幾櫃
只有錢錢多寡後面投資人可能有意見
大部分的問題用錢就是可以解決
我們這邊一台A6000就要200萬了
先不講業務拜訪,沒IT的公司一開口就A10
0廠商也會怕好嗎
確實以原po來說最大的問題不是錢而是沒人
租算力就好了吧
雲端算力先吧
不懂的話還是用租的吧....
colab pro+? 先試試看啊?
34
[情報] 英特爾發表超級運算CPU與GPU,更新未來英特爾發表超級運算CPU與GPU,更新未來兩代的加速運算產品發展藍圖 全球高效能運算與超級電腦領域的下半年度盛會SC22,即將於下週展開(11月13日到18日 ),主要運算平臺廠商紛紛把握這個重要機會,公開展示他們目前最新推出的產品,並且 預告未來幾年的發展路線,而在伺服器市場激烈競爭的Intel與AMD,也搶先在大會召開前 一週,陸續發表相關的產品消息,其中Intel動作最快,搶先於11月9日發布新聞稿與影片14
Re: [新聞]全面禁止高階AI晶片出口中國要看懂這個新聞需要一些對於高速運算的基本知識。 輝達的GPU產品分成三種不同等級與用途,第一種叫做消費用晶片,也就是大家常常聽到跟使用的GTX跟RTX,主要用途在於遊戲運算以及虛擬貨幣挖礦,主要安裝在伺服器跟個人電腦上面 第二種等級的 GPU 是nvidia quadro系列,這種等級的GPU是與用來做3D繪圖運算用,用來渲染3D影像,主要安裝在工作站級的電腦上面。 最後一種等級的GPU是Tesla系列的A100跟更新的H100,他們的價格完全不是前面兩種等級可以比的,這種等級的GPU是安裝在高速運算中心,提供最高的算力。 另外這三種等級的晶片雖然都有其專有設計的目的,但是並非只能用在那個領域,要用A100來挖礦或是用RTX來跑深度學習都完全沒有問題的,他們的差別在於最高算力以及能耗上面,A100跟H100有著遠比其他等級晶片要高出許多的算力,要達到同樣算力,要用更多的能源,或是更多的空間以及更多成本。9
[情報] 2022英特爾資料中心繪圖處理器:Ponte Veithome 2022英特爾資料中心繪圖處理器:Ponte Vecchio 結合英特爾、台積電製程技術,打造適用高效能運算與機器學習的單一平臺,將模組化堆 疊擴充架構發揮至極致 在2019年11月的美國超級電腦大會期間,英特爾宣布,他們將基於自行發展的Xe架構,推8
[情報] 戴爾新款NVLink GPU伺服器登場 搭配AMD戴爾新款NVLink GPU伺服器登場,搭配最新AMD處理器 適逢AMD發表第三代EPYC處理器,Dell EMC發表新款4U尺寸的GPU伺服器,當中採用4個SXM 4形式的Nvidia A100 GPU 文/李宗翰 2021-04-01 伺服器處理器大廠AMD在3月15日發表第三代EPYC 7003系列,許多伺服器廠商紛紛宣布既