2023年最強大的深度學習多機集群配置推薦

UltraLAB

2023年6月7日 15:59

2023年隨著ChatGPT的大熱，人工智能研究再次火熱，如果A100被限制，A800被閹割，還不斷漲價，搞研究，完全可以考慮RTX4090，更多的GPU組成集群，性價比超高

2023年最強大的深度學習多機集群配置推薦的圖1

相關機型：

（1）GPU計算服務器（計算節點）

機型：UltraLAB GX650M（2021年上市的最新機型）

技術特點：采用intel第3代Xeon可擴展處理器、配備nvidia RTX 40系列GPU計算卡，網口配備56G IB網口，硬盤采用SSD，保證硬件配置計算更強、io帶寬更高、整機性能全方位優化，保證多用戶多任務神經元完美計算能力。

（2）存儲服務器（存儲節點）

相關機型：UltraLAB N630A（8盤位）、N630B（16盤位）

技術特點：

CPU 采用intel Xeon第2代可擴展處理器

高速緩存盤：配備M2.SSD確保數據處理的高速讀寫(讀寫3G/s以上)及超低io延遲、

配備并行存儲：數據備份安全可靠、最大容量到112TB（8盤位）/240TB（16盤位）

網口:配備雙56G光口，

另外，整機性能全方位優化支持遠程操作、遠程管理，系統管理員和使用者直接在辦公室甚至異地進行操作。

方案1 CX650深度學習集群配置推薦

計算節點3個

GPU卡：18塊RTX4090（相當于36塊RTX3090Ti）

集群FP32單精度浮點算力：1486Tflops

配置方案

NO	貨物名稱	型號	數量
1	GPU計算服務器GT420	*2Xeon銀4314（32核2.8Ghz ）/256GB DDR4 /6塊RTX4090 24GB** /960GB SSD /4U機架式/56G IB光口/無顯示器	3
2	存儲服務器N650C	2顆Xeon 4310（24核2.3Ghz ）/128GB DDR4 /QT1000 /960GB SSD系統盤+7.68TB高速緩存盤+126TB并行存儲/4U機架式/56G IB光口/27"4K圖顯	1
3	交換機	36個56G IB	1
4	服務器機柜	42U，含PDU、托盤	1
5	KVM	16口 HDMI KVM切換器	1
6	集群系統	CentOS/Ubuntu、作業調度管理	1?
7	深度學習框架	Tensorflow、Pytorch…	1?

合計	￥771,300元

方案2 CX650深度學習集群配置推薦

計算節點4個

GPU卡：24塊RTX4090（相當于48塊RTX3090Ti）

集群單精度fP32浮點算力：1982Tflops

配置方案：

NO	貨物名稱	型號	數量
1	GPU計算服務器GT420	*2Xeon銀4314（32核2.8Ghz ）/256GB DDR4 /6塊RTX4090 24GB** /960GB SSD /4U機架式/56G IB光口/無顯示器	4
2	存儲服務器N650C	2顆Xeon 4310（24核2.3Ghz ）/128GB DDR4 /QT1000 /960GB SSD系統盤+7.68TB高速緩存盤+126TB并行存儲/4U機架式/56G IB光口/27"4K圖顯	1
3	交換機	36個56G IB	1
4	服務器機柜	42U，含PDU、托盤	2
5	KVM	16口 HDMI KVM切換器	1
6	集群系統	CentOS/Ubuntu、作業調度管理	1?
7	深度學習框架	Tensorflow、Pytorch…	1?

合計	￥965,800元