超頻、PCIe4.0-最新最全深度學習工作站方案2021v2

2021年7月30日 09:00
瀏覽：2599

目錄
1 提升深度學習算力的最新硬件方案
2 深度學習選擇GPU-性能指標最新排序
3 UltraLAB深度學習工作站新機型介紹
4 UltraLAB 深度學習工作站基準配置方案2021v2
4.1 GA300i深度學習工作站配置推薦（2塊GPU方案，超值型）
4.2 GT410P深度學習工作站配置推薦（最大5塊GPU方案，高性能型）
4.3 GX650M深度學習工作站配置推薦（最大6塊GPU方案，完美極致型）

最新xeon三代+PCIe 4.0架構(gòu)-深度學習訓練、AI智能、神經(jīng)元計算基準配置推薦2021v2

最新AMD銳龍Pro+PCIe 4.0架構(gòu)-深度學習訓練、AI智能、神經(jīng)元計算基準配置推薦2021v3


一．提升深度學習性能的最新硬件
隨著深度學習、人工智能、大數(shù)據(jù)AI分析等應用深入，對圖形工作站的性能要求越來越高，深度學習主流框架Pytorch、Tensorflow等，在GPU訓練神經(jīng)網(wǎng)絡性能指標---訓練吞吐量，如何通過模型更快地運行數(shù)據(jù)集，需要調(diào)用更多GPU并行訓練，如何提升深度學習算力的硬件性能，關(guān)鍵硬件如下：

No

關(guān)鍵硬件

主要任務

解決方案

1

硬盤讀取速度

數(shù)據(jù)從硬盤讀取到內(nèi)存，并做一些預處理

PCIe 4.0 SSD卡

2

PCIe傳輸速度

內(nèi)存中的數(shù)據(jù)通過PCIe總線傳輸?shù)紾PU顯存

PCIe 4.0 x16接口

3

CPU頻率

從內(nèi)存中取出一批數(shù)據(jù)，轉(zhuǎn)化為numpy array，并作數(shù)據(jù)預處理/增強操作，如翻轉(zhuǎn)、平移、顏色變換等。處理完畢后送回內(nèi)存

數(shù)據(jù)預處理是CPU單核計算，cpu頻率至關(guān)重要

4

內(nèi)存

數(shù)據(jù)從硬盤讀取到內(nèi)存，GPU計算好結(jié)果返回到內(nèi)存

內(nèi)存容量、帶寬

5

GPU卡

計算機視覺(CV)、自然語言處理(NLP)、文本到語音 (TTS) 等的 GPU 訓練速度

每秒處理樣本（）的數(shù)量

單卡的CUDA FP32、Tensor FP16指標越高越好

多卡并行數(shù)量越大越好


二．深度學習選擇GPU-最新性能指標排序
（GPU型號性能對比表，按單精度FP32排序）

No

型號

卡數(shù)

CUDA核數(shù)

單精度FP32    Tfops

張量計算FP16

(Tfops)

顯存帶寬GBs

顯存  合計GB

備注

1

A6000

7塊

75264

280

2184

768

336

超越DGX-2

2

RTX3090

7塊

73472

249

1995

936

168

超越DGX-2

3

A6000

6塊

64512

240

1872

768

288

超越DGX-2

4

RTX3080

8塊

69632

238

1904

760

80

超9*2080ti

5

Tesla V100

16塊

81920

238

1760

653

192

DGX-2

6

RTX3090

6塊

62976

213

1710

936

144

接近DGX-2

7

A6000

5塊

53760

200

1560

768

240

全能高速

8

RTX3080

6塊

52224

179

1428

760

60

超5*3090

9

RTX3090

5塊

52480

178

1425

936

120

10

A6000

5塊

53760

200

1560

768

240

全能高速

11

A5000

6塊

49152

166

1302

768

144

全能高速

12

A6000

4塊

43008

160

1248

768

192

全能高速

13

RTX3080

5塊

43520

149

1190

760

50

超9*2080ti

14

RTX3090

4塊

41984

142

1140

936

96

15

RTX3070

7塊

41216

142

1141

448

56

16

A5000

5塊

40960

139

1085

768

120

全能高速

17

RTX2080Ti

9塊

39168

121

990

616

99

18

RTX3070

6塊

35328

122

978

448

48

超7塊Titan RTX

19

RTX3080

4塊

34816

119

952

760

40

超8*2080ti

20

Titan RTX

7塊

32256

114

910

672

168

21

A5000

4塊

32768

111

868

768

96

全能高速

22

RTX2080Ti

8塊

34816

108

880

616

88

23

RTX3090

3塊

41984

107

855

936

72

24

RTX3070

5塊

29440

102

815

448

40

25

RTX3080

3塊

34816

89

714

760

40

超4*titanRTX

26

A5000

3塊

24576

84

651

768

72

全能高速

27

RTX3070

4塊

23552

81

652

448

32

28

A6000

2塊

21504

80

624

768

96

全能高速

29

RTX3090

2塊

20992

71

570

936

48

30

Titan RTX

4塊

18432

65

520

672

96

31

RTX3070

3塊

23552

61

489

448

24

32

RTX3080

2塊

17408

60

476

760

20

多用途

33

A5000

2塊

16384

56

432

768

48

全能高速

34

RTX2080Ti

4塊

17408

54

440

616

44

35

RTX2080s

4

12288

44

252

496

32

36

RTX3070

2塊

11776

41

326

448

16

超3090

37

A6000

1塊

10752

40

312

768

48

全能高速

38

RTX3090

1塊

10496

36

285

936

24

全能高速

39

Titan RTX

2塊

9216

32

260

672

48

40

RTX3080

1塊

8704

30

238

760

10

科研型

41

A5000

1塊

8192

28

217

768

24

全能高速

42

RTX2080Ti

2塊

8704

28

220

616

22

43

RTX2080s

2塊

3072

22

126

496

16

44

RTX3070

1塊

5888

20

163

448

8

科研型

45

Titan RTX

1塊

4608

16

130

672

24

46

TITAN V

1

5120

14.90

110

653

12

47

RTX2080Ti

1塊

4352

13

110

616

11

三．UltraLAB深度學習工作站新機型介紹
西安坤隆計算機科技有限公司2021年6月新上市兩款機型GA300i、GX650M，其特點支持超頻、支持PCIe4.0接口，其技術(shù)規(guī)格如下：

機型1  UltraLAB GA300i產(chǎn)品介紹

超頻、PCIe4.0-最新最全深度學習工作站方案2021v2的圖1

配置規(guī)格：
CPU  支持intel第11代酷睿處理器(8核@5Ghz-全核超頻）
內(nèi)存  最大128GB（雙通道）
GPU卡 最大2塊RTX30系列
PCIe接口  雙PCIe 4.0 x8或單PCIe 4.0 x16
噪音等級  靜音級

產(chǎn)品說明：
雙槽/三槽GPU卡通吃
比常規(guī)CPU頻率的機器，在數(shù)據(jù)預處理方面提升顯著

售前：提供遠程測試


機型2  UltraLAB GX650M產(chǎn)品介紹
超頻、PCIe4.0-最新最全深度學習工作站方案2021v2的圖2


超頻、PCIe4.0-最新最全深度學習工作站方案2021v2的圖3
配置規(guī)格：
CPU： 2顆Xeon第3代可擴展處理器（最大80核）
內(nèi)存：最大4TB（16通道）
GPU卡： 最大6塊RTX30系列
PCIe接口：6個PCIe 4.0 x16（6個全速），1個PCIe 4.0 x8
并行存儲：16個3.5寸硬盤位
噪音等級：靜音級

產(chǎn)品說明：
雙槽/三槽GPU卡通吃
PCIe4.0比PCIe3.0架構(gòu)擁有更快的數(shù)據(jù)帶寬，整體性能提升顯著（可遠程測試）
內(nèi)存帶寬提升（16通道）
最大300TB并行存儲

GX650M在深度學習關(guān)鍵配置選項

No

關(guān)鍵硬件

解決方案

1

硬盤讀取速度

選項1  2TB M2.SSD PCIe 4.0接口，讀寫帶寬7GB/s、5GB*/s

選項2  3.84TB/7.68TB PCIe-SSD卡，PCIe 4.0 4x，

2

PCIe傳輸速度

6個 PCIe 4.0 x16（全速）

3

CPU頻率

2顆Xeon 金牌6328H（共計32核@3.7GHz，睿頻4.3GHz，基頻2.8GHz）

2顆Xeon 鉑金8354H（共計36核@4.0GHz，睿頻4.2GHz，基頻3.1GHz）

2顆Xeon 鉑金8360H（共計48核@3.8GHz，睿頻4.2GHz，基頻3.0GHz）

2顆Xeon 鉑金8380H（共計56核@3.8GHz，睿頻4.3GHz，基頻2.9GHz）

4

內(nèi)存

最大16通道，DDR4 3200 RECC

192GB（12*16GB）
256GB（16*16GB）
384GB（12*32GB）

512GB(16*32GB)

768GB(12*64GB)

1TB（16*64GB）

5

GPU卡

可選型號：

RTX3080 10GB/RTX3090 24GB

A5000 24GB/A6000 48Gb

數(shù)量 最大6塊


售前：提供遠程測試

四 UltraLAB 深度學習工作站配置方案2021v2

2.1 圖靈計算工作站（GA300i）配置推薦（超值型）
技術(shù)特點：
CPU高頻、最多2塊GPU卡（PCIe 4.0 x8接口），超高性價比

GA300i配置推薦：

No

產(chǎn)品型號

主要配置

顯存

CUDA處理器FP32性能指標

張量處理器FP16性能指標

理想算法

價格

1.1

GA300i 14832-SAX

intel第11代高頻處理器         

( 8核4.8Ghz)/32GB DDR4/ RTX3080 10GB/960GB SSD /4TB SATA/微塔式(2000w) /23"圖顯

10GB

30Tops

238Tops

CNN

￥38,500

1.2

GA300i 14864-SAT

intel第11代高頻處理器          (8核4.8Ghz)/64GB DDR4/     RTX3090 24GB /1.9TB SSD /6TB SATA/微塔式(2000w) /23"圖顯

24GB

36Tops

285Tops

CNN+ RNN  多用途

￥54,000

1.3

GA300i 14832-SA2X

intel第11代高頻處理器(8核@4.8Ghz)/32GB DDR4/2*RTX3070 8GB/1.9TB SSD /6TB SATA/微塔式(2000w)/23"圖顯

16GB

41Tops

326Tops

CNN高性價比

￥49,990

1.4

GA300i 15064-SB2X

intel第11代高頻處理器(8核@5.0Ghz)/64GB DDR4/2*RTX3080 10GB/1.9TB SSD/6TB SATA/微塔式(2000w)/23"圖顯

20GB

60Tops

476Tops

CNN  超4*2080ti

￥68,000

1.5

GA300i 15096-SC2T

intel第11代處理器(8核5.0Ghz) /96GB DDR4 /2*RTX3090 24GB /3.84TB SSD /8TB SATA/微塔式(2000w)/23"圖顯

48GB

71Tops

570Tops

CNN+ RNN 超4塊Titan RTX

￥83,000

1.6

GA300i 150128-SC2D

intel第11代處理器(8核5.0Ghz) /128GB DDR4 /2*A5000 24GB/ 3.84TB SSD /8TB SATA/微塔式(2000w)/23"圖顯

48GB

56Tops

520Tops

CNN+ RNN 超4塊2080TI

￥94,500

1.7

GA300i 150128-SC2E

intel第11代處理器( 8核5.0Ghz) /128GB DDR4 /2*A6000 48GB/ 3.84TB SSD /8TB SATA/微塔式(2000w)/23"圖顯

96GB

80Tops

624Tops

CNN+ RNN 超4塊Titan RTX

￥145,000

2.2 圖靈超算工作站（GT410P）配置推薦（高性能型）
技術(shù)特點：
超高CPU頻率，最多5塊GPU卡（雙槽卡、三槽卡通吃），支持并行存儲，
GT410P配置推薦:

No

產(chǎn)品型號

主要配置

顯存

CUDA處理器FP32性能指標

張量處理器FP16性能指標

理想算法

價格

2.1

GT410P 14664-MB4X

intel第10代至尊處理器(10核4.6Ghz)/64GB DDR4/4*RTX3070 /2TB M2.SSD+6TB SATA/雙塔式(雙2000w) /27"-4K圖顯

32GB

81Tops

652Tops

CNN

￥94,500

2.2

GT410P 14596-MB5X

intel第10代至尊處理器(12核4.5Ghz )/96GB DDR4/5*RTX3070 /2TB M2.SSD+8TB SATA/雙塔式(雙2000w) /27"-4K圖顯

40GB

102Tops

815Tops

CNN

￥112,000

2.3

GT410P 145128-MB3T

intel第10代至尊處理器(12核4.5Ghz)/128GB DDR4/3*RTX3090/ 960GB SSD/2TB M2.SSD/10TB SATA /雙塔式(雙2000w)/27"-4K圖顯

72GB

107Tops

855Tops

高性能多用途

￥129,990

2.4

GT410P 145128-MB4X

intel第10代至尊處理器(12核4.5Ghz)/128GB DDR4/4*RTX3080/ 960GB SSD/2TB M2.SSD/10TB SATA/雙塔式(雙2000w) /27"-4K圖顯

40GB

119Tops

952Tops

性能超8塊2080ti

￥129,990

2.5

GT410P 144192-MB4T

intel第10代至尊處理器( 14核4.4Ghz)/192GB DDR4/4*RTX3090/ 960GB SSD/2TB M2.SSD/12TB SATA/雙塔式(雙2000w )/27"-4K圖顯

96GB

142Tops

1.14PTos

性能超7塊TitanRTX

￥159,990

2.6

GT410P 144128-MB5X

intel第10代至尊處理器(14核4.4Ghz)/128GB DDR4/5*RTX3080/ 960GB SSD/2TB M2.SSD/10TB SATA /雙塔式(雙2000w)/27"-4K圖顯

50GB

149Tops

1.19PTos

CNN

￥155,000

2.7

GT410P 144256-MB5T

intel第10代至尊處理器(14核4.4Ghz)/256GB DDR4/5*RTX3090/ 1.9TB SSD/2TB M2.SSD/12TB SATA  /雙塔式(雙2000w)/27"-4K圖顯

120GB

178Tops

1.43PTos

高性價比多用途

￥189,000

2.8

GT410P 144192-MB5D

intel第10代至尊處理器(14核4.4Ghz)/192GB DDR4/5*A5000/ 1.9TB SSD/2TB M2.SSD/12TB SATA /雙塔式(雙2000w)/27"-4K圖顯

120GB

139Tops

1.08PTos

超高性價比海量計算

￥210,000

2.9

GT410P 144256-MB5E

intel第10代至尊處理器(14核4.4Ghz)/256GB DDR4/5*A6000/ 1.9TB SSD/2TB M2.SSD/12TB SATA /雙塔式(雙2000w)/27"-4K圖顯

240GB

200Tops

1.56PTos

極致性能海量計算

￥335,000

2.3 圖靈超算工作站(GX650M)配置推薦（極致型）
技術(shù)特點：
高主頻，最多6塊GPU卡（全部PCIe 4.0 x16，雙槽卡、三槽卡通吃），PCIe4.0 接口SSD卡，支持最大16個判為海量并行存儲，
每個環(huán)節(jié)都達到最佳，完美、強大的深度學習配置架構(gòu)，還是靜音級
GX650M配置推薦

 

No

產(chǎn)品

型號

主要配置

顯存

CUDA處理器FP32性能指標

張量處理器FP16性能指標

理想算法

價格

4.1

GX630M

236192-

42T5X

2*Xeon金6346

(32核3.6GHz)/

192GB DDR4/

5*RTX3070 /

3.84TB SSD/

42TB并行存儲/

雙塔式(雙2000w)/

27"-4K圖顯

40GB

102Tops

815Tops

CNN

￥189,990

4.2

GX650M

236256-

56T6X

2*Xeon金6346

(32核3.6GHz)/

256GB DDR4/

6*RTX3070 /

3.84TB SSD/

56TB并行存儲/

雙塔式(雙2000w)/

27"-4K圖顯

48GB

122Tops

978Tops

CNN

￥205,000

4.3

GX650M

236256-

42T5X

2*Xeon金6346

(32核3.6GHz)/

256GB DDR4/

5*RTX3080/

1.92TB SSD/

2TB M2 SSD/

42TB并行存儲/

雙塔式(雙2000w)/

27"-4K圖顯

50GB

149Tops

1.19PTos

計算機視覺完美型

￥226,000

4.4

GX650M

236256-

42T4D

2*Xeon金6346

(32核3.6GHz)/

256GB DDR4/

4*A5000/

1.92TB SSD/

2TB M2 SSD/

42TB并行存儲/

雙塔式(雙2000w )/

27"-4K圖顯

96GB

111Tops

880Tops

CNN+RNN全能型

￥249,000

4.5

GX650M

236256-

56T6X

2*Xeon金6354

(36核3.6GHz)/

256GB DDR4/

6*RTX3080/

1.92TB SSD/

2TB M2 SSD/

56TB并行存儲/

雙塔式(雙2000w)/

27"-4K圖顯

60GB

179Tops

1.43PTos

CNN最快

￥259,000

4.6

GX650M

243384-

80T4T      

2*Xeon金6354

(32核3.6GHz)/

384GB DDR4/

4*RTX3090/

1.92TB SSD/

2TB M2 SSD/

80TB并行存儲/

雙塔式(雙2000w)/

27"-4K圖顯

96GB

142Tops

1.14PTfops

全能+完美

￥268,000

4.7

GX650M

234384-

90T5T

2*Xeon金6348

(56核3.4GHz)/

384GB DDR4/

5*RTX3090/

1.92TB SSD/

2TB M2 SSD/

90TB并行存儲/

雙塔(雙2000w)/

27"-4K圖顯

120GB

178Tops

1.43PTos

全能+極致

￥299,500

4.8

GX650M

236512-

120T6T

2*Xeon金6354

(36核3.6GHz)/

512GB DDR4/

6*RTX3090 /

3.84TB SSD/

2TB M2.SSD/

120TB并行存儲/

雙塔式(雙2000w)/

32"-4K圖顯

144GB

213Tops

1.71PTos

近16塊Titan V最快最完美

￥395,000

4.9

GX650M

236768-

150T6D

2*Xeon金6354

(36核3.6GHz)/

768GB DDR4/

6*A5000/

1.92TB SSD/

2TB M2.SSD/

150TB并行存儲/

雙塔式(雙2000w)/

32"-4K圖顯

144GB

166Tops

1.33PTos

最快最完美，性能超DGX-2

￥399,990

4.10

GX650M

236384-

150T5E

2*Xeon金6354

(36核3.6GHz)/

384GB DDR4/

5*A6000/

1.92TB SSD/

2TB M2.SSD/

150TB并行存儲/

雙塔式(雙2000w)/

32"-4K圖顯

240GB

200Tops

1.56PTos

CNN+  RNN+  推理

￥480,000

4.11

GX650M

2331T-

240T6E

2*Xeon鉑金8358

(64核3.3GHz)/

1TB DDR4/

6*A6000/

3.84TB SSD/

2TB M2.SSD/

240TB并行存儲/

雙塔式(雙2000w)/

32"-4K圖顯

288GB

240Tops

1.8PTos

最強最完美，性能超DGX-2

￥630,000

 

最新xeon三代+PCIe 4.0架構(gòu)-深度學習訓練、AI智能、神經(jīng)元計算基準配置推薦2021v2

最新AMD銳龍Pro+PCIe 4.0架構(gòu)-深度學習訓練、AI智能、神經(jīng)元計算基準配置推薦2021v3



UltraLAB圖形工作站供貨商：
西安坤隆計算機科技有限公司
國內(nèi)知名高端定制圖形工作站廠家
業(yè)務電話：400-705-6800

微信號.jpg


 



 

 

登錄后免費查看全文
立即登錄
向量微積分理論基礎
向量微積分理論基礎

￥50

電池包機箱簡化及網(wǎng)格劃分
電池包機箱簡化及網(wǎng)格劃分

￥55

基于ABAQUS單軸拉伸實驗
基于ABAQUS單軸拉伸實驗

免費

App下載
技術(shù)鄰APP
工程師必備
  • 項目客服
  • 培訓客服
  • 平臺客服

TOP