英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍

英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖1


英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖2
來(lái)源: IT之家

英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖3


11月13日消息,英偉達(dá)今日發(fā)布了下一代人工智能超級(jí)計(jì)算機(jī)芯片,這些芯片將在深度學(xué)習(xí)和大型語(yǔ)言模型(LLM)方面發(fā)揮重要作用,比如 OpenAI 的 GPT-4。新芯片相比上一代有了顯著的飛躍,將被用于數(shù)據(jù)中心和超級(jí)計(jì)算機(jī),處理諸如天氣和氣候預(yù)測(cè)、藥物發(fā)現(xiàn)、量子計(jì)算等任務(wù)。


英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖4


此次發(fā)布的關(guān)鍵產(chǎn)品是基于英偉達(dá)的“Hopper”架構(gòu)的 HGX H200 GPU,是 H100 GPU 的繼任者,也是該公司第一款使用 HBM3e 內(nèi)存的芯片,這種內(nèi)存速度更快,容量更大,因此更適合大型語(yǔ)言模型。英偉達(dá)稱:“借助 HBM3e,英偉達(dá) H200 以每秒 4.8 TB 的速度提供 141GB 的內(nèi)存,與 A100 相比,容量幾乎是其兩倍,帶寬增加了 2.4 倍。”


英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖5


在人工智能方面,英偉達(dá)表示,HGX H200 在 Llama 2(700 億參數(shù) LLM)上的推理速度比 H100 快了一倍。HGX H200 將以 4 路和 8 路的配置提供,與 H100 系統(tǒng)中的軟件和硬件兼容。它將適用于每一種類型的數(shù)據(jù)中心(本地、云、混合云和邊緣),并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署,將于 2024 年第二季度推出。


英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖6


英偉達(dá)此次發(fā)布的另一個(gè)關(guān)鍵產(chǎn)品是 GH200 Grace Hopper“超級(jí)芯片(superchip)”,其將 HGX H200 GPU 和基于 Arm 的英偉達(dá) Grace CPU 通過(guò)該公司的 NVLink-C2C 互連結(jié)合起來(lái),官方稱其專為超級(jí)計(jì)算機(jī)設(shè)計(jì),讓“科學(xué)家和研究人員能夠通過(guò)加速運(yùn)行 TB 級(jí)數(shù)據(jù)的復(fù)雜 AI 和 HPC 應(yīng)用程序,來(lái)解決世界上最具挑戰(zhàn)性的問(wèn)題”。


GH200 將被用于“全球研究中心、系統(tǒng)制造商和云提供商的 40 多臺(tái) AI 超級(jí)計(jì)算機(jī)”,其中包括戴爾、Eviden、惠普企業(yè)(HPE)、聯(lián)想、QCT 和 Supermicro。其中值得注意的是,HPE 的 Cray EX2500 超級(jí)計(jì)算機(jī)將使用四路 GH200,可擴(kuò)展到數(shù)萬(wàn)個(gè) Grace Hopper 超級(jí)芯片節(jié)點(diǎn)。


英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖7


也許最大的 Grace Hopper 超級(jí)計(jì)算機(jī)是位于德國(guó) Jülich 工廠的 JUPITER,在 2024 年安裝后將成為“世界上最強(qiáng)大的 AI 系統(tǒng)”。其使用了液冷架構(gòu),其增強(qiáng)模塊由近 24000 個(gè)英偉達(dá) GH200 超級(jí)芯片組成,這些芯片通過(guò)英偉達(dá) Quantum-2 InfiniBand 網(wǎng)絡(luò)平臺(tái)互連。


英偉達(dá)表示,JUPITER 將有助于在多個(gè)領(lǐng)域取得科學(xué)突破,包括氣候和天氣預(yù)測(cè),生成高分辨率的氣候和天氣模擬,并進(jìn)行交互式可視化。它還將被用于藥物發(fā)現(xiàn)、量子計(jì)算和工業(yè)工程,其中許多領(lǐng)域使用定制的英偉達(dá)軟件解決方案,這些解決方案簡(jiǎn)化了開(kāi)發(fā),但也使超級(jí)計(jì)算團(tuán)隊(duì)依賴于英偉達(dá)硬件。


據(jù)報(bào)道,上個(gè)季度,英偉達(dá)僅在 AI 和數(shù)據(jù)中心領(lǐng)域就實(shí)現(xiàn)了創(chuàng)紀(jì)錄的 103.2 億美元的收入(總收入為 135.1 億美元),比一年前增長(zhǎng)了 171%,英偉達(dá)無(wú)疑希望新的 GPU 和超級(jí)芯片能夠幫助其繼續(xù)這一趨勢(shì)。


全球高速混合信號(hào)芯片行業(yè)分析報(bào)告

 


第一章 半導(dǎo)體及集成電路行業(yè)概述


一、半導(dǎo)體及集成電路概述

二、半導(dǎo)體及集成電路產(chǎn)業(yè)鏈簡(jiǎn)介
1. 產(chǎn)業(yè)鏈分類
2. 各產(chǎn)業(yè)概況


第二章 集成電路設(shè)計(jì)行業(yè)市場(chǎng)綜述


一、集成電路設(shè)計(jì)行業(yè)發(fā)展概述

二、集成電路設(shè)計(jì)行業(yè)市場(chǎng)分析

三、高速混合信號(hào)芯片行業(yè)市場(chǎng)概述


第三章 高清視頻橋接芯片市場(chǎng)綜述


一、高清視頻橋接芯片行業(yè)介紹
1. 視頻接口技術(shù)發(fā)展介紹
2. 高清視頻接口標(biāo)準(zhǔn)發(fā)展趨勢(shì)分析
3. 高清視頻橋接芯片功能介紹
4. 高清視頻橋接芯片產(chǎn)業(yè)鏈介紹
5. 高清視頻橋接芯片主要商業(yè)模式介紹

二、高清視頻橋接芯片市場(chǎng)分析
1. 全球及中國(guó)大陸高清視頻橋接芯片市場(chǎng)趨勢(shì)分析
2. 全球及中國(guó)大陸高清視頻橋接芯片主要應(yīng)用市場(chǎng)趨勢(shì)分析
2.1全球及中國(guó)大陸教育及視頻會(huì)議應(yīng)用高清視頻橋接芯片市場(chǎng)趨勢(shì)
2.2全球及中國(guó)大陸安防監(jiān)控系統(tǒng)應(yīng)用高清視頻橋接芯片市場(chǎng)趨勢(shì)
2.3全球及中國(guó)大陸商顯應(yīng)用高清視頻橋接芯片市場(chǎng)趨勢(shì)
2.4全球及中國(guó)大陸汽車電子應(yīng)用高清視頻橋接芯片市場(chǎng)趨勢(shì)
2.5全球及中國(guó)大陸AR/VR應(yīng)用高清視頻橋接芯片市場(chǎng)趨勢(shì)
2.6全球及中國(guó)大陸筆記本及周邊應(yīng)用高清視頻橋接芯片市場(chǎng)趨勢(shì)
3. 全球及中國(guó)大陸高清視頻橋接芯片技術(shù)發(fā)展現(xiàn)況及未來(lái)發(fā)展趨勢(shì)

三、全球半導(dǎo)體高清視頻橋接芯片競(jìng)爭(zhēng)力分析
1. 全球及中國(guó)大陸高清視頻橋接芯片競(jìng)爭(zhēng)力分析
1.1國(guó)內(nèi)主要高清視頻橋接芯片設(shè)計(jì)公司團(tuán)隊(duì)介紹
1.2全球主要企業(yè)高清視頻橋接芯片產(chǎn)品性能競(jìng)爭(zhēng)力分析

2. 全球及中國(guó)大陸高清視頻橋接芯片競(jìng)爭(zhēng)格局分析


第四章 高速信號(hào)傳輸芯片市場(chǎng)綜述


一、高速信號(hào)傳輸芯片行業(yè)介紹

1. 高速信號(hào)傳輸芯片概述

2. 高速信號(hào)傳輸芯片功能介紹

3. 高速信號(hào)傳輸芯片產(chǎn)業(yè)鏈介紹

4. 高速信號(hào)傳輸芯片主要商業(yè)模式介紹


二、高速信號(hào)傳輸芯片行業(yè)市場(chǎng)分析
1. 全球及中國(guó)大陸高速信號(hào)傳輸芯片市場(chǎng)趨勢(shì)分析
2.全球及中國(guó)大陸高速信號(hào)傳輸芯片主要應(yīng)用市場(chǎng)趨勢(shì)分析
2.1全球及中國(guó)大陸教育及視頻會(huì)議應(yīng)用高速信號(hào)傳輸芯片市場(chǎng)趨勢(shì)
2.2全球及中國(guó)大陸安防監(jiān)控系統(tǒng)應(yīng)用高速信號(hào)傳輸芯片市場(chǎng)趨勢(shì)
2.3全球及中國(guó)大陸商顯應(yīng)用高速信號(hào)傳輸芯片市場(chǎng)趨勢(shì)
2.4全球及中國(guó)大陸汽車電子應(yīng)用高速信號(hào)傳輸芯片市場(chǎng)趨勢(shì)
2.5全球及中國(guó)大陸筆記本及周邊應(yīng)用高速信號(hào)傳輸芯片市場(chǎng)趨勢(shì)
3. 全球及中國(guó)大陸高速信號(hào)傳輸芯片技術(shù)發(fā)展現(xiàn)況及未來(lái)發(fā)展趨勢(shì)


三、全球及中國(guó)大陸高速信號(hào)傳輸芯片競(jìng)爭(zhēng)力分析

1. 全球及中國(guó)大陸高速信號(hào)傳輸芯片競(jìng)爭(zhēng)力分析
1.1國(guó)內(nèi)主要高速信號(hào)傳輸芯片設(shè)計(jì)公司團(tuán)隊(duì)介紹
1.2高速信號(hào)傳輸芯片產(chǎn)品性能競(jìng)爭(zhēng)力分析
2. 全球高速信號(hào)傳輸芯片競(jìng)爭(zhēng)格局分析


第五章 高速信號(hào)傳輸芯片下游市場(chǎng)概述


一、消費(fèi)電子市場(chǎng)發(fā)展趨勢(shì)分析
1. 消費(fèi)電子市場(chǎng)概述
2. 全球及中國(guó)大陸主要消費(fèi)電子市場(chǎng)發(fā)展趨勢(shì)分析

二、專業(yè)及商用顯示市場(chǎng)發(fā)展分析
1. 專業(yè)及商用顯示市場(chǎng)概述
2. 全球及中國(guó)大陸主要專業(yè)及商用顯示市場(chǎng)發(fā)展趨勢(shì)分析

英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖8


聯(lián)系我們


媒體關(guān)系:
市場(chǎng)部經(jīng)理  Cherry Zeng
TEL:(+86)186-2523-4072
Email:CherryZeng@cinno.com.cn

商務(wù)合作:
市場(chǎng)部總監(jiān)  Ann Bao
TEL:(+86)189-6479-8590
Email:AnnBao@cinno.com.cn

產(chǎn)業(yè)咨詢:
銷售部副總 Venia Yang
TEL:(+86)137-7184-0168
Email:VeniaYang@cinno.com.cn

- END -
英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖9
英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖10
英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖11

更多商務(wù)合作,歡迎與小編聯(lián)絡(luò)!

掃碼請(qǐng)備注:姓名+公司+職位


英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍的圖12

我是CINNO最強(qiáng)小編, 恭候您多時(shí)啦!

CINNO于2012年底創(chuàng)立于上海,是致力于推動(dòng)國(guó)內(nèi)電子信息與科技產(chǎn)業(yè)發(fā)展的國(guó)內(nèi)獨(dú)立第三方專業(yè)產(chǎn)業(yè)咨詢服務(wù)平臺(tái)。公司創(chuàng)辦十一年來(lái),始終圍繞泛半導(dǎo)體產(chǎn)業(yè)鏈,在多維度為企業(yè)、政府、投資者提供權(quán)威而專業(yè)的咨詢服務(wù),包括但不限于產(chǎn)業(yè)資訊、市場(chǎng)咨詢、盡職調(diào)查、項(xiàng)目可研、管理咨詢、投融資等方面,覆蓋企業(yè)成長(zhǎng)周期各階段核心利益訴求點(diǎn),在顯示、半導(dǎo)體、消費(fèi)電子、智能制造及關(guān)鍵零組件等細(xì)分領(lǐng)域,積累了數(shù)百家大陸、臺(tái)灣、日本、韓國(guó)、歐美等高科技核心優(yōu)質(zhì)企業(yè)客戶。

登錄后免費(fèi)查看全文
立即登錄
App下載
技術(shù)鄰APP
工程師必備
  • 項(xiàng)目客服
  • 培訓(xùn)客服
  • 平臺(tái)客服

TOP