來(lái)源 | 技術(shù)大院
| 進(jìn)“域控制器群”請(qǐng)加微13636581676,備注域導(dǎo)讀：黃仁勛來(lái)了！還是那個(gè)廚房，那身皮衣，但老黃這回是AI生成的嗎？GTC 2021大會(huì)上，英偉達(dá)重磅發(fā)布人工智能「阿凡達(dá)」平臺(tái)，3個(gè)虛擬人同時(shí)亮相，黃仁勛變身「玩具黃」，還有蛋殼小人。可以看出，英偉達(dá)在這次GTC大會(huì)上進(jìn)一步堅(jiān)定了進(jìn)軍「元宇宙」的決心！
11月9日下午4點(diǎn)，英偉達(dá)GTC 2021開(kāi)始了。
還是那個(gè)廚房，那身皮衣，但老黃這回是AI生成的嗎？
我們確認(rèn)過(guò)了，這次黃仁勛全程在線，沒(méi)有使用假身！
黃老板搖滾范的長(zhǎng)發(fā)再次回歸短發(fā)。
不過(guò)這次雖然沒(méi)有假身，又多了一個(gè)老黃的Avatar。
剛剛，黃仁勛重磅發(fā)布了會(huì)對(duì)話的虛擬形象 Toy-Me。
黃仁勛表示，「你會(huì)看到這個(gè)虛擬形象是基于目前訓(xùn)練的最大語(yǔ)言模型的語(yǔ)言處理打造，包括聲音也是用我自己的語(yǔ)音進(jìn)行合成，還可以看到實(shí)時(shí)基于光線追蹤的精美圖像。」
黃仁勛演示3個(gè)人分別讓虛擬形象回答關(guān)于氣候變化、天文學(xué)以及生物蛋白質(zhì)等棘手的問(wèn)題，這個(gè)可愛(ài)的小家伙回答行云流水。
先是Facebook改名，后是微軟把MR平臺(tái)Mesh融入到Teams中。
此次，英偉達(dá)還推出了自己的虛擬人，更加證明了全力布局「元宇宙」勢(shì)不可擋。
Omniverse Avatar發(fā)布，全力擁抱「元宇宙」
Omniverse Avatar發(fā)布
全力擁抱「元宇宙」
可以看出，英偉達(dá)在這次GTC大會(huì)上進(jìn)一步堅(jiān)定了「進(jìn)軍元宇宙」的決心！
黃仁勛宣布，人工智能阿凡達(dá)平臺(tái)（NVIDIA Omniverse Avatar）發(fā)布，并對(duì)其 Omniverse平臺(tái)進(jìn)行重大更新，其中包括一些令人振奮功能。
Omniverse Avatar是一款基于語(yǔ)音、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言理解、推薦引擎和模擬方面的技術(shù)生成的交互式AI化身。
Avatar是具有光線跟蹤3D圖形的互動(dòng)角色，可以看到、說(shuō)話、就廣泛的主題進(jìn)行交談，并理解自然對(duì)話的意圖。
Omniverse Avatar為創(chuàng)建人工智能助手打開(kāi)了大門(mén)，這些助手幾乎可以為任何行業(yè)輕松定制。這些可以幫助處理數(shù)十億的日常客戶服務(wù)互動(dòng)，包括餐廳訂單、銀行交易、進(jìn)行個(gè)人預(yù)約和預(yù)訂等等。
比如這個(gè)餐廳客戶服務(wù)Avatar就可以同時(shí)和兩個(gè)顧客進(jìn)行交談和理解。
黃仁勛表示：「Omniverse Avatar結(jié)合了英偉達(dá)的基礎(chǔ)圖形、模擬和人工智能技術(shù)，使一些有史以來(lái)最復(fù)雜的實(shí)時(shí)應(yīng)用程序得以誕生。協(xié)作機(jī)器人和虛擬助手的使用案例令人難以置信，影響深遠(yuǎn)。」
Avatar的語(yǔ)音識(shí)別基于英偉達(dá)Riva，這是一個(gè)軟件開(kāi)發(fā)工具包，可以識(shí)別多種語(yǔ)言的語(yǔ)音。Riva還被用來(lái)利用文本到語(yǔ)音功能生成類(lèi)似人類(lèi)的語(yǔ)音反應(yīng)。
Avatar的自然語(yǔ)言理解是基于Megatron 530B大型語(yǔ)言模型，可以識(shí)別、理解和生成人類(lèi)語(yǔ)言。
Megatron 530B預(yù)訓(xùn)練模型在各種自然語(yǔ)言任務(wù)如：完形填空、閱讀理解、常識(shí)推理、自然語(yǔ)言推理、詞義消歧中紛紛實(shí)現(xiàn)SOTA。
除了可以回答問(wèn)題、總結(jié)長(zhǎng)而復(fù)雜的故事，還可以在沒(méi)有經(jīng)過(guò)專(zhuān)門(mén)訓(xùn)練的領(lǐng)域處理相應(yīng)的問(wèn)題。
Avatar的推薦引擎由NVIDIA Merlin提供，該框架允許企業(yè)建立能夠處理大量數(shù)據(jù)的深度學(xué)習(xí)推薦系統(tǒng)，以提出更智能的建議。
Avatar的感知能力由NVIDIA Metropolis提供，這是一個(gè)用于視頻分析的計(jì)算機(jī)視覺(jué)框架。
Avatar的頭像動(dòng)畫(huà)由NVIDIA Video2Face和Audio2Face（二維和三維AI驅(qū)動(dòng)的面部動(dòng)畫(huà)和渲染技術(shù)）驅(qū)動(dòng)。
Omniverse Avatar將這些技術(shù)組成一個(gè)應(yīng)用程序，并使用NVIDIA統(tǒng)一計(jì)算框架進(jìn)行實(shí)時(shí)處理。
對(duì)于Omniverse平臺(tái)功能更新共有4個(gè)：
Showroom是一個(gè)包含演示和示例應(yīng)用程序，展示了Omniverse核心技術(shù)。
Farm一個(gè)系統(tǒng)層，用于協(xié)調(diào)跨多個(gè)系統(tǒng)、工作站、服務(wù)器和虛擬化批作業(yè)處理，可以用于批量渲染，AI合成數(shù)據(jù)生成或分布式計(jì)算。
Omniverse AR可以將將圖形串流到手機(jī)或者AR眼鏡。Omniverse VR是英偉達(dá)首款全幀交互式光線追蹤VR。
英偉達(dá)還推出了下一代 InfiniBand 網(wǎng)絡(luò)平臺(tái)Quantum-2，該平臺(tái)可提供云計(jì)算提供商和超級(jí)計(jì)算中心所需的極致性能、廣泛的可訪問(wèn)性和強(qiáng)大的安全性。
作為有史以來(lái)最先進(jìn)的端到端網(wǎng)絡(luò)平臺(tái)，NVIDIA Quantum-2是一個(gè)400Gbps InfiniBand網(wǎng)絡(luò)平臺(tái)，由NVIDIA Quantum-2交換機(jī)、ConnectX-7網(wǎng)絡(luò)適配器、BlueField-3數(shù)據(jù)處理單元（DPU）和所有支持新架構(gòu)的軟件。
NVIDIA Quantum-2的推出，正值超級(jí)計(jì)算中心向越來(lái)越多地用戶開(kāi)放之際，其中許多用戶來(lái)自這些計(jì)算中心之外。與此同時(shí)，全球的云服務(wù)提供商也開(kāi)始為客戶提供更多的超算服務(wù)。
憑借400Gbps的高帶寬，NVIDIA Quantum-2 InfiniBand讓網(wǎng)絡(luò)速度加倍，網(wǎng)絡(luò)端口數(shù)量增加了3倍。性能提高了3倍，對(duì)數(shù)據(jù)中心結(jié)構(gòu)交換機(jī)的需求減少了6倍，同時(shí)降低了數(shù)據(jù)中心功耗，數(shù)據(jù)中心占用的空間也減少了7%。
與上一代技術(shù)相比，NVIDIA Quantum-2 SHARPv3網(wǎng)絡(luò)計(jì)算技術(shù)為AI應(yīng)用程序提供了32倍的加速引擎。
Quantum-2平臺(tái)的核心是新的Quantum-2 InfiniBand交換機(jī)。它搭載570億個(gè)晶體管，比擁有540億個(gè)晶體管的NVIDIA A100 GPU略大。
它具有64個(gè)400Gbps端口或128個(gè)200Gbps端口，并將在各種交換機(jī)系統(tǒng)中提供，多達(dá) 2,048個(gè)400Gbps端口或4,096個(gè)200Gbps 端口。交換能力是上一代Quantum-1的5倍以上。
在網(wǎng)絡(luò)速度、交換能力和可擴(kuò)展性上，InfiniBand都非常適合構(gòu)建下一代巨型HPC系統(tǒng)。
NeMo Megatron框架：
發(fā)力大型語(yǔ)言模型開(kāi)發(fā)
NVIDIA 今天還打開(kāi)了開(kāi)發(fā)和部署大型語(yǔ)言模型 (LLM) 的大門(mén)，推出了用于訓(xùn)練具有數(shù)萬(wàn)億個(gè)參數(shù)的語(yǔ)言模型的NVIDIA NeMo Megatron框架、可針對(duì)新領(lǐng)域和語(yǔ)言進(jìn)行訓(xùn)練的Megatron 530億參數(shù)的可定制大型語(yǔ)言模型，以及具有多 GPU、多節(jié)點(diǎn)分布式推理功能的NVIDIA Triton推理服務(wù)器。
這些工具提供了一個(gè)完備的企業(yè)級(jí)解決方案，簡(jiǎn)化了大型語(yǔ)言模型的開(kāi)發(fā)和部署。
NVIDIA NeMo Megatron以Megatron項(xiàng)目為基礎(chǔ)，Megatron是一個(gè)由英偉達(dá)研究人員領(lǐng)導(dǎo)的開(kāi)源項(xiàng)目，旨在大規(guī)模研究大型轉(zhuǎn)換器語(yǔ)言模型的高效訓(xùn)練。
該框架使用數(shù)據(jù)處理庫(kù)自動(dòng)處理LLM復(fù)雜訓(xùn)練，可以獲取、管理、組織和清理數(shù)據(jù)。它使用先進(jìn)的數(shù)據(jù)、張量和管道并行化技術(shù)，使大型語(yǔ)言模型的訓(xùn)練能夠高效地分布在數(shù)千個(gè)GPU上。
NVIDIA Triton推理服務(wù)器中的多GPU、多節(jié)點(diǎn)功能使LLM推理負(fù)載可以實(shí)時(shí)、跨多個(gè)GPU和節(jié)點(diǎn)進(jìn)行擴(kuò)展。
使用Triton推理服務(wù)器，Megatron 530B可以在兩個(gè)NVIDIA DGX系統(tǒng)上運(yùn)行，將CPU服務(wù)器上的處理時(shí)間從一分鐘多縮短到0.5秒，從而實(shí)現(xiàn)在應(yīng)用程序上快速、實(shí)時(shí)地部署大型語(yǔ)言模型。
Jetson AGX Orin：
最小巧、最節(jié)能的「AI超算」
Jetson AGX Orin基于NVIDIA Ampere架構(gòu)，保持與其前身 Jetson AGX Xavier的外形和引腳的兼容性，但處理能力擴(kuò)大至6倍，每秒可提供200萬(wàn)億次操作，它類(lèi)似于支持GPU的服務(wù)器，但大小僅相當(dāng)于人的手掌。
Jetson AGX Orin Arm Cortex-A78AE CPU，以及下一代深度學(xué)習(xí)和視覺(jué)加速器，搭載高速接口、更快的內(nèi)存帶寬和多模式傳感器，具備處理多個(gè)并發(fā)AI應(yīng)用管道的能力。
新的 Jetson 計(jì)算機(jī)可加速完整的 NVIDIA AI 軟件棧，使開(kāi)發(fā)人員能夠部署最大、最復(fù)雜的模型，以解決自然語(yǔ)言理解、3D 感知、多傳感器融合等邊緣 AI 和機(jī)器人任務(wù)。
同時(shí)有消息稱(chēng)，Drive Hyperion 8自動(dòng)平臺(tái)現(xiàn)已準(zhǔn)備投入生產(chǎn)車(chē)輛。
GTC大會(huì)上，英偉達(dá)還宣布了2項(xiàng)新人工智能驅(qū)動(dòng)軟件技術(shù)——Nvidia Drive Concierge 和 Drive Chauffeur。
Nvidia Drive Concierge 是一個(gè)AI助理，它結(jié)合了語(yǔ)音輔助、駕駛員監(jiān)控和自動(dòng)停車(chē)技術(shù)。
然而，最酷的是它與 Nvidia Drive AV 自動(dòng)駕駛技術(shù)的集成，提供按需代客泊車(chē)。
所以，當(dāng)你說(shuō)尋找停車(chē)位，它會(huì)為你自動(dòng)停車(chē)。
Drive Concierge 可以執(zhí)行從簡(jiǎn)單到復(fù)雜的自然語(yǔ)音命令，比如打電話預(yù)訂，并且根據(jù)每個(gè)乘客的聲音進(jìn)行個(gè)性化設(shè)置，為每個(gè)乘客提供自己的虛擬助手。
