超級異構計算系統的案例
John Glossner：新一代異構計算正在成為人工智能的加速引擎，中國是全球異構計算生態的重要一
如果按照馬云的觀點，數據是人工智能的生產資料，計算是人工智能的生產力，那么異構計算就是提升人工智能生產力的引擎。
9月17日，在2018世界人工智能大會的主論壇上，全球異構系統架構（HSA）聯盟主席John Glossner博士發表了《面向人工智能的新一代異構計算標準》的演講。John Glossner在演講中以華夏芯（北京）通用處理器技術有限公司的異構多核處理器平臺為例，介紹了最新的人工智能芯片的設計趨勢。他還表示，中國是全球異構計算生態的重要一環。異構計算是一種將不同指令架構的計算單元（例如傳統的CPU、GPU、DSP、還有創新的TPU、DLA等）融合在一起、實現高效協同運行的計算技術。如果說傳統架構的芯片是一種燒汽油的引擎，那么異構計算的芯片就是一種混合動力引擎，甚至新能源引擎。
John Glossner主席認為，大量人工智能應用的出現，如無人駕駛、機器視覺、智能手機等等，對于人工智能的發動機——芯片，提出了非常高的要求，包括性能、功耗、成本、應用開發等等。芯片既是人工智能持續增長的動力引擎，又是人工智能規模化商用的算力瓶頸。面對大數據、人工智能對計算性能的爆發式需求，各種創新的神經網絡算法及相應的計算實現架構層出不窮，之前的傳統芯片設計架構已經難以滿足應用對計算能力的需求。正因為如此，不僅眾多創新的芯片公司，甚至包括亞馬遜、百度這些互聯網公司都在開始設計新架構的人工智能芯片。異構計算這種將傳統與創新架構融合、通用和專用計算協同的技術路徑，非常好地滿足了人工智能芯片不僅要性能好、成本低，還要可演進、易開發的設計理念。因此，業界的共識是新一代異構計算架構是未來人工智能芯片設計創新的主要突破口。
異構計算并不是全新的概念，但由于產品設計難度大、生態系統需要重新構建等挑戰，在過去很長一段時間里一直處在不斷演進當中。
展開 異構集成 與 異構計算
現在已經成為一個描述計算能力的通用名詞。
算力存在于各種硬件設備中，沒有算力就沒有軟硬件的正常應用。
高配置的電腦算力更高，可以運行復雜大型的軟件，低配置的電腦算力不夠，適合運行一般的辦公軟件。
算力受處理器的運行速度、存儲、網絡等因素的影響，而算力的核心在芯片。
算力為大數據和人工智能的發展提供基礎保障，算力是人工智能發展的動力和引擎。
算力、
大數據、
人工智能，三者已經有機結合成了一個智能化的整體。
目前，算力的發展迫在眉睫，否則會束縛人工智能的發展。
4）異構集成、異構計算、算力的關系
The relationship between them
關于異構集成、異構計算、算力三者之間的關系，我想了想，畫了下面一張圖，大致可以來描述三者之間的關系。
異構集成主要在封裝層面，通過先進封裝技術將不同工藝節點、不同材質的芯片集成在一起，異構計算通過整合不同架構的運算單元來進行并行計算，二者的目的都是為了提升算力。
異構計算充分利用各種計算資源的并行和分布計算技術，能夠將不同制程和架構、不同指令集、不同功能的硬件進行組合，已經成為解決算力瓶頸的重要方式。
而要實現異構計算，異構集成和先進封裝技術在其中扮演了關鍵的角色。異構集成與先進封裝技術的進步使在單個封裝內構建復雜系統成為了可能，能夠快速達到異構計算系統內的芯片所需要的功耗、體積、性能的要求，是目前技術能夠實現的最佳解決方案。
異構集成和異構計算追求的目標是使計算任務的執行具有最短時間，也就是擁有最強的算力。
展開 智芯文庫 | 一文讀懂異構集成與異構計算
現在已經成為一個描述計算能力的通用名詞。
算力存在于各種硬件設備中，沒有算力就沒有軟硬件的正常應用。
高配置的電腦算力更高，可以運行復雜大型的軟件，低配置的電腦算力不夠，適合運行一般的辦公軟件。
算力受處理器的運行速度、存儲、網絡等因素的影響，而算力的核心在芯片。
算力為大數據和人工智能的發展提供基礎保障，算力是人工智能發展的動力和引擎。
算力、
大數據、
人工智能，三者已經有機結合成了一個智能化的整體。
目前，算力的發展迫在眉睫，否則會束縛人工智能的發展。
4）異構集成、異構計算、算力的關系
The relationship between them
關于異構集成、異構計算、算力三者之間的關系，我想了想，畫了下面一張圖，大致可以來描述三者之間的關系。
異構集成主要在封裝層面，通過先進封裝技術將不同工藝節點、不同材質的芯片集成在一起，異構計算通過整合不同架構的運算單元來進行并行計算，二者的目的都是為了提升算力。
異構計算充分利用各種計算資源的并行和分布計算技術，能夠將不同制程和架構、不同指令集、不同功能的硬件進行組合，已經成為解決算力瓶頸的重要方式。
而要實現異構計算，異構集成和先進封裝技術在其中扮演了關鍵的角色。異構集成與先進封裝技術的進步使在單個封裝內構建復雜系統成為了可能，能夠快速達到異構計算系統內的芯片所需要的功耗、體積、性能的要求，是目前技術能夠實現的最佳解決方案。
異構集成和異構計算追求的目標是使計算任務的執行具有最短時間，也就是擁有最強的算力。
展開 結構/流體/電磁仿真/深度學習 圖靈工作站
圖靈計算工作站GX660M是一款配置雙Xeon第4代可擴展處理器和最高8塊RTX第4代GPU超算卡、支持PCIe 5.0總線、集海量存儲于一體、基于辦公靜音環境、具有強大CPU+GPU混合計算模式的超級異構計算系統
和市面上常規工作站硬件架構相比，顯著特點：
n支持2顆最新Xeon 第四代Schalable(可擴展處理器)，最大112核，支持AVX512指令集
n 提供超級強大的計算能力，最大8個RTX四代GPU卡（全部PCIe 5.0 x16），
n配備基于PCIe總線的海量高速并行存儲（最大容量400TB），延遲低，支持最大15個并行讀，硬盤io性能大幅提升，性能和管理遠超傳統的DAS/NAS存儲系統
n 選配大容量閃電盤陣（最大130TB，讀寫帶寬21GB/s、11GB/s）
n完全處于辦公環境（靜音級）、不在被噪音所困擾
n不需要專門的機房，不占過多空間，維護成本極低
n不需要作業調度系統，管理難度大幅降低
產品配置規格
主要應用領域
與市場相近配置其他品牌機器相比，GX660M的雙Xeon+8塊GPU架構，具備最強大的異構超算能力，再加上獨有的硬件系統優化、虛擬并行計算加速技術，使得應用軟件的求解計算性能大幅提升，這是一款無與倫比的、高效能的超級圖形工作站
-科學計算、數值模擬、數學規劃
-結構、流體、熱分析、多物理場耦合
-電磁場仿真
-計算化學、生命科學
-深度學習、人工智能訓練和推理
-EDA驗證、后仿驗證
-共享/虛擬機計算與圖形設計服務平臺
-4K/8K影視后期處理
-數字孿生、可視化
如有需要工作站，請聯系！
展開 
異構計算，要全面爆發了？
最近來自數據中心三大廠商英特爾、英偉達和AMD三大半導體廠商的消息頗多，無論是AMD收購賽靈思，還是英特爾最近透露的Falcon Shores，再加上去年英偉達所推出的Grace CPU，CPU廠商開始研究GPU、GPU廠商開始研發CPU，這些動作無不是釋放一個明顯的信號，芯片行業正在向異構架構整合發展。而部分國內廠商也嗅到了這個先機，開始往多架構產品線布局。異構計算，要全面爆發了嗎？
三大廠商引領異構計算
異構計算（英語：
Heterogeneouscomputing），又稱為異質運算，早在80年代中期就產生了，其主要是指使用不同類型指令集和體系架構的計算單元組成系統的計算方式。
常見的計算單元類別包括CPU、GPU、DSP、ASIC、FPGA等。
目前“CPU+GPU”以及“CPU+FPGA”都是受業界關注的異構計算平臺。
現在隨著5G、AI、云計算等新興領域對計算量的需求，已經超過了通用CPU的發展速度，僅通過提升CPU時鐘頻率和內核數量而提高計算能力的傳統方式遇到了散熱和能耗瓶頸，所以需要GPU、FPGA、DSP，現在還多了DPU，這些計算單元去配合CPU進行并行計算，大家分工協作，“專人干專事”，以此來很好的滿足這些計算需求。
展開 異構加速計算崛起，不應只是關注計算芯片
從（國內）芯片公司的角度，不想&也不愿去考慮用戶可能需要面對多個異構機器編寫應用程序。但這是市場需要的，這種革命性的想法，只會來自于第三方。????????
我知道Codeplay 今年被intel全資收購了。但國內有這樣的公司生存的土壤嗎？像澎峰科技、一流科技這樣的從事基礎軟件研發的公司，是近年中國少有的火苗，如果他們都不能生存，中國的計算產業有能有什么希望？也希望投資者別去扭曲這種小而美的軟件企業，去幫助他們，大家一起獲得成功。
?
系統和芯片架構正在走向異構世界
數據中心的擴展要比我們所見過的大得多，計算、存儲和內存都在增加，如果你看看以指數級速度增加的數據處理和總存儲空間，你就會發現到目前為止數據中心的能力尚可以跟得上需求。”
（有趣的是，這一切都是由大型數據中心用戶的各種形式的廣告收入以及云構建者的原始基礎設施服務推動的。）
然而，在這種情況下，有一個很大的“但是”，那就是摩爾定律，Peng稱之為“非常大的生存挑戰”。摩爾定律縮小了晶體管的尺寸，可以在給定的區域內集成更多的晶體管，以實現更多的功能和更低的成本。在過去的50年里，摩爾定律一直很好地為行業服務，而現在它已經走到了窮途末路。
Peng表示：“這是我們所有人心中根深蒂固的想法，即便是科技行業以外的普通消費者，他們也希望更快、更便宜。每一年，對于所有的電子產品，我們都會期望在同樣的價格下，產品的性能會變得更好，這是物理定律。所以，當摩爾定律不再為我們服務時，問題是非常嚴重的。”
多年來，芯片制造商已經采取了很多措施來跟上摩爾定律的步伐，包括增加更多內核、在內核中驅動線程，以及利用加速器。但是Peng說，使系統更快更好不僅要通過處理器技術實現，而且要通過架構實現。架構有其自身的挑戰，特別是功率和密度，而這也限制了性能。
Peng說：“在過去的40年里，計算主要集中在CPU和微處理器上。從2000年開始，摩爾定律開始失效。從2010年開始，事情開始向異構系統發展，計算被劃分為通用處理器和固定的硬件加速器。它可能是GPU或MPU，當然還有ASIC的復興，特別是在機器學習方面。”
機器學習和其他新工作任務，以及聯網智能設備的激增（數以百億計，正在向數千億計激增）正在推動對芯片技術的新一輪投資，以及對可配置和可修改的硬件平臺的需求。異構架構設計將是推動性能向前發展的關鍵。
展開 Altair PBS Professional?為 NCAR 管理超級計算系統負載
美國國家大氣研究中心 (NCAR) 將在新的 SGI ICE XA 系統中使用 PBS Professional
2016 年 2 月 25 日，Troy（美國密歇根州）– Altair 今日宣布，其行業領先的高性能計算 (HPC) 負載管理軟件 PBS Professional?將被美國國家大氣研究中心 (NCAR) 選用，作為其新 SGI 超級計算系統的負載管理軟件。NCAR 是美國的一所研究中心，致力于進行大氣和相關科學領域的研究與教育工作。
PBS Professional 包含在為 NCAR 提供 ICE XA 超級計算機的 SGI 合同中。SGI 高性能計算機是一套 5.34 千萬億次/秒級別的計算系統，每秒可進行 5.34 千萬億次計算，其能源效率是以往系統的三倍。
目前，NCAR 為全美數以千計的科研人員提供計算資源。為模擬復雜的工藝流程，仿真建模日趨精細。新的超級計算機將提升 NCAR 對仿真模型的運行能力，從而提供有助于進行規劃和降低風險的信息。該工具在研究惡劣天氣、氣候改變、空氣質量、地震活動、山火、磁暴及其它地球科學課題中有著至關重要的作用。
“超級計算對 NCAR 的研究極其重要，這套新系統對于全美的研究人員來說都是重要的工具。”NCAR 計算與信息系統實驗室運營和服務總監AnkeKamrath表示，“它能夠增強我們對天氣和其它自然過程的理解，有助于提高人類社會應對自然變化的靈活程度。”
作為一款被全球數千家公司廣泛采用的軟件，PBS Professional 可令工程師在 HPC 環境中提高工作效率、提升資源利用率并簡化集群負載管理的流程。
展開 芯課程第三講 | 加速創新：異構多芯片系統中的數字設計實現
隨著系統復雜度和性能需求的提升，傳統單芯片設計已無法滿足高帶寬、低功耗要求。Multi-Die設計成為行業趨勢，推動先進封裝技術快速發展。在新思科技芯課程系列中，1月30日「加速創新：異構多芯片系統中的數字設計實現」主題即將上線。
本課程深入解析Multi-Die的核心方法，包括架構探索、封裝選擇、互連規劃及多物理場分析。依托新思科技Multi-die解決方案，實現從可行性分析到簽核的統一流程，涵蓋3D堆疊、自動化 TSV 與微凸點規劃、互連路由及熱、功率、信號完整性驗證，助力打造高性能、低功耗的下一代系統。
時間：1 月30日（星期五），14:00–15:00
地點：線上直播
講師簡介：
樊恩辰 | 新思科技資深應用工程師
畢業于南京大學，擁有10年行業經驗，深耕芯片設計技術支持，在Multi-die架構探索與實現方面具備豐富實踐。
參與方式：微信掃碼免費報名
展開 1.30直播預告丨加速創新：異構多芯片系統中的數字設計實現
<p class="ql-align-justify"><strong>1月30日，</strong>新思科技芯課程4.0<strong>「加速創新：異構多芯片系統中的數字設計實現」</strong>正式開講！本次芯課程將聚焦多芯片設計核心方法，依托新思科技 Multi-die 解決方案，詳解從架構探索到簽核的全流程技術，助力打造高性能低功耗下一代系統。</p><p class="ql-align-justify"><strong>時間</strong>：1 月 30 日（星期五），14:00-15:00</p><p class="ql-align-justify"><strong>地點</strong>：線上直播</p><p><strong>講師簡介：</strong></p><p><strong style="color: rgb(25, 25, 25);">樊恩辰| 新思科技資深應用工程師</strong></p><p>畢業于南京大學，擁有10年行業經驗，深耕芯片設計技術支持，在Multi-die架構探索與實現方面具備豐富實踐。
展開 異構計算是挑起人工智能大梁的最優選擇
因此，具有GPU、ASIC、FPGA或其它加速器（Accelerator）等高并行、高密集的計算能力的異構計算持續火熱，而異構計算也將成為支撐先進和以后更復雜AI 應用的必然的選擇。
異構計算（Heterogeneous Computing）是指使用不同類型指令集和體系架構的計算單元組成的計算系統。異構計算是性能、成本和功耗均衡的技術，同時也是讓最適合的專用硬件去做最適合的事如密集計算或外設管理等，從而達到性能和成本的最優化。
異構計算大廚房里的CPU
我們熟知的CPU（中央處理器，Central Processing Unit）作為通用處理器，是更偏重支持控制流數據。CPU每個物理核中大部分的硬件資源被做成了控制電路和緩存，用來提高指令兼容性和效率，只有小部分是真正用來做計算的邏輯運算單元（ALU）。在沒有AI或其它高計算力要求時，CPU可以應付得綽綽有余，在AI或高計算力要求時，從計算任務執行效率來看，盡管CPU能兼容大量指令，但是實際的計算效率并不高。相反，CPU在異構系統當中，可以扮演和發揮非常重要的指揮統籌，控制核心的功能。
做個比喻吧，CPU可以看成一個“大廚”，各大菜系烹飪了如指掌，可以做出各式各樣不同口味的菜品滿足各類人群的需求。
展開 
UNAT加速庫：突破異構計算瓶頸，實現跨平臺高效仿真
隨著高性能計算機性能的不斷躍升，傳統的基于CPU的摩爾定律逐漸失效，因此，采用眾核處理器來構建異構計算機已成為行業主流趨勢。然而，異構眾核處理器的迅猛發展也為異構計算領域帶來了一系列挑戰。
目前，異構眾核處理器的架構呈現出多樣化的特點，涵蓋了CPU+GPU架構、CPU+FPGA架構、CPU+ASIC架構、多核CPU架構以及國產申威架構等多種形式。與此同時，并行編程模型同樣呈現多樣化的趨勢，包括用于GPU加速的CUDA、跨硬件的OpenCL、加速CPU和GPU的OpenACC、共享內存的OpenMP以及跨節點并行的MPI等編程語言。在工業仿真領域，多種數據結構并存，如結構網格和非結構網格等，都對異構計算提出了更高的要求。
目前較為流行的性能可移植加速庫為Kokkos，其C++庫巧妙地統一了細粒度數據并行和內存訪問模式的抽象，使得應用程序和函數庫能在不同的眾核架構上實現性能的可移植。Kokkos解決了異構節點上編程模型不統一的問題，并通過運用C++特性定義接口，極大簡化了編程接口。GraphBLAS則是統一不同數據結構和算法領域的代表者，它采用了類BLAS庫的矩陣、向量算子接口，不同之處在于允許用戶自定義類型及類型相關的算子，相對傳統數學庫大大擴展了可用性。GraphBLAS屏蔽了底層數據結構的接口，為上層應用開發者減輕了負擔，同時也為數據結構、算法與硬件架構的協同優化提供了更多空間。
Kokkos應用場景
GraphBLAS中矩陣的圖抽象
鑒于上述因素，針對非結構網格開展屏蔽硬件架構差異、封裝數據結構和算法實現細節的統一加速庫開發工作顯得尤為重要。為此，我們提出了一個名為UNAT（UNstructured Acceleration Toolkit）的性能可移植統一加速庫。
展開 雙Xeon3代+多GPU卡+并行存儲--圖靈工作站GX650M新品2021v2
圖靈計算工作站GX650M是一款配置雙Xeon第3代可擴展處理器、支持PCIe4.0總線的最高6塊RTX第2代GPU超算卡（全部16x 4.0）、支持海量并行存儲于一體、基于辦公靜音環境、具有強大CPU+GPU混合計算模式的超級異構計算系統
和市面上常規工作站硬件架構相比，顯著特點：
支持2顆最新Xeon 第三代Schalable(可擴展處理器)，最大80核，支持AVX512指令集
提供超級強大的計算能力，最大6個RTX二代GPU卡（全速PCIe 4.0 16X），
配備基于PCIe總線的海量高速并行存儲（最大容量300TB），延遲低，支持最大15個并行讀，硬盤io性能大幅提升，性能和管理遠超傳統的DAS/NAS存儲系統
辦公環境（靜音級）、不在被噪音所困擾
不需要專門的機房，不占過多空間，維護成本極低
不需要作業調度系統，管理難度大幅降低
產品配置規格
No
類別
技術規格
1
CPU
2顆Intel Xeon三代可擴展處理器
可選型號：Xeon 金5300/金6300/白金8300
最大80核
2
芯片組
Intel C621A+PCH（雙QPI）
3
內存
16根 DDR4 3200 REG ECC
16通道,最大容量2TB
4
GPU卡
可選: RTX 3070、RTX 3080、RTX 3090
RTX A4000、RTX A5000、RTX
展開 科研團隊計算利器—小型超級計算平臺配置選型2023
作業調度管理系統
虛擬并行加速系統
多用戶共享管理系統
該超算平臺具有最強大的綜合計算能力：
（1）豐富計算架構：單核極速計算、多核并行高效計算、多機集群分布式計算、GPU仿真計算加速、人工智能計算
（2）強大的圖形生成：復雜3D機械設計、逆向工程，超大規模三維圖形實時生成
（3）超強的圖像處理：三維建模、遙感圖像處理、三維圖像重建等
（4）極速計算：科學計算、程序編譯、壓縮解壓縮
（5）多核并發計算：仿真計算、光學計算、計算化學
（6）超高分可視化：各種復雜模型的實時流暢顯示
（7）配置高速海量數據存儲，并發讀寫
（8）多用戶共享應用
（9）完美即時的計算應用技術服務
和研究室/實驗室使用計算設備相比，技術優勢：
和超級計算機集群比，擁有更豐富的計算/圖形/圖像處理解決方案
和實驗室一堆常規計算設備相比，效率高、計算速度無與倫比
通過專業技術支持，保證所有設備高使用率，高性能
（三）典型應用計算設備配置推薦
（1）設計與仿真超級計算平臺推薦
https://www.xasun.com/article/154/2527.html
（2）自動化設計EDA計算平臺推薦
https://www.xasun.com/news/html/?
展開 Ryerson國際超級環設計團隊使用Inspire設計制造車輪子系統
項目介紹
在2015年夏天，SpaceX的埃隆馬斯克（Elon Musk）啟動了超級環（Hyperloop）設計大賽，進一步加快了Hyperloop項目的進度。瑞爾森大學的碩士生Graeme Klim聽說了這個比賽，基于他以前對于飛機著陸系統的設計經驗，他立刻對這個比賽感興趣起來。 Graeme與其他同行迅速聯系，并組成了Ryerson國際超級環設計團隊（RIHT）。 Graeme指出：“比賽要求提交一個完整的車艙或子系統。由于我們團隊的規模和先前的專業知識，我們想做出重大貢獻，因此我們將重點放在與飛機起落架相似的低速和緊急子系統上。我們稱之為Hyperloop可部署車輪系統。
到2015年9月，該團隊完成初步設計概念并提交給比賽的第一輪淘汰賽。這一環節中，參賽團隊從幾千個迅速縮小到幾百。隨后，該團隊又提交了另一個淘汰賽的設計報告，這一次參數團隊數量縮小到125個。來自20個不同國家和多個不同省份的125個團隊被邀請參加2016年1月的“Hyperloop設計周末”活動。在此次活動中，RIHT團隊將其概念介紹給評委會。 Graeme提到，“我們的團隊在這次活動中幸運地贏得了車輪系統的子系統創新獎。”
挑 戰
在獲得子系統創新獎后，該團隊非常興奮地啟動其車輪系統的開發進程，并迅速開始與贊助商聯系。在與贊助商會談時，團隊發現可以通過優化工具在設計中獲得益處。正在這時，團隊發現了solidThinking Inspire。Graeme提到，“當我們發現了Inspire之后，solidThinking團隊派出了一位專家給我們培訓并幫助我們進行設計。此時我也已經在思考，搭載我們電機馬達的支架該如何設計。
展開 