【CAE案例】CFD通用仿真軟件在千兆級計算中的優化
01 研究背景
近些年來高端計算資源的性能增長迅速,特別是千兆級計算系統的出現,使得用戶代碼可普遍調用數以萬計的CPU內核。計算性能的高速發展為計算流體力學(CFD)并行計算的應用帶來了一系列重大挑戰。為此,CFD通用仿真軟件開發了新的并行計算技術和優化功能,被歐洲高級計算合作計劃(PRACE)用于驗證大規模計算的基準案例,并驗證了其優異的并行計算表現、高擴展性和可靠性。
02 計算模型
PRACE項目中,CFD通用仿真軟件應用的大規模計算案例為DARPA2潛艇的繞流,計算流體沿潛艇首部至末端的摩擦系數。流動基于潛艇全長,雷諾數為3.89*107,自由流體的流速為9m/s,出口壓強為2.01*105Pa。由于案例中湍流強度較高,選擇了高雷諾數k-e模型進行計算。
如圖1所示,流場的網格為四面體與金字塔體網格組成的非結構化網格。為了計算潛艇周圍的邊界層流動現象,y+=30,邊界層由五層金字塔網格組成。
圖1 潛艇周邊網格
網格無關性驗證結果表明,網格大小為20萬時計算結果已足夠準確。仿真計算一直進行到流場達到穩態,得到阻力系數隨流體至潛艇首部距離的變化曲線,并與實驗結果進行比較,如圖所示:
圖2 阻力系數隨離潛艇首部距離變化曲線
可以看出計算得到的阻力系數在潛艇首部附近相較實驗結果較小,但在潛艇末端位置較為吻合。整體而言,CFD通用仿真軟件的計算結果具有較高的準確性,可進一步進行其計算性能的分析。
在PRACE計劃初期,CFD通用仿真軟件將其線性求解器——共軛梯度求解器(CG)替換為更為優化的代數多重網格共軛梯度求解器(CG_MG)。優化過后的求解器通過減小迭代過程中的浮點數運算和運算時間,從而加快迭代求解器的收斂速度。對于優化后的求解器而言,其計算復雜度與計算規模幾乎呈線性關系,并且在求解收斂過程的穩定性也獲得改善。
為了評估CFD通用仿真軟件在線性求解和前處理階段上的計算性能,對于上述計算案例,將計算案例的網格量增加至5.7百萬和1.07億個,并對比了兩種線性求解器,在IBM的Blue Gene/P和Cray XT4兩個超算上運行。
03 仿真結果
不同網格量上,CFD通用仿真軟件使用CG、CG_MG兩種求解器,并在不同核心上進行的計算性能如圖3所示:
圖3 CG與CG_MG計算性能比較(左:網格量5.7M;右:網格量107M)
結果表明,對于1.07億網格的大規模計算,CG_MG求解器的求解速度明顯更快。然而,對于網格規模為5.7百萬的計算案例,在使用4096個核計算時,CG求解器的計算速度要比CG_MG快30%左右,這主要是因為CG_MG求解器中,網格粗化受到網格分區邊界的限制。這樣雖然能避免為每一層網格使用耗費計算資源設計重新分區方案,但當網格數目較小,網格面積與體積之比較高時,會限制網格的粗化程度,降低計算速度。
此外,在不同超算上,求解器的計算速度也不相同,例如對于網格規模為5.7百萬的算例,CG_MG求解器在Blue Gene/P上的計算速度要比在Cray XT4上快4.6倍。這是因為Blue Gene/P的算力稍小于Cray XT4,但互聯速度更快,在計算負荷與內部信息交換負荷之間達到了平衡。
當今,儲存資源的增長已經難以適應CPU資源的增長,因此更少的核心內存為如今高性能計算(HPC)的結構趨勢。對于CFD計算而言,該趨勢意味著并行計算性能和分區效率的提高已經越來越重要。在Blue Gene/P超算上,計算1.07億網格規模的算例,比較不同分區軟件(ParMETIS、SFC、PT-SCOTCH和METIS)的并行分區結果下的計算效率,結果如圖4所示:
圖4 在不同分區網格軟件處理下的CFD通用仿真軟件并行計算性能
結果表明,METIS的分區結果在CFD通用仿真軟件下并行計算性能最優,而性能其次的PT-SCOTCH也可作為METIS的替代軟件。
04 研究結論
具備可擴展性、同時功能強大的CFD通用仿真軟件,由于在前處理、求解過程和輸入/輸出(I/O)功能上的優化表現,被PRACE項目認證并入選為用于檢驗超算能力的CFD軟件。

格物云CAE
一款國產可控云端仿真平臺,結構、流體、水動力仿真軟件場景化模塊化,支持多格式網格導入(.med、.inp、.cdb、.cgns等)和高性能并行計算,降低CAE使用門檻,拓展CAE應用范圍,加速工業企業研發制造數字化轉型。平臺支持云端CAE仿真生成工業APP,構建完全交互式仿真社區,快速實現行業通用經驗軟件化。
一鍵登錄,開啟仿真!
https://cae365.yuansuan.com
視頻測流水利感知系統
遠算自主研發了短視頻水流測速APP,采用先進大尺度粒子圖像測速技術,實現快速便捷流速測量的零門檻水利工具,帶來“視頻一點,流速在手”的超強體驗,輕松、便捷地實現河流測速。目前遠算還上新了小程序版本,歡迎大家掃碼使用!
#福利時間#
遠算為你提供手把手水流測速教學培訓!
關注微信公眾號【遠算云學院】,了解詳情!
全程免費,每周一節課,多種類案例教學水文、水動力行業專家在線答疑,每周僅需45min,解決你的水流測速相關難題!
更多資訊可登錄格物CAE官方網站
https://cae.yuansuan.cn/
或關注微信公眾號【遠算云學院】
遠算在bilibili、頭條、知乎、技術鄰定期發布課程視頻等內容
敬請關注
工程師必備
- 項目客服
- 培訓客服
- 平臺客服
TOP




















