邊緣AI的案例
AI芯片架構競相走向邊緣
各大公司競相將各種芯片架構作為將AI推向邊緣的首選武器。
隨著機器學習應用開始出現在終端設備和物聯網網絡邊緣，實現AI的加速器可能看起來更像FPGA和SoC模組，而不是英特爾和英偉達目前的數據中心綁定芯片（data-center-bound chip）。
人工智能和機器學習需要功能強大的芯片來從大數據集中計算答案。大多數AI芯片——包括訓練和推理——都是為數據中心開發的。然而，這種趨勢很快就會改變。其中很大一部分處理將發生在邊緣，即網絡的邊緣或傳感器和傳感器陣列的內部或附近。
幾乎可以肯定，訓練將留在云端，因為對于這一大塊資源的最有效產品是英偉達的GPU，它主導著這一部分市場。盡管數據中心可能會承擔包含大量數據集的訓練部分，但推理可能最終會交給邊緣。市場預測似乎同意這一點。
Tractica公司研究主管、邊緣設備AI報告的作者Aditya Kaul說：“推理硬件市場是一個新市場，但變化迅速。數據中心有一些機會，并將繼續存在。基于云的數據中心AI芯片市場將繼續增長。但是推理處于邊緣，這里開始變得引人注目。至少有70家專業人工智能公司正在研究某種與芯片相關的人工智能技術。”
Kaul說：“在邊緣，智能手機、機器人、無人機、相機、安全攝像頭等所有需要AI處理的設備都將成為未來的熱點。”
圖1：按市場領域劃分的深度學習芯片組收入。
展開 AI賦能邊緣網關：開啟智能時代的新藍海-龍興物聯網關專家
<p>在數字化轉型的浪潮中，AI與邊緣計算的結合正掀起一場深刻的產業變革。邊緣網關作為連接物理世界與數字世界的橋梁，在AI技術的加持下，正從簡單的數據采集傳輸節點，進化為具備智能決策能力的邊緣計算單元。這一變革不僅帶來了技術架構的革新，更為產業發展開辟了新的增長空間。</p><p>傳統邊緣網關受限于計算能力和算法支持，往往只能完成數據采集和簡單處理，大量原始數據需要回傳云端處理，導致響應延遲和帶寬壓力。AI技術的引入徹底改變了這一局面。通過在邊緣網關集成AI芯片和算法模型，使其具備了實時數據分析、智能決策和自主控制能力。在工業質檢場景中，搭載AI算法的邊緣網關能夠實時識別產品缺陷，將檢測效率提升300%以上，準確率達到99.9%。</p><p>這一技術革新正在創造巨大的商業價值。在智慧城市領域，AI邊緣網關可以實現交通流量實時分析、違章行為智能識別；在工業互聯網中，能夠實現設備預測性維護、生產工藝優化；在智慧能源領域，可完成電力負荷精準預測、故障快速定位。據市場研究機構預測，到2025年，AI邊緣網關市場規模將突破千億美元，年復合增長率超過60%。</p><p>產業新機遇已經顯現。對于硬件制造商，需要開發更高性能、更低功耗的AI邊緣計算平臺；對于算法企業，要研發更輕量化、更精準的邊緣AI模型；對于系統集成商，則要構建完整的邊緣智能解決方案。這個萬億級的新市場，正在等待更多創新者的加入。</p><p>在這場AI與邊緣計算融合的產業革命中，把握技術趨勢、深耕應用場景的企業將贏得先機。隨著5G網絡的普及和AI算法的持續優化，AI邊緣網關將在更多領域展現其價值，推動產業智能化升級，創造新的商業奇跡。</p>
展開 Axelera AI采用Ansys提高邊緣AI平臺芯片電源及性能完整性
Ansys綜合的電源分析可降低項目風險，提高預測精度，并助力Axelera AI全新Metis AI平臺加速上市進程
//
主要亮點
Axelera AI將Ansys軟件引入到一個自上而下的包含兩個步驟的流程中，以驗證平臺芯片的平面布局圖質量和IR壓降，其可應對有限資源及生產制造的時序挑戰
Ansys的產品、許可和技術支持可為Axelera AI執行未來研發計劃提供極高的靈活性
邊緣人工智能（AI）領域的強大高級解決方案供應商Axelera AI宣布選擇Ansys仿真軟件為其高性能Metis AI處理單元（AIPU）執行數字電源完整性簽核。這項工作是Axelera AI與Ansys合作的一部分，主要用于構建其近期面向邊緣計算機視覺AI推斷發布的軟硬件平臺Metis AI。該技術能夠在大幅降低當前解決方案的成本和功耗的同時，實現高級加速性能和可用性。
邏輯芯片跨各種電源及時鐘域的交互，可能會導致芯片故障。Axelera AI需要驗證其Metis AIPU，其中包含達1億個柵極或簡單開關電路，以及負責執行對數字電路至關重要的運算的不同時鐘域和電源域等。這些交互很難使用傳統工具及傳統方法分析，其不僅缺乏準確性，而且已被證明太過耗費資源、且耗時。
Axelera AI制定了一個自上而下并受Ansys軟件支持的兩步工作流程，以了解平面布局圖質量及IR壓降。
展開 賦能邊緣AI創新：新思科技聯手Innatera，以領先仿真技術助力類腦芯片開發
<ul><li>新思科技助力 Innatera 設計芯片，實現邊緣端的實時、高能效 AI 處理，加速推動物理人工智能領域下一代應用的開發</li><li>新思科技 PathFinder-SC? 簽核解決方案以更高精度提供更準確的版圖級結果，專業管理設計需求，并支持早期階段分析</li><li>新思科技 Totem? 電源完整性平臺支持晶體管級分析，為超低功耗 AI 處理器提供可靠的電力傳輸與性能優化</li></ul><p><br></p><p>面向傳感器邊緣超低功耗智能應用的類腦神經形態計算領域領導者 Innatera 公司宣布，選擇新思科技公司（NASDAQ股票代碼: SNPS）為其下一代神經形態微控制器提供設計與驗證支持。新思科技可靠的靜電放電（ESD）與電源完整性分析解決方案，將幫助 Innatera 擴大其運營規模，以滿足工業傳感器、機器人、可穿戴設備和智能家居等領域對邊緣處理快速增長的需求。</p><p>神經形態微控制器通過模擬生物神經元通信方式的脈沖神經網絡（SNNs）來處理信息，在傳感器邊緣實現類腦智能。這種事件驅動的方法能夠在傳感器密集、對響應速度和能效要求極高的環境中實現實時、超低功耗運行。Innatera 的架構結合了混合信號模擬計算、密集互連以及低電壓設計——這些都是實現高能效的關鍵因素，但也可能成為電噪聲和 ESD（靜電放電）敏感性的潛在來源。為解決這些挑戰，并確保在復雜神經形態電路中實現穩健性能，Innatera 利用 PathFinder-SC 和 Totem 來驗證電源完整性、管理噪聲耦合、并在不犧牲速度或效率的前提下維持可靠性。</p><p>PathFinder-SC 可在大規模芯片上模擬 ESD 事件，在最終設計進入制造階段前識別潛在弱點與根本原因，確保芯片在面對實際靜電沖擊時能發揮最佳功能。
展開 
康謀方案 | 基于AI自適應迭代的邊緣場景探索方案
二、aiFab解決方案
在傳統的DoE方案中，將所有的場景視作同等重要，然而事實上，在ADAS/AD系統的測試過程中，邊緣場景則影響著關鍵性能的提升。在aiFab解決方案中，基于AI的自適應DoE解決方案將會根據先前的測試結果，動態選擇測試用例，在未通過的案例中學習并調整泛化注意力。
1、貝葉斯優化（BO）：通過學習優化的智能測試
貝葉斯優化將全量搜索場景的方法轉換成由數據驅動的智能方案，與隨機取樣等方案不同：
（1）BO方案將會預測最有可能暴露失敗風險的新測試用例。
（2）BO方案采用替代模型Surrogate model，比如采用高斯過程Gaussian Processes，然后通過已有的數據來逼近測試場景參數與關鍵性指標的映射目標函數。
（3）然后結合采集函數Acquisition Function，比如通過下置信屆LCB或者期望改進EI等方法，有效平衡“探索”和“利用”之間的取舍，在有限次數測試下，有效找到目標函數的最優解。
2、映射目標函數之關鍵性指標
貝葉斯優化依靠關鍵性指標（KPI）決定了是否為目標場景，aiFab中常見的KPI包括：
（1）碰撞時間TTC：決定車輛距離碰撞有多近
（2）入侵后時間PET：交通沖突后剩余時間間隔
（3）速度變化Delta-v：車輛碰撞過程中的速度變化
通過不同的KPI更新模型，我們的泛化方案能夠將計算資源集中在最需要的地方，從而更高效的發現關鍵邊緣場景，而不是在常規場景上耗費時間。
3、仿真記錄演示
為說明aiFab自適應泛化場景，以下通過一系列仿真記錄來演示自車在不同臨界指標下左轉的場景，每次迭代將會始終關注更為嚴苛的邊緣案例，以確保能夠發現潛在風險。
展開 嵌入式AI創新峰會萬字干貨，16位大咖演講精華
▲OPEN AI LAB聯合創始人&CTO?明?在發表演講
?明?談到，邊緣計算作為一種特殊的信息/數據處理方式，擁有本地操作、時延低、成本低、安全隱私性高等優勢，而邊緣計算的爆發是大勢所趨，眾多的基礎技術和應用將基于邊緣原生（Edge Native）。
相比云原生（Cloud Native），邊緣原生擁有連接與計算并重的特點，同時還能實現遠程管理、邊緣自治和跨節點編排，重視物聯網和5G無線接入。
“邊緣計算的核心還是計算本身，但由于SoC種類各不相同，也帶來了不少問題。”黃明飛談到，為了解決不同芯片平臺部署的問題，OPEN AI LAB開發的AI邊緣計算框架Tengine已服務多家邊緣智能芯片企業，并持續拓展開源生態。
其中，Tengine Framework是OPEN AI LAB自主設計的邊緣AI計算框架，是一個開源的AI推理框架，能高效地解決邊緣AI異構計算的難題；Tengine MLOps是一個商用級邊云自動化部署平臺，具有易開發、快部署的優點，能幫助集成商加速行業智能化。
最后談及Tengine的開放生態，?明?提到Tengine已經和行業最大的機器視覺項目OpenCV達成戰略合作，還成為了ONNX的官方認證合作伙伴。同時，Tengine已和20+主流芯片廠商SoC的底層全面適配，對多種最新NPU的早期介入適配并實現了最優化支持。
通過第一版塊嘉賓的演講，我們看到無論是來自AI物聯網產業鏈的哪一環節，這些代表性的企業都在通過技術創新將開發者、工程師的工作化繁為簡，從而讓AI在端側、邊緣側設備端實現更高的精度和性能。
而這些產業鏈上下游星星點點的技術革新，將在以智慧家居、移動機器人、工業制造、智慧城市等行業領域中，讓AI及物聯網技術爆發出令人驚艷的智能“魔力”。
展開 當AI侵入嵌入式設計......
這些比賽的板子贊助商越來越傾向于提供帶AI加速單元的開發板，高校之類的主辦方本身也鼓勵學生在競賽作品中盡可能地融入AI技術，甚至將其作為一個硬性規定加入到比賽規則里，比如去年底我們參加的全國大學生電子設計競賽，瑞薩作為贊助商，提供的板子就是加入了AI圖像處理加速單元的產品——而且比賽中著意于突出這項特性本身。
這和AIoT或者說邊緣AI的大趨勢是有很大關系的。這類學生競賽對AI技術，尤其是計算機視覺技術的融入，一定程度表明現在采用AI技術的開發門檻并不高，或者說以計算機視覺應用為代表的AI技術在走向成熟。
對于嵌入式應用、DIY愛好者、研究人員而言，現在要在產品或作品中融入AI技術，已經變得越來越容易。畢竟人臉檢測、對象存在檢測、人頭計數以及各種計算機視覺相關的應用很熱門，而且頗有稀松平常之勢。現成的傳感器、處理器算力支持，乃至算法支持的軟件和庫都愈發完善。
甚至主要占據云上AI市場的英偉達，在2019年GTC大會上都推出了價格99美元的Jetson Nano開發者套裝——看起來其實不怎么像我們理解中英偉達的風格。這類型的產品對于AI相關的算法研究、做AI原型產品測試之類的都有價值。
而且在去年10月份，老黃又發揮生（jīng）態（zhàn）建（dāo）設（fǎ）的特色，推出一款2GB RAM的Jetson Nano開發套裝，59美元的價格，即更低門檻就能上手AI（和CUDA）。英偉達自己在Jetson Nano產品的宣傳上，分別用了“AI for Everyone”（4G版）和“Discover AI”（2G版）兩個宣傳語。
這個產品線尤其在邊緣AI、AIoT方面具備了代表性，借此我們也能談談，嵌入式設計普遍開始融入AI技術的趨勢，以及這個趨勢的兩個組成部分：性能與生態。
展開 千尋馳觀亮相公路行業權威年會，開啟2023全國路測第一站
千尋馳觀智能巡檢系統在年會現場開展路測活動
千尋位置進行北斗+AI+邊緣計算的創新性技術融合，推出千尋馳觀道路巡檢系統，全面實現公路管養行業的標準化、精細化和智能化，更好地輔助公路養護決策。
千尋馳觀包含北斗+AI感知終端、HMI人機界面和高性能AI邊緣計算平臺3大核心部件，當巡檢車輛上路行駛，北斗+AI感知終端實時采集高速公路范圍內的路面病害、缺陷及道路設施設備影像情況，AI邊緣計算單元通過圖像比對，自動識別道路病害情況，生成巡檢結果；無法識別的部分病害則通過數據回傳到巡檢云平臺進行精準識別和人工復核。
在巡檢車的車載電腦屏中，路面破損、車轍、構造深度、平整度等檢測數據不停變化。坐在顯示屏前的技術人員能馬上看出道路端倪，精準“號脈”。
相比于一般的AI道路巡檢系統，千尋馳觀將北斗高精度定位與計算機視覺技術融合，采集到的每幀畫面均賦予了高精度位置及時間信息，使得識別目標的定位結果和不規則病害面積的計算結果更為精準，減少估算誤差；與此同時，檢測對象精準的絕對位置坐標，可以與道路公里樁進行綁定，根據需求定制相應的業務報表，有效支撐養護運維。
橫向裂紋、縱向裂紋、坑槽、水坑、龜裂......在AI+視頻及時空數據分析的能力的加持下各種病害實時識別，并通過顏色、屬性、位置等信息不同區分；除了聚焦于路面病害，千尋AI道路巡檢針對交通標志牌、龍門架、護欄、攝像頭等目標，進行專門的模型訓練，目前已經可以有效地識別道路標識牌字跡不清、井蓋錯位等一些典型的問題。
在現場的路測體驗中，眾多專業觀眾來到車內進行實地的道路測試體驗，千尋馳觀的精度與準確度好評不斷，產品的可用性、實用性得到一致認可。
展開 新思科技發布全新軟件定義硬件輔助驗證解決方案，樹立性能、擴展性和應用新標桿
., 納斯達克代碼：SNPS）宣布對其業界領先的硬件輔助驗證（HAV）產品組合進行升級，包括全新硬件平臺和功能，以支持從數據中心到邊緣計算對 AI 芯片驗證日益增長的需求。憑借新思科技 HAV 平臺獨特的軟件定義能力驅動，HAV 平臺在設計復雜度疊加、上市周期日益緊迫的背景下，為驗證全球最復雜的 Multi-Die 與 AI 芯片，在性能、可擴展性和使用場景方面樹立了全新的行業標桿。
隨著大型語言模型大約每四個月規模翻倍，接口數據速率每三年提升 2 倍，AI 芯片的驗證復雜度正在急劇上升。同時，邊緣 AI 架構正在推動著高吞吐量、低時延和高能效的激進目標，進一步增加了設計與驗證的工作負載。為了跟上步伐，行業需要 HAV 解決方案支持更廣泛的應用場景，并運行數千萬億驗證時鐘周期，從而確保一次流片成功并實現異構 AI 系統的無縫集成。
隨著 AI 在幾乎所有行業中日益普及，且產品也正在朝著面向工作負載優化與芯片驅動轉變，盡早確認正在開發的芯片上運行的工作負載符合規格，對建立高度的信心至關重要。我們軟件定義的硬件輔助驗證解決方案實現持續創新，是擴展驗證生產力的強大倍增器，可幫助各行業滿足對硅前開發不斷增長的需求。
Ravi Subramanian
首席產品管理官
新思科技
隨著 AI 系統復雜性持續增長，硬件輔助驗證解決方案必須通過軟件創新和流片前（pre?silicon）硬件就緒進行同步擴展，以滿足緊迫的上市時間要求。基于 FPGA 的硬件仿真與原型驗證通過軟件創新，為提升系統性能與縮短設計啟動時間提供了獨特機會。
展開 全球首顆模擬AI芯片，集成了RISC-V處理器
邊緣人工智能
Mythic 的主要重點是邊緣 AI 部署。該公司還在數據中心提供服務器級計算。企業可以使用邊緣 AI 來部署在邊緣設備上本地運行的ML 模型。然而，邊緣人工智能面臨一些挑戰：
低功耗：設備的功耗和相關熱量隨著更多功能和功能的添加而增加。有時，它們由功率預算有限的以太網供電 (PoE) 供電。即使在 0.5 或 2W 時，設備也需要表現出強大的性能。
不使用時功率應該接近于零，并且這些不同模式之間的切換應該快速而簡單。
小尺寸：在數據源運行的AI算法具有最小的延遲問題，并且不會因視頻壓縮而損失準確性；因此，不需要大型 PCIe 卡、大型散熱器或風扇。整個系統需要適合其他人使用的 22mm x 30mm M.2 A+E 卡。
即使使用更大的 PCIe 卡，加速器和冷卻解決方案的大小也決定了可以塞入多少 AI。
成本效益：以可承受且有效的價格提供高功率計算的能力為客戶提供了根據客戶需求進行擴展的自由度。
迄今為止，該公司已經籌集了 1.652 億美元，用于為智能家居、智慧城市、AR/VR、無人機、視頻監控甚至制造業輕松且經濟高效地部署強大的人工智能。
展開 AI芯片要火，這盤棋怎么下？
AI時代的到來必將引發對AI芯片需求量的暴增，而目前AI芯片實在是“洛陽紙貴”。幾天前華為董事、企業BG總裁閻大力在烏鎮互聯網大會期間談起了幾年前的Alpha GO與李世石的圍棋大賽，在這場大賽中，Alpha GO調用了1202顆CPU+176顆GPU。一顆GPU的價格有多貴?在今年8月，英偉達宣布推出最新Quadro RTX的三款GPU新品目前的預估零售價格分別為2300美元、6300美元、10000美元，且不論當年所使用的GPU型號以及價格，在一場圍棋賽用如此多的CPU和GPU，這意味著AI不是一般人、一般公司能夠駕馭的，所以AI要普及化，必然給AI芯片市場帶來巨大需求，AI芯片成為芯片市場的新風口。
AI市場有多大?英特爾全球副總裁、中國區總裁楊旭日前在英特爾人工智能大會上以中國市場為例講述了這個市場的巨大變數。2017年中國人工智能市場規模是9億美元，而到2022年中國人工智能市場將是90億美元，5年增長10倍，AI是一場剛剛開啟的全新馬拉松。
根據中金公司預測，未來AI各類場景對AI芯片的需求都將保持高速增長，其中云端訓練AI芯片市場規模2022年將達到172億美元，年復合增長率(CAGR)為54%。云端推斷AI芯片市場規模2022年將達到72億美元，CAGR為84%。用于智能手機的邊緣推斷AI芯片市場規模2022年將達到38億美元，CAGR為59%。
用于安防攝像頭的邊緣推斷AI芯片市場規模2022年將達到18億美元，CAGR為41%。用于自動駕駛汽車的邊緣推斷AI芯片市場規模2022年將達到52億美元，CAGR為44%。
事實上大基金早在2017年12月31日就已經成為了瑞芯微的股東，最近的認繳其實是進一步的增資，看到了瑞芯微的AI價值攀升。
展開 
Ansys榮登《今日美國》2023美國氣候領導者榜單
相關閱讀
Ansys再度榮獲BPI“最受喜愛工作場所”認證
Ansys憑借《拯救地球》紀錄片系列榮獲2023年美國商業獎?史蒂夫?大獎賽銀獎
Ansys多物理場解決方案通過臺積電N2芯片工藝認證
Ansys系列應用類主題網絡研討會即將上線
Axelera AI采用Ansys提高邊緣AI平臺芯片電源及性能完整性
全方位實時連接Ansys最新動態
了解更多工程仿真資訊、產品介紹與更新以及行業最新趨勢
立即訂閱Ansys官方郵件推送，實時掌握精彩內容！
立即訂閱
*我希望收到Ansys及其合作伙伴的信息更新及推送，我可以隨時取消訂閱。
Ansys再獲三星Foundry認證，其熱完整性和電源完整性解決方案被用于三星多芯片封裝技術
相關閱讀
“Ansys 2023全球仿真大會”有獎征集大賽正式開啟
Ansys加入臺積電OIP云端聯盟，助力實現云端安全的多物理場分析
Axelera AI采用Ansys提高邊緣AI平臺芯片電源及性能完整性
Ansys宣布通過GlobalFoundries面向GF 22FDX?平臺的半導體工具認證
Ansys多物理場解決方案榮獲臺積電N4工藝技術和FINFLEX?架構認證
全方位實時連接Ansys最新動態
了解更多工程仿真資訊、產品介紹與更新以及行業最新趨勢
立即訂閱Ansys官方郵件推送，實時掌握精彩內容！
Ansys半導體仿真解決方案榮獲聯華電子3D芯片技術認證
Ansys半導體仿真工具獲得聯華電子最新多晶圓堆疊（WoW）先進封裝技術認證
主要亮點
Ansys Redhawk-SC?和Ansys Redhawk-SC Electrothermal?已獲得聯華電子公司（UMC）認證，可對其最新的3D集成電路（3D-IC）封裝技術進行仿真
芯片設計人員可利用Ansys半導體解決方案為WoW和CoW封裝技術執行多芯片協同分析，從而加速設計流程并確保設計成功
Ansys多物理場解決方案已獲得全球半導體代工廠聯華電子的認證，可實現對其最新的3D-IC WoW堆疊技術進行仿真，這將有助于提高邊緣AI、圖形處理和無線通信系統的功耗、效率和性能。該認證使更多的芯片設計人員能夠采用Ansys半導體仿真解決方案來執行多芯片協同分析，從而簡化設計并確保設計成功。
WoW技術涉及垂直堆疊而非水平放置在電路板上的硅晶圓或芯片。Ansys RedHawk-SC?和Ansys RedHawk-SC Electrothermal?基于云端優化的基礎架構而構建，具備處理完整全芯片分析的速度、容量和預測準確度，包括用于電源完整性和信號完整性、熱分布等的多芯片封裝和互連。
展開 Ansys多物理場解決方案為英特爾16nm工藝節點的簽核驗證提供支持
Ansys電源完整性和電磁分析工具為高性能計算（HPC）、5G和AI等應用優化半導體產品
主要亮點
Ansys? Redhawk-SC?、Ansys? Totem?和Ansys? PathFinder-SC?為英特爾16nm工藝節點的電源完整性、信號完整性和可靠性簽核提供支持
Ansys多物理場平臺支持英特爾16nm工藝的全新射頻功能和其他先進特性，能夠通過與芯片相關的預測準確性來加速完成設計并提高性能
Ansys多物理場解決方案已獲得英特爾代工服務（IFS）認證，支持對采用英特爾16nm芯片制造工藝設計的先進集成電路（IC）進行簽核驗證。憑借Ansys電源完整性和信號完整性平臺的預測準確性，設計人員可避免揮霍的過度設計，從而提高邊緣AI、圖形處理和無線通信產品的性能。Ansys與IFS合作驗證了無縫的電子設計自動化（EDA）流程，可為雙方客戶提升生產力。
Ansys RedHawk-SC和Ansys Totem被公認為數字和模擬設計中電源完整性簽核的行業標準。這兩款解決方案的云端數據架構可提供業界罕有的容量，支持對全芯片設計進行分層或平面分析。
展開 