AI處理器
關注創建者：sheshou6453 創建時間：2018-08-24
AI處理器的實例教程
在本周舉行的、一年一度的Hot Chips會議上，移動芯片IP供應商Arm也展示了他們的第一代機器學習處理器，在今年晚些時候，合作伙伴也則可以用上這些IP。
這個最先被名為“Trillium”的架構由一些熟悉的元素與Arm邏輯核心捆綁在一起，對于那些對Nvidia Volta GPU提供的TensorCore、深鑒提供的壓縮技術、擁有可編程特性的FPGA和低功耗的DSP感興趣的人來說，這可能意味著很多。換句話說，Arm可能剛剛“拼湊”出了世界上最好的AI處理器，對于那些芯片制造商來說，這可能會是很大的麻煩。
正如Arm的技術總監兼杰出工程師Ian Bratt本周在Hot Chips上告訴我們的那樣，作為首次涉足AI處理器初哥，Arm的設計目的是盡可能拓寬產品的應用范圍，以便能夠滿足服務器端AI的市場需求，同時也可以為汽車和物聯網這些小型設備提供服務。
“在第一代機器學習處理器的開發過程中，我們走了一些彎路，那就是我們將舊框架帶入了一個新問題。我們可以看到GPU，CPU和DSP如何被用于機器學習，但我們開始看到我們如何能夠更明顯地利用每一項技術。”
如下所示，Arm的機器學習架構并沒有什么特別之處，但值得注意的是他們從硬件，壓縮和編譯器中最成功的創新中汲取的東西。
構建塊是計算引擎，每個（總共16個）是64 KB的SRAM片。MAC引擎（與Nvidia的TensorCore不同）是執行卷積的地方，可編程層引擎處理層之間的大部分必要的混排（shuffling）。該架構具有DMA引擎，用于與外部存儲器接口通信。Arm自己的Cortex技術則充當控制引擎。
Bratt通過對神經網絡處理器芯片中最重要的內容的理解來打破各種架構特征。
展開 Wertheizer說，NeuPro AI處理器是Ceva從頭開始研發的第一款“非DSP”技術。他在發布Neupro時說：“我有點緊張。但是你必須知道AI并不是訊號處理方面的問題?！?NeuPro處理器搭載兩個硬件——NeuPro引擎和NeuPro VPU (向量處理單元)。Wertheizer指出，雖然引擎處理定義良好的人工智能算法，如CNN、啟動和規范層，但是，可程序設計的向量引擎NeuPro VPU是執行專有AI算法的一種延伸?！拔覀冞x擇了這種硬聯機的建置方式，而不是使用GPU或CPU，讓我們能夠增加AI處理器的利用率?！?Ceva聲稱，這款新的專用AI處理器系列帶來了“相當高的性能提升，從入門級處理器的2TOPS到為最高階配置的12.5TOPS”。
NeuPro硬件模塊;Ceva首席執行官Gideon Wertheizer強調，“NeuPro VPU和NeuPro引擎之間的無縫切換至關重要”。
Ceva表示，NeuPro AI處理器將于2018年第二季向客戶提供授權，并計劃在第三季全面發布。
同樣地，聯發科準備推出一款由意騰科技(Intelligo Technology)設計的AI處理器和算法。Intelligo是2016年時從聯發科獨立而出的新創公司。
Intelligo設計的這款AI SoC被稱為“智能DNN語音處理器”應用范圍較有限。聯發科表示，該處理器提供“可配置的深度神經網絡和高效率推論引擎(每秒每瓦特1 TOPS運算性能)”。
顧大為表示，聯發科正在尋找一種小型的AI加速器，為辨識20到30個關鍵詞而設計。另一方面，聯發科也正推廣其“分布式處理”的觀念，期望語音和AI功能不只是整合于像Echo或Google Home的智能音箱，而是更落實于廣泛的小型設備——如電燈開關。
來源：環球自動化網
展開 每個 Mythic ACE 都配有一個數字子系統，包括 32 位 RISC-V 納米處理器、64KB SRAM、SIMD 矢量引擎和高吞吐量片上網絡 (NoC) 路由器。模擬矩陣處理器能夠以高達 25 TOPS 的速度提供高能效的 AI 推理。
“邊緣設備現在可以部署強大的 AI 模型，而不會面臨高功耗、熱管理和外形尺寸限制的挑戰，”該公司表示。
邊緣人工智能
Mythic 的主要重點是邊緣 AI 部署。該公司還在數據中心提供服務器級計算。企業可以使用邊緣 AI 來部署在邊緣設備上本地運行的ML 模型。然而，邊緣人工智能面臨一些挑戰：
低功耗：設備的功耗和相關熱量隨著更多功能和功能的添加而增加。有時，它們由功率預算有限的以太網供電 (PoE) 供電。即使在 0.5 或 2W 時，設備也需要表現出強大的性能。
不使用時功率應該接近于零，并且這些不同模式之間的切換應該快速而簡單。
小尺寸：在數據源運行的AI算法具有最小的延遲問題，并且不會因視頻壓縮而損失準確性；因此，不需要大型 PCIe 卡、大型散熱器或風扇。整個系統需要適合其他人使用的 22mm x 30mm M.2 A+E 卡。
即使使用更大的 PCIe 卡，加速器和冷卻解決方案的大小也決定了可以塞入多少 AI。
成本效益：以可承受且有效的價格提供高功率計算的能力為客戶提供了根據客戶需求進行擴展的自由度。
展開 AI Environment是一款世界頂級的CAE分析前后處理器，為所有世界流行的CAE軟件提供高效可靠的分析模型。她除了提供其它軟件具有的普通前后處理功能外，強大的CAD模型修復能力、自動中面抽取、獨特的網格“雕塑”技術、網格編輯技術以及廣泛的求解器支持能力是她的五大特點。同時作為ANSYS 家族的一款專業分析環境,還可以集成于ANSYS Workbench平臺,與ANSYS系列產品無縫連接。
· CAD模型修復——輕松處理來自CAD模型的不完整曲面（俗稱“爛模型”）
· 中面抽取——自動為來自CAD軟件的薄板模型抽取中面，用于殼單元網格劃分
· 網格雕塑——區別于其它軟件的“堆砌”技術，可將任意復雜形體劃分成六面體網格
· 網格編輯——提高網格質量、進行網格類型變換的靈活工具
ANSYS ICEM-CFD是一款世界頂級的CFD前后處理器，為所有世界流行的CFD軟件提供高效可靠的分析模型。她除了提供其它軟件具有的普通前后處理功能外，強大的CAD模型修復能力、自動中面抽取、獨特的網格“雕塑”技術以及網格編輯技術是她的四大特點。
AI Environment是融合了ICEM-CFD的所有優點、重新整合界面、推廣到結構有限元市場的新產品。
展開 據外媒報道，美國著名電動汽車品牌特斯拉CEO伊隆?馬斯克(Elon Musk)日前在推特上表示，公司下一代Autopilot自動駕駛系統有望于明年年初正式亮相，系統將采用獨立研發的人工智能處理器。特斯拉三年前便開始研發用于自動駕駛的人工智能處理器，馬斯克這一表態，意味著該款處理器已經取得了重大進展。自動駕駛被認為是除數據中心之外，人工智能最具期待的應用市場之一，目前業界基本采用英偉達的GPU等通用處理器作為解決方案，特斯拉自研專用芯片的開發進程受到業界普遍關注。
特斯拉自研AI 處理器取得重大進展
特斯拉一直在自主研發用于自動駕駛汽車的人工智能處理器，而不是依賴于英偉達等廠商。在日前的財報會議中，馬斯克表示特斯拉為自動駕駛汽車而打造的人工智能 AI 處理器已基本準備就緒。按照馬斯克的說法，基于該芯片未來將會被運用到 Model3、Model X 和 Model S 的 Autopilot 自動駕駛系統之中。這也是特斯拉自主研發的首款人工智能處理器。
根據Gartner研究總監盛陵海的介紹，自動駕駛系統主要包括前端與后端兩個部分，前端為感知端，包括攝像頭、毫米波雷達等，主要進行數據采集，市場上以日前被英特爾并購的Mobileye公司提供的解決方案為主。后端為主控平臺，主要執行數據處理、深度學習等功能，主要采用英偉達基于GPU開發的Drive PX 2等處理平臺。特斯拉的Autopilot 2.0硬件套件即由英偉達GPU支持。
然而，有消息稱，特斯拉早在三年前就已開始進行自動駕駛定制人工智能處理器的開發。公開資料上，馬斯克首次提到這款自動駕駛AI處理器則是在去年12月。
展開 
AI處理器的相關專題、標簽、搜索
AI處理器的最新內容
Pulsar 通過結合靈活的計算架構優化邊緣側 AI 工作負載，其延遲比傳統 AI 處理器降低高達 100 倍，能耗降低高達 500 倍。通過采用脈沖神經網絡，Pulsar 僅在記錄到傳感器的變化時才作出反應，顯著提升了數據傳輸速度并延長了可穿戴設備和智能傳感器等“始終在線”設備的電池續航能力。
后摩智能聯合創始人兼研發副總裁陳亮在會上透露：“在不久的將來，我們會把我們的AI處理器硬件設計開源，大家可以去下載到我們的IPU設計資料，做PPA的評估和軟件算法的開發，或者甚至將來用到自己的產品當中去。
智能化，目前很多芯片、傳感器都在內部集成了AI算法、DSP處理器等，進一步提高數據處理能力，有助于性能的提升。
智能化，目前很多芯片、傳感器都在內部集成了AI算法、DSP處理器等，進一步提高數據處理能力，有助于性能的提升。
通過Dojo核心的結構，我們可以看出特斯拉在通用AI處理器上的設計哲學：
面積精簡：特斯拉通過將大量計算內核集成到芯片中，以最大限度提高AI計算的吞吐量，因此需要在保障算力的情況下使單個內核的面積盡可能小，更好的折衷超算系統中算力堆疊和延遲的矛盾。
智能化，目前很多芯片、傳感器都在內部集成了AI算法、DSP處理器等，進一步提高數據處理能力，有助于性能的提升。
Thermal Ranger平臺由熱成像相機、NVIDIA Jetson AGX Orin AI處理器和貓頭鷹AI軟件套件組成，包括卷積神經網絡（CNN）、ROS應用程序、人工智能（AI）和機器學習（ML）框架、驅動程序以及必要的電纜和適配器。
Graphcore 的 Bow AI 處理器
Graphcore Bow AI 加速器使用 3D 芯片堆疊將性能提升 40%。
即使堆棧中的一個芯片上沒有單個晶體管，3D 集成也可以加快計算速度。
此外，國內還有異構處理器IP提供商華夏芯，通過自主設計的Unity統一指令集架構和基于此架構的CPU、DSP、GPU、AI專用處理器系列IP與SoC，在提升性能價格比的同時，顯著降低計算芯片研發成本和研發復雜度，同時縮短研發周期，減少開發人員工作量和降低開發門檻。
不是任何情況下，都有一個完美的參考模型可以來比對；芯片核心應用場景是mipi采集來的圖像，緩存到ddr中，通過ai處理器識別成潛在犯罪分子，然后把犯罪分子圖像由cpu控制通過網絡上傳到后臺。所有部件的都參與上了，這需要怎么驗證？
