馮諾依曼
關注創建者：meishi3289 創建時間：2019-01-07
馮諾依曼的實例教程
現代的CPU基本上歸為馮諾伊曼結構（也稱普林斯頓結構）和哈佛結構。
馮洛伊曼結構就是我們所說的X86架構，而哈佛結構就是ARM架構。一個廣泛用于桌面端（臺式/筆記本/服務器/工作站等），一個雄踞移動領域，我們的手持設備（平板\手機用的大多就是他了）。
01
馮·諾依曼體系
馮·諾依曼體系結構圖如下：
馮·諾依曼體系的特點：
數據與指令都存儲在同一存儲區中，取指令與取數據利用同一數據總線。
被早期大多數計算機所采用。
ARM7——馮諾依曼體系結構簡單，但速度較慢，取指不能同時取數據。
馮·諾依曼結構也稱普林斯頓結構，是一種將程序指令存儲器和數據存儲器合并在一起的存儲器結構。程序指令存儲地址和數據存儲地址指向同一個存儲器的不同物理位置，因此程序指令和數據的寬度相同，如英特爾公司的8086中央處理器的程序指令和數據都是16位寬。
馮.諾依曼結構處理器具有以下幾個特點：
必須有一個存儲器。
必須有一個控制器。
必須有一個運算器，用于完成算術運算和邏輯運算。
必須有輸入設備和輸出設備，用于進行人機通信。另外，程序和數據統一存儲并在程序控制下自動工作。
馮·諾依曼結構：
英特爾公司的8086。
英特爾公司的其他中央處理器。
展開 結論
基于憶阻器的架構在馮諾依曼瓶頸和摩爾定律時代之后展示了開發未來計算系統的巨大潛力。在短期內，憶阻器提供的高密度片上非易失性存儲器可以顯著提高傳統的基于馮諾依曼的計算系統的性能，并且可以找到從高性能機器學習系統到低性能的應用程序，用于物聯網的嵌入式芯片。器件技術和架構發展的進一步發展可能導致基于憶阻器的神經形態計算系統的大規模實施。憶阻交叉開關提供了本機解決方案，以實現大規模并行和功率有效的矢量矩陣運算，這些運算構成了神經形態運算的基礎。此外，精心設計的憶阻器設備可以模仿生物學對應的動力學。最終，我們期待一個基于憶阻器的通用內存計算平臺（圖5）。這個高效且可重新配置的計算平臺，稱之為內存處理單元，可以執行不同的任務-數據存儲，算術，邏輯和神經形態計算。可以說，基于憶阻器的存儲器處理單元等體系結構是計算范式的自然演化，遵循從中央處理單元到圖形處理單元的相同趨勢，轉向更細粒度和高度平行的結構（圖 5））。
圖5：計算系統的可能演變
從具有獨立處理器和內存（中央處理單元，CPU）的傳統架構開始，具有數千個較小內核和更快內存訪問的圖形處理單元（GPU）已成為當今數據密集型計算任務的主力。所提出的存儲器處理單元（MPU）架構將延續這一趨勢，并最終將最小顆粒的存儲器和邏輯完全共存 - 單個設備級別，以便有效處理各種計算任務。
最后，我們注意到生物學一直服務并將繼續作為開發實現低功耗和實時學習系統的方法的巨大靈感。然而，正如自然界中的鳥類可能激發了現代航空技術的靈感，我們最終在新的方向和能力方面邁進了更快的旅行，更大的承載能力和完全不同的加油要求。類似地，在計算中，現代應用程序需要超越自然界面臨的那些，例如搜索大型數據庫，有效地調度資源或解決高度耦合的微分方程組。
展開 這里很重要的一點是，英特爾這個巨頭擯棄X86架構（除了數據流的基本控制），讓計算的一大部分遠離嚴格定義的馮?諾依曼架構。所以，用可配置空間架構來形容這種新的計算方法可能更適合，也許應該將至強芯片視為其協處理器，而不是反過來。
不管怎樣，CSA的基本思路聽起來很簡單，但是用編譯器來實現可能很難，即便這確實看起來為處理各種工作負載的一大批計算引擎提供了幾乎無比廣闊的前景。送交阿爾貢國立實驗室（英特爾是該實驗室的主承包商）的第一代Aurora準百億億次系統在去年秋天被受挫后，我們采訪了英特爾企業和HPC部門的總經理巴里?戴維斯（Barry Davis），暢談英特爾可能采用什么技術為阿爾貢國立實驗室制造系統，當時英特爾有意含糊其辭。不過CSA方面的信息倒與戴維斯說的相一致。
基本想法是，獲取程序的數據流圖（該圖由所有編譯器創建）；在處理成特定處理器的指令集、數據存儲和數據流之前，將該數據流直接放在一系列大規模并行計算元件及之間的互連件上。你可以將該數據流直接放在用硅蝕刻的靜態硬件上，而不是像FPGA那樣用Verilog或VHDL編寫語言來構建，所以別搞錯了“可配置”在這里的含義。
可配置部分是指，英特爾會有許多不同的CSA配置（可能數十種乃至數百種），針對具體應用的數據流，從以單精度和雙精度浮點運算為主的傳統模擬和建模，到結合使用不同精度的浮點和整數的機器學習，這取決于工作負載是訓練網絡還是由此而來的推理分類。這與英特爾對至強處理器采取的做法形成了對照，“Skylake”這一代至強處理器有三種版本，每種版本有10個、18個或28個核心，英特爾調整了核心數量和時鐘頻率，還調整了其他元件，出于市場對不同價位的需要。有了CSA，你想要激活該器件中盡可能多的底層元件，用正好夠用的資源來處理任何特定的工作負載。
展開 簡而言之，處理器無論速度有多快，在從內存中獲取數據時都必須處于空閑狀態，并且取決于傳輸速率——這就是所謂的馮諾依曼限制。因此，將計算和內存合并到單個設備中就成為了大家探索的解決方法，而模擬 AI 就消除了馮諾依曼瓶頸，從而顯著提高了性能。此外，由于沒有數據傳輸，任務可以在很短的時間內完成，并且消耗的能量也少得多。
每個 Mythic ACE 都配有一個數字子系統，包括 32 位 RISC-V 納米處理器、64KB SRAM、SIMD 矢量引擎和高吞吐量片上網絡 (NoC) 路由器。模擬矩陣處理器能夠以高達 25 TOPS 的速度提供高能效的 AI 推理。
“邊緣設備現在可以部署強大的 AI 模型，而不會面臨高功耗、熱管理和外形尺寸限制的挑戰，”該公司表示。
邊緣人工智能
Mythic 的主要重點是邊緣 AI 部署。該公司還在數據中心提供服務器級計算。企業可以使用邊緣 AI 來部署在邊緣設備上本地運行的ML 模型。然而，邊緣人工智能面臨一些挑戰：
低功耗：設備的功耗和相關熱量隨著更多功能和功能的添加而增加。有時，它們由功率預算有限的以太網供電 (PoE) 供電。即使在 0.5 或 2W 時，設備也需要表現出強大的性能。
不使用時功率應該接近于零，并且這些不同模式之間的切換應該快速而簡單。
小尺寸：在數據源運行的AI算法具有最小的延遲問題，并且不會因視頻壓縮而損失準確性；因此，不需要大型 PCIe 卡、大型散熱器或風扇。
展開 其核心創意基于馮·諾依曼機器的精彩思想：智慧生物可以向宇宙派出能夠自我復制的自動化機器來探索星系，而不必冒險親身前往。
如果想要制造真正的馮·諾依曼機器，需要解決的一個問題是，自我復制的功能需要原材料的供應，而且尚不清楚深空是否有足夠的合適行星或巖石天體。
為了便于討論，Osmanov縮小了探測器規模。納米級的航天器將不需要太多的材料，且可依靠漂浮在星際塵埃中的氫原子獲得能量。
理論上講，納米級的機器更加高效，可以在短短數年內成批復制。一旦遇到合適的環境，短短幾年內，它們就能復制出高達數萬億的水平。
但是這也給了我們發現它們的機會，Osmanov認為，納米航天器在飛行中會收集氫原子時會發出光線。如果我們朝正確的方向看去，應該就能看到它們正在編隊運動，從光譜的紅外波段里看起來就像是數公里寬的彗星。
人類常常會有這樣的念頭，可能存在其他形式的生命，但對于我們來說尚不可見，因為我們的技術還未達到相應的水平。
Osmanov的結果表明，如果人們檢測到一個極高光度的奇怪天體，可能就是發現了馮·諾依曼機器。
展開 
馮諾依曼的相關專題、標簽、搜索
馮諾依曼的最新內容
9 數字信號處理器的架構
數字信號處理器具有各種架構，組件如下：
10 馮·諾依曼建筑
下面是馮·諾依曼的架構
馮·諾依曼的架構由單個存儲器和單個總線組成，用于將數據傳入和傳出 數字信號處理器的 CPU（中央處理器）。它由 3 個基本單元組成，稱為 ISA（指令集架構）。
回顧計算機發展歷程，1946年世界第一臺電子數字計算機ENIAC只有硬件，沒有軟件和操作系統，后來研發出軟件，發展至今一直沿用馮·諾依曼體系架構。
2.1 硬件架構分工
1965年前，每臺計算機操作系統均為IBM360系列，標志著計算機工業化開始。1981年出現個人PC計算機，配置8088 CPU和存儲器，外設包括CRT、鍵盤、軟盤和打印機。
當前計算機的發展大多選擇以數值計算見長的馮·諾依曼架構，隨著摩爾定理逐漸失效，馮·諾依曼架構帶來的局限日益明顯，存儲墻、功耗墻、智能提升等問題，讓當前計算機發展面臨重大挑戰，迫切需要架構創新，架構創新迎來黃金時代。架構創新主要包括：
1.“硅-馮”范式內的架構創新：“在串行體制”內進行并行的體系結構創新。
而此論文也引用了馮·諾依曼的《博弈論》和維納的《控制論》。
這篇論文開啟了計算機下棋的理論研究，其主要思路在多年后的“深藍”及AlphaGo中仍能看到。1956年，在洛斯阿拉莫斯的MANIAC計算機上，他又展示了國際象棋的下棋程序。
不同于傳統的馮諾依曼模型，它們是計算的另一種形式。
在傳統的馮諾依曼模型中，程序被表示為一系列指令和臨時變量。但在數據流模型中，程序被表示為數據流圖（DFG，dataflow graph），其中輸入數據的一部分是使用預定的操作數（predetermined operands）計算的，計算機中的數據根據所表示的圖一直「流動」到輸出，這一過程由類似圖形的硬件計算而來。
Osmanov的結果表明，如果人們檢測到一個極高光度的奇怪天體，可能就是發現了馮·諾依曼機器。
上面這種分工思路就是馮.諾依曼結構的核心，
關鍵的特點就是客戶只用和一個記錄人員溝通就行，再復雜的需求都可以一股腦的給一個人，剩下的都是他們之間的事。整個過程非常靈活，這也是馮.諾依曼結構的最大優勢。
這種結構下程序指令存儲地址和數據存儲地址指向同一存儲器的不同物理位置，因此程序指令和數據的寬度相同。
CPU、GPU、FPGA、eFPGA、eASIC、ASIC各種指標對比，制表丨果殼硬科技
FPGA相較于CPU和GPU
CPU和GPU都為馮·諾依曼結構的通用處理器，與結構完全不同的FPGA沒什么關系，
馮·諾依曼給出了現代計算機系統的新架構，并沿用至今。計算機推動了世界的數字化，包含兩個歷程，一個是符號化，二是模型化。數字是表達現象，模型化是對現象的理解過程。
1946年至今不到百年，計算機的發展為人類帶來了巨大的價值。
人工智能參與理解與改造世界
人工智能時代出現了三位深度學習的奠基人，也是2019年的圖靈獎獲得者。
用一個計算機的本身問題，來解釋這個事情吧：
馮*諾依曼體系下的計算機，大多有這樣的問題，就是ALU少于FPU。
也就是判斷大多數時候是計算的瓶頸，而不是浮點運算。
