AI推理的案例
AI 中的歸納推理
歸納推理是人類邏輯和推理的一個(gè)基本方面，在人工智能 （AI） 領(lǐng)域起著舉足輕重的作用。這個(gè)認(rèn)知過(guò)程涉及從特定的觀察結(jié)果中進(jìn)行概括，AI 系統(tǒng)會(huì)模仿這些觀察結(jié)果來(lái)改進(jìn)決策和預(yù)測(cè)結(jié)果。本文探討了 AI 中歸納推理的機(jī)制、其重要性及其在各個(gè)領(lǐng)域的應(yīng)用。
目錄
什么是歸納推理？
歸納推理原理
了解 AI 中的歸納邏輯
AI 中的歸納推理示例
歸納推理在 AI 中的應(yīng)用
歸納推理的優(yōu)缺點(diǎn)
挑戰(zhàn)和限制
結(jié)論
什么是歸納推理？
歸納推理是一種做出推理或結(jié)論的邏輯方法。人們?cè)谌粘Ｉ钪薪?jīng)常非正式地使用歸納推理。當(dāng)您使用一組特定的數(shù)據(jù)或過(guò)去經(jīng)驗(yàn)中的現(xiàn)有知識(shí)來(lái)做出決策時(shí)，您就是在使用歸納推理。
考慮這樣一個(gè)場(chǎng)景：您正在分析過(guò)去十年科技行業(yè)各種股票的表現(xiàn)。在研究了歷史數(shù)據(jù)之后，您會(huì)注意到一個(gè)一致的模式：每當(dāng)某家科技公司發(fā)布一款開(kāi)創(chuàng)性產(chǎn)品時(shí)，其股票價(jià)值往往會(huì)大幅飆升。利用此觀察結(jié)果，您采用歸納推理來(lái)預(yù)測(cè)，如果 X 公司明年推出一款革命性產(chǎn)品，其股價(jià)可能會(huì)根據(jù)過(guò)去的趨勢(shì)大幅上漲。
歸納推理原理
歸納推理的一般原則包括：
1. 觀察
歸納推理從對(duì)現(xiàn)象、事件或特定實(shí)例的仔細(xì)和詳細(xì)的觀察開(kāi)始。這些觀察結(jié)果構(gòu)成了得出概括的經(jīng)驗(yàn)基礎(chǔ)。
2. 模式識(shí)別
歸納推理的一個(gè)重要方面是能夠識(shí)別觀察到的數(shù)據(jù)中的模式、趨勢(shì)或規(guī)律。識(shí)別這些模式對(duì)于形成關(guān)于觀察結(jié)果的潛在性質(zhì)的假設(shè)或理論至關(guān)重要。
3. 假設(shè)形成
根據(jù)觀察到的模式或規(guī)律，生成假設(shè)。這些是試探性的解釋，試圖解釋觀察到的模式并預(yù)測(cè)未來(lái)發(fā)生的事情。
4. 泛化
從觀察到的具體實(shí)例中，歸納推理試圖形成一般性陳述或結(jié)論。
展開(kāi) AI 中的歸納推理
?
歸納推理是一種邏輯推理，它從觀察或收集數(shù)據(jù)開(kāi)始，然后確定最直接和最合理的解釋。歸納推理可以通過(guò)增強(qiáng)人工智能 （AI） 系統(tǒng)解決問(wèn)題和做出更好決策的能力，幫助人工智能 （AI） 系統(tǒng)變得更加直觀和像人類。本文將探討歸納推理的基礎(chǔ)知識(shí)及其在人工智能中的應(yīng)用。
目錄
什么是歸納推理？
AI 如何實(shí)現(xiàn) Abductive Reasoning
歸納推理原理
案例研究：AI 中的歸納推理
Abductive Logic 在 AI 中的應(yīng)用
AI 中歸納推理的局限性
結(jié)論
常見(jiàn)問(wèn)題解答中 AI 中的歸納推理
什么是歸納推理？
歸納推理是一種強(qiáng)調(diào)從現(xiàn)有數(shù)據(jù)中得出推理的推理。不過(guò)，不能保證得出的結(jié)論是準(zhǔn)確的，因?yàn)槭诸^的信息不可能很全面。從歸納推理中得出的結(jié)論很可能是正確的。這種類型的推理通過(guò)考慮來(lái)確定一組不完整事實(shí)的最可能結(jié)論。雖然歸納推理是一種演繹推理，但手頭的信息并不能保證結(jié)論的準(zhǔn)確性。
展開(kāi) AI 中的演繹推理
演繹推理是人類的一種批判性思維技能，它被集成到 AI 系統(tǒng)中以增強(qiáng) AI 的決策能力。在本文中，我們將了解演繹邏輯以及示例以及如何將其集成到 AI 系統(tǒng)中。
目錄
什么是演繹推理？
演繹推理的推理規(guī)則
Modus Ponens
托倫斯的手法
假設(shè)三段論
AI 中的演繹推理
1. 基于規(guī)則的系統(tǒng)
2. 邏輯編程
3. 自動(dòng)定理證明 （ATP）
案例研究：在 AI 中利用演繹推理進(jìn)行醫(yī)學(xué)診斷
演繹推理在 AI 中對(duì)醫(yī)學(xué)診斷的作用
從演繹推理得出的結(jié)論
演繹推理在 AI 中的應(yīng)用
挑戰(zhàn)和限制
結(jié)論
什么是演繹推理？
演繹推理是人類推理的一個(gè)方面，它從提供的前提中得出合乎邏輯的結(jié)論。演繹推理根據(jù)必然性原則運(yùn)作：如果前提是正確的，那么結(jié)論也是正確的。
演繹推理的基本原則包括三段論、modus ponens 和 modus tollens。讓我們考慮一個(gè)例子，modus ponens 斷言，如果 p 暗示 q 并且 p 為真，那么 q 也必須為真。我們可以使用邏輯運(yùn)算符、真值表和推理規(guī)則來(lái)分析演繹論點(diǎn)。
演繹推理的推理規(guī)則
Modus Ponens
Modus Ponens 演繹推理的基本規(guī)則。演繹推理的論證形式有一個(gè)條件陳述和導(dǎo)致結(jié)論的前提。
展開(kāi) 英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200：性能飆升 90%，Llama 2 推理速度翻倍
在人工智能方面，英偉達(dá)表示，HGX H200 在 Llama 2（700 億參數(shù) LLM）上的推理速度比 H100 快了一倍。HGX H200 將以 4 路和 8 路的配置提供，與 H100 系統(tǒng)中的軟件和硬件兼容。它將適用于每一種類型的數(shù)據(jù)中心（本地、云、混合云和邊緣），并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署，將于 2024 年第二季度推出。
英偉達(dá)此次發(fā)布的另一個(gè)關(guān)鍵產(chǎn)品是 GH200 Grace Hopper“超級(jí)芯片（superchip）”，其將 HGX H200 GPU 和基于 Arm 的英偉達(dá) Grace CPU 通過(guò)該公司的 NVLink-C2C 互連結(jié)合起來(lái)，官方稱其專為超級(jí)計(jì)算機(jī)設(shè)計(jì)，讓“科學(xué)家和研究人員能夠通過(guò)加速運(yùn)行 TB 級(jí)數(shù)據(jù)的復(fù)雜 AI 和 HPC 應(yīng)用程序，來(lái)解決世界上最具挑戰(zhàn)性的問(wèn)題”。
GH200 將被用于“全球研究中心、系統(tǒng)制造商和云提供商的 40 多臺(tái) AI 超級(jí)計(jì)算機(jī)”，其中包括戴爾、Eviden、惠普企業(yè)（HPE）、聯(lián)想、QCT 和 Supermicro。其中值得注意的是，HPE 的 Cray EX2500 超級(jí)計(jì)算機(jī)將使用四路 GH200，可擴(kuò)展到數(shù)萬(wàn)個(gè) Grace Hopper 超級(jí)芯片節(jié)點(diǎn)。
展開(kāi) 
異構(gòu)將成超算主流，Habana的AI專用芯片顯威力
近日，Habana Labs宣布美國(guó)圣地亞哥超算中心為Voyager研究計(jì)劃選擇了Habana Lab AI 加速器。后者是典型的ASIC（專用芯片），但是可與英偉達(dá)的GPU在AI訓(xùn)練市場(chǎng)一比高低。為何Habana Lab AI 加速器有如此強(qiáng)大的威力？未來(lái)的超算架構(gòu)會(huì)青睞哪種AI芯片？值此機(jī)會(huì)，電子產(chǎn)品世界記者采訪了Habana Labs中國(guó)區(qū)總經(jīng)理于明揚(yáng)先生。
用于Voyager研究計(jì)劃的Habana Lab AI 加速器
據(jù)悉，超微 (Supermicro)提供內(nèi)置Habana? Gaudi? AI訓(xùn)練和Goya? AI推理加速器的高性能計(jì)算系統(tǒng)，將用于加州大學(xué)圣地亞哥分校圣地亞哥超級(jí)計(jì)算機(jī)中心（SDSC）的Voyager超級(jí)計(jì)算機(jī)，以提供高性能的AI計(jì)算能力，計(jì)劃于2021年秋季投入使用。
Voyager將致力于推進(jìn)跨學(xué)科和工程領(lǐng)域的人工智能研究。其采用了Habana獨(dú)特的互聯(lián)技術(shù)，用336片Gaudi加速器有效地提升了AI訓(xùn)練能力，這種架構(gòu)很好地?cái)U(kuò)展了大型超級(jí)計(jì)算機(jī)的訓(xùn)練應(yīng)用。Gaudi是目前業(yè)界唯一內(nèi)置集成10個(gè)支持RoCE v2（RDMA over Converged Ethernet）100G以太網(wǎng)端口的AI處理器，可以有效提升擴(kuò)展的靈活性，避免擴(kuò)展能力受限于吞吐量。Voyager系統(tǒng)還采用了16片Habana Goya處理器用于AI推理模型。
之所以采用Habana的芯片，因?yàn)樾士梢源鬄樘嵘?/span>
展開(kāi) 關(guān)注 | 看懂芯片巨頭們的新戰(zhàn)場(chǎng)：你需要了解什么是真正的XPU
在第二代和第三代至強(qiáng)可擴(kuò)展處理器當(dāng)中，開(kāi)發(fā)人員便可通過(guò)OpenVINO等軟件工具調(diào)用CPU的AVX 512指令集，進(jìn)而實(shí)現(xiàn)基于CPU的高效AI推理計(jì)算。通過(guò)這一方法，解決方案便可用更簡(jiǎn)單的硬件結(jié)構(gòu)實(shí)現(xiàn)AI推理應(yīng)用。
芯戰(zhàn)新戰(zhàn)場(chǎng)已至，未來(lái)充滿變數(shù)
雖然各大芯片廠商有著不同的根據(jù)地，產(chǎn)品和技術(shù)的演進(jìn)策略也不盡相同，但算力的跨界發(fā)展與融合卻已經(jīng)成為板上釘釘?shù)内厔?shì)和各家的重點(diǎn)發(fā)展戰(zhàn)略?？v觀英偉達(dá)、AMD和英特爾，每一家都是足以呼風(fēng)喚雨的頂尖半導(dǎo)體企業(yè)，亦同為擁有數(shù)十年行業(yè)根基的常青樹(shù)。
但在這場(chǎng)龐大的棋局當(dāng)中，各方角力所憑借的卻并不只是芯片制程和方案設(shè)計(jì)。生態(tài)、策略、產(chǎn)品進(jìn)度、方案成熟度、市場(chǎng)推廣……每一項(xiàng)都有可能成為競(jìng)爭(zhēng)的勝負(fù)手。
無(wú)論結(jié)局如何，這場(chǎng)芯戰(zhàn)中的勝利者一定能夠?yàn)橛脩籼峁└邇?yōu)勢(shì)的多樣化算力產(chǎn)品，而最終的受益者也一定是數(shù)據(jù)中心和未來(lái)的整個(gè)數(shù)字時(shí)代。目前來(lái)看，在芯片新戰(zhàn)場(chǎng)競(jìng)爭(zhēng)到來(lái)之際，更具前瞻性眼光的英特爾已領(lǐng)先半目。
展開(kāi) 破曉“視”界：3C產(chǎn)品屏幕自動(dòng)檢測(cè)技術(shù)解析與應(yīng)用展望
人工智能（AI）與深度學(xué)習(xí)： 面對(duì)更為復(fù)雜、主觀性強(qiáng)的缺陷，如色斑、亮度不均、輕微閃爍等，傳統(tǒng)算法往往力不從心。深度學(xué)習(xí)技術(shù)，特別是基于卷積神經(jīng)網(wǎng)絡(luò)（CNN）的模型，通過(guò)海量的缺陷樣本數(shù)據(jù)進(jìn)行訓(xùn)練，學(xué)會(huì)了像經(jīng)驗(yàn)豐富的質(zhì)檢員一樣“理解”什么是缺陷。它能有效區(qū)分干擾與真實(shí)缺陷，對(duì)模糊、不規(guī)則的缺陷具有極高的識(shí)別率和極低的誤判率，實(shí)現(xiàn)了檢測(cè)能力的質(zhì)的飛躍。
自動(dòng)化控制與分揀（執(zhí)行）：
一旦識(shí)別出缺陷，系統(tǒng)會(huì)立即記錄缺陷的類型、位置、尺寸等信息，并生成檢測(cè)報(bào)告。同時(shí)，通過(guò)PLC或運(yùn)動(dòng)控制卡驅(qū)動(dòng)機(jī)械手或分揀機(jī)構(gòu)，將不良品自動(dòng)剔除出生產(chǎn)線，實(shí)現(xiàn)全自動(dòng)化的“判決”與“執(zhí)行”。
二、 系統(tǒng)核心構(gòu)成
一套完整的屏幕自動(dòng)檢測(cè)設(shè)備通常包含以下模塊：
機(jī)械結(jié)構(gòu)單元： 包括高剛性機(jī)架、精密直線電機(jī)/絲杠模組，為相機(jī)和傳感器提供穩(wěn)定、高速、高精度的運(yùn)動(dòng)平臺(tái)。
視覺(jué)成像單元： 工業(yè)相機(jī)、鏡頭、專用光源系統(tǒng)。光源的設(shè)計(jì)至關(guān)重要，它能凸顯缺陷特征，抑制背景干擾。
電控與信號(hào)單元： 包括PLC、運(yùn)動(dòng)控制器、IO卡、繼電器等，負(fù)責(zé)協(xié)調(diào)設(shè)備各部件的時(shí)序動(dòng)作，并與生產(chǎn)線進(jìn)行信號(hào)交互。
計(jì)算與軟件單元： 搭載高性能工業(yè)計(jì)算機(jī)，運(yùn)行專用的自動(dòng)檢測(cè)軟件。該軟件集成了圖像采集、算法處理、AI推理、數(shù)據(jù)管理和人機(jī)交互界面，是設(shè)備的指揮中心。
三、 核心優(yōu)勢(shì)：為何它能取代人工？
極高的檢測(cè)效率： 檢測(cè)速度可達(dá)毫秒級(jí)，遠(yuǎn)超人眼的反應(yīng)速度，能輕松匹配高速產(chǎn)線的節(jié)拍需求。
超高的檢測(cè)精度與一致性： 不受主觀情緒、疲勞度影響，檢測(cè)標(biāo)準(zhǔn)始終如一，能夠穩(wěn)定檢出微米級(jí)缺陷，大幅降低漏檢率和過(guò)殺率。
強(qiáng)大的數(shù)據(jù)追溯能力： 每一次檢測(cè)都會(huì)生成結(jié)構(gòu)化數(shù)據(jù)，實(shí)現(xiàn)產(chǎn)品質(zhì)量的全流程追溯，為工藝改進(jìn)提供精準(zhǔn)的數(shù)據(jù)支持。
展開(kāi) 2021首筆超10億芯片投資！燧原科技C輪融資18億，騰訊連投四輪
在2019年底發(fā)布首款面向數(shù)據(jù)中心的AI訓(xùn)練芯片“邃思”及加速卡“云燧T10”后，燧原科技于2020年12月21日發(fā)布首款面向數(shù)據(jù)中心的AI推理產(chǎn)品 “云燧i10”。
燧原科技CEO趙立東在2020年12月表示，疫情加快了數(shù)據(jù)中心建設(shè)步伐和AI應(yīng)用的速度?！皞鹘y(tǒng)數(shù)據(jù)中心和AI沒(méi)有直接關(guān)系，就是X86+GPU加一堆存儲(chǔ)和數(shù)據(jù)搬運(yùn)，但現(xiàn)在數(shù)據(jù)中心越來(lái)越多引入AI加速平臺(tái)。AI的滲透率會(huì)越來(lái)越高，我們預(yù)計(jì)滲透率會(huì)從5%到25%-30%，市場(chǎng)非常龐大。”
趙立東稱，AI真正起步在過(guò)去五六年，國(guó)內(nèi)更晚，BAT等大企業(yè)從2018、2019年才開(kāi)始大量采購(gòu)英偉達(dá)V100訓(xùn)練芯片，“訓(xùn)練跟推理的關(guān)系是——訓(xùn)練出來(lái)的模型被部署到推理產(chǎn)品上使用。當(dāng)模型、算法不成熟，你需要不斷訓(xùn)練、迭代，成熟了才能被部署到推理上去真正應(yīng)用。從2018年開(kāi)始到2022年，很多場(chǎng)景的算法和模型經(jīng)過(guò)這幾年開(kāi)始逐漸成熟，真正規(guī)?；瘧?yīng)用。當(dāng)推理芯片銷售收入超過(guò)訓(xùn)練芯片，很多算法、模型已經(jīng)開(kāi)始被廣泛應(yīng)用了。對(duì)AI領(lǐng)域來(lái)講，2022年是個(gè)重要的節(jié)點(diǎn)。”
中金資本旗下基金表示，AI賦能百業(yè)的當(dāng)下，AI模型訓(xùn)練所需的算力需求呈指數(shù)級(jí)增長(zhǎng)。云計(jì)算、數(shù)據(jù)中心、5G建設(shè)等新基建產(chǎn)業(yè)提速，算力向云端集中，各行業(yè)對(duì)高算力AI芯片需求大幅提升。
商業(yè)化方面，燧原科技的云端訓(xùn)練產(chǎn)品已實(shí)現(xiàn)商業(yè)落地。2020年9月，燧原科技稱，“云燧T10”和由其組成的多卡分布式訓(xùn)練集群已在云數(shù)據(jù)中心落地，正式進(jìn)入商用階段。據(jù)悉，云燧T10已經(jīng)在互聯(lián)網(wǎng)和金融行業(yè)的頭部客戶落地商用，云燧i10已支持多款業(yè)界主流AI服務(wù)器，正與頭部企業(yè)展開(kāi)業(yè)務(wù)合作。
騰訊是燧原科技的重要合作伙伴。騰訊投資董事總經(jīng)理姚磊文表示，在燧原成功流片后，目前已與騰訊基于業(yè)務(wù)真實(shí)場(chǎng)景開(kāi)展了深入合作。
展開(kāi) 千尋馳觀測(cè)評(píng)：真正達(dá)到實(shí)用級(jí)別的北斗+AI道路智能巡檢
相比于一般的AI道路巡檢系統(tǒng)，千尋馳觀將北斗高精度定位與計(jì)算機(jī)視覺(jué)技術(shù)融合，采集到的每幀畫面均賦予了高精度位置及時(shí)間信息，一方面使得識(shí)別目標(biāo)的定位結(jié)果和不規(guī)則病害面積的計(jì)算結(jié)果更為精準(zhǔn)，減少估算誤差；另一方面檢測(cè)對(duì)象精準(zhǔn)的絕對(duì)位置坐標(biāo)，可以與道路公里樁進(jìn)行綁定，根據(jù)需求定制相應(yīng)的業(yè)務(wù)報(bào)表，有效支撐養(yǎng)護(hù)運(yùn)維。
經(jīng)多地的實(shí)測(cè)驗(yàn)證，千尋馳觀已實(shí)現(xiàn)了道路檢測(cè)目標(biāo)車道級(jí)的位置估計(jì)、像素級(jí)的面積計(jì)算以及病害+路產(chǎn)“端側(cè)聯(lián)合”智能識(shí)別，召回率和準(zhǔn)確率均優(yōu)于90%。
基于技術(shù)優(yōu)勢(shì)，千尋馳觀在減少誤檢、漏報(bào)，提升自動(dòng)化采集的程度上實(shí)現(xiàn)了性能升級(jí)，但為了滿足行業(yè)的多重需求，綜合體驗(yàn)，千尋馳觀的能力還不止于此。
數(shù)據(jù)自動(dòng)融合去重 挑戰(zhàn)0漏檢0重檢
經(jīng)實(shí)地檢驗(yàn)，千尋位置技術(shù)人員發(fā)現(xiàn)，AI識(shí)別病害，在注重其準(zhǔn)確性（不錯(cuò)報(bào)）的同時(shí)亦需要將召回率（不漏報(bào)）也納入重要的模型評(píng)價(jià)指標(biāo)。由于病害模型的不精準(zhǔn)，會(huì)造成目標(biāo)因大小位置的變化重復(fù)報(bào)告。
對(duì)此，千尋馳觀在算法模型中引入了新的能力：?jiǎn)未尾杉瘮?shù)據(jù)去重，以及多次、多天采集數(shù)據(jù)自動(dòng)融合。
其中單次采集數(shù)據(jù)去重指將空間信息、時(shí)間信息、語(yǔ)義信息和視覺(jué)特征有效的融合，識(shí)別特定目標(biāo)并編號(hào)，賦予其唯一的身份信息，不會(huì)隨著大小及位置的變化而重復(fù)報(bào)告。
多次多天的檢測(cè)成果融合，意味著通過(guò)AI+視頻及時(shí)空數(shù)據(jù)分析的能力，將巡查結(jié)果進(jìn)行數(shù)據(jù)整合、數(shù)據(jù)挖掘、AI推理等，形成目標(biāo)的全過(guò)程跟蹤，完善科學(xué)的病害及路產(chǎn)庫(kù)，做到病害演變“可測(cè)”、路產(chǎn)的全生命周期管理。
技術(shù)的成熟也使得輕量化的方案成為可能，千尋馳觀的整體方案架構(gòu)包含RTK+慣導(dǎo)的高精定位系統(tǒng)，高性能AI邊緣計(jì)算平臺(tái)和北斗+視覺(jué)AI感知終端。遵循小型化，輕型化，易安裝原則，可靈活適配各種車型。
展開(kāi) ChatGPT服務(wù)器，深度拆解（2023）
據(jù)各公司官網(wǎng)，2023年2月7日，百度宣布將推出ChatGPT類似產(chǎn)品“文心一言”，預(yù)計(jì)今年3月展開(kāi)內(nèi)測(cè)；2月8日阿里宣布阿里版ChatGPT正在研發(fā)中，目前處于內(nèi)測(cè)階段；2月9日，字節(jié)跳動(dòng)旗下AI Lab宣布正在開(kāi)展ChatGPT和AIGC相關(guān)研發(fā)，未來(lái)將為PICO提供技術(shù)支持；2月10日，京東旗下言犀人工智能平臺(tái)推出產(chǎn)業(yè)版ChatGPT—“ ChatJD”。
計(jì)算機(jī)行業(yè)：ChatGPT，深度拆解AI算力模型
AI模型對(duì)算力的需求主要體現(xiàn)在訓(xùn)練和推理兩個(gè)層面。當(dāng)前主流的人工智能算法通常可分為“訓(xùn)練”和“推理”兩個(gè)階段。據(jù)IDC數(shù)據(jù)，2021年中國(guó)人工智能服務(wù)器工作負(fù)載中，57.6%的負(fù)載用于推理，42.4%用于模型訓(xùn)練。據(jù)IDC預(yù)計(jì)，到2026年AI推理的負(fù)載比例將進(jìn)一步提升至62.2%。具體來(lái)看：
1）訓(xùn)練階段：基于充裕的數(shù)據(jù)來(lái)調(diào)整和優(yōu)化人工智能模型的參數(shù)，使模型的準(zhǔn)確度達(dá)到預(yù)期。對(duì)于圖像識(shí)別、語(yǔ)音識(shí)別與自然語(yǔ)言處理等領(lǐng)域的復(fù)雜問(wèn)題，為了獲得更準(zhǔn)確的人工智能模型，訓(xùn)練階段常常需要處理大量數(shù)據(jù)集、做反復(fù)的迭代計(jì)算，耗費(fèi)巨大的運(yùn)算量。
2）推理階段：訓(xùn)練階段結(jié)束以后，人工智能模型已經(jīng)建立完畢，已可用于推理或預(yù)測(cè)待處理輸入數(shù)據(jù)對(duì)應(yīng)的輸出（例如給定一張圖片，識(shí)別該圖片中的物體），此過(guò)程被稱為推理階段。推理階段對(duì)單個(gè)任務(wù)的計(jì)算能力要求不如訓(xùn)練那么大，但是由于訓(xùn)練出來(lái)的模型會(huì)多次用于推理，因此推理運(yùn)算的總計(jì)算量也相當(dāng)可觀。
ChatGPT算力需求場(chǎng)景包括預(yù)訓(xùn)練、Finetune及日常運(yùn)營(yíng)。
展開(kāi) IC設(shè)計(jì)，一文看完人工智能芯片設(shè)計(jì)挑戰(zhàn)及解決方案
如何在芯片設(shè)計(jì)階段降低功耗是AI芯片設(shè)計(jì)的一大挑戰(zhàn)。另一方面，AI推理或訓(xùn)練芯片要求芯片能從功耗很低的休眠狀態(tài)（sleep mode）以極快的速度切換到功耗很高的全速處理狀態(tài)（operation mode），因此電源供電必須能提供這種瞬態(tài)切換所需要的大電流，不能出現(xiàn)供電過(guò)沖（overshoot）或塌陷(undershoot)而造成的電壓劇烈抖動(dòng)。為防止這種情況的出現(xiàn)僅僅依靠芯片內(nèi)部的電容是不足夠的，還必須審慎選擇interposer、封裝和PCB板上的去耦電容，以協(xié)同設(shè)計(jì)的方式來(lái)保證供電網(wǎng)絡(luò)（PDN）滿足瞬態(tài)電流消耗需求。
其次是HBM設(shè)計(jì)的挑戰(zhàn)。HBM相對(duì)于傳統(tǒng)DDRx設(shè)計(jì)來(lái)說(shuō)有更高的帶寬和功耗效率，時(shí)延很低，占用面積小的特點(diǎn)。如果采用相似的帶寬和存儲(chǔ)大小的情況下，GDDR6的PCB占用面積是HBM2的6倍，功耗消耗多3倍，芯片設(shè)計(jì)面積接近2倍，HBM的優(yōu)勢(shì)比較明顯。但是HBM設(shè)計(jì)實(shí)施卻很困難，除了滿足嚴(yán)苛的interposer設(shè)計(jì)規(guī)則及信號(hào)完整性規(guī)則外，還必須考慮高位寬（1024 bits或2048 bits）同步開(kāi)關(guān)噪聲問(wèn)題。技術(shù)的發(fā)展趨勢(shì)要求我們重新審視集成電路設(shè)計(jì)與驗(yàn)證的方法學(xué)。
Ansys eco-platform提供了從前端到后端、模擬到數(shù)字、芯片到系統(tǒng)的功耗、高速數(shù)據(jù)傳輸和可靠性解決方案。通過(guò)Ansys eco-platform提供的解決方案可以極大地幫助設(shè)計(jì)者優(yōu)化設(shè)計(jì)性能，降低成本，縮短設(shè)計(jì)周期和減少設(shè)計(jì)者工作量，從而確保具有最新技術(shù)和創(chuàng)意的產(chǎn)品及時(shí)上市并占領(lǐng)市場(chǎng)，保護(hù)設(shè)計(jì)企業(yè)的利益。
解決方案
針對(duì)上述人工智能芯片在功耗、噪聲及可靠性方面的挑戰(zhàn)，采取有效的應(yīng)對(duì)方法可以幫助設(shè)計(jì)者規(guī)避潛在的設(shè)計(jì)風(fēng)險(xiǎn)。Ansys可提供業(yè)界最全面的功耗、電源完整性、信號(hào)完整性及可靠性仿真解決方案。
展開(kāi) 
嵌入式AI創(chuàng)新峰會(huì)萬(wàn)字干貨，16位大咖演講精華
費(fèi)浙平談到，“相機(jī)+軟件+算力”三大件仍在不斷迭代演進(jìn)，而嵌入式AI在3D視覺(jué)的應(yīng)用剛剛起步，這將是一個(gè)重大的機(jī)會(huì)點(diǎn)。
03
.
結(jié)語(yǔ)：物聯(lián)網(wǎng)端側(cè)AI嵌入新戰(zhàn)場(chǎng)進(jìn)入爆發(fā)前夜！
通過(guò)本次峰會(huì)，在底層技術(shù)創(chuàng)新方面，我們看到在輕量級(jí)神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)、模型壓縮、AI推理引擎、AI芯片架構(gòu)創(chuàng)新等領(lǐng)域的最新創(chuàng)新實(shí)踐。
而在行業(yè)落地層面，我們也洞察了智能家居、移動(dòng)機(jī)器人、工業(yè)互聯(lián)網(wǎng)、智能安防等多個(gè)領(lǐng)域面臨的挑戰(zhàn)和應(yīng)對(duì)舉措，看到AI落地的火苗正煥發(fā)出多樣化的智能“魔力”。
總的來(lái)說(shuō)，當(dāng)AI落地從云端擴(kuò)展到更加寬廣的端側(cè)、邊緣測(cè)領(lǐng)域，一個(gè)更加廣闊的物聯(lián)網(wǎng)端側(cè)的AI嵌入新戰(zhàn)場(chǎng)正在爆發(fā)前夜，AI也將真正進(jìn)入普羅大眾生產(chǎn)、生活的方方面面！
展開(kāi) 英偉達(dá)、AMD：確認(rèn)對(duì)華斷供高端GPU芯片
該芯片由 540 億個(gè)晶體管組成，打包了第三代 Tensor 核心，并具有針對(duì)稀疏矩陣運(yùn)算的加速功能，對(duì)于 AI 推理和訓(xùn)練來(lái)說(shuō)特別有用。此外，每個(gè) GPU 可以劃分為多個(gè)實(shí)例，執(zhí)行不同的推理任務(wù)，采用 Nvidia NVLink 互連技術(shù)可以將多個(gè) A100 GPU 用于更大的 AI 推理工作負(fù)載。
然而，這些在 H100 出現(xiàn)之后顯得略有不足了。在今年春季的發(fā)布會(huì)中，英偉達(dá)CEO黃仁勛發(fā)布了面向高性能計(jì)算（HPC）和數(shù)據(jù)中心的下一代 Hopper 架構(gòu)，搭載新一代芯片的首款加速卡被命名為 H100，它就是 A100 的替代者。
H100 是一款針對(duì)大模型專門優(yōu)化過(guò)的芯片，使用臺(tái)積電 5nm 定制版本制程（4N）打造，單塊芯片包含 800 億晶體管。同時(shí)也是全球首款 PCI-E 5 和 HBM 3 顯卡，一塊 H100 的 IO 帶寬就是 40 terabyte 每秒。
Transformer 類預(yù)訓(xùn)練模型是當(dāng)前 AI 領(lǐng)域最熱門的方向，英偉達(dá)以此為目標(biāo)專門優(yōu)化 H100 的設(shè)計(jì)，提出了 Transformer Engine，集合了新的 Tensor Core、FP8 和 FP16 精度計(jì)算，以及 Transformer 神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)處理能力，可以將此類機(jī)器學(xué)習(xí)模型的訓(xùn)練時(shí)間從幾周縮短到幾天。
針對(duì)服務(wù)器應(yīng)用，H100 也可以虛擬化為 7 個(gè)用戶共同使用，每個(gè)用戶獲得的算力相當(dāng)于兩塊全功率的 T4 GPU。此外，H100 還實(shí)現(xiàn)了業(yè)界首個(gè)基于 GPU 的機(jī)密計(jì)算。
基于 Hopper 架構(gòu)的 H100，英偉達(dá)還推出了機(jī)器學(xué)習(xí)工作站、超級(jí)計(jì)算機(jī)等一系列產(chǎn)品。8 塊 H100 和 4 個(gè) NVLink 結(jié)合組成一個(gè)巨型 GPU——DGX H100，一共有 6400 億晶體管，AI 算力 32 petaflops，HBM3 內(nèi)存容量高達(dá) 640G。
展開(kāi) 美光LPDDR5X：抓住每一個(gè)心動(dòng)的光影
在保證數(shù)據(jù)處理速度的同時(shí)，跨應(yīng)用程序的數(shù)據(jù)傳輸也變得日益復(fù)雜，這些先進(jìn)的 SoC 需要更快的數(shù)據(jù)傳輸速度來(lái)實(shí)現(xiàn)無(wú)縫多任務(wù)處理，并支持AI推理、增強(qiáng)現(xiàn)實(shí)、虛擬現(xiàn)實(shí)及沉浸式圖形顯示等功能。
對(duì)于我們使用智能手機(jī)中的拍攝功能時(shí)，LPDDR5X 的性能有助于釋放計(jì)算影像尚未開(kāi)發(fā)的潛能。相比于上一代LPDDR5，LPDDR5X帶寬提升33%，使SoC中的AI引擎能夠更迅速地訪問(wèn)照片和視頻，加快拍攝速度，并支持多個(gè)攝像頭同步拍攝視頻。更大底的圖像傳感器、更多的攝像頭和更新的計(jì)算影像功能，幫助我們拍出專業(yè)級(jí)照片和視頻。
LPDDR5X的性能還可將夜景模式下的分辨率提高50%，拍攝速度提升35%，從而拍出色彩更鮮艷、成像更清晰的照片。此外，LPDDR5X 還支持將人像模式和夜景模式引入視頻，讓我們?cè)诎倒猸h(huán)境下也能拍出與照片一樣驚艷的高清視頻。
02
當(dāng)我們用智能手機(jī)拍照時(shí)，會(huì)發(fā)生什么？
2.1 拍照前
打開(kāi)相機(jī)應(yīng)用程序后，智能手機(jī)在用戶按下相機(jī)快門或錄制按鈕前便會(huì)開(kāi)始分析周邊環(huán)境以及存儲(chǔ)在內(nèi)存緩沖區(qū)中的圖像。一些智能手機(jī)為相機(jī)程序?qū)ｉT保留或鎖定了專屬的內(nèi)存帶寬和容量。這部分專屬內(nèi)存被用來(lái)優(yōu)化圖像，并為用戶帶來(lái)無(wú)延遲的拍照體驗(yàn)。
2.2 輕按快門或錄制按鈕時(shí)
軟件會(huì)對(duì)ISO、光圈和快門速度進(jìn)行調(diào)整，從而拍出最佳照片。人工智能使用專屬內(nèi)存中的訓(xùn)練模型對(duì)照片進(jìn)行優(yōu)化。機(jī)器學(xué)習(xí)技術(shù)自動(dòng)調(diào)整構(gòu)圖、色彩飽和度和對(duì)比度，使照片達(dá)到最佳效果。
展開(kāi) 為什么越來(lái)越看好FD-SOI
隨著新興技術(shù)的崛起，如AI、IOT，這些新興技術(shù)需要一種低耗能、體積小、高效率能滿足電池供電的芯片技術(shù)，顯然，成熟的傳統(tǒng)CMOS半導(dǎo)體技術(shù)高耗能、體積大、成本高將成為新興技術(shù)進(jìn)一步規(guī)?；l(fā)展的桎梏。
其中AI推理及機(jī)器學(xué)習(xí)，由于未能解決功耗、延遲/穩(wěn)定性和成本等問(wèn)題，正處于向邊緣化的方向發(fā)展。同樣IOT基于電池供電設(shè)備的應(yīng)用也存在芯片能耗瓶頸。
圖1、芯片技術(shù)瓶頸正推AI向邊緣化方向發(fā)展
從而需要一種全新的芯片技術(shù)來(lái)支持AIOT的發(fā)展， FD-SOI能利用襯底偏壓(body bias)提供廣泛的性能以及功耗選項(xiàng)，兼具低功耗、近二維平面、高性能、低成本的特點(diǎn)，特別適用于電池供電的消費(fèi)性電子，有望成為替代CMOS大規(guī)模應(yīng)用于新興技術(shù)AIOT，助力新興技術(shù)力量崛起。
圖2、FDSOI襯底偏壓對(duì)能效的影響
其中，以“萬(wàn)物互聯(lián)”為理念的IOT和人工智能AI對(duì)網(wǎng)絡(luò)傳輸性能的要求較高，基于4G技術(shù)發(fā)展而來(lái)的5G技術(shù)同樣依賴芯片技術(shù)的進(jìn)步，F(xiàn)DSOI同樣可助力5G技術(shù)的發(fā)展，進(jìn)一步促進(jìn)AIOT的規(guī)模化應(yīng)用。其中，AI更能作為連接設(shè)備的催化劑，有望進(jìn)一步推動(dòng)IOT的大發(fā)展。
圖3、未來(lái)FDSOI在5G中應(yīng)用廣闊
從當(dāng)下面向IOT芯片的應(yīng)用來(lái)講，恩智浦(NXP Semiconductors)、意法半導(dǎo)體(STMicroelectronics)，三星（SAMSUNG）,格羅方德（Globalfoundries），SOITEC等均在FDSOI領(lǐng)域積極探索。
展開(kāi) 