模型部署的案例
優(yōu)模型：數(shù)學(xué)模型生成及部署工具
產(chǎn)品特點(diǎn)
支持?jǐn)?shù)據(jù)處理算法自定義開發(fā)的數(shù)學(xué)模型開發(fā)環(huán)境
提供多種數(shù)學(xué)模型的建立方式，靈活性高
數(shù)學(xué)模型通過FMU進(jìn)行部署
內(nèi)置完整的FMU生成工具鏈
生成的FMU支持在Windows與Linux下運(yùn)行
產(chǎn)品模塊
代碼編譯模塊：提供Python與C++的代碼模板，引導(dǎo)用戶利用代碼將算法實(shí)現(xiàn)。模塊中的編譯鏈工具可將代碼編譯為FMU。
數(shù)據(jù)訓(xùn)練模塊：具有機(jī)器學(xué)習(xí)數(shù)據(jù)訓(xùn)練與以FMU文件部署的工具鏈，可實(shí)現(xiàn)從數(shù)據(jù)導(dǎo)入、處理、訓(xùn)練到模型部署的全流程。
機(jī)器學(xué)習(xí)模型部署模塊：對(duì)通過其他機(jī)器學(xué)習(xí)框架生成的機(jī)器學(xué)習(xí)模型進(jìn)行封裝，將其模型以FMU文件的形式進(jìn)行部署。
產(chǎn)品優(yōu)勢(shì)
優(yōu)飛迪數(shù)學(xué)模型生成器提供三種模型建立的方式。
1、使用編程語(yǔ)言：用戶可通過數(shù)學(xué)模型生成器，使用Python或者C++編寫算法，生成FMU文件。數(shù)學(xué)模型生成器提供Python和C++的模板與編譯工具。按照模板去編寫算法，并做相應(yīng)的配置，即可編譯成FMU文件。
2、機(jī)器學(xué)習(xí)訓(xùn)練與部署：數(shù)學(xué)模型生成器具有機(jī)器學(xué)習(xí)訓(xùn)練與部署的工具鏈。用戶可通過工具鏈實(shí)現(xiàn)從數(shù)據(jù)導(dǎo)入，數(shù)據(jù)處理，模型訓(xùn)練與模型通過FMU文件部署的全流程。
3、第三方機(jī)器學(xué)習(xí)框架模型導(dǎo)入：數(shù)學(xué)模型生成器具有TensorFlow與PyTorch等框架生成的模型的讀取器，可將通過這些框架生成的機(jī)器學(xué)習(xí)模型導(dǎo)入到數(shù)學(xué)模型生成器，生成該模型的FMU文件。生成的FMU可在Windows與Linux下運(yùn)行。
應(yīng)用場(chǎng)景
數(shù)據(jù)分析，數(shù)字孿生，數(shù)學(xué)建模
小結(jié)
優(yōu)飛迪數(shù)學(xué)模型生成器通過提供將數(shù)學(xué)模型轉(zhuǎn)換為FMU文件的能力，解決了數(shù)學(xué)模型在仿真軟件中部署的復(fù)雜性問題。這一工具的應(yīng)用，不僅提高了仿真軟件的實(shí)用性，也為數(shù)學(xué)模型的集成和應(yīng)用開辟了新的可能性。
展開 連桿結(jié)構(gòu)數(shù)字孿生體實(shí)現(xiàn)之?dāng)?shù)字孿生體模型部署
致力于數(shù)字孿生體技術(shù)的研究與發(fā)展
通過解決方案和工程化應(yīng)用造福人類
數(shù)字孿生體是現(xiàn)有或?qū)⒂械奈锢韺?shí)體對(duì)象的數(shù)字模型，通過實(shí)測(cè)、仿真和數(shù)據(jù)分析來實(shí)時(shí)感知、診斷、預(yù)測(cè)物理實(shí)體對(duì)象的狀態(tài)，通過優(yōu)化和指令來調(diào)控物理實(shí)體對(duì)象的行為，通過相關(guān)數(shù)字模型間的相互學(xué)習(xí)來進(jìn)化自身，同時(shí)改進(jìn)利益相關(guān)方在物理實(shí)體對(duì)象生命周期內(nèi)的決策。
通過數(shù)字孿生體模型，可以實(shí)現(xiàn)全面監(jiān)控系統(tǒng)的關(guān)鍵參數(shù)，分析系統(tǒng)在非常規(guī)條件下的各種性能，如惡劣工作環(huán)境、存在加工誤差、沖擊載荷工況等。利用數(shù)字孿生體模型進(jìn)行虛擬化測(cè)試，縮短了測(cè)試和分析的時(shí)間，降低了測(cè)試和分析的成本，并可以根據(jù)虛擬化測(cè)試結(jié)果優(yōu)化試驗(yàn)參數(shù)。因此建立機(jī)械產(chǎn)品關(guān)鍵零部件（如連桿）的數(shù)字孿生體模型，就具有十分重要的意義。
圖1為實(shí)現(xiàn)連桿數(shù)字孿生體模型的技術(shù)路線，主要分為載荷識(shí)別、模型降階和數(shù)字孿生體模型部署三部分。本文主要介紹了利用ANSYS Twin Builder和ANSYS Deployer軟件建立連桿數(shù)字孿生體模型并部署。在ANSYS Twin Builder中，集成了連桿載荷識(shí)別ROM和應(yīng)力/變形場(chǎng)的Static ROM兩個(gè)降階模型，運(yùn)行調(diào)試后編譯生成twin模型，并輸出twin文件。在ANSYS Deployer中，建立連桿數(shù)字孿生體模型并編譯輸出的twin文件和輸入應(yīng)變csv文件，生成用于實(shí)時(shí)計(jì)算的可執(zhí)行SDK文件夾。
展開 自動(dòng)機(jī)器學(xué)習(xí)綜述
Apache MXNet的模型服務(wù)器用于服務(wù)從MXNet或Open Neural Network Exchange (ONNX)導(dǎo)出的深度學(xué)習(xí)模型。
Microsoft機(jī)器學(xué)習(xí)服務(wù)允許您將模型作為web服務(wù)部署在可伸縮的Kubernetes集群上，并且可以將模型作為web服務(wù)調(diào)用。
可以使用Amazon SageMaker將模型部署到HTTPS端點(diǎn)，應(yīng)用程序利用該端點(diǎn)對(duì)新數(shù)據(jù)觀察進(jìn)行推斷/預(yù)測(cè)。
谷歌云ML還支持模型部署和通過對(duì)托管模型的web服務(wù)的HTTP調(diào)用進(jìn)行推斷。默認(rèn)情況下，它將模型的大小限制為250 MB。
H2O通過利用Java mojo(優(yōu)化的模型對(duì)象)的概念來支持模型的部署。mojo支持自動(dòng)、深度學(xué)習(xí)、DRF、GBM、GLM、GLRM、K-Means、堆棧集成、支持向量機(jī)、Word2vec和XGBoost模型。它與Java類型環(huán)境高度集成。對(duì)于非java編程模型(如R或Python)，可以將模型保存為序列化對(duì)象，并在推斷時(shí)加載。
TensorFlow服務(wù)用于將TensorFlow模型部署到生產(chǎn)環(huán)境中。在幾行代碼中，您就可以將tensorflow模型用作預(yù)測(cè)的API。
如果您的模型已經(jīng)被訓(xùn)練并導(dǎo)出為PMML格式，那么Openscoring可以幫助您將這些PMML模型作為推斷的REST api提供服務(wù)。
創(chuàng)建GraphPipe的目的是將ML模型部署與框架特定的模型實(shí)現(xiàn)(例如Tensorflow、Caffe2、ONNX)解耦。
參考文獻(xiàn)：
[1] J. M. Kanter and K.
展開 智能數(shù)據(jù)建模軟件DTEmpower2025R1新版本功能介紹
數(shù)字孿生模型部署平臺(tái)DTRun
■ 支持上傳數(shù)據(jù)集，支持批量預(yù)測(cè)功能；
■ 增大.dt模型上傳上限，最大支持上G模型；
■ 資源樹右鍵上傳模型邏輯優(yōu)化；
您可前往天洑官網(wǎng)申請(qǐng)DTEmpower軟件試用。試用無需申請(qǐng)license，下載安裝后可直接免費(fèi)試用30天。
智能MCU漸成主流
隨著互聯(lián)網(wǎng)的發(fā)展，人類社會(huì)產(chǎn)生了大量數(shù)據(jù)，而大數(shù)據(jù)配合深度神經(jīng)網(wǎng)絡(luò)等算法可以訓(xùn)練出一些精度極高的機(jī)器學(xué)習(xí)模型，從而能撬動(dòng)人臉識(shí)別，自動(dòng)駕駛，語(yǔ)音識(shí)別等新應(yīng)用?；诖髷?shù)據(jù)的人工智能中，終端節(jié)點(diǎn)負(fù)責(zé)采集數(shù)據(jù)并且交給云端，云端服務(wù)器反復(fù)迭代訓(xùn)練高精度模型，并最終將這些模型部署到應(yīng)用中。應(yīng)當(dāng)說數(shù)據(jù)采集和模型訓(xùn)練的任務(wù)分別在終端和云端做目前得到了一致認(rèn)可，但是具體部署的機(jī)器學(xué)習(xí)模型在何處執(zhí)行在不同的應(yīng)用中卻有所不同。
有些應(yīng)用（如攝像頭內(nèi)容分析）的模型部署在云端，即終端把原始數(shù)據(jù)完全回傳給云端，云端在該數(shù)據(jù)上執(zhí)行深度學(xué)習(xí)模型的推理，之后把結(jié)果發(fā)回給終端，終端再根據(jù)云端的結(jié)果執(zhí)行相應(yīng)操作；而在自動(dòng)駕駛等應(yīng)用中模型必須部署在終端，即終端收集到數(shù)據(jù)后在本地執(zhí)行深度學(xué)習(xí)模型的推理，并根據(jù)結(jié)果作出相應(yīng)動(dòng)作。在智能工業(yè)等需要在終端執(zhí)行深度學(xué)習(xí)模型推理的場(chǎng)景，原來用來執(zhí)行相關(guān)動(dòng)作的MCU就必須能夠支持這樣的深度學(xué)習(xí)推理計(jì)算，這也就是MCU的智能化。
通常來說，機(jī)器學(xué)習(xí)模型必須部署在終端執(zhí)行的理由包括傳輸帶寬、反應(yīng)延遲和安全性等。從傳輸帶寬來考慮，目前物聯(lián)網(wǎng)中節(jié)點(diǎn)分布在各種場(chǎng)景中，如果要把原始數(shù)據(jù)直接傳輸?shù)皆贫?，則帶寬開銷非常大，而且無線傳輸?shù)哪芰块_銷也不小。而如果在終端部署機(jī)器學(xué)習(xí)推理則可以省下帶寬的開銷，只需要有選擇性地把部分重要數(shù)據(jù)傳送到云端，而無需傳輸全部原始數(shù)據(jù)。
反應(yīng)延遲也是把深度學(xué)習(xí)部署在終端的重要理由。目前數(shù)據(jù)到云端的來回傳送時(shí)間通常在數(shù)百毫秒級(jí)，對(duì)于工業(yè)機(jī)器人等對(duì)于延遲有高要求的應(yīng)用來說無法滿足要求。即使在5G低延遲網(wǎng)絡(luò)下，無線網(wǎng)絡(luò)的可靠性對(duì)于智能工業(yè)等要求高可靠性的應(yīng)用來說也難以滿足需求，偶爾的高延遲甚至數(shù)據(jù)丟包都可能會(huì)造成要求即時(shí)反應(yīng)的機(jī)器發(fā)生問題，因此會(huì)傾向于選擇將深度學(xué)習(xí)推理的計(jì)算放在本地做。
展開 【建議收藏】CV學(xué)習(xí)路徑推薦
推薦項(xiàng)目：自動(dòng)駕駛語(yǔ)義分割&人像分割及照片制作
用代碼實(shí)現(xiàn)數(shù)據(jù)集讀取、圖像分割模型訓(xùn)練、訓(xùn)練分析、模型推理、線上部署。完整地做一次圖像分割項(xiàng)目實(shí)戰(zhàn)。
03 目標(biāo)檢測(cè)
目標(biāo)檢測(cè)是CV領(lǐng)域的重要方向之一，在自動(dòng)駕駛、衛(wèi)星遙感、機(jī)器人、智慧工廠、智能交通等領(lǐng)域中應(yīng)用廣泛。掌握經(jīng)典的目標(biāo)檢測(cè)算法，學(xué)會(huì)檢測(cè)器性能提升方法和模型輕量化的方法，了解模型部署的流程，是計(jì)算機(jī)視覺工程師的必備技能，也是進(jìn)入各大廠和創(chuàng)業(yè)公司的必要條件。
推薦項(xiàng)目：基于YOLOX構(gòu)建高性能目標(biāo)檢測(cè)器&輕量級(jí)目標(biāo)檢測(cè)器
掌握構(gòu)建baseline檢測(cè)器的方法，掌握目標(biāo)檢測(cè)器性能優(yōu)化和輕量化的技巧，了解工程實(shí)踐中目標(biāo)檢測(cè)任務(wù)開發(fā)的一般流程。
04 GAN
生成式對(duì)抗網(wǎng)絡(luò)模型被譽(yù)為“下一代深度學(xué)習(xí)框架”，是目前最強(qiáng)大的生成式模型，已在圖像視頻生成、增強(qiáng)、編輯等應(yīng)用領(lǐng)域廣泛落地。每隔一段時(shí)間網(wǎng)絡(luò)上就會(huì)出現(xiàn)關(guān)于其神奇效果的相關(guān)報(bào)道，比如換臉、繪畫、讓人物跳舞、老片修復(fù)、以及讓照片人臉動(dòng)起來等等。這其中，圖像增強(qiáng)可謂是GAN落地最成熟的一個(gè)方向。此外，數(shù)據(jù)爬取、數(shù)據(jù)分析篩選、模型批量調(diào)參、模型快速部署等算法工程師必備技能也是本項(xiàng)目的重點(diǎn)。
推薦項(xiàng)目：圖像增強(qiáng)經(jīng)典超分辨率任務(wù)均衡Cifar分類項(xiàng)目
學(xué)習(xí)和探索GAN技術(shù)是如何在企業(yè)中一步步落地，解決客戶的實(shí)際需求。
展開 工業(yè)+AI，天洑攜手常州信息化協(xié)會(huì)開展工業(yè)AI應(yīng)用培訓(xùn)
在實(shí)操環(huán)節(jié)，企業(yè)學(xué)員們通過動(dòng)手操作，親身體驗(yàn)了從原始數(shù)據(jù)（圖像和表單）載入、數(shù)據(jù)預(yù)處理、模型訓(xùn)練與評(píng)估、模型部署與應(yīng)用的全流程。這種沉浸式的教學(xué)方式，讓企業(yè)直觀體驗(yàn)了AI技術(shù)在優(yōu)化生產(chǎn)工藝、設(shè)備故障預(yù)警以及輔助決策方面的價(jià)值。
離散制造過程具有工序復(fù)雜、物料多、設(shè)備差異大等特點(diǎn)，這導(dǎo)致生產(chǎn)數(shù)據(jù)呈現(xiàn)出嚴(yán)重的多源異構(gòu)特征，通俗說就是“來源多，格式雜，質(zhì)量參差不齊”，成為困擾企業(yè)AI應(yīng)用的“第一道關(guān)卡”。
針對(duì)這一痛點(diǎn)，天洑在本次培訓(xùn)中重點(diǎn)展示了基于智能數(shù)據(jù)建模軟件 DTEmpower 開發(fā)的最新功能——圖像模型和表單數(shù)據(jù)模型融合決策。
該工具能夠高效整合來自ERP、MES、PLC系統(tǒng)各類傳感器以及圖像數(shù)據(jù)，實(shí)現(xiàn)多源數(shù)據(jù)的快速清洗、轉(zhuǎn)換與融合。在提高產(chǎn)品良率的案例展示中，該工具展現(xiàn)了強(qiáng)大能力。
作為天洑自主研發(fā)的核心工業(yè)軟件，DTEmpower 在本次培訓(xùn)中表現(xiàn)亮眼。新版本大幅提高了多源異構(gòu)數(shù)據(jù)處理和統(tǒng)計(jì)過程控制（SPC，Statistical Process Control）能力，結(jié)合搭載的 AI Coding 技術(shù)，進(jìn)一步降低了AI應(yīng)用的技術(shù)門檻。
展開 行業(yè)分享丨TCL華星光電：AI 如何助力LCD顯示模組精準(zhǔn)老化預(yù)測(cè)？
我們的模型應(yīng)用有三大指標(biāo)：第一，SKIP率大于60%，要釋放60%的Aging測(cè)試產(chǎn)能；第二，模型精確率需達(dá)到99.95%以上；第三，降低客訴漏放風(fēng)險(xiǎn)，使得漏放率低于萬分之三。
項(xiàng)目方案的整體實(shí)施過程主要包括兩部分，第一部分是AI模型的構(gòu)建，第二部分是在系統(tǒng)平臺(tái)進(jìn)行串接。
在模型構(gòu)建部分，我們首先分析了Aging線不良的相關(guān)異常原因，識(shí)別關(guān)鍵參數(shù)，下載了約10萬片數(shù)據(jù)樣本并進(jìn)行數(shù)據(jù)加工，然后使用AI軟件進(jìn)行模型開發(fā)和部署。
模型部署的整體路徑如下：通過良率管理系統(tǒng)（YMS）的數(shù)據(jù)獲取生產(chǎn)數(shù)據(jù)源，將開發(fā)好的模型部署在大數(shù)據(jù)分析平臺(tái)，實(shí)現(xiàn)實(shí)時(shí)預(yù)測(cè)，預(yù)測(cè)結(jié)果會(huì)推送到制造執(zhí)行系統(tǒng)（MES），模組端的Aging機(jī)臺(tái)讀取預(yù)測(cè)結(jié)果指令后執(zhí)行Aging動(dòng)作，從而實(shí)現(xiàn)精準(zhǔn)Aging功能。
在詳細(xì)介紹案例的實(shí)施過程之前，需要先介紹一下我們使用的RapidMiner軟件。
對(duì)于我這樣非專業(yè)人員來說，它非常友好，無需懂編程語(yǔ)言，也不需要具備深厚的AI算法領(lǐng)域知識(shí)。
我2019年畢業(yè)于南京大學(xué)化學(xué)工程專業(yè)，理論上與AI并無關(guān)聯(lián)，但機(jī)緣巧合從事了仿真相關(guān)工作，接觸到了AI這類新型仿真技術(shù)，這款A(yù)I大數(shù)據(jù)分析軟件真正幫助我們實(shí)現(xiàn)了數(shù)據(jù)價(jià)值的挖掘。
下面，正式介紹建模方案。
展開 科研新寵 EGBox Mini，輕松突破電力電子科研瓶頸
配合 Matlab\Simulink 軟件 2023b 和 EasyGo 系列工具包，我能快速將自己的算法模型部署到 EGBox Mini 上。在研究電力變換器時(shí)，它的模擬和數(shù)字 IO 資源發(fā)揮了大作用，能精準(zhǔn)采集和輸出各類信號(hào)，還能實(shí)時(shí)監(jiān)測(cè)實(shí)驗(yàn)數(shù)據(jù)。
實(shí)驗(yàn)時(shí)，它輸出的模擬信號(hào)精準(zhǔn)，控制信號(hào)穩(wěn)定，讓我能夠快速發(fā)現(xiàn)并優(yōu)化控制策略。以往那種焦慮等待數(shù)據(jù)的日子一去不復(fù)返了。而它的成本可控，也讓我能更專注于研發(fā)本身，而不必為設(shè)備高昂的費(fèi)用發(fā)愁。
經(jīng)緯恒潤(rùn)熱管理系統(tǒng)研發(fā)服務(wù)全新升級(jí)
與成熟的燃油車熱管理系統(tǒng)相比，新能源汽車多采用熱泵空調(diào)系統(tǒng)，這對(duì)物理模型建模提出了更高難度，并且動(dòng)力電池的工作特性受溫度影響較大，控制不當(dāng)容易引起熱失衡起火，還需制定合適的熱管理控制策略保證電池安全性。除此之外，傳統(tǒng)燃油車中發(fā)動(dòng)機(jī)的余熱足夠乘員艙的加熱，相對(duì)而言對(duì)油耗的折損并不明顯，然而對(duì)電動(dòng)車而言，這就成為了一個(gè)巨大的挑戰(zhàn)。如何解決新能源汽車熱管理系統(tǒng)設(shè)計(jì)研發(fā)這一復(fù)雜問題就顯得尤為重要。
經(jīng)緯恒潤(rùn)在汽車熱管理領(lǐng)域擁有10多年的研發(fā)服務(wù)經(jīng)驗(yàn)。針對(duì)目前新能源汽車熱管理系統(tǒng)設(shè)計(jì)研發(fā)問題，在熱管理需求捕獲、系統(tǒng)方案設(shè)計(jì)、虛擬驗(yàn)證與優(yōu)化、測(cè)試驗(yàn)證、實(shí)車標(biāo)定等服務(wù)的基礎(chǔ)上，經(jīng)緯恒潤(rùn)將熱管理系統(tǒng)與數(shù)字孿生技術(shù)相結(jié)合，帶來了全新升級(jí)的整車熱管理系統(tǒng)開發(fā)服務(wù)，主要亮點(diǎn)如下：
· 通過模型降階技術(shù)將三維熱場(chǎng)仿真降階為一維系統(tǒng)模型，兼顧計(jì)算效率和計(jì)算精度，能夠便捷地與熱管理系統(tǒng)模型集成，在系統(tǒng)仿真中輸出關(guān)鍵部件的三維熱/流場(chǎng)結(jié)果，更好評(píng)估熱管理系統(tǒng)的狀態(tài)和性能；
· 通過虛實(shí)交互技術(shù)，實(shí)現(xiàn)實(shí)物（測(cè)試臺(tái)架/實(shí)車）與模型的在線實(shí)時(shí)交互，以實(shí)際物理信號(hào)驅(qū)動(dòng)模型運(yùn)行，獲得真實(shí)驅(qū)動(dòng)條件下更豐富的虛擬觀測(cè)量，提升模型運(yùn)行結(jié)果的置信度；
· 通過模型實(shí)時(shí)化技術(shù)，實(shí)現(xiàn)精細(xì)化熱管理模型下實(shí)時(shí)進(jìn)行HIL測(cè)試，彌補(bǔ)傳統(tǒng)HIL模型精細(xì)度不夠無法進(jìn)行性能級(jí)驗(yàn)證的不足；
· 熱管理模型部署至云平臺(tái)，通過熱管理監(jiān)控系統(tǒng)開發(fā)，對(duì)熱管理系統(tǒng)性能進(jìn)行在線監(jiān)控，并進(jìn)行可視化展示，提升產(chǎn)品運(yùn)維的智能化水平。
展開 深度學(xué)習(xí)|transformers的近期工作成果綜述
HAT [Bai 2022]是對(duì)現(xiàn)有transformer模型在頻率角度的影響進(jìn)行進(jìn)一步研究的結(jié)果。HAT使用RandAugment方法對(duì)輸入圖像的進(jìn)行高頻分量擾動(dòng)。Wu等人[Wu 2022]研究了易受對(duì)抗實(shí)例影響的transformer模型的問題。這個(gè)問題(對(duì)對(duì)抗性噪聲的脆弱性)在cnn中是通過對(duì)抗性訓(xùn)練來處理的。但在transformer中，由于自注意計(jì)算的二次復(fù)雜度，對(duì)抗訓(xùn)練的計(jì)算成本很高。AGAT方法采用了一種有效的注意引導(dǎo)對(duì)抗機(jī)制，在對(duì)抗訓(xùn)練過程中使用注意引導(dǎo)下降策略去除每一層嵌入的確定性補(bǔ)丁。
隱私
預(yù)訓(xùn)練的transformer模型部署在云上?；谠频?em>模型部署中的一個(gè)主要問題與數(shù)據(jù)中隱私問題有關(guān)。主要的隱私問題是用戶數(shù)據(jù)(如搜索歷史、醫(yī)療記錄和銀行賬戶)的暴露。目前的研究重點(diǎn)是在transformer模型推理中保護(hù)隱私。
論文[Huang 2020]介紹了TextHide，一種保護(hù)隱私的聯(lián)邦學(xué)習(xí)技術(shù)，但這種方法適用于基于句子的任務(wù)，如機(jī)器翻譯、情緒分析、轉(zhuǎn)述生成任務(wù))，而不是基于令牌的任務(wù)(如名稱實(shí)體識(shí)別和語(yǔ)義角色標(biāo)記)。
DP-finetune [Kerrigan 2020]差分隱私(DP)方法允許量化保護(hù)數(shù)據(jù)敏感性的程度。但是訓(xùn)練DP算法會(huì)降低模型的質(zhì)量，但是可以在私有數(shù)據(jù)集上使用公共基礎(chǔ)模型進(jìn)行調(diào)優(yōu)來部分解決。
Gentry等人[Gentry 2009]提出了一種用homomorphic encryption(HE)中的密文保護(hù)隱私的方法。但是transformer的模型中GELU [Hendrycks 2016]激活的計(jì)算復(fù)雜性，HE解決方案只支持加法和乘法。
論文[Chen 2022]在transformer中基于HE [Boemer 2019, Boemer 2020]的解上提出了一種通過級(jí)數(shù)逼近的The - x方法。
展開 
行業(yè)分享丨TCL華星光電：AI 如何助力LCD顯示模組精準(zhǔn)老化預(yù)測(cè)？
我們的模型應(yīng)用有三大指標(biāo)：第一，SKIP率大于60%，要釋放60%的Aging測(cè)試產(chǎn)能；第二，模型精確率需達(dá)到99.95%以上；第三，降低客訴漏放風(fēng)險(xiǎn)，使得漏放率低于萬分之三。
項(xiàng)目方案的整體實(shí)施過程主要包括兩部分，第一部分是AI模型的構(gòu)建，第二部分是在系統(tǒng)平臺(tái)進(jìn)行串接。
在模型構(gòu)建部分，我們首先分析了Aging線不良的相關(guān)異常原因，識(shí)別關(guān)鍵參數(shù)，下載了約10萬片數(shù)據(jù)樣本并進(jìn)行數(shù)據(jù)加工，然后使用AI軟件進(jìn)行模型開發(fā)和部署。
模型部署的整體路徑如下：通過良率管理系統(tǒng)（YMS）的數(shù)據(jù)獲取生產(chǎn)數(shù)據(jù)源，將開發(fā)好的模型部署在大數(shù)據(jù)分析平臺(tái)，實(shí)現(xiàn)實(shí)時(shí)預(yù)測(cè)，預(yù)測(cè)結(jié)果會(huì)推送到制造執(zhí)行系統(tǒng)（MES），模組端的Aging機(jī)臺(tái)讀取預(yù)測(cè)結(jié)果指令后執(zhí)行Aging動(dòng)作，從而實(shí)現(xiàn)精準(zhǔn)Aging功能。
在詳細(xì)介紹案例的實(shí)施過程之前，需要先介紹一下我們使用的RapidMiner軟件。
對(duì)于我這樣非專業(yè)人員來說，它非常友好，無需懂編程語(yǔ)言，也不需要具備深厚的AI算法領(lǐng)域知識(shí)。
我2019年畢業(yè)于南京大學(xué)化學(xué)工程專業(yè)，理論上與AI并無關(guān)聯(lián)，但機(jī)緣巧合從事了仿真相關(guān)工作，接觸到了AI這類新型仿真技術(shù)，這款A(yù)I大數(shù)據(jù)分析軟件真正幫助我們實(shí)現(xiàn)了數(shù)據(jù)價(jià)值的挖掘。
下面，正式介紹建模方案。
展開 本地部署 DeepSeek 私有助手：從零到上線的完整方案
總結(jié)
結(jié)合 Ollama 與 Dify，您可以在本地快速部署 DeepSeek 模型，實(shí)現(xiàn)完全私有化、安全可控、可定制的 AI 助手。
此方案兼顧了部署簡(jiǎn)單性與功能擴(kuò)展性，適用于個(gè)人開發(fā)者與企業(yè)落地應(yīng)用，并可在未來結(jié)合量化模型與推理加速進(jìn)一步提升性能。
結(jié)論：方案特色與價(jià)值
本方案將 Ollama 的輕量化本地推理能力與 Dify 的可視化應(yīng)用構(gòu)建平臺(tái)深度結(jié)合，實(shí)現(xiàn)了從模型部署到業(yè)務(wù)落地的全鏈條私有化 AI 解決方案。其核心特色包括：
完全私有化與數(shù)據(jù)安全
全程離線運(yùn)行，數(shù)據(jù)不出本地網(wǎng)絡(luò)，滿足企業(yè)級(jí)合規(guī)與隱私保護(hù)需求。
快速落地與低門檻
從安裝到可用只需約 1 小時(shí)，部署流程簡(jiǎn)單，無需深厚 AI 開發(fā)經(jīng)驗(yàn)。
高度靈活的模型與功能擴(kuò)展
兼容多種模型版本（1.5B ~ 70B），可根據(jù)硬件能力自由選擇，并支持知識(shí)庫(kù)增強(qiáng)（RAG）、Web 搜索、工作流編排等功能。
低成本與高性能并存
一次部署，持續(xù)使用，無需支付云端調(diào)用費(fèi)用；結(jié)合本地 GPU 可顯著降低推理延遲。
全場(chǎng)景適配
適用于個(gè)人研發(fā)實(shí)驗(yàn)、企業(yè)客服與質(zhì)檢、知識(shí)管理、內(nèi)部培訓(xùn)等多種場(chǎng)景，具備很強(qiáng)的可擴(kuò)展性。
總結(jié)來看，這套 Ollama + Dify + DeepSeek 組合，不僅為個(gè)人和企業(yè)提供了安全可控、快速可用、可持續(xù)演進(jìn)的 AI 能力，還為未來的多模態(tài)、加速推理和定制化應(yīng)用奠定了堅(jiān)實(shí)基礎(chǔ)。
最后，如有其他AI相關(guān)模型定制或者部署需求，歡迎通過公眾號(hào)“320科技工作室”與我們聯(lián)絡(luò)。
展開 Ansys憑借基于仿真的數(shù)字孿生技術(shù)榮獲工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟優(yōu)秀案例獎(jiǎng)
阿里巴巴IOT平臺(tái)操作界面
該項(xiàng)目按照物理對(duì)象選取、系統(tǒng)建模及模型集成、運(yùn)行時(shí)模型部署以及在線模型運(yùn)行計(jì)算四個(gè)主要步驟，完成了對(duì)110kV電力變壓器的設(shè)備數(shù)字孿生的開發(fā)。數(shù)字孿生通過大量積累的實(shí)時(shí)測(cè)量數(shù)據(jù)，通過“實(shí)時(shí)仿真”進(jìn)行實(shí)時(shí)計(jì)算，并給出場(chǎng)景下的仿真、渲染結(jié)果，從而為系統(tǒng)性能分析、優(yōu)化提供指標(biāo)化的建議。
在建立設(shè)備數(shù)字孿生后，便可以根據(jù)當(dāng)前的電網(wǎng)“負(fù)載工況”，變電站運(yùn)維人員可直接實(shí)時(shí)觀察鐵芯與線圈溫度，提前1~2小時(shí)預(yù)測(cè)出過熱問題，從而判斷變壓器是否過載，是否要啟動(dòng)備用變壓器等，幫助電網(wǎng)人員進(jìn)行決策。
因此在工業(yè)互聯(lián)網(wǎng)的構(gòu)建中，設(shè)備裝備，制造流程的“數(shù)字孿生”是一項(xiàng)不可或缺的技術(shù)。本文所示案例同樣具備較強(qiáng)的推廣應(yīng)用價(jià)值，諸如重型設(shè)備的運(yùn)維監(jiān)控和流程工業(yè)關(guān)鍵工藝良品率的提高等應(yīng)用場(chǎng)景，期望通過數(shù)字孿生技術(shù)改進(jìn)產(chǎn)品設(shè)計(jì)、運(yùn)維服務(wù)，乃至在產(chǎn)品的全生命周期提供更大的參考價(jià)值。
關(guān)于阿里云supET工業(yè)互聯(lián)網(wǎng)平臺(tái)
supET工業(yè)互聯(lián)網(wǎng)平臺(tái)是2018年由阿里云計(jì)算有限公司牽頭、聯(lián)合浙江中控技術(shù)股份有限公司、之江實(shí)驗(yàn)室、國(guó)家工業(yè)信息安全發(fā)展研究中心、等六家單位共建supET工業(yè)互聯(lián)網(wǎng)平臺(tái)。
展開 Ansys憑借基于仿真的數(shù)字孿生技術(shù)榮獲工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟優(yōu)秀案例獎(jiǎng)
阿里巴巴IOT平臺(tái)操作界面
該項(xiàng)目按照物理對(duì)象選取、系統(tǒng)建模及模型集成、運(yùn)行時(shí)模型部署以及在線模型運(yùn)行計(jì)算四個(gè)主要步驟，完成了對(duì)110kV電力變壓器的設(shè)備數(shù)字孿生的開發(fā)。數(shù)字孿生通過大量積累的實(shí)時(shí)測(cè)量數(shù)據(jù)，通過“實(shí)時(shí)仿真”進(jìn)行實(shí)時(shí)計(jì)算，并給出場(chǎng)景下的仿真、渲染結(jié)果，從而為系統(tǒng)性能分析、優(yōu)化提供指標(biāo)化的建議。
在建立設(shè)備數(shù)字孿生后，便可以根據(jù)當(dāng)前的電網(wǎng)“負(fù)載工況”，變電站運(yùn)維人員可直接實(shí)時(shí)觀察鐵芯與線圈溫度，提前1~2小時(shí)預(yù)測(cè)出過熱問題，從而判斷變壓器是否過載，是否要啟動(dòng)備用變壓器等，幫助電網(wǎng)人員進(jìn)行決策。
因此在工業(yè)互聯(lián)網(wǎng)的構(gòu)建中，設(shè)備裝備，制造流程的“數(shù)字孿生”是一項(xiàng)不可或缺的技術(shù)。本文所示案例同樣具備較強(qiáng)的推廣應(yīng)用價(jià)值，諸如重型設(shè)備的運(yùn)維監(jiān)控和流程工業(yè)關(guān)鍵工藝良品率的提高等應(yīng)用場(chǎng)景，期望通過數(shù)字孿生技術(shù)改進(jìn)產(chǎn)品設(shè)計(jì)、運(yùn)維服務(wù)，乃至在產(chǎn)品的全生命周期提供更大的參考價(jià)值。
關(guān)于阿里云supET工業(yè)互聯(lián)網(wǎng)平臺(tái)
supET工業(yè)互聯(lián)網(wǎng)平臺(tái)是2018年由阿里云計(jì)算有限公司牽頭、聯(lián)合浙江中控技術(shù)股份有限公司、之江實(shí)驗(yàn)室、國(guó)家工業(yè)信息安全發(fā)展研究中心、等六家單位共建supET工業(yè)互聯(lián)網(wǎng)平臺(tái)。
展開 