LoRA訓練
關注創建者：匿名 創建時間：2026-01-04
LoRA訓練的實例教程
從全新天璣9400+架構到NPU890的AI性能突破，從LoRA訓練工具鏈到Profiler中的溫控、功耗、幀率多維調試機制，每個環節都精準回應了開發所需，助力AI體驗真正落地，推動終端向智能體化持續演進。
在MDDC 2025上，聯發科帶來了全面升級的天璣AI開發套件2.0，在模型庫規模、架構開放程度、前沿端側AI技術支持和端側LoRA訓練落地等方面均迎來全面躍遷，為開發者提供了更全面、更開放、更強大的端側AI開發解決方案。
端側AI應用開發往往需要調用各種各樣的大模型能力，需要更豐富、類型更多的模型適配。為此，Gen-AI Model Hub全面擴容，模型數量在原有基礎上激增了3.3倍，并支持DeepSeek-R1蒸餾模型、通義千問、混元等多種先進端側大模型，還包含視覺、語言、多模態等多種多樣的大模型，開發者可以通過Gen-AI Model Hub一鍵調用模型能力，讓AI應用開發選擇更豐富。
為了讓開發者免受即有模型庫的限制，聯發科還首發了開源彈性架構。區別于過往的開放接口，只能部署特定架構模型，開放彈性架構允許開發者直接調整平臺源代碼，無需等待芯片廠商的支持，即可完成目標或其他自研大模型輕松部署。讓AI應用開發不用“等平臺”，徹底釋放開發效率和模型接入自由度。
自DeepSeek橫空出世以來，這種更適合端側部署，回答效率更高效的訓練模式快速引爆了AI行業，主流大模型紛紛加強了推理能力。天璣AI開發套件2.0全面支持 DeepSeek四大關鍵技術：混合專家模型（MoE）、多Token預測（MTP）多頭潛在注意力（MLA)、FP8推理（FP8 Inferencing），實現Token產生速度提升2倍以上、內存帶寬占用量大幅度降低50%，讓端側AI推理更聰明、響應更迅速。
天璣AI開發套件2.0還首次引入基于NPU的端側LoRA訓練，開發者在天璣NPU上進行運算訓練，相比基于CPU的訓練方案，訓練速度猛增50倍，將訓練時間從一整天縮短至半小時。
展開 
LoRA訓練的最新內容
天璣AI開發套件2.0還首次引入端側LoRA訓練，讓AI模型在端側即可完成遷移學習，相比利用CPU進行訓練的方案，在天璣NPU上訓練速度狂暴提升50倍，端側LoRA訓練從此告別漫長等待。
天璣AI開發套件2.0還首次引入基于NPU的端側LoRA訓練，開發者在天璣NPU上進行運算訓練，相比基于CPU的訓練方案，訓練速度猛增50倍，將訓練時間從一整天縮短至半小時。更快的端側LoRA訓練，讓端側AI基于用戶端側數據提升個性化體驗，讓終端成為更懂用戶的個性化智慧伙伴。
</p><p>第一個方法是模型的微調，即對大型模型的參數進行重新訓練。這可以分為全參數微調和高效微調兩種方式。高效微調有許多方法，例如 LoRA（Low-Rank Adaptation）方法，可以通過在模型的關鍵層之間添加旁路，減少所需的訓練參數總量。
吳恩達高徒、華人CEO震撼發布Lamini引擎
Lamini的開發團隊表示，你需要的只是幾行代碼，就可以用托管數據生成器倆訓練自己的LLM，包括權重和其他所有的內容。此外，你也可以使用開源的LLM，用Lamini庫對生成的數據進行微調。以及訪問完整的LLM訓練模塊，使用從LoRa等速度優化，到虛擬私有云 (VPC) 部署等企業功能。
