大語言模型部署的案例
設計仿真 | 融合DeepSeek大語言模型的SimManager仿真平臺
3.4
融合大語言模型和機器學習的SimManager智能仿真平臺應用場景
融合大語言模型和機器學習的智能仿真平臺應用場景，除了常規的基于仿真平臺的仿真工作以外，基于大語言模型LLM+機器學習ML的賦能，擴展應用場景如下：
圖 3 融合大語言模型的智能仿真平臺擴展應用場景
基于上述架構的進行了SimManager+DeepSeek+Odyssee的本地化集成部署。采用DeepSeek開源的大語言模型,并在本地部署文字向量化數據庫，將本地（用戶生產環境則對應SDM數據庫）的仿真知識，進行向量化存入本地向量數據庫，作為在仿真專業領域進行更精確回答的基礎。
因原始的大語言模型未涵蓋本地知識，在構建本地向量數據庫前，針對相關問題不能給出準確的回答。在將相關數據和文檔上傳SimManager平臺，同時進行向量化。當用戶提問時，系統自動將帶有提示詞的上下文信息提供給大語言模型，能夠給出準確的回答。如下圖：
圖 4 基于DeepSeek本地知識庫的仿真平臺問答場景（1）
圖 5 基于DeepSeek本地知識庫的仿真平臺問答場景（2）
04
應用成效與價值提升
通過應用實踐，融合大語言模型和機器學習的SimManager智能仿真平臺，能夠進一步擴展仿真平臺的使用場景，協助仿真人員實現仿真知識快速反饋、仿真數據挖掘和重用、協助文檔生成、專家經驗重用等，如下所示：
圖5 融合大語言模型和機器學習的SimManager智能仿真平臺
展開 AI芯課程 | 基于大語言模型的VC SpyGlass Lint Advisor流程與應用
3月20日，新思科技芯課程AI系列主題第三講即將推出：「基于大語言模型的VC SpyGlass Lint Advisor流程與應用」，將介紹GenAI技術和傳統Lint流程相結合的新技術--VC SpyGlass Lint Advisor。該技術不僅能理解Lint報錯的原因并提供精準的代碼修復建議，還能通過自然語言描述來滿足定制化Lint檢查的需求；另外它還能通過自然語言描述直接生成期望的waiver來過濾掉不期望看到的違例。采用該技術能加快 Lint違例的修復和收斂的效率，從而極大解放開發者的生產力。
GenAI+Lint全新技術：VC SpyGlass Lint Advisor實戰課程即將上線，歡迎大家報名！
時間：3月 20日（星期五），14:00–15:00
地點：線上直播
講師簡介：
羅木江 | 新思科技首席應用工程師
負責數字電路驗證系列產品的支持，在RTL Signoff靜態驗證領域以及跨技術域驗證方法學具有豐富的經驗。
掃碼立即報名參會
展開 大語言模型(LLM)在塑膠射出成型產業上的應用
科盛科技 / 簡錦昌 副總經理
(轉載自繁體版ACMT電子技術月刊No.092)
什么是大語言模型(LLM)？
大語言模型(Large Language Model, LLM)是人工智能領域中一種基于深度學習的技術，它通過處理大量的文本資料來理解、生成和翻譯自然語言。這些模型以龐大的參數規模為特點，并利用了現代神經網絡架構，尤其是變換器(Transformer)架構，使得它們在自然語言處理(NLP)任務中表現出色。
大語言模型通常由數十億甚至上千億個參數構成。這些參數是在大量的文本資料上訓練得到的，通過深度學習算法來優化。訓練一個大語言模型需要巨大的計算資源，通常使用數百個GPU或TPU并行處理，以處理海量的資料集。
圖1：大家看到LLM提供的問答服務只是冰山的一角，其背后隱含著大量的文字數據資料
常見的LLM應用方式
ChatGPT就是一種LLM，相信大家都有接觸過，只要在聊天框中輸入問題或請求，例如撰寫文章、翻譯文本或生成程序碼，等待幾秒鐘，ChatGPT將自動生成文字。如果需要進一步調整輸出，可以繼續與其互動，輸入更具體的指令或要求。大語言模型的應用范圍非常廣泛。它們在各種自然語言處理任務中表現優異，常見的應用包括：
? 自然語言生成
LLM能夠生成流暢且連貫的文本，常用于自動化內容生成、寫作輔助和對話系統。
? 機器翻譯
通過理解多種語言之間的復雜關系，LLM可以進行高質量的語言翻譯。
? 文本摘要
LLM能夠自動從長文檔中提取關鍵內容，生成簡短的摘要。
? 對話系統
基于LLM的聊天機器人能夠與人類進行自然的對話，并且能夠理解上下文進行合理的回復。
展開 