大型語言模型的案例
什么是大型語言模型 （LLM）？
LLM 有能力為 AI 驅動的應用程序帶來革命，但該領域的進步似乎有點困難，因為僅僅增加模型的大小可能會提高其性能，但在特定時間之后，性能會達到飽和，處理這些模型的挑戰將大于通過進一步增加模型大小所實現的性能提升。
常見問題解答
1. 什么是大型語言模型？
大型語言模型是一種強大的人工智能系統，經過大量文本數據的訓練。
2.什么是 AI 中的 LLM？
在 AI 中，LLM 是指專為自然語言理解和生成而設計的大型語言模型，例如 GPT-3。
3. 什么是最好的大型語言模型？
打開 AI，ChatGPT，GPT-3，GooseAI，Claude，Cohere，GPT-4。
4. LLM 模型如何運作？
LLM 的工作原理是針對不同的語言數據、學習模式和關系進行訓練，使他們能夠理解和生成類似人類的文本。
5. 什么是 LLM 模型的示例？
GPT-3 （Generative Pre-trained Transformer 3） 是 AI 中最先進的大型語言模型的一個例子。
6. 什么是用于教育的大型語言模型？
大型語言模型被廣泛用于教育目的：
提供學習目標
向學生提供任何主題的批判性總結
就學生想學習的任何主題進行教育。
?
展開 使用大型語言模型（LLMs）、檢索增強生成（RAG） ￥5
你將超越簡單的提示詞實驗，學習如何利用大型語言模型、嵌入技術、檢索、智能體、工具和全棧應用架構，設計可靠、可擴展且適合企業使用的AI系統。課程的每個部分都包含循序漸進的實踐實驗，確保你不僅理解概念，還能通過真實代碼實現這些概念。
- 課程模塊：
- 模塊1——生成式AI入門：通過理解生成式AI與判別式模型的區別、生成式系統的重要性以及它們在企業軟件、醫療保健、金融和航空等真實行業中的應用，建立堅實的概念基礎。實踐實驗：比較判別式模型與生成式模型，使用基于Transformer的模型生成文本，并繪制真實世界中生成式AI的應用場景。
- 模塊2——Transformer架構與大型語言模型基礎：揭開Transformer的工作原理，包括自注意力機制、位置編碼以及編碼器與解碼器架構。你還將探索令牌化、嵌入技術、上下文窗口，以及大型語言模型如何通過預訓練、微調、指令調優和基于人類反饋的強化學習（RLHF）進行訓練。實踐實驗：實現自注意力概念，可視化令牌化和嵌入過程，并在高層模擬大型語言模型的訓練流程。
- 模塊3——大型語言模型實踐：親手實踐熱門的大型語言模型系列，包括GPT、Claude、Gemini、LLaMA、Mistral和Falcon，并學習如何根據質量、成本、延遲和應用場景要求選擇合適的模型。實踐實驗：構建多模型評估工具，測試幻覺現象和偏見，并使用溫度參數、核采樣（top-p）和最大令牌數等參數集成大型語言模型API。
- 模塊4——工程師的提示詞工程：將提示詞工程作為軟件工程學科進行教學，涵蓋系統、用戶和助手角色，零樣本、單樣本和少樣本提示技術，以及思維鏈、自一致性和基于約束的提示等高級技術。實踐實驗：設計穩健的提示詞模板，防范提示詞注入攻擊，并為安全提示實現輸入/輸出驗證。
展開 工程碩士：碩士人工智能和大型語言模型（LLMS） ￥6
MP4 |視頻：h264， 1920×1080 |音頻：AAC，44.1 KHz
語言：英語 |大小：5.65 GB |時長： 7h 26m
掌握生成式 AI 和大型語言模型 （LLM）。探索和部署 LLM 應用程序，學習基礎理論。
您將學
到什么 通過選擇、培訓和應用 LLM 來設計和開發給定業務問題的完整解決方案
比較和對比提高 LLM 解決方案性能的最新技術，例如 RAG、微調和代理工作流程
權衡領先的 10 個前沿 LLM 和 10 個開源 LLM，并能夠為給定任務
選擇最佳選擇通過應用領先的開源平臺、框架和工具來解決問題，包括Hugging Face、Gradio和Weights & Biases
。 說明常見的AI范式，并確定最適合每個
范式的業務問題類型。 定義圍繞深度學習的基本數據科學概念，包括訓練與推理，泛化與過度擬合，以及神經網絡
背后的關鍵思想。描述核心概念，如生成式AI、LLMs和Transformer架構，并討論以最先進的性能
可以實現什么。 詳細解釋LLMs如何工作，以便能夠訓練和測試它們，將它們應用于新的場景，并診斷和修復常見問題
。 使用前沿和開源模型在Python中實施LLM解決方案，包括API和直接推理。
執行代碼以編寫文檔、回答問題和生成圖像。
要求
熟悉 Python。本課程不涵蓋 Python 基礎知識，而是用 Python 完成的。
描述
掌握生成式 AI 和 LLM：為期 8 周的實踐之旅通過行業資深人士 Ed Donner 領導的實踐項目加速您在 AI 領域的職業生涯。構建高級生成式 AI 產品，試驗 20 多種開創性模型，并掌握最先進的技術，如 RAG、QLoRA 和 Agents。? 使用尖端模型和框架構建高級生成式 AI 產品。
展開 GTC-2021：英偉達抱緊元宇宙，推出全能阿凡達平臺
5
NeMo Megatron框架：
發力大型語言模型開發
NVIDIA 今天還打開了開發和部署大型語言模型 (LLM) 的大門，推出了用于訓練具有數萬億個參數的語言模型的NVIDIA NeMo Megatron框架、可針對新領域和語言進行訓練的Megatron 530億參數的可定制大型語言模型，以及具有多 GPU、多節點分布式推理功能的NVIDIA Triton推理服務器。
這些工具提供了一個完備的企業級解決方案，簡化了大型語言模型的開發和部署。
NVIDIA NeMo Megatron以Megatron項目為基礎，Megatron是一個由英偉達研究人員領導的開源項目，旨在大規模研究大型轉換器語言模型的高效訓練。
該框架使用數據處理庫自動處理LLM復雜訓練，可以獲取、管理、組織和清理數據。它使用先進的數據、張量和管道并行化技術，使大型語言模型的訓練能夠高效地分布在數千個GPU上。
NVIDIA Triton推理服務器中的多GPU、多節點功能使LLM推理負載可以實時、跨多個GPU和節點進行擴展。
使用Triton推理服務器，Megatron 530B可以在兩個NVIDIA DGX系統上運行，將CPU服務器上的處理時間從一分鐘多縮短到0.5秒，從而實現在應用程序上快速、實時地部署大型語言模型。
展開 
GPT之父談未來五年的AI：模型規模見頂，下個突破點在用好AI涌現特質
關于ChatGPT和大型語言模型，聽眾的了解程度差異較大。
我想首先就技術方面問一個簡單的問題：OpenAI及生成AI的核心技術是大型語言模型。你能簡單描述一下這項技術嗎？現在站在技術最前沿，有什么技術結果讓你驚訝，你當初沒料到的？
Ilya：
是的，我可以解釋這項技術是什么，以及為什么它起作用。
我認為它起作用的解釋既簡單又極其美妙，原因如下：人腦是我們在世界上最好的智能例子。我們知道人腦由大量神經元組成，非常之多的神經元。神經科學家研究神經元幾十年，試圖精確理解它們的工作原理。
盡管我們的生物神經元的運作仍然神秘，但最早的深度學習研究者在20世紀40年代提出了一個相當大膽的推測：人工神經元(我們在人工神經網絡中使用的)與生物神經元有點相似。這是一個假設。我們現在可以采用這個假設。這些人工神經元的好處是，它們更簡單，可以從數學上研究。
深度學習先驅取得的一項非常重要的突破就是發現了反向傳播算法。這是一條數學方程，說明人工神經網絡應該如何學習。它提供了一種方法，使用大型計算機實現這個神經網絡的代碼，然后有一條方程可以編程，告訴我們這個神經網絡應該如何調整其連接以從經驗中學習。
進一步的進步需要理解這個學習過程有多好和有多強大，以及在何種精確條件下這個學習過程效果最佳。盡管我們使用計算機，但這有點像生物學實驗。
深度學習的大部分進展歸結為：我們可以在大型計算機上構建這些神經網絡，并可以在某些數據上訓練它們，使這些大型神經網絡做數據要求它們做的任何事情。
大型語言模型的想法是：如果有一個非常大的神經網絡，可能現在離人腦不遠了，我們可以訓練它來從文本中的前面幾個單詞猜測下一個詞。這就是大型語言模型的概念：訓練一個大型神經網絡來從先前的詞猜測文本中的下一個詞，你希望神經網絡盡可能準確地猜測出下一個詞。
展開 DeepSeek 與 ChatGPT
通過檢查它們的實際應用，我們將幫助您了解哪種模型在日常任務和業務使用案例中能提供更好的結果。
內容創建任務
作為一名作家，我不是基于 AI 的寫作的忠實粉絲，但我確實認為它對于集思廣益、提出談話要點和發現任何差距很有用。現在，為了測試這一點，我要求 DeepSeek 和 ChatGPT 為一篇關于 什么是 LLM 及其工作原理的文章創建一個大綱。我問道：“我正在寫一篇關于 什么是 LLM 及其工作原理的詳細文章，因此請提供我在文章中包含的要點，以幫助用戶理解 LLM 模型。幫我畫個大綱”
DeepSeek 響應：
結果令人印象深刻。這兩個 AI 聊天機器人模型都涵蓋了我可以添加到文章中的所有要點，但 DeepSeek 更進一步，以與我處理該主題的方式相匹配的方式組織信息。它還包括要點 什么是 LLM、它的定義、演變和里程碑、示例（GPT、BERT 等），以及 LLM 與傳統 NLP，ChatGPT 完全錯過了這一點。
DeepSeek 甚至展示了它得出結論的思維過程，老實說，我第一次看到這個時，我很驚訝。雖然我們距離真正的通用人工智能還有很長的路要走，但看到機器以這種方式思考表明已經取得了很大的進步。思考過程非常有趣，我在下面分享了一個簡短的文字記錄。
引用“好的，我需要幫助用戶為一篇文章創建一個大綱，解釋什么是 LLM 以及它們是如何工作的。讓我先回顧一下我對 LLM 的了解。它們是大型語言模型，對吧？像 GPT-3、BERT 等。用戶可能想要一個全面的大綱，將主題分解為易于理解的部分。讓我考慮一下應該涵蓋的關鍵點。
展開 DeepSeek 與 ChatGPT：2025 年 AI 巨頭的完整比較
通過檢查它們的實際應用，我們將幫助您了解哪種模型在日常任務和業務使用案例中能提供更好的結果。
內容創建任務
作為一名作家，我不是基于 AI 的寫作的忠實粉絲，但我確實認為它對于集思廣益、提出談話要點和發現任何差距很有用。現在，為了測試這一點，我要求 DeepSeek 和 ChatGPT 為一篇關于 什么是 LLM 及其工作原理的文章創建一個大綱。我問道：“我正在寫一篇關于 什么是 LLM 及其工作原理的詳細文章，因此請提供我在文章中包含的要點，以幫助用戶理解 LLM 模型。幫我畫個大綱”
DeepSeek 響應：
結果令人印象深刻。這兩個 AI 聊天機器人模型都涵蓋了我可以添加到文章中的所有要點，但 DeepSeek 更進一步，以與我處理該主題的方式相匹配的方式組織信息。它還包括要點 什么是 LLM、它的定義、演變和里程碑、示例（GPT、BERT 等），以及 LLM 與傳統 NLP，ChatGPT 完全錯過了這一點。
DeepSeek 甚至展示了它得出結論的思維過程，老實說，我第一次看到這個時，我很驚訝。雖然我們距離真正的通用人工智能還有很長的路要走，但看到機器以這種方式思考表明已經取得了很大的進步。思考過程非常有趣，我在下面分享了一個簡短的文字記錄。
引用“好的，我需要幫助用戶為一篇文章創建一個大綱，解釋什么是 LLM 以及它們是如何工作的。讓我先回顧一下我對 LLM 的了解。它們是大型語言模型，對吧？像 GPT-3、BERT 等。用戶可能想要一個全面的大綱，將主題分解為易于理解的部分。讓我考慮一下應該涵蓋的關鍵點。
展開 SimSolid如何快速處理大型復雜裝配模型
SimSolid是一款基于有限元算法擴展算法的結構求解器，能進行快速的模型驗證。與傳統有限元軟件不同，它采用無需簡化的精確的幾何模型開始建模，SimSolid軟件不僅不需要進行網格劃分，而且還可以自動識別并批量創建連接。只需簡單三步，便可批量創建連接，我們一起來看下SimSolid如何快速處理大型復雜裝配模型！
1、導入幾何
點擊主菜單 Project - Import from file - 選中幾何文件 - 打開。
2、處理提示的穿透信息
依次點擊OK - Close，表示接受穿透。若不接受，需返回CAD軟件中調整；若無大的穿透，軟件會直接跳出下步中的Automatic conditions對話框。
3、自動創建接觸
依次點擊模型樹中的Connections-工具條Automatic connections - OK，表示接受推薦設置并創建接觸。3秒后，SimSolid將自動創建所有連接，共217處。
使用SimSolid非常輕松的便可自動創建整個裝配體中的連接，不需要像傳統有限元那樣，逐個建接觸面并賦予接觸屬性，也不用費心處理穿透與間隙。是不是很容易呀？
但需要注意步驟3中Automatic connections窗口中的3個選項設置。
展開 如何快速建立大型多體動力學模型
你建立一個多體系統模型需要多長時間？在對一個包含多個組件的大型機械系統進行建模時，你是否曾經想過將其中的大部分組件建模為剛體？在建立變速箱模型時，為裝配體中的每個齒輪輸入參數時有沒有覺得很繁瑣？COMSOL Multiphysics? 軟件提供了一種避免重復建模步驟的方法。閱讀本篇文章，了解如何使用 COMSOL 軟件多體動力學接口中的自動模型設置功能自動化和加速建模過程。
為什么要自動化多體模型設置？
從簡單的滑件曲柄機構到堅固的車載起重機，任何用于傳遞力或運動的連接體組件都可以看作一個多體系統。模擬具有大運動量的多體系統的動力學一直是工程師的興趣所在，特別是那些從事汽車和其他機械的工程師，多體動力學研究的結果通常會用作初步設計的指導。
隨著多體動力學研究的日益增加，多體動力學建模給工程師帶來了一些挑戰，主要是在對大型的真實世界里的系統進行建模時。由于任何典型的車輛或機器都可能包含大量的組件，因此這類系統的模型設置需要大量時間。在處理大型模型時，模型設置過程中也有可能出現手動錯誤。在這種情況下，開發可以通過自動化建模避免所有重復建模步驟的方法將是有利的。這種方法不僅可以加快建模過程，還可以提供一個能進行分析的無錯誤的模型。
在 COMSOL Multiphysics? 中自動設置多體模型
自 COMSOL Multiphysics 5.5 版本開始，軟件引入了一項新功能，用于快速設置大型多體系統模型。使用軟件多體動力學接口中提供的自動模型設置功能，您可以輕松地從模型幾何結構一次性創建多個剛性域和齒輪物理節點。
展開 自回歸式語言XLNet模型的文本生成試驗
1 引言
自回歸式語言生成基于假設：一個詞序列的概率分布可以分解為鄰接的下一個詞條件概率分布的乘積。使用不同的解碼策略，目前產生出許多用于自回歸語言生成的模型，最流行的模型有GPT2, XLNet, OpenAi-GPT, CTRL, TransfoXL, XLM, Bart和T5，對GPT2模型我們已經作了很多探索性的工作：
GeotechSet數據集在GPT2上的訓練過程
GPT2-Large模型解碼方法比較
GPT2-Large模型解碼方法---Top-K and Top-p
新探索---EleutherAI的GPT Neo/GPT-3模型
GeotechSet模型的擴展和優化---集成了aitextgen
開放式文本生成(Open-Ended Text Generation)
同時也對T5模型作了探索性的工作:
生成摘要(Summarization)的新方法
Transformers的Text2TextGeneration管道測試
這個筆記探索另一個模型XLNet。
2 XLNet模型
XLNet來自Google公司Yang等人(2019)的論文《XLNet: Generalized Autoregressive Pretraining for Language Understanding(XLNet: 用于語言理解的廣義自回歸預訓練)》，XLNet是一種無監督的語言表征學習方法，它基于一種新的廣義包絡語言建模目標。XLnet是Transformer-XL模型的一個擴展，使用自回歸方法進行預訓練，在涉及長上下文的語言任務中表現出優異的性能。XLNet在各種下游語言任務上取得了最先進的(SOTA)結果，包括問題回答、自然語言推理、情感分析和文檔排名。
展開 跟著NASA學習MBSE：關于系統模型和SysML建模語言
SysML 是一種用來描述系統的建模語言，而MBSE是建模語言、建模方法、建模工具和領域知識的綜合應用，從而實現對系統的分析、定義、設計和驗證。
誤區5: MBSE不是全新的概念，系統工程師已經創建了很多類型的模型
建模并不是全新的概念，MBSE的獨特之處在于采用形式化建模語言來描述系統, 同時系統模型發揮了將源自其它模型的信息加以集成的重要作用。
誤區6: SysML工具僅僅類似 Visio? 和 PowerPoint? 的畫圖工具
錯. 模型信息存在數據倉庫中，可以進行一致性和完整性分析，可以據此生成技術文檔報告，可以與其它專業的模型進行交互。
（未完待續）
----------------------------
文章來源：數字化轉型與系統工程
展開 
SimSolid如何快速處理大型復雜裝配模型丨衡祖仿真
SimSolid是一款基于有限元算法擴展算法的結構求解器，能進行快速的模型驗證。與傳統有限元軟件不同，它采用無需簡化的精確的幾何模型開始建模，SimSolid軟件不僅不需要進行網格劃分，而且還可以自動識別并批量創建連接。只需簡單三步，便可批量創建連接，我們一起來看下SimSolid如何快速處理大型復雜裝配模型！
1、導入幾何
點擊主菜單 Project - Import from file - 選中幾何文件 - 打開。
2、處理提示的穿透信息
依次點擊OK - Close，表示接受穿透。若不接受，需返回CAD軟件中調整；若無大的穿透，軟件會直接跳出下步中的Automatic conditions對話框。
3、自動創建接觸
依次點擊模型樹中的Connections-工具條Automatic connections - OK，表示接受推薦設置并創建接觸。3秒后，SimSolid將自動創建所有連接，共217處。
使用SimSolid非常輕松的便可自動創建整個裝配體中的連接，不需要像傳統有限元那樣，逐個建接觸面并賦予接觸屬性，也不用費心處理穿透與間隙。是不是很容易呀？
但需要注意步驟3中Automatic connections窗口中的3個選項設置。下面給大家詳細介紹一下：
① Gap and penetration tolerances ：這是將要使用的搜索距離。 最佳做法是寫盡可能小的值，但需要仍然可以找到連接。
② Connection resolution level (Normal, Increased, High) ：設置連接搜索算法的精度。 在正常情況下不會有問題，一般對于非常薄、很長的結構，才需要提升分辨率。
展開 設計仿真 | 融合DeepSeek大語言模型的SimManager仿真平臺
3.4
融合大語言模型和機器學習的SimManager智能仿真平臺應用場景
融合大語言模型和機器學習的智能仿真平臺應用場景，除了常規的基于仿真平臺的仿真工作以外，基于大語言模型LLM+機器學習ML的賦能，擴展應用場景如下：
圖 3 融合大語言模型的智能仿真平臺擴展應用場景
基于上述架構的進行了SimManager+DeepSeek+Odyssee的本地化集成部署。采用DeepSeek開源的大語言模型,并在本地部署文字向量化數據庫，將本地（用戶生產環境則對應SDM數據庫）的仿真知識，進行向量化存入本地向量數據庫，作為在仿真專業領域進行更精確回答的基礎。
因原始的大語言模型未涵蓋本地知識，在構建本地向量數據庫前，針對相關問題不能給出準確的回答。在將相關數據和文檔上傳SimManager平臺，同時進行向量化。當用戶提問時，系統自動將帶有提示詞的上下文信息提供給大語言模型，能夠給出準確的回答。如下圖：
圖 4 基于DeepSeek本地知識庫的仿真平臺問答場景（1）
圖 5 基于DeepSeek本地知識庫的仿真平臺問答場景（2）
04
應用成效與價值提升
通過應用實踐，融合大語言模型和機器學習的SimManager智能仿真平臺，能夠進一步擴展仿真平臺的使用場景，協助仿真人員實現仿真知識快速反饋、仿真數據挖掘和重用、協助文檔生成、專家經驗重用等，如下所示：
圖5 融合大語言模型和機器學習的SimManager智能仿真平臺
展開 應用ANSYS ADPL語言建立波紋鋼梁模型
1、模型描述：鋼梁為工字型梁，但中間腹板為正弦曲線，因此為波紋腹板鋼梁。鋼梁上板跨度8m，高6m，下板跨度7m，高5m。上下梁寬1m。波紋為正弦曲線，在下板上的波長為0.4m，波紋半幅高0.1m。
用APDL語言對其進行建模，得到模型見下圖所示：
上部局部模型見下圖：
2、單元劃分：
采用SHELL181單元進行網格劃分，該單元適合對薄殼體結構進行分析。它是一個4結點單元，每個結點具有6個自由度：x,y,z方向的位移自由度和繞X,Y,Z軸的轉動自由度。Shell181單元非常適用于分析線性的，大轉動變形和非線性的大形變。殼體厚度的變化是為了適應非線性分析。在該單元的應用范圍內，完全積分和降階積分都是適用的。SHELL181單元闡明了以下（荷載剛度）分布壓強的效果。 SHELL181單元可以應用在多層結構的材料，如復合層壓殼體或者夾層結構的建模。
3、載荷和邊界條件
對模型施加垂直向下的力F，對兩邊進行全約束，具體見下圖：
4、求解結果
通過靜力分析，得到模型在垂直載荷作用下的應力和變形，分別見下圖：
5、總結
本文主要對波紋腹板鋼梁進行建模，這里重點為波紋腹板的模型建立。采用APDL語言進行模型建立，展示了APDL語言的強大功能。
展開 討論/對于大型模型你是選擇四面體網格還是六面體網格？
So 對于大型模型你是選擇四面體網格還是六面體網格？
A、我選擇四面體網格
B、我選擇六面體網格
C、我有別的答案
你會如何選擇，歡迎在評論中分享你的看法。
評論中的亮點回復可獲得小禮品
CAE書籍任選、CAE聯盟紀念杯任選。
禮物發送時間：11月14日
