檢索增強(qiáng)生成（RAG）的案例
使用大型語(yǔ)言模型（LLMs）、檢索增強(qiáng)生成（RAG） ￥5
- 視頻格式：MP4 | 視頻編碼：h264，分辨率1920×1080 | 音頻編碼：AAC，采樣率44.1 KHz，雙聲道
- 語(yǔ)言：英語(yǔ) | 時(shí)長(zhǎng)：6小時(shí)08分鐘 | 大?。?.38 GB
- 課程簡(jiǎn)介：使用大型語(yǔ)言模型（LLMs）、檢索增強(qiáng)生成（RAG）、智能體和全棧工程實(shí)踐，構(gòu)建可投入生產(chǎn)的生成式人工智能系統(tǒng)。
- 學(xué)習(xí)內(nèi)容：
- 設(shè)計(jì)和構(gòu)建基于大型語(yǔ)言模型（LLMs）、Transformer、嵌入技術(shù)和現(xiàn)代AI架構(gòu)的可投入生產(chǎn)的生成式AI系統(tǒng)。
- 實(shí)現(xiàn)檢索增強(qiáng)生成（RAG）流水線，將大型語(yǔ)言模型與外部知識(shí)相結(jié)合，減少幻覺(jué)現(xiàn)象，打造企業(yè)級(jí)AI應(yīng)用。
- 利用工具調(diào)用、多步驟推理、記憶功能和人機(jī)協(xié)同控制，開(kāi)發(fā)自主智能體AI系統(tǒng)。
- 集成FastAPI后端、流式聊天界面、前端用戶體驗(yàn)?zāi)Ｊ胶陀袪顟B(tài)記憶管理，創(chuàng)建全棧大型語(yǔ)言模型應(yīng)用程序。
- 通過(guò)令牌優(yōu)化、緩存策略、模型選擇權(quán)衡和負(fù)載管理技術(shù)，優(yōu)化AI系統(tǒng)的成本、延遲和可擴(kuò)展性。
- 使用人工和自動(dòng)化評(píng)估方法評(píng)估和監(jiān)控大型語(yǔ)言模型的輸出，確保準(zhǔn)確性、相關(guān)性和真實(shí)性。
- 應(yīng)用安全、安全和治理最佳實(shí)踐，實(shí)施防護(hù)措施、輸出過(guò)濾、基于策略的控制和負(fù)責(zé)任的AI框架。
- 前置要求：
- 具備基礎(chǔ)編程知識(shí)（首選Python，但無(wú)需達(dá)到專家水平）
- 對(duì)API或Web應(yīng)用程序有大致了解（有幫助，但非必需）
- 對(duì)AI充滿好奇，愿意動(dòng)手構(gòu)建項(xiàng)目
- 課程描述：本課程包含人工智能的應(yīng)用內(nèi)容。這是一門專為全棧AI工程師設(shè)計(jì)的全面、實(shí)踐導(dǎo)向的生成式AI和大型語(yǔ)言模型（LLMs）課程。
展開(kāi) AI for CAE：仿真智能體開(kāi)啟“普惠仿真”新時(shí)代
AI Agent通過(guò)自然語(yǔ)言交互理解用戶需求，不僅能夠生成解決方案，還能深入到具體的應(yīng)用場(chǎng)景中，為用戶提供更加精準(zhǔn)、高效的服務(wù)，標(biāo)志著AI技術(shù)從“能思考”到“會(huì)做事”的跨越，為各行業(yè)的智能化發(fā)展注入了新的活力。
云道智造的工程師正在致力于研發(fā)仿真智能體，融合了多智能體交互、檢索增強(qiáng)生成（RAG）、強(qiáng)化學(xué)習(xí)修正和生成式等技術(shù)，并采用國(guó)產(chǎn)開(kāi)源的DeepSeek 作為底層大語(yǔ)言模型。系統(tǒng)支持用戶通過(guò)自然語(yǔ)言輸入需求，仿真智能體能夠精準(zhǔn)理解用戶意圖并將其轉(zhuǎn)化為可執(zhí)行的仿真任務(wù)，實(shí)現(xiàn)從模型構(gòu)建到仿真分析的全流程自動(dòng)化。
有了仿真智能體，用戶無(wú)需具備任何仿真知識(shí)或軟件使用經(jīng)驗(yàn)，即可完成復(fù)雜的仿真任務(wù)，極大地降低了技術(shù)門檻。這一創(chuàng)新模式與云道智造所倡導(dǎo)的"普惠仿真"的理念高度契合，即通過(guò)智能化手段，讓仿真技術(shù)突破長(zhǎng)期以來(lái)的專業(yè)壁壘，使更廣泛的用戶群體能夠輕松使用先進(jìn)的仿真工具，推動(dòng)仿真技術(shù)的大眾化進(jìn)程。
目前，仿真智能體已經(jīng)具備了初步功能。下面就讓我們一起來(lái)看下吧~！↓↓↓
用戶輸入：“我想要完成一次芯片散熱仿真”，AI助手便會(huì)自動(dòng)根據(jù)知識(shí)庫(kù)，智能生成案例，運(yùn)行建模、網(wǎng)格離散、方程求解與后處理的全部流程，并輸出結(jié)果↓↓↓
如果用戶對(duì)輸出的結(jié)果不滿意，只需輸入想要調(diào)整的幾何結(jié)構(gòu)，例如“將散熱片的高度增加為五倍”，軟件便會(huì)自動(dòng)完成案例修正，并輸出新的結(jié)果↓↓↓
以下案例展示了用戶通過(guò)自然語(yǔ)言輸入精確的仿真需求，智能體能夠直接根據(jù)描述生成完全符合用戶需求的仿真案例?？梢哉f(shuō)，用戶與軟件的交互過(guò)程簡(jiǎn)化為與智能助手的對(duì)話過(guò)程↓↓↓
未來(lái)，仿真智能體還將引入優(yōu)化設(shè)計(jì)功能，用戶只需要告訴智能體需要實(shí)現(xiàn)的參數(shù)指標(biāo)，智能體就能自動(dòng)、循環(huán)完成“生成式設(shè)計(jì)-自動(dòng)仿真驗(yàn)證-迭代優(yōu)化”過(guò)程，最終輸出滿足用戶需求的結(jié)果。
展開(kāi) 數(shù)據(jù)分析與AI丨如何選擇合適的知識(shí)圖譜軟件，CTO/CIO 必問(wèn)10個(gè)關(guān)鍵點(diǎn)
生成的知識(shí)圖譜易用性如何？
若昂貴的知識(shí)圖譜系統(tǒng)僅能被資深數(shù)據(jù)科學(xué)家使用，其普及率將大打折扣。需確保高管、產(chǎn)品經(jīng)理、研發(fā)負(fù)責(zé)人等非技術(shù)人員能理解系統(tǒng)邏輯、自主查詢并獲取有效答案，無(wú)需依賴IT支持。
可要求供應(yīng)商：演示知識(shí)圖譜的構(gòu)建與訪問(wèn)流程：操作是否直觀？技術(shù)團(tuán)隊(duì)能否快速掌握管理方法？能否像管理現(xiàn)有云數(shù)據(jù)平臺(tái)中的表、數(shù)據(jù)集、數(shù)據(jù)產(chǎn)品一樣輕松維護(hù)知識(shí)圖譜？業(yè)務(wù)用戶能否通過(guò)熟悉的工具訪問(wèn)系統(tǒng)？
5. 系統(tǒng)如何應(yīng)對(duì)安全、隱私與合規(guī)性要求？
知識(shí)圖譜整合多源數(shù)據(jù)的特性可能引發(fā)安全風(fēng)險(xiǎn)。在各行業(yè)應(yīng)用中，敏感數(shù)據(jù)必須具備嚴(yán)格的訪問(wèn)控制、審計(jì)跟蹤，并符合GDPR、HIPAA等法規(guī)要求。
需要向供應(yīng)商確認(rèn)其解決措施：如何延續(xù)現(xiàn)有安全協(xié)議？如何支撐內(nèi)部治理與合規(guī)要求？是否提供業(yè)務(wù)所需的數(shù)據(jù)安全與合規(guī)工具？
6. 平臺(tái)如何應(yīng)用本體論？
本體論是領(lǐng)域知識(shí)的語(yǔ)義基礎(chǔ)，可促進(jìn)數(shù)據(jù)互操作性，通過(guò)業(yè)務(wù)術(shù)語(yǔ)描述數(shù)據(jù)，支撐透明度、信任度與可操作洞察的生成。
需要要求供應(yīng)商說(shuō)明：系統(tǒng)如何利用本體論抽象與描述整合數(shù)據(jù)，以支持生成式AI的訪問(wèn)需求；是否兼容相關(guān)行業(yè)標(biāo)準(zhǔn)，能否通過(guò)自定義擴(kuò)展?jié)M足業(yè)務(wù)當(dāng)前及未來(lái)的需求。
7. 知識(shí)圖譜是否支持自然語(yǔ)言查詢與響應(yīng)？響應(yīng)準(zhǔn)確度如何？
高管需要的是直接答案而非復(fù)雜儀表盤(pán)。能否將復(fù)雜業(yè)務(wù)問(wèn)題（如“本國(guó)銷售的進(jìn)口產(chǎn)品毛利率是多少？過(guò)去三年有何變化？”）轉(zhuǎn)化為完整、準(zhǔn)確、易懂的結(jié)果，至關(guān)重要。
檢索增強(qiáng)生成（RAG）技術(shù)可以將生成式AI的參考范圍限定在真實(shí)驗(yàn)證信息內(nèi)，而圖RAG（GRAG）通過(guò)利用知識(shí)圖譜的上下文信息進(jìn)一步減少“幻覺(jué)”，為提示添加上下文，提升響應(yīng)準(zhǔn)確性，且在結(jié)構(gòu)化數(shù)據(jù)源與非結(jié)構(gòu)化文檔的關(guān)聯(lián)構(gòu)建上更高效。
展開(kāi) 數(shù)據(jù)分析與AI丨在企業(yè)環(huán)境中利用知識(shí)圖譜賦能生成式 AI
</p><p><br></p><p>在圖像生成方面，即便能生成部分細(xì)節(jié)正確的圖片，但需要微調(diào)的細(xì)節(jié)也很難達(dá)到理想效果。</p><p><br></p><p><strong>? 易產(chǎn)生幻覺(jué)：</strong></p><p><br></p><p>LLM 看似知識(shí)淵博，實(shí)則不然。其知識(shí)源于訓(xùn)練數(shù)據(jù)、字母組合概率等，<strong>響應(yīng)是基于訓(xùn)練學(xué)習(xí)路徑和相似概念生成</strong>，并非來(lái)自結(jié)構(gòu)化知識(shí)庫(kù)或數(shù)據(jù)庫(kù)。</p><p><br></p><p>而且，<strong>在沒(méi)有使用新數(shù)據(jù)訓(xùn)練時(shí)，LLM 也無(wú)法提供最新信息</strong>，信息局限于訓(xùn)練截止日期。這使得 LLM 容易產(chǎn)生看似可信但實(shí)際錯(cuò)誤的 “幻覺(jué)” 信息，誤導(dǎo)對(duì)相關(guān)領(lǐng)域了解不足的用戶。</p><p><br></p><p><strong>? 存在偏見(jiàn)：</strong></p><p><br></p><p>LLM 依據(jù)數(shù)據(jù)模式生成響應(yīng)，缺乏真正的理解，這導(dǎo)致其訓(xùn)練數(shù)據(jù)易受偏見(jiàn)和限制影響，進(jìn)而使輸出響應(yīng)也帶有同樣的問(wèn)題，而不會(huì)考慮用戶感受。</p><p><br></p><p>不過(guò)，也有應(yīng)對(duì)這些局限的方法。例如，當(dāng)在提示中包含上下文基礎(chǔ)時(shí)，GenAI 的表現(xiàn)會(huì)有所提升。將 <strong>LLM 生成的響應(yīng)限制在給定上下文信息內(nèi)，若上下文準(zhǔn)確，響應(yīng)也可能更準(zhǔn)確，這種技術(shù)被稱為檢索增強(qiáng)生成（RAG）技術(shù)。</strong></p><p><br></p><p>很多主流搜索引擎已開(kāi)始將 RAG 技術(shù)與現(xiàn)有搜索索引結(jié)合，以有效生成對(duì)搜索問(wèn)題的答案，通常還會(huì)提供用于為L(zhǎng)LM提供上下文的網(wǎng)頁(yè)參考URL。<strong>知識(shí)圖譜作為 RAG 的重要新形式，為生成或利用上下文基礎(chǔ)的技術(shù)提供支持。
展開(kāi) 
結(jié)構(gòu)化知識(shí)庫(kù)+研發(fā)智能體｜開(kāi)啟智能研發(fā)時(shí)代
這些問(wèn)題背后，是五個(gè)長(zhǎng)期存在的行業(yè)痛點(diǎn)：知識(shí)孤島、檢索低效、更新滯后、無(wú)法推理、AI幻覺(jué)。傳統(tǒng)知識(shí)庫(kù)本質(zhì)是一個(gè)“數(shù)字檔案室”——你存了什么它知道，但你想問(wèn)什么它不理解。你搜“疲勞斷裂”，它返回所有包含這四個(gè)字的文檔，但具體哪一頁(yè)回答了你的問(wèn)題？你自己翻。
?
編輯
這導(dǎo)致一個(gè)現(xiàn)實(shí)：各類研發(fā)、制造、管理數(shù)據(jù)積壓沉睡，用戶卻無(wú)法獲得對(duì)于業(yè)務(wù)決策行之有效的答案。
PART/1
破局：從“文檔管理”到“知識(shí)推理”
戴西軟件面向工業(yè)研發(fā)領(lǐng)域推出NexAI Suite多業(yè)務(wù)智能體套件（后稱NexAI），它的解決思路很直接：用統(tǒng)一的AI數(shù)據(jù)中臺(tái)，把企業(yè)內(nèi)部分散的、異構(gòu)的數(shù)據(jù)整合，真正變成可理解、可推理、可追溯的活知識(shí)。
其核心能力不但是通用大模型的有效集成，還通過(guò)GraphRAG（基于圖結(jié)構(gòu)的檢索增強(qiáng)生成）+RAG（檢索增強(qiáng)生成）雙引擎的高效技術(shù)融合推動(dòng)智能體基于真實(shí)的業(yè)務(wù)數(shù)據(jù)理解用戶問(wèn)題，并提供可追溯，有依據(jù)的準(zhǔn)確答案。
RAG讓大模型去“翻書(shū)”，GraphRAG讓大模型先去“看關(guān)系圖譜”，理解知識(shí)點(diǎn)之間的邏輯關(guān)聯(lián)，再回來(lái)找證據(jù)。這樣既能回答“是什么”，也能回答“為什么”和“如果……會(huì)怎樣”，同時(shí)從根本上抑制AI幻覺(jué)。
?
編輯
RAG+GraphRAG雙引擎接入大模型
更重要的是，NexAI不是單一工具，而是一套面向工業(yè)研發(fā)場(chǎng)景的智能體套件。這些智能體各司其職：有的寫(xiě)需求，有的畫(huà)時(shí)序圖，有的分析仿真云圖，有的做項(xiàng)目風(fēng)險(xiǎn)預(yù)警。它們共享同一個(gè)底層知識(shí)庫(kù)，在研發(fā)設(shè)計(jì)、仿真分析、項(xiàng)目管理的全鏈條中協(xié)同工作。
PART/2
深度解析：NexAI在工業(yè)研發(fā)中的關(guān)鍵能力
下面聚焦幾個(gè)對(duì)研發(fā)工程師最實(shí)用的功能。
展開(kāi) 工程碩士：碩士人工智能和大型語(yǔ)言模型（LLMS） ￥6
第 3 周：采用開(kāi)源模型? 使用 HuggingFace 探索開(kāi)源模型的世界? 處理 10 個(gè)常見(jiàn)的 Gen AI 用例，從翻譯到圖像生成。? 構(gòu)建產(chǎn)品以從錄音中生成會(huì)議記錄和行動(dòng)項(xiàng)目。第 4 周：LLM 選擇和代碼生成? 了解 LLM 之間的區(qū)別以及如何為您的業(yè)務(wù)任務(wù)選擇最佳 LLM。? 使用 LLM 生成代碼并構(gòu)建將代碼從 Python 轉(zhuǎn)換為 C++ 的產(chǎn)品，實(shí)現(xiàn)超過(guò) 60,000 倍的性能提升。第 5 周：檢索增強(qiáng)生成 （RAG）? 掌握 RAG 至提高解決方案的準(zhǔn)確性。? 熟練使用向量嵌入并在流行的開(kāi)源向量數(shù)據(jù)存儲(chǔ)中探索向量。? 構(gòu)建類似于當(dāng)今市場(chǎng)上真實(shí)產(chǎn)品的完整業(yè)務(wù)解決方案。第 6 周：過(guò)渡到訓(xùn)練? 從推理轉(zhuǎn)向訓(xùn)練? 微調(diào) Frontier 模型以解決實(shí)際業(yè)務(wù)問(wèn)題? 構(gòu)建自己的專業(yè)模型，標(biāo)志著您 AI 之旅中的一個(gè)重要里程碑。第 7 周：高級(jí)訓(xùn)練技巧? 深入研究高級(jí)訓(xùn)練技巧，如 QLoRA 微調(diào)? 訓(xùn)練開(kāi)源模型，使其在特定任務(wù)中優(yōu)于 Frontier 模型? 處理具有挑戰(zhàn)性的項(xiàng)目，將您的技能提升到一個(gè)新的水平。第 8 周：部署和定稿? 使用精美的 UI 將您的商業(yè)產(chǎn)品部署到生產(chǎn)環(huán)境中。? 使用代理增強(qiáng)功能? 交付您的第一個(gè)生產(chǎn)化、代理化、微調(diào)的 LLM 模型。? 慶祝您對(duì) AI 和 LLM 工程的掌握，為職業(yè)生涯的新階段做好準(zhǔn)備。
展開(kāi) 行業(yè)分享丨Data+LLM：AI 在智能制造數(shù)字化轉(zhuǎn)型中的應(yīng)用
</li></ul><p>因此，盡管模型微調(diào)能夠提升大型模型對(duì)企業(yè)特定數(shù)據(jù)的理解和生成能力，但由于計(jì)算資源需求大、回答準(zhǔn)確性問(wèn)題、數(shù)據(jù)滯后性和技能要求高等因素，這種方法在實(shí)際應(yīng)用中面臨諸多挑戰(zhàn)，并不適合大多數(shù)制造企業(yè)。企業(yè)應(yīng)根據(jù)自身情況選擇更為合適的解決方案。</p><p><br></p><p class="ql-align-center"><img src="https://mmbiz.qpic.cn/sz_mmbiz_png/EBaibcQicPxgx96XPPq4S2xnBe7dICibo9g9qZFJW7K92APRhC9YjLq4KsWDgb71VWcshGe32qJS0s6Ysy9zpWGdQ/640?wx_fmt=png&from=appmsg"></p><p>第二種方法是檢索增強(qiáng)生成（RAG）方式，這是目前最常用的方法之一。簡(jiǎn)單來(lái)說(shuō)，這種方法不需要大型模型直接擁有企業(yè)內(nèi)部的數(shù)據(jù)，而是通過(guò) RAG 方式將數(shù)據(jù)外掛于模型之外。</p><p>具體流程如下：</p><ul><li class="ql-align-justify">數(shù)據(jù)預(yù)處理：首先，我們將文本數(shù)據(jù)進(jìn)行切片，并將其向量化，構(gòu)建索引后存儲(chǔ)在向量數(shù)據(jù)庫(kù)中，以便后續(xù)用于問(wèn)答檢索。</li><li class="ql-align-justify">用戶查詢處理：當(dāng)用戶輸入查詢或問(wèn)題時(shí)，大型模型會(huì)在向量數(shù)據(jù)庫(kù)中搜索與用戶查詢最相關(guān)的文檔片段。</li><li class="ql-align-justify">結(jié)果匯總與整理：模型會(huì)返回最相關(guān)的前五個(gè)文檔片段。基于這些內(nèi)容，模型進(jìn)一步匯總和整理信息，最終生成回答以響應(yīng)用戶的查詢。</li></ul><p>通過(guò)這種方式，大模型可以高效地利用外部數(shù)據(jù)，而無(wú)需直接存儲(chǔ)和處理企業(yè)內(nèi)部的具體數(shù)據(jù)。這不僅減少了對(duì)計(jì)算資源的需求，還提高了回答的準(zhǔn)確性和相關(guān)性。
展開(kāi) 