- 視頻格式：MP4 | 視頻編碼：h264，分辨率1920×1080 | 音頻編碼：AAC，采樣率44.1 KHz，雙聲道

- 語言：英語 | 時長：6小時08分鐘 | 大小：3.38 GB

- 課程簡介：使用大型語言模型（LLMs）、檢索增強生成（RAG）、智能體和全棧工程實踐，構建可投入生產的生成式人工智能系統。

- 學習內容：

  - 設計和構建基于大型語言模型（LLMs）、Transformer、嵌入技術和現代AI架構的可投入生產的生成式AI系統。

  - 實現檢索增強生成（RAG）流水線，將大型語言模型與外部知識相結合，減少幻覺現象，打造企業級AI應用。

  - 利用工具調用、多步驟推理、記憶功能和人機協同控制，開發自主智能體AI系統。

  - 集成FastAPI后端、流式聊天界面、前端用戶體驗模式和有狀態記憶管理，創建全棧大型語言模型應用程序。

  - 通過令牌優化、緩存策略、模型選擇權衡和負載管理技術，優化AI系統的成本、延遲和可擴展性。

  - 使用人工和自動化評估方法評估和監控大型語言模型的輸出，確保準確性、相關性和真實性。

  - 應用安全、安全和治理最佳實踐，實施防護措施、輸出過濾、基于策略的控制和負責任的AI框架。

- 前置要求：

  - 具備基礎編程知識（首選Python，但無需達到專家水平）

  - 對API或Web應用程序有大致了解（有幫助，但非必需）

  - 對AI充滿好奇，愿意動手構建項目

- 課程描述：本課程包含人工智能的應用內容。這是一門專為全棧AI工程師設計的全面、實踐導向的生成式AI和大型語言模型（LLMs）課程。與僅涉及高層理論的課程不同，本課程專注于現代AI系統在生產環境中實際的構建、部署、優化和治理方式。你將超越簡單的提示詞實驗，學習如何利用大型語言模型、嵌入技術、檢索、智能體、工具和全棧應用架構，設計可靠、可擴展且適合企業使用的AI系統。課程的每個部分都包含循序漸進的實踐實驗，確保你不僅理解概念，還能通過真實代碼實現這些概念。

- 課程模塊：

  - 模塊1——生成式AI入門：通過理解生成式AI與判別式模型的區別、生成式系統的重要性以及它們在企業軟件、醫療保健、金融和航空等真實行業中的應用，建立堅實的概念基礎。實踐實驗：比較判別式模型與生成式模型，使用基于Transformer的模型生成文本，并繪制真實世界中生成式AI的應用場景。

  - 模塊2——Transformer架構與大型語言模型基礎：揭開Transformer的工作原理，包括自注意力機制、位置編碼以及編碼器與解碼器架構。你還將探索令牌化、嵌入技術、上下文窗口，以及大型語言模型如何通過預訓練、微調、指令調優和基于人類反饋的強化學習（RLHF）進行訓練。實踐實驗：實現自注意力概念，可視化令牌化和嵌入過程，并在高層模擬大型語言模型的訓練流程。

  - 模塊3——大型語言模型實踐：親手實踐熱門的大型語言模型系列，包括GPT、Claude、Gemini、LLaMA、Mistral和Falcon，并學習如何根據質量、成本、延遲和應用場景要求選擇合適的模型。實踐實驗：構建多模型評估工具，測試幻覺現象和偏見，并使用溫度參數、核采樣（top-p）和最大令牌數等參數集成大型語言模型API。

  - 模塊4——工程師的提示詞工程：將提示詞工程作為軟件工程學科進行教學，涵蓋系統、用戶和助手角色，零樣本、單樣本和少樣本提示技術，以及思維鏈、自一致性和基于約束的提示等高級技術。實踐實驗：設計穩健的提示詞模板，防范提示詞注入攻擊，并為安全提示實現輸入/輸出驗證。

  - 模塊5——嵌入技術與語義搜索：學習向量嵌入如何表示語義，余弦相似度和點積的工作原理，以及如何使用分塊策略、嵌入生成和基于相似度的檢索構建語義搜索流水線。實踐實驗：使用FAISS和Chroma構建語義搜索系統，比較不同的分塊策略，并評估檢索準確性。

  - 模塊6——檢索增強生成（RAG）：學習如何通過RAG架構、文檔攝入流水線、檢索器-生成器流程和上下文窗口管理，將大型語言模型與外部知識相結合，消除幻覺現象。實踐實驗：構建完整的RAG流水線，實現混合搜索，應用重排序策略，并進行帶引用的多文檔推理。

  - 模塊7——工具調用與基于函數的大型語言模型：學習如何通過函數調用、結構化JSON輸出和基于API的工具，讓大型語言模型與真實系統交互，使模型能夠采取有意義的行動。實踐實驗：構建使用工具的智能體，實現無狀態和有狀態工具，添加驗證和錯誤處理，并創建具有可觀測性的多步驟工具鏈。

  - 模塊8——智能體AI系統：專注于構建具有規劃、記憶、執行和自我修正能力的自主AI智能體，采用ReAct、規劃器-執行器和多智能體系統等架構。實踐實驗：構建自主智能體，實現長期記憶，支持任務分解，并添加人機協同（HITL）控制。

  - 模塊9——全棧大型語言模型應用開發：學習如何將AI集成到真實應用中，使用基于FastAPI的后端、流式響應和前端聊天界面，同時管理跨會話的狀態、記憶和上下文。實踐實驗：構建帶有流式聊天、會話記憶、持久存儲和上下文修剪策略的全棧大型語言模型應用程序。

  - 模塊10——評估、成本與性能優化：學習如何通過人工和自動化評估、準確性、相關性和真實性指標來衡量和優化AI系統，以及如何通過令牌優化、緩存和模型路由降低成本。實踐實驗：構建評估工具，實現響應緩存，比較不同的模型層級，并進行延遲和負載測試。

  - 模塊11——倫理、安全與負責任的AI：學習如何通過防護措施、輸出過濾、基于策略的控制和企業治理框架，負責任地部署AI，確保安全性、合規性和可信度。實踐實驗：實施安全防御、提示詞注入保護、輸出驗證和適合企業使用的AI治理流程。

- 課程成果：課程結束時，你將能夠：構建可投入生產的生成式AI系統；設計穩健的提示詞和智能體架構；實現RAG流水線和語義搜索；開發全棧大型語言模型應用程序；優化成本、延遲和可擴展性；部署安全、合規的企業級AI。

- 解壓密碼：0daydown

###