馬爾可夫
關(guān)注創(chuàng)建者：尋歡 創(chuàng)建時間：2021-04-08
馬爾可夫的視頻教程
卡爾曼濾波和MATLAB程序詳解視頻算法與實時技術(shù)信號處理
35、KF21_2UKF程序的子函數(shù)詳細分析與思考7個問題（41分鐘，有程序） 36、KF22_工程現(xiàn)場用UKF方法分析定位或跟蹤問題的程序詳解（43分鐘，有2程序） 37、KF23_擴展和無跡卡爾曼濾波方法對比分析非線性數(shù)學模型問題（33分鐘，有程序） 第八章 ?交互式多模型(IMM)濾波及其應(yīng)用與推廣問題 38、KF24_交互式多模型及蒙特卡羅模擬方法簡介（30分鐘） 39、KF25_馬爾可夫鏈與轉(zhuǎn)移概率矩陣等概念簡介
￥238 29小時24分鐘 2421播放
查看
馬爾可夫的實例教程
1 引言
使用馬爾可夫鏈(Markov chain)隨機產(chǎn)生新的文檔也是巖石邊坡工程大數(shù)據(jù)項目的其中一部分內(nèi)容，計劃單列一章討論這個主題(文本摘要生成的確定過程和隨機過程)。 這個筆記簡要描述了馬爾可夫鏈的工作機理(mk-1.py)。
2 工作機理
馬爾可夫鏈本質(zhì)上是一個詞匯接龍的游戲，把每一個單詞作為key, 然后尋找與其鄰接的單詞作為items, 如果items中有多個單詞，則隨機取出一個，于是形成一個鏈表結(jié)構(gòu)。首先準備一個數(shù)據(jù)集，在本次試驗中，選擇了20篇與巖橋相關(guān)的論文題目作為數(shù)據(jù)源，然后按照馬爾可夫鏈規(guī)則儲存在一個字典中。
展開 第二種方法是馬爾可夫鏈《馬爾可夫鏈(Markov chain)隨機產(chǎn)生新的文檔》。這個筆記簡要記錄了對geotech-markovify-text-generation.py的改進，這個改進提高了生成句子的質(zhì)量。
2 改進方法
盡管深度學習Transformers使用了大的模型GPT-2, 但測試結(jié)果顯示對于我們特定的專業(yè)領(lǐng)域，這些模型并不能給出令人滿意的結(jié)果，主要原因是這些模型中沒有包含專業(yè)的知識庫，因而生成的句子雜亂無章沒有邏輯，這也是我們努力改造馬爾可夫鏈的主要原因。另一方面，大而雜亂的數(shù)據(jù)集不能產(chǎn)生出合理的邏輯性非常強的句子，一個主題突出的數(shù)據(jù)集更容易產(chǎn)生出有實際意義的句子。因此改進的第一步是合并了geotech-flashtext-passages.py中的算法，通過主題關(guān)鍵詞產(chǎn)生出一個聚合的小型數(shù)據(jù)集，把產(chǎn)生的這個數(shù)據(jù)集作為馬爾可夫鏈的輸入文件。
第二個改進是增加了一個文本清理子程序，清除文件中存在的雜亂結(jié)構(gòu)，包括空行，無意義的字符以及小于一定長度的句子。
第三個改進是在代碼中同時增加了兩個類POSifiedText_Spacy和POSifiedText_NLTK，用來改進目前的markovify.Text方法。在POSifiedText_Spacy中，使用了最新的en_core_web_lg模型。這種改進的優(yōu)點是極大地改善了生成句子的質(zhì)量，缺點是對于大的數(shù)據(jù)集，運行時間變慢，特別是POSifiedText_Spacy方法，在一個40M的數(shù)據(jù)集測試中，訓練時間花了接近50分鐘。
因此，目前的代碼中包括了三種句子生成方法。假如設(shè)定每種方法都產(chǎn)生5個句子，那么每次運行能同時產(chǎn)生出15個句子。
展開 這里要提的是退火算法中的馬爾可夫鏈。如果將每個特定時間序列上的解空間狀態(tài)看成離散的，并將這些離散狀態(tài)連成一條鏈的話。那么整個求解過程就是一條馬爾可夫鏈，這一個時刻的狀態(tài)，只和上一個相鄰的時間點上的狀態(tài)相關(guān)，而與之前的時間點狀態(tài)都無關(guān)。這聽起來有點像還錢。我不管誰欠你的錢，但是我只知道你欠我錢，我只管你要。SA中馬爾可夫鏈的長度就是模擬退火中溫度的變化。
還有一個屬于模擬退火算法的特色概念，也就是它跳出局部極小值解的方法：將原有的目標函數(shù)值和新求出的目標函數(shù)值相減，得出一個delta值。如果這個值是小于零的，證明解優(yōu)化，否則的話，就以一定的概率去接受它。這個概率是隨著不同的溫度和不同delta變化而變化的。
展開 文本摘要生成的確定過程和隨機過程
PyTextRank---文本關(guān)鍵字(keywords)的自動取出
使用Trigram獲取文檔的中心思想
5 主題聚合
主題聚合使用了兩個算法：LDA和Transformer
LDA Topic Modeling(主題建模)
使用Transformers確定句子之間的相似度
6 生成新的句子
生成新的句子主要使用了馬爾可夫鏈
馬爾可夫鏈(Markov chain)隨機產(chǎn)生新的文檔
利用文本相似度聚類產(chǎn)生能夠再學習的新文檔
7 應(yīng)用
目前，這個數(shù)據(jù)挖掘工作主要的應(yīng)用領(lǐng)域包括雙語教學，產(chǎn)生新的論文主題以及生成論文內(nèi)容等。
非結(jié)構(gòu)化的文獻快速聚合: Synthetic Rock Mass
公眾號文章的自我聚合: 巖橋(Rock Bridge/Step-Path)
畢業(yè)論文查重就是一個坑
巖石邊坡工程大數(shù)據(jù)系統(tǒng)設(shè)計
Data Mining---巖土工程的數(shù)據(jù)挖掘
展開 目錄：
第1章 概論
1.1 組合最優(yōu)化問題
1.2 計算復(fù)雜性的概念
1.3 鄰域的概念
1.4 啟發(fā)式算法
1.5 NP,NP完全和NP難
1.6 多項式時間迫近格式
1.7 小結(jié)
練習題
參考文獻
第2章 禁忌搜索算法
2.1 局部搜索
2.2 禁忌搜索
2.3 技術(shù)問題
2.4 應(yīng)用案例——圖節(jié)點著色和車間作業(yè)排序
練習題
參考文獻
第3章 模擬退火算法
3.1 模擬退火算法及模型
3.2 馬爾可夫鏈
3.3 時齊算法的收斂性
3.4 非時齊算法收斂性簡介
3.5 實現(xiàn)的技術(shù)問題
3.6 應(yīng)用案例——下料問題
練習題
參考文獻
第4章 遺傳算法
4.1 遺傳算法
4.2 模板理論
4.3 馬爾可夫鏈收斂分析
4.4 實現(xiàn)的技術(shù)問題
4.5 遺傳模擬退火算法
4.6 應(yīng)用案例——生產(chǎn)批量問題
練習題
參考文獻
第5章 蟻群優(yōu)化算法
5.1 蟻群優(yōu)化算法的概念
5.2 算法模型和收斂性分析
5.3 技術(shù)問題
5.4 應(yīng)用案例——醫(yī)學診斷的數(shù)據(jù)挖掘
練習題
參考文獻
第6章 人工神經(jīng)網(wǎng)絡(luò)
6.1 人工神經(jīng)網(wǎng)絡(luò)的基本概念
6.2 單層前向神經(jīng)網(wǎng)絡(luò)
6.3 多層前向神經(jīng)網(wǎng)絡(luò)
6.4 競爭學習神經(jīng)網(wǎng)絡(luò)
6.5 反饋型神經(jīng)網(wǎng)絡(luò)
練習題
參考文獻
第7章 拉格朗日松弛算法
7.1 基于規(guī)劃論的松弛方法
7.2 拉格朗日松弛理論
7.3 拉格朗日松弛的進一步討論
7.4 拉格朗日松弛算法
7.5 應(yīng)用案例——能力約束單機排序問題
練習題
參考文獻
索引
展開 
馬爾可夫的最新內(nèi)容
BCS問題模型通過融入光刻系統(tǒng)非線性效應(yīng)（如掩模三維衍射、光致抗蝕劑響應(yīng)），構(gòu)建了“物理機理-統(tǒng)計建模”融合框架，使光源-掩模優(yōu)化的擬合誤差控制在2.5%以內(nèi)；
先驗分布與邊緣概率密度建模方面，動態(tài)貝葉斯先驗設(shè)計適配不同圖形特征，結(jié)合馬爾可夫鏈蒙特卡洛方法提升了邊緣概率密度估計精度，復(fù)雜圖形優(yōu)化的魯棒性提升40%；最優(yōu)信號估計與迭代優(yōu)化環(huán)節(jié)，改進型貝葉斯迭代算法解決了傳統(tǒng)方法收斂遲緩問題，收斂效率提升
推理與加速： 采用DDIM非馬爾可夫采樣跳步反演以加速重建。
域泛化： 提出電壓/電流歸一化策略，使僅以模擬數(shù)據(jù)訓練的模型可在不同背景電導率與激勵電流的實測數(shù)據(jù)上直接應(yīng)用，無需再訓練。
2.3 敏感度先驗生成（SPfusion）
動機： 經(jīng)典同質(zhì)敏感度（由Geselowitz定理計算的雅可比近似）忽略高階非線性項，難以刻畫結(jié)構(gòu)與電參差異。
這類似于馬爾可夫鏈，其中每一步都會通過添加高斯噪聲來略微降低數(shù)據(jù)質(zhì)量。
?
在數(shù)學上，這可以表示為：
?
xt?是步驟 t 處的噪聲數(shù)據(jù)，
αt控制添加的雜色量。
5 反向擴散工藝
反向過程旨在通過分一系列步驟對噪聲數(shù)據(jù)進行去噪來重建原始數(shù)據(jù)，反轉(zhuǎn)正向擴散。
?
?
其中，深度學習負責復(fù)雜駕駛場景的感知和特征提取如同人類的眼睛；強化學習部分通過馬爾可夫決策過程完成推理、判斷和決策如同人腦。
馬爾可夫決策過程(MDP)
由于強化學習涉及一系列最優(yōu)行為，因此它被認為是一個連續(xù)的決策問題，可以使用馬爾可夫決策過程建模。
這里的狀態(tài)(用S表示)被建模為圓圈，動作(用A表示)允許代理在狀態(tài)之間轉(zhuǎn)換。在上圖2中，還有一個轉(zhuǎn)換概率(用T表示)，T(S11, A1, S12)是在狀態(tài)S11采取A1動作后轉(zhuǎn)換到狀態(tài)S12的概率。
關(guān)系數(shù)據(jù)庫查詢：SQL語言 b數(shù)據(jù)庫查詢：SPARQL語言
6.4.上機實踐案例：利用GraphDB完成知識圖譜的存儲與檢索
七、知識推理
7.1.知識圖譜中的推理技術(shù)概述
7.2.歸納推理：學習推理規(guī)則
a.歸納邏輯程設(shè)計?b.關(guān)聯(lián)規(guī)則挖掘 c.路徑排序算法
上機實踐案例：利用AMIE+算法完成Freebase數(shù)據(jù)上的關(guān)聯(lián)規(guī)則挖掘
7.3.演繹推理：推理具體事實
? a.馬爾可夫邏輯網(wǎng)
知識圖譜的檢索
a.關(guān)系數(shù)據(jù)庫查詢：SQL語言 b數(shù)據(jù)庫查詢：SPARQL語言
6.4.上機實踐案例：利用GraphDB完成知識圖譜的存儲與檢索
七、知識推理
7.1.知識圖譜中的推理技術(shù)概述
7.2.歸納推理：學習推理規(guī)則
a.歸納邏輯程設(shè)計b.關(guān)聯(lián)規(guī)則挖掘 c.路徑排序算法
上機實踐案例：利用AMIE+算法完成Freebase數(shù)據(jù)上的關(guān)聯(lián)規(guī)則挖掘
7.3.演繹推理：推理具體事實
a.馬爾可夫邏輯網(wǎng)
導 讀
SIL驗證是一種定量的分析方法，通過計算確定回路實際實現(xiàn)的安全完整性等級，SIL驗證的方法有可靠性框圖分析法、故障樹分析法、基于馬爾可夫模型分析法等，本文使用可靠性框圖的方法來進行驗證中存在問題的闡述。
在形式化涉及單個 RL 代理的順序決策問題時，馬爾可夫決策過程 (MDP) 是最流行的解決方法。
現(xiàn)階段馬爾可夫決策過程的模型也開始被越來越多的應(yīng)用于自動駕駛系統(tǒng)行為層面的決策算法實現(xiàn)當中。簡而言之，行為決策層面需要結(jié)合環(huán)境預(yù)測模塊的結(jié)果，輸出宏觀的決策指令供后續(xù)的規(guī)劃模塊去更具體地執(zhí)行。
動作規(guī)劃模塊
自動駕駛汽車規(guī)劃模塊包括動作規(guī)劃和路徑規(guī)劃兩
部分。
