主成分分析（PCA）的案例
Moldex3D仿真分析之仿真驅動和AI加速的工作流程優化異型水路設計
圖二、非線性主成分分析（Non-Linear Principal Component Analysis，NL-PCA）于優化目標選取之應用
AI作為加速器，仿真作為基石
IPC團隊再次透過上述流程驗證異型水路設計，進一步證實該方式不僅限于單次實驗，而是一套能重復導入的方式，能實現更高質量的模具設計、更短的成型周期。AI雖能加速探尋，但以物理為基礎的模擬仍是不可或缺的核心。模擬能帶來物理機制、材料行為的精確洞察，為類神經網絡（ANN）、多目標演化算法（MOEA）的搜尋結果奠定真實可靠的基礎。此外，Moldex3D所提供的纖維、熱傳與流動分析洞察，有助于厘清問題根因（如積熱位置），并驗證最終設計。最重要的是，在模具制造前就能先透過Moldex3D驗證所有優化數據指針，有效降低制造風險并減少量產成本。
圖三、考慮兩種替代澆口配置，并采用NL-PCA所選定之四項目標條件下，經多目標演化算法所獲結果
展開 【JY】主成分分析與振型分解
主成分分析法&振型分解法
首先小談下主成分分析法（principal components analysis），也稱主分量分析，是利用降維的思想，在損失很少信息的前提下，把多個指標轉化為幾個綜合指標的多元統計方法。通常把轉化生成的綜合指標稱為主成分，其中每個主成分都是原始變量的線性組合，且各個主成分之間互不相關，使得主成分比原始變量具有某些更優越的性能。這樣在研究復雜問題時就可以只考慮少數幾個主成分而不至于損失太多信息，從而更容易抓住主要矛盾，揭示事物內部變量之間的規律性，同時使問題得到簡化，提高分析效率。
再談下
振型分解法，在討論多自由度體系的強迫振動時，如采用質點位移作為坐標（稱為幾何坐標），則所得到的振動方程為耦聯微分方程，因而必須聯立求解。對于無阻尼簡諧強迫振動，在平穩階段，由于各質點都作同步振動，利用這一特性可將微分方程轉化為代數方程，故求解沒有困難。然而，當考慮阻尼影響或者在一般動力荷載作用下時，求解聯立的微分方程組就會比較困難。按振型分解的計算方法就是針對這一問題提出來的。振型分解法是
基于坐標變換，把原來耦聯的微分方程組變為n個互相獨立的微分方程，從而使原來多自由度體系的動力計算變為一系列單自由度體系的問題，當然這一方法只限于線性體系的應用。下面介紹振型分解法。
展開 CAESES中基于主成分分析的參數降維功能應用
為了解決這一痛點，CAESES 5.0 基于主成分分析的方法，開發了降維的功能。
我們把設計變量能表示的所有船型方案叫做設計空間。N個設計變量對應N維設計空間。降維的功能旨在降低設計空間的維度，即減少設計變量。利用主成分分析的方法，在保證變形效果不變的前提下，把設計變量數降下來，從而大大提高優化效率。（注意設計變量數降下來并不是傳統的通過敏感性分析等方法剔除部分變量，而是通過數學方法，用幾個變量代替所有變量）
下面通過一個案例來介紹降維功能的使用方法。 選取KCS船進行靜水阻力優化。在船體球鼻艏、船艏、船舯、船艉共設置了 17 個設計變量。變形效果如下圖：
二、降維設置與計算
點擊Optimize>Design Space Utilities>
Dimensionality Reduction，設置Samples：1000，Points per sample: 8000。意為根據17個設計變量，生成1000個船型方案每個船型幾何上取8000個點，用于比較分析各個方案的幾何區別。
點擊綠色啟動按鈕，CAESES會自動生成方案進行比較分析。該過程僅涉及幾何運算，不進行仿真計算，用時較少。實測用20核，1000個方案，每個方案8000個點，分析需要110分鐘左右。
三、降維效果分析
分析結束后，dimensionalityReduction設置界面自動跳轉：
改變number of Principal Parameters，觀察Percentage of Captured Variance。如上圖，基于1000個船型幾何的主成分分析得出，設置6個主參數，可以捕捉到99.9%的變形效果，滿足設計需求。
調整圖片下半部分的6個主參數，點擊To CAD，即基于主參數值推出17個設計變量的值。
展開 197基于matlab 的關于主成分分析的詳細代碼 ￥12.2
基于matlab 的關于主成分分析的詳細代碼，附帶數據及gui界面文件，可直接運行。多種數據預處理方式，可輸出多種結果。注意的是只能按照主成分個數進行分析。按照累計貢獻率有報錯。程序已調通，可直接運行。
GSH-PCA方案結合機器學習實現晶體塑性力學響應的快速預測
研究巧妙地采用廣義球諧函數（GSH）結合主成分分析（PCA），將復雜的織構空間精準壓縮至僅需5到10個核心參數 。這種參數化方法不僅大幅降低了訓練負擔，更具備極其強大的“雙向映射”能力：工程師可以隨時利用這些降維后的少數參數，反向完美重構出原始的織構極圖 ！相比之下，如果僅使用單一的Taylor因子進行簡化，雖然便捷，但會引入更大的預測誤差和不確定性 。
2. 全曲線生成的泛函主成分分析（fPCA）為了直接預測完整的應力-應變行為，該框架在輸出端引入了泛函主成分分析（fPCA） 。代理模型不再逐點預測離散數據，而是直接學習提取整條拉伸曲線的“形狀基函數”及其權重 。只需輸入微觀特征參數，模型瞬間就能完美拼裝出平滑、連續且符合物理規律的宏觀應力-應變曲線 。
3. 具備“自知之明”的置信區間預測與傳統深度神經網絡的“盲目自信”不同，該工作選用高斯過程（GP）回歸作為核心代理模型 。高斯過程不僅能給出精確的預測曲線，更能進行嚴格的不確定性量化（UQ），輸出帶有95%置信區間的預測包絡帶 。這意味著，當輸入一種模型從未見過的極端奇異織構時，它會通過變寬的陰影帶誠實地發出“誤差警告”，極大地提升了工程預測的可靠性與安全性 。
作者的整體設計思路如下圖：
總結：工程實用性與計算效率的絕對飛躍這套“GSH-PCA降維 + fPCA重構 + GP預測”的全新組合拳，使得原本需要耗費數天的龐大多晶體模擬任務，如今不到一秒即可完成 。這種革命性的效率躍升，為依賴成千上萬次模擬迭代的蒙特卡洛分析、材料不確定性傳播以及微觀結構優化設計真正掃清了算力障礙 。
展開 新一代智能實時仿真軟件ODYSSEE
機器學習模型降維包–Lunar簡介
Lunar降維建模原理
-積分求解和“機器學習”求解
-主成分分析（PCA）
主成分分析（Principal Component Analysis，PCA）是一種多變量統計方法，它是最常用的降維方法之一，通過正交變換將一組可能存在相關性的變量數據轉換為一組線性不相關的變量，轉換后的變量被稱為主成分。可以使用兩種方法進行 PCA，分別是特征分解或奇異值分解（SVD）。
PCA 將 n 維輸入數據縮減為 r 維，其中 r<n。簡單地說，pca 實質上是一個基變換，使得變換后的數據有最大的方差，也就是通過對坐標軸的旋轉和坐標原點的平移使得其中一個軸（主軸）與數據點之間的方差最小，坐標轉換后去掉高方差的正交軸，得到降維數據集。
WHY Lunar
Lunar如何開始
Lunar優勢
-以簡單的DOE實驗設計開始
-定義樣本空間，包含輸入參數X和計算的響應結果Y：很好的平衡 (空間填充)；正交化；DOE方法：Optimal Latin Hypercube, Halton,Hammersley, …
-減少計算工作：在選擇的樣本點求解；自適應學習 (在學習中進步)。
-實時計算：對于參數化研究和優化，接近于0的計算工作量
-準確性和完整性：完整的時間歷史輸出 (不僅是標量)；物理域分解，不是擬合(不是響應面方法!)。
-可以3D 動畫 (節點和單元)：不是插值，而是PDE重建。
-板載應用：封裝，低內存，低CPU，低存儲。
-在參數（設計數據、制造參數，工況參數等）發生變化的情況下，實時展現產品新的狀態。
-為數字孿生的實現提供了實時仿真解決方案。
展開 人工智能是如何處理數據的？
代表的算法大致包括： 深度學習，包括大部分常見的模型如cnn/rnn/dbn，也包括遷移學習等 某些無監督學習算法，如主成分分析(PCA)通過對數據轉化而使得輸入數據更有意義 某些樹模型可以自動的學習到數據中的特征并同時作出預測 特征工程：模型依賴人為處理的數據特征，而模型的主要任務是預測，比如簡單的線性回歸期待良好的輸入數據(如離散化后的數據) 需要注意的是，這種歸類方法是不嚴謹的，僅為了直觀目的而已。并沒有一種劃分說a算法是表示學習，而b算法不是，只是為了一種便于理解的劃分。
因此，大部分的模型都處于純粹的表示學習和純粹的依賴人工特征之間，程度不同而已，很少有絕對的自動學習模型。
那么好奇的讀者會問：
1. 是不是自動的特征抽取(表示學習)總是更好？
答案是不一定的：
在數據量不夠的時候，自動特征抽取的方法往往不如人為的特征工程。
當使用者對于數據和問題有深刻的理解時，人工的特征工程往往效果更好。
一個極端的例子是，在kaggle比賽中的特征工程總能帶來一些提升，因此人工的特征抽取和處理依然有用武之地。
同時也值得注意，表示學習的另一好處是高度抽象化的特征往往可以被應用于相關的領域上，這也是我們常說的遷移學習(transfer learning)的思路。比如有了大量貓的圖片以后，不僅可以用于預測一個物體是不是貓，也可以用于將抽取到的特征再運用于其他類似的領域從而節省數據開銷。
2. 特征學習(表示學習)，特征工程，特征選擇，維度壓縮之間有什么關系？
從某個角度來看，表示學習有“嵌入式的特征選擇”(embedded feature selection)的特性，其表示學習嵌入到了模型中。
展開 激活學習：一種挑戰反向傳播的生物啟發算法
進一步可以證明，這個重構損失跟主成分分析(PCA)的重構損失是一致的，所以它跟馬毅老師提出的PCANet的有一定的聯系，但是這里一個重要的不一樣的是不同神經元的特征是非正交的，這保證即使少量的神經元停止工作對整個神經網絡的影響不會特別大。更重要的一個結論是每一層網絡的輸出激活強度(輸出的平方和)不會高于輸入強度，而且對于越典型的輸入其輸出激活強度就越強。
激活學習的學習規則
如果我們將每一層神經網絡看成一個激活強度的過濾器，它可以表示比較簡單的輸入概率分布；那么激活學習就是一個多層神經網絡將多個激活強度過濾器串聯起來，來表示非常復雜的概率分布。在激活學習中，網絡的輸出激活強度(平方和)用來估計輸入的likelihood。為了保證激活強度在各層的可傳遞性，我們使用的非線性激活函數要保證它的輸入和輸出的強度是不變的。最終，我們可以訓練一個激活學習神經網絡，它可以直接估計輸入的概率分布。因為整個訓練的過程跟任何具體任務是無關的，它也是一個通用模型，可以用于各類學習任務。
2
激活學習的實驗結果
1. 首先是分類任務
，這時候激活學習網絡的輸入既包含圖片又包含標簽，預測分類的過程就是給定圖片來推理標簽使得整個網絡的激活強度是最大的。受到認知科學實驗的啟發(J. L. McClelland, How Far Can You Go with Hebbian Learning, and When Does it Lead you Astray?), 正確信息的反饋在人類學習中起到很重要的作用。例如，人在學習某個東西的時候，如果識別錯誤，這時候如果能夠糾正并告訴它正確的結果，可以明顯提升它的學習效果。
展開 一文讀懂深度學習在計算機視覺領域中的應用
常用的算法有稀疏編碼(sparse coding)、主成分分析（PCA）等。與之相對的，判別式方法通過訓練分類器來區分目標和背景，其性能更為穩定，逐漸成為目標跟蹤這一領域的主要研究方法。常用的算法有堆棧自動編碼器(SAE)、卷積神經網絡(CNN)等。
使用SAE方法進行目標跟蹤的最經典深層網絡是Deep Learning Tracker（DLT），提出了離線預訓練和在線微調。該方法的主要步驟如下：
1).先使用棧式自動編碼器（SDAE）在大規模自然圖像數據集上進行無監督離線預訓練來獲得通用的物體表征能力。
2).將預訓練網絡的編碼部分與分類器相結合組成分類網絡，然后利用從初始幀獲得的正、負樣本對網絡進行微調，使其可以區分當前對象和背景。在跟蹤過程中，選擇分類網絡輸出得分最大的patch作為最終預測目標。
3).模型更新策略采用限定閾值的方法。
基于CNN完成目標跟蹤的典型算法是FCNT和MD Net。
FCNT的亮點之一在于對ImageNet上預訓練得到的CNN特征在目標跟蹤任務上的性能做了深入的分析：
1).CNN的特征圖可以用來做跟蹤目標的定位；
2).CNN的許多特征圖存在噪聲或者和物體跟蹤區分目標和背景的任務關聯較小；
3).CNN不同層提取的特征不一樣。高層特征更加抽象，擅長區分不同類別的物體，而低層特征更加關注目標的局部細節。
展開 因子分析是一種統計方法 ￥3
因子分析的類型
數據科學中使用的因子分析主要有兩種類型：
1. 探索性因子分析 （EFA）
探索性因子分析 （EFA） 用于揭示一組觀察變量的底層結構，而無需對有多少因子或變量與每個因子的關系施加先入為主的概念。它探討了項目之間復雜的相互關系，旨在對屬于統一概念或結構的項目進行分組。
研究人員不對因素之間的關系做出先驗假設，讓數據有機地揭示結構。
探索性因子分析 （EFA） 有助于確定解釋觀察到的變量方差所需的因子數量，并了解變量和因子之間的關系。
2. 驗證性因子分析 （CFA）
驗證性因子分析 （CFA） 是一種結構性更強的方法，它根據先前的理論知識或預期來檢驗關于觀察到的變量和潛在因素之間關系的具體假設。它使用結構方程建模技術來測試測量模型，其中假設觀察到的變量加載到特定因子上。
驗證性因子分析 （CFA） 評估假設模型與實際數據的擬合度，檢查觀察到的變量與建議的因子結構的一致性。
此方法允許評估觀測變量和未觀測因子之間的關系，并且可以適應測量誤差。
研究人員在進行分析之前假設變量和因素之間的關系，并根據經驗數據對模型進行測試以確定其有效性。
總之，探索性因子分析 （EFA） 更具探索性和靈活性，允許數據決定因子結構，而驗證性因子分析 （CFA） 更具驗證性，測試關于觀察到的變量如何與潛在因子相關的特定假設。這兩種方法都是了解數據底層結構的寶貴工具，各有優勢和應用。
因子提取方法的類型
下面討論了一些因子提取類型方法：
主成分分析 （PCA）：
PCA 是一種廣泛使用的因子提取方法。
它旨在提取導致觀測變量中最大可能方差的因子。
展開 [譯] 使用 Python 進行自動化特征工程
這可以采取多種形式：主成分分析(PCA)，使用 SelectKBest 類，使用從模型引入的特征，或者使用深度神經網絡進行自動編碼。當然，特征削減則是另一篇文章的另一個主題了。現在，我們知道，我們可以使用 featuretools ，以最少的工作量從許多表中創建大量的特性！
結論
像機器學習領域很多的話題一樣，使用 feautretools 的自動特征工程是一個建立在簡單想法之上的復雜概念。使用實體集、實體和關系的概念，feautretools 可以執行深度特性合成來創建新特征。深度特征合成反過來又將特征基元堆疊起來 —— 也就是聚合，在表格之間建立起一對多的關系，同時進行轉換，在單表中對一列或者多列應用，通過這些方法從很多的表格中構建出新的特征出來。
請持續關注這篇文章，與此同時，閱讀關于這個競賽的介紹 this introduction to get started。我希望您現在可以使用自動化特征工程作為數據科學管道中的輔助工具。我們的模型將和我們提供的數據一樣好，自動化的特征工程可以幫助使特征創建過程更有效。
要獲取更多關于特征工具的信息，包括這些工具的高級用法，可以查閱在線文檔。要查看特征工具如何在實踐中應用，可以參見 Feature Labs 的工作成果，這就是開發 featuretools 這個開源庫的公司。
我一如既往地歡迎各位的反饋和建設性的批評，你們可以在 Twitter @koehrsen_will 上與我進行交流
展開 
武漢理工&廣州大學：高通量計算快速篩選出高性能吸附材料！
計算篩選部分流程示意圖
主成分分析（PCA）表明，最大孔腔直徑（LCD）和限制性孔道直徑（PLD）的特征向量近乎重合，兩者是表示孔徑的重要參數，具有很強的正相關性。而孔隙率（f）和密度（ρ）的特征向量方向則相反，表明兩者呈現負相關性。除了ρ以外，其他特征向量的投影在PC1軸的正方向上，表明這些描述符對于新的特征空間有積極的貢獻。
圖2.
數據挖掘中的數據預處理
這樣做是為了提高數據分析的效率并避免模型過度擬合。數據縮減涉及的一些常見步驟包括：
Feature Selection（特征選擇）：這涉及從數據集中選擇相關特征的子集。執行特征選擇通常是為了從數據集中刪除不相關或冗余的特征。可以使用各種技術來完成，例如相關性分析、互信息和主成分分析 （PCA）。
特征提取：這涉及將數據轉換為低維空間，同時保留重要信息。當原始特征具有高維和復雜時，通常會使用特征提取。可以使用 PCA、線性判別分析 （LDA） 和非負矩陣分解 （NMF） 等技術來完成。
采樣：這涉及從數據集中選擇數據點的子集。采樣通常用于減小數據集的大小，同時保留重要信息。可以使用隨機抽樣、分層抽樣和系統抽樣等技術來完成。
聚類：這涉及將相似的數據點分組到集群中。聚類通常用于通過將相似的數據點替換為具有代表性的質心來減小數據集的大小。可以使用 k-means、分層聚類和基于密度的聚類等技術來完成此操作。
壓縮：這涉及在保留重要信息的同時壓縮數據集。壓縮通常用于減小數據集的大小，以便進行存儲和傳輸。可以使用小波壓縮、JPEG 壓縮和 gif 壓縮等技術來完成。
如何使用數據預處理？
我們之前已經指出，這是數據預處理在機器學習和 AI 應用程序開發的早期階段很重要的原因之一。在 AI 環境中，應用數據預處理是為了優化用于清理、轉換和構建數據的方法，從而以更少的計算能力提高新模型的準確性。
一個出色的數據預處理步驟將有助于開發一組組件或工具，這些組件或工具可用于快速構建一組想法的原型，甚至可以運行實驗來改進業務流程或客戶滿意度。例如，預處理可以通過增強用于分類的客戶年齡范圍來增強推薦引擎的數據排列方式。
它還可以使開發和增強數據的過程更容易，以獲得更增強的 BI，這對業務有益。
展開 自動駕駛規控決策中的問題與挑戰
4.稀疏模型、壓縮感知、降維（PCA/VAE）：高效的數據管理技術有助于降低自動駕駛系統的計算和內存需求。例如，可以通過稀疏模型、壓縮感知、降維（PCA/VAE）等多種方法預處理或壓縮數據，以減少運行時所需的存儲和計算量。通過構建稀疏模型，可以減少模型參數的數量，從而降低計算和存儲需求。稀疏模型利用數據的稀疏性質，僅在關鍵參數上分配非零權重，以實現較低的計算復雜度和內存占用。壓縮感知是一種數據采樣技術，通過在少量樣本上恢復信號或圖像信息，以達到減少數據量的目的。這種方法可以有效地壓縮數據，降低自動駕駛系統的計算和存儲需求。降維技術則是通過將高維數據投影到低維空間，從而減少數據的維度和復雜性。主成分分析（PCA）和變分自編碼器（VAE）是兩種常用的降維方法，可以在保留數據中的關鍵信息的同時，降低其存儲和計算需求。
04.
利用多模態融合進行最優決策
在自動駕駛領域中，實現多模態融合以制定最優決策是一項巨大的挑戰。自動駕駛汽車必須具備根據來自各種傳感器和信息源的數據進行決策的能力，這些傳感器和信息源包括相機、激光雷達、雷達、GPS和地圖等。
展開 基于大數據模型的數字孿生建模方法
降維常用方法有以下兩種：
0
1
主成分分析法（PCA）：通過構建原始特征的線性組合，形成組合內部最小關聯的新組合，達到降低特征內部關聯，降低維數的目的；
0
2
線性判別分析法（LDA）：將帶上標簽的數據（點），通過投影的方法，投影到維度更低的空間中，使得投影后的點，會形成按類別區分，一簇一簇的情況，相同類別的點，將會在投影后的空間中更接近。其目的不僅僅是降維，還可以使得投影后的樣本盡可能按照原始類別分開。相比較PCA主要是從特征的協方差角度，去找到比較好的投影方式。LDA更多的是考慮了標注，即投影后不同類別之間數據點的距離更大，同一類別的數據點更緊湊。
5）人工智能技術
人工智能技術解決的是知識學習和決策問題，是大數據建模中最關鍵的核心技術。廣義來講，深度學習、遷移學習都屬于機器學習(ML)的大類。但是，目前往往從狹義的角度解釋機器學習，特指淺層學習器，而深度學習(DL)和遷移學習則屬于深層學習器。因此，人工智能技術主要包括淺層學習（即機器學習，含增強學習）、深層學習（包括深度學習）和遷移學習。
①機器學習：是賦予計算機學習能力，使之可以歸納知識、總結經驗、推理預測，并最終可以像人一樣從數據中積累“經驗”的技術。將機器學習算法應用于數字孿生建模中便實現了大數據建模。
展開 