特征工程
關注創建者：天洑軟件 創建時間：2022-01-10
特征工程的視頻教程
特征工程的實例教程
Python 中的特征工程自動化
如何自動化地創建機器學習特征
原文地址：Automated Feature Engineering in Python
原文作者：William Koehrsen
譯文出自：掘金翻譯計劃
本文永久鏈接：github.com/xitu/gold-m…
譯者：mingxing47
校對者：yqian1991 Park-ma
機器學習正在利用諸如 H20、TPOT 和 auto-sklearn 等工具越來越多地從手工設計模型向自動化優化管道遷移。以上這些類庫，連同如 random search 等方法一起，目的是在不需要人工干預的情況下找到適合于數據集的最佳模型，以此來簡化器學習的模型選擇和調優部分。然而，特征工程，作為機器學習管道中一個可以說是更有價值的方面，幾乎全部是手工活。
特征工程，也稱為特征創建，是從已有數據中創建出新特征并且用于訓練機器學習模型的過程。這個步驟可能要比實際使用的模型更加重要，因為機器學習算法僅僅從我們提供給他的數據中進行學習，創建出與任務相關的特征是非常關鍵的（可以參照這篇文章 "A Few Useful Things to Know about Machine Learning" —— 《了解機器學習的一些有用的事》，譯者注）。
通常來說，特征工程是一個漫長的手工過程，依賴于某個特定領域的知識、直覺、以及對數據的操作。這個過程可能會非常乏味并且最終獲得的特性會被人類的主觀性和花在上面的時間所限制。自動特征工程的目標是通過從數據集中創建許多候選特征來幫助數據科學家減輕工作負擔，從這些創建了候選特征的數據集中，數據科學家可以選擇最佳的特征并且用來訓練。
展開 說到特征工程，就不得不提有這么一句話在業界廣泛流傳：數據和特征決定了機器學習的上限，而模型和算法只是逼近這個上限而已，從而可見，特征工程的重要程度。
一.特征工程的解釋和意義
那么什么是特征工程？首先先看下特征，
特征： 是指數據中抽取出來的對結果預測有用的信息，也就是數據的相關屬性。
特征工程：使用專業背景知識和技巧處理數據，使得 特征能在機器學習算法上發揮更好的作用的過程
意義：
1.更好的特征意味著更強的靈活度
2.更好的特征意味著只需用簡單模型，就可以訓練出很好的效果
3.更好的特征意味著可以訓練出更好的結果
二.特征工程具體流程
整個流程可以用下面這種圖來概括
)
1.特征使用方案
在確定好我們的目標后，我們首先要做的就是根據業務場景，分析要實現我們的目標需要哪些數據。也就是基于業務理解，盡可能找出對因變量有影響的所有自變量。 比如：我現在要預測用戶對商品的下單情況，或者我要給 用戶做商品推薦，那我需要采集什么信息呢？ 可以分為三個方向去采集，
店家：店家的類別，店家評分，店家所用快遞等
商品：商品的類別，評分，購買人數，顏色等
用戶：歷史購買信息，消費能力，購物車轉換比，商品停留時間，用戶年齡，所在地址等
然后，我們針對我們所需要的數據，需要進行可用性評估
獲取難度，數據我們能夠采集到嗎？ 比如對于用戶年齡來說，就比較難于獲取，并不是每個人都在注冊時都會去填寫年齡
覆蓋率，有些數據并不是每個對象都有的，比如對于歷史購買信息，對于新用戶來說，是沒有的
準確率， 像用戶年齡，店家評分，也都會有準確率的問題，因為店家可能刷單，用戶也可能不寫真實年齡
線上實時計算的時候獲取是否快捷？
展開 二、SNN-KWS/ASR特征工程
將SNN應用于語音喚醒（Keyword Spotting, KWS）[1]甚或語音識別（Automatic Speech Recognition, ASR）[2]，首要問題即是如何將語音，或更廣一點，音頻轉換為神經脈沖序列（后文將這種轉換簡稱為Audio2Spike），它隸屬SNN在音頻領域的特征工程，決定了SNN-KWS/ASR的性能上限。
（1）物理模型
文獻[1]中SNN-KWS使用的Audio2Spike轉換方法見文獻[3]，后者還附帶了Github代碼（以Python單元測試框架Unittest寫就）。該轉換方法對音頻至脈沖的生物過程建立物理模型，考慮了鼓管、前庭管、蝸孔、卵圓窗、圓窗的流體動力學基底模型，將音頻（聲壓）數據轉化為基底膜在不同位置的運動速度數據，再由考慮了離子傳輸機制的毛細胞模型將運動速度數據轉換為神經脈沖，最后由泄露積分發射（Leaky Integrate-and-Fire, LIF）神經元模型完成鎖相。
注1：基底膜在耳蝸底窄而剛（對高頻響應好），在耳蝸頂寬而柔（對低頻響應好），此特性決定耳蝸實際上是一個分頻器，耳蝸各處毛細胞對不同頻率響應能力不同，連接毛細胞的神經纖維形成螺旋神經節后有序地將音調拓撲映像（Tonotopic map）轉繼到腦干中的耳蝸核。
注2：鎖相（Phase locking）是指毛細胞發射的神經脈沖間隔，是該處最佳響應頻率周期的整數倍，或說，毛細胞發射神經脈沖的時刻，對應聲波某個特定相位。由于動作點位啟動后存在不應期，持續約0.1~1ms，所以鎖相現象一般存在于1kHz以下的聲波（否則上一個脈沖還沒結束，下一個還未能發射）。
展開 Creo 學習從入門到成精-4/10(工程特征建模)
代表的算法大致包括： 深度學習，包括大部分常見的模型如cnn/rnn/dbn，也包括遷移學習等 某些無監督學習算法，如主成分分析(PCA)通過對數據轉化而使得輸入數據更有意義 某些樹模型可以自動的學習到數據中的特征并同時作出預測 特征工程：模型依賴人為處理的數據特征，而模型的主要任務是預測，比如簡單的線性回歸期待良好的輸入數據(如離散化后的數據) 需要注意的是，這種歸類方法是不嚴謹的，僅為了直觀目的而已。并沒有一種劃分說a算法是表示學習，而b算法不是，只是為了一種便于理解的劃分。
因此，大部分的模型都處于純粹的表示學習和純粹的依賴人工特征之間，程度不同而已，很少有絕對的自動學習模型。
那么好奇的讀者會問：
1. 是不是自動的特征抽取(表示學習)總是更好？
答案是不一定的：
在數據量不夠的時候，自動特征抽取的方法往往不如人為的特征工程。
當使用者對于數據和問題有深刻的理解時，人工的特征工程往往效果更好。
一個極端的例子是，在kaggle比賽中的特征工程總能帶來一些提升，因此人工的特征抽取和處理依然有用武之地。
同時也值得注意，表示學習的另一好處是高度抽象化的特征往往可以被應用于相關的領域上，這也是我們常說的遷移學習(transfer learning)的思路。比如有了大量貓的圖片以后，不僅可以用于預測一個物體是不是貓，也可以用于將抽取到的特征再運用于其他類似的領域從而節省數據開銷。
2. 特征學習(表示學習)，特征工程，特征選擇，維度壓縮之間有什么關系？
從某個角度來看，表示學習有“嵌入式的特征選擇”(embedded feature selection)的特性，其表示學習嵌入到了模型中。
展開 
特征工程的相關專題、標簽、搜索
特征工程的最新內容
- 核心學習內容：
- 機器學習和Python編程基礎
- 數據預處理和特征工程
- 有監督學習：回歸和分類模型
- 無監督學習：聚類和降維
- 模型評估、優化和性能指標
- 使用Python構建真實世界的AI項目
- 理解機器學習從頭到尾的完整工作流程
- 推薦理由：
- 結合真實世界案例和項目的實踐式學習
執行流程支持與平臺內置功能無縫銜接：上游可通過數據存儲節點輸出 CSV 等格式的中間數據，外部程序調用節點讀取數據后執行自定義清洗、特征工程等操作，下游可通過數據讀取節點將處理結果回讀至平臺。
六、數據讀取節點改造
優化數據讀取節點，在保留原有從項目中獲取文件能力的基礎上，新增本地磁盤文件直讀功能，可直接選擇磁盤路徑讀取文件，適配更多數據接入場景。
6特征工程與 DOE 變量擴展
6.1 網格特征的快速復制與替換
在建模過程中，大家經常需要復用網格特征，比如孔、臺階、筋條。新版界面支持特征的快速陣列和移動 —— 選中一個孔特征，能直接陣列生成多份副本，或者移動到新位置，原位置會自動抹平，而且HyperMesh 會自動完成網格融合，不用手動調整。
6.特征工程與 DOE 變量擴展
6.1 網格特征的快速復制與替換
在建模過程中，大家經常需要復用網格特征，比如孔、臺階、筋條。新版界面支持特征的快速陣列和移動 —— 選中一個孔特征，能直接陣列生成多份副本，或者移動到新位置，原位置會自動抹平，而且HyperMesh 會自動完成網格融合，不用手動調整。
帶肋鋼筋繪制教學10個月前
d6e8776257624f0fa1b5b822d25df271.png">
</figure>
</figure><p><br></p><p>圖4完整帶肋鋼筋</p><p>對模型進行檢查，確認各尺寸符合要求后，使用 “保存” 命令，將模型以.sldprt 格式保存</p><h2>四、 結論與應用建議</h2><p>（一）分析結論</p><p>Solidworks 軟件能夠準確繪制出帶肋鋼筋的幾何模型，所得到的模型尺寸和構造特征符合工程實際和相關規范要求
wx_fmt=png"></p><p><br></p><p><strong>2）自動特征生成+工程</strong></p><ul><li>電池容量變化、平均充電時間、最大/平均溫度等變量的自動提取</li><li>一鍵標準化、空值處理、降維</li></ul><p><br></p><p class="ql-align-center"><img src="https://mmecoa.qpic.cn
■ 工業Excel Plus：除數據編輯、公式錄入和格式轉換等基礎操作外，軟件支持更復雜的統計與數學操作，幫助用戶高效完成特征工程和數據分析。
■ 人工智能和機器學習：軟件提供異常點識別、聚類、降維、敏感性分析、回歸、時間序列等全環節的機器學習算子，支持數據模型與機理模型的多源融合。
02 設計內容及開發框架
面板壩設計內容主要包括建筑物布置、壩頂設計、壩體設計、趾板與面板設計、基礎處理、接縫止水等，設計成果除三維模型幾何數據外，還包括相關特征參數與工程量屬性信息。
設計成果除三維模型幾何數據外，還包括相關特征參數與工程量屬性信息。
為全面利用三維數字化技術革新混凝土面板堆石壩設計手段，提升面板壩設計生產效率及成果質量，中國電建西北院在達索系統3DEXPERIENCE平臺進行三維正向抽水蓄能設計。
上式中，工程造價特征向量、某時間節點下工程所用材料在市場中的成本分別使用ω和q表示，造價在工程建設過程中觀測變化值信息分別使用η、ξ和ε表示。
