isight算法RBF和EBF
徑向基函數近似是一種神經網絡,它采用徑向單元的隱藏層和線性單元的輸出層。RBF近似的特點是訓練速度合理,網絡結構合理緊湊。它們可用于近似各種非線性空間。
橢圓基函數類似于徑向基函數,但使用橢圓單位代替徑向單位。與所有輸入都被同等處理的RBF相比,EBF網絡使用單獨的權重分別處理每個輸入。
RBF網絡的特點是訓練速度合理,網絡結構合理緊湊。另一方面,EBF網絡需要更多的迭代來學習單個輸入權重,并且通常比RBF更準確。
RBF近似的初始化需要至少評估2n+1個設計點,其中n是輸入的數量。可以多次執行被近似的組件以收集所需的數據。或者,數據文件可以作為初始化源。
本節詳細介紹了Isight中使用的徑向基函數和橢圓基函數模型近似值。 ? 概述 ? 在 Isight 中的使用 ? 可變功率樣條基函數 ? 將徑向基函數推廣到橢圓基函數 ? 對輸入變量對輸出變量的影響進行分級
|
? 概述
徑向基函數 (RBF) 是一種采用的神經網絡 徑向單位的隱藏層和線性單位的輸出層。橢圓 基函數 (EBF) 類似于徑向基函數,但使用橢圓 單位代替徑向單位。與所有輸入 被同等處理,EBF 網絡使用單獨的 權重。
RBF 網絡的特點是訓練速度合理且合理緊湊的網絡。另一方面,EBF 網絡需要更多的迭代 來學習單個輸入權重,并且通常比 RBF 更準確。
Weissinger (1947) 是第一個使用數字勢流來計算翅膀周圍的流動。勢流方程是徑向基功能。Hardy (1971) 意識到相同的概念可以用于 將地球物理數據與地球物理現象擬合。掃帚頭和洛 (1988) 將這項技術重命名為“神經網絡”,隨后被使用 來近似所有類型的行為。
選擇 EBF 而不是 RBF 的一個優勢是 EBF 能夠對 輸入變量(按對輸出變量的影響順序排列為 在對輸入變量對輸出變量的影響進行排名中進行了介紹。
? 在 Isight 中的使用
Isight遵循 Kansa (1999) 描述的 Hardy (1972, 1990) 方法。
讓x1,…,xN∈Ω?RN是一組給定的節點。讓gi(x)≡g(‖x?xj‖)∈R,?j=1,…,N,可以是任意徑向基函數。這里‖x?xj‖是歐幾里得距離,由下式給出(x?xj)T(x?xj).給定插值y1,…,yN∈R在數據位置x1,…,xN∈Ω?RN,RBF插值
(1)
通過求解N+1線性方程
(2)
(3)
為N+1未知膨脹系數αj.
RBF 方法的主要創新者 Hardy (1972, 1990)補充說擴展的常數和constraints 擴展的和系數為零,如方程 1 和方程 2 所示,引入了符號

α=(α1,…,αN+1)T和
我們可以將系統(方程 2)改寫為矩陣形式。
(4)
那么插值膨脹系數由下式給出

您可以在節點處輕松找到插值的導數x1,例如

由于模型物理可以變化,因此需要不同類型的基函數來提供良好的擬合。響應面穿過所有給定的插值數據。
? 可變功率樣條基函數
Isight使用可變功率樣條基函數,該函數可以調整為近似值大量其他功能。
可變功率樣條徑向基函數由下式給出

哪里‖x?xj‖是Euclidian distance和c是0.2和3(即0.2<c<3)
對于值c=1.15,則是步長的良好近似值功能只需7個插值點即可實現。對于c=2,線性函數的良好近似值只需三個插值點即可實現,如下圖:

對于c=3的值,每個諧波周期約有七個點,可以很好地近似諧波函數。

c=3對于步驟函數示例,將生成一個通過7個數據點的近似值,但它更像單個正弦波,而不是階躍函數。顯然,有無數個解決方案將通過任何給定的數據點集。
在大多數文獻中,這個問題是通過將插值數據分為兩組來解決的。一組用于創建徑向基函數近似,另一組用于計算這些點的徑向基函數逼近與實際函數值之間的誤差。形狀函數被優化以最小化求和誤差。當有大量數據點可用于插值時,這是一種有效的方法;然而,Isight中的典型設計問題主要涉及非常稀疏的數據集,只使用一半的數據來創建實際的響應面似乎效率低下
Isight采用了一種不同的方法。Isight將良好擬合定義為減去一個點時曲線形狀不變的擬合。它優化了c的值,使N-1個數據點的誤差之和最小。
通過查看下面的直線近似圖(P1missing)可以說明這種方法,點P1使用點P2和P3近似;在下圖中(P2missing),點P2由兩個極值點P1和P3近似得到。對于c=2,如圖所示,“缺失點missing points”的誤差之和很低。


為c=0.2,則“missing points“的誤差和非常高。


由于形狀函數優化的迭代次數有限,因此可以通過將大問題分解為耦合的小問題來實現更高的精度。例如,五個輸入和兩個輸出的一個近似值和六個輸入和一個輸出的近似值;而不是十一個輸入和三個輸出的單一近似值。
? 將徑向基函數推廣到橢圓基函數
通過使用馬氏距離代替方程1和方程3中的歐幾里得距離,徑向基函數可以推廣為橢圓基函數(Mak和Li,2000)。
馬氏距離定義為
其中S是一個對稱正定矩陣,也稱為協方差矩陣。當S被視為恒等矩陣時,可以獲得歐幾里得距離。協方差矩陣的選擇決定了近似的質量。
為了選擇一個好的協方差矩陣,Isight首先假設樣本數據的協方差是設計數據的良好近似值;即。

其中μ是樣本數據的質心。形狀函數值的優化方式與徑向基函數(RBF)相同。
Isight隨后使用對角矩陣近似實際方差(
,其中Si是一個正數,n是近似中的輸入變量數量)。Isight使用模擬退火算法優化Si的值,以最小化N?1個數據點的誤差總和。
? 對輸入變量對輸出變量的影響進行排名
選擇EBF而不是RBF的主要優點之一是EBF能夠按照對輸出變量的影響順序對輸入變量進行排序。
為了說明這一點,考慮以下示例,其中輸出
z僅取決于其中一個輸入
x變量的值
y是隨機選擇的。
x |
y(random) |
z |
–1 |
0.058834 |
1 |
–0.8 |
0.788471 |
0.894427 |
–0.6 |
0.032282 |
0.774587 |
–.4 |
0.916549 |
0.632456 |
–0.2 |
0.886644 |
0.447214 |
0 |
0.486239 |
0 |
0.2 |
0.746047 |
0.447214 |
0.4 |
0.804201 |
0.632456 |
0.6 |
0.348267 |
0.774597 |
0.8 |
0.441739 |
0.894427 |
1 |
0.733215 |
1 |
在下圖中,RBF 和 EBF 近似值的等值線圖 所示:

從等值線圖中可以清楚地看出,EBF產生了比RBF更好的近似值。從變換矩陣中(參見將徑向基函數推廣到橢圓基函數)可以明顯看出x比y在預測中z在等值線圖顯示的EBF模型中,距離計算公式為

工程師必備
- 項目客服
- 培訓客服
- 平臺客服
TOP




















