最快的優化算法
關注創建者：墨光科技 創建時間：2020-03-16
最快的優化算法的視頻教程
最快的優化算法的實例教程
超多gif圖片預警）
（本文旨在優化一維函數，實際上模型參數有數百萬維以上，差距很大，因此本文最好作為輔助法的理解，而非對算法優劣的判斷依據。）
8.13更新算法6：二階算法牛頓法，算法7：牛頓法+正則化
在深度學習中，有很多種優化算法，這些算法需要在極高維度（通常參數有數百萬個以上）也即數百萬維的空間進行梯度下降，從最開始的初始點開始，尋找最優化的參數，通常這一過程可能會遇到多種的情況，諸如：
1.提前遇到局部最小值從而卡住，再也找不到全局最小值了
2.遇到極為平坦的地方：“平原”，在這里梯度極小，經過多次迭代也無法離開。同理，鞍點也是一樣的，在鞍點處，各方向的梯度極小，盡管沿著某一個方向稍微走一下就能離開。
3.“懸崖”，某個方向上參數的梯度可能突然變得奇大無比，在這個地方，梯度可能會造成難以預估的后果，可能讓已經收斂的參數突然跑到極遠地方去。
為了可視化&更好的理解這些優化算法，我首先拼出了一個很變態的一維函數：
其導數具有很簡單的形式
具體長得像：
具有懸崖和大量的局部最小值，足以模擬較為復雜的優化情況了。
算法1：純粹的梯度下降法
該算法很簡單，表述如下：
首先給出學習率lr，初始x
while True：
x = x - lr*df/dx
根據學習率的不同，可以看到不同的效果。學習率過小，卡在局部極小值，學習率過大，壓根不收斂。
展開 最快的優化算法
SYNOPSYS?光學設計軟件
概述
? BEAM高斯光束追跡
? RAY真實光線追跡
? 高斯光束的強度分布
? MDI高斯光束的衍射
設置工作目錄
? 選擇Dbook工作目錄
參考Donald Dilworth《Lens Design Automatic and quasi-autonomous computational methods and techniques》第33章
二維圖
? FETCH C33L1
BEAM高斯光束追跡
? 在Command Window中輸入BEAM。
? 由于衍射作用，表面 2 上的光束半徑大于表面 1 上的光束半徑。
RAY真實光線追跡
? RAY P 0 0 .5 SURF ；
? 真實光線追跡在入瞳點(0, .5)，SURF指獲取光線坐標和角度的逐面輸出；
? ZZ是光線路徑投影到X-Z平面上的角度的正切，在表面折射之后；
? HH是光線路徑投影到Y-Z平面上的角度的正切，在表面折射之后；
? UNI是在表面折射之前，與表面法線的光線角度，以度為單位，始終為正。
高斯光束的強度分布
? STEPS = 100 ；
? PLOT TRANS FOR YEN = -1 TO 1 ；
? 這顯示了一個漂亮的高斯形狀。
展開 最快的優化算法
SYNOPSYS?光學設計軟件
概述
? MSW光譜向導
? 波長-離焦曲線
? FST選擇玻璃組合
? BFO彎曲反轉優化
設置工作目錄
? 選擇Dbook工作目錄
參考Donald Dilworth《Lens Design Automatic and quasi-autonomous computational methods and techniques》第34章
二維圖
? FETCH C34L1
MSW光譜向導
? MSW ；
? 按圖中 箭頭處設置 ；
? 在0.40.9μm 范圍內選擇 10個 波長。
確定10個波長的起始透鏡
優化
? 點擊 New MACro Window 按鈕 ：
LOG STO 9
PANT
VLIST RAD 1 2 3 4 5
VLIST TH ALL
VLIST GLM ALL
END
AANT
ACM .5 1 1
LUL 5 1 1 A TOTL
END
SNAP
SYNOPSYS 50
? 將光標放在 AANT 部分的LUL 和END命令之間的空白行，然 后單擊 按鈕。選擇Merit function 6，點擊Back to MACro editor。
? 將AEC改為AEC .1 .1 1 。
? 點擊Run按鈕 。
展開 最快的優化算法
SYNOPSYS?光學設計軟件
概述
假如你的鏡頭設計的好，但是當你測試它的時候，會發現一些明亮的光源進入這個視場，你會看到一個糟糕的鬼像。這不是一個好的事情，而且這種情況經常發生。為了避免這種意外發生，SYNOPSYS 提供了一套強大的工具，讓您可以在設計過程的早期發現問題，并在您完成前糾正它們。
設置工作目錄
? 選擇Dbook工作目錄
參考Donald Dilworth《Lens Design Automatic and quasi-autonomous computational methods and techniques》第36章
打開鏡頭
打開名1.RLE為鏡頭，其二維圖如下：
鬼像分析對話框設置
打開MGH 對話框，設置對話框，點擊左上角GHOST 按鈕
鬼像數據分析
通過檢查數據表，可以找出問題鬼像：
鬼像效果
我們知道鬼像從哪里來了。讓我們看看效果。為此，打開名為GHPLOT.MAC 的MACro。
鬼像路徑
模式 4 中 GHPLOT 繪制的單個鬼像的路徑.
查看鬼像在像面高度
MGH 對話框，如下設置，讓我們在0.5視場追跡真實鬼影的路徑。
展開 最快的優化算法
SYNOPSYS?光學設計軟件
概述
創建一個廣角前端，使 DSEARCH 可以在很大的視場內 工作 使用 DSEARCH 的新功能設計超廣角鏡頭：如果您在 DSEARCH 文件的 SYSTEM 部分輸入廣角物面規格，很可能找不到備選方案，因為沒有光線可以通過如此大的視場角。DSEARCH 可以糾正 某些光線追跡失敗，但通常無法優化此類系統。所以你會怎么做？
在這種情況下有一個極其簡單的技巧：粗略地畫出一個簡單的前端部分，將光束轉換成一個較小的角度，然后從那里開始，用 USE CURRENT 聲明該部分。
目標
設計一個半視場角為 92.4 度的鏡頭，工作在 F / 2.0。使用塑料材料，可以是非球面。
設置工作目錄
選擇Dbook工作目錄
參考Donald Dilworth《Lens Design Automatic and quasi-autonomous computational methods and techniques》第45章
創建前端部分
輸入一個帶有兩片透鏡的簡單RLE 文件，并指定物面類型 OBD，用于廣角，在第 5 個表面上聲明一個近軸光闌。以一個中等角度開始，比如說 50 度，然后，使用工作表滑 塊，給元件一些負光焦度并將它們向右彎曲。當看起來不錯時，增加 OBD 視場角，以 這種方式繼續，直到達到所需的 92.4 度角。
展開 
最快的優化算法的相關專題、標簽、搜索
最快的優化算法的最新內容
PSD算法
PSD III算法的優化速度是最快的 如圖中A曲線所示
Synopsys有世界上最 快的優化算法
區域優化算法
區域優化算法中，SYNOPSYS 以標準模擬退火算法開始，但將其與 PSD 結合使其比其他程序中的模擬退火更有效。
Masaki Isshiki 的全局優化與逃逸函數算法也已實現，但目前沒有足夠的經驗與其他程序的實現進行比較。
PSD算法
PSD III算法的優化速度是最快的 如圖中A曲線所示
Synopsys有世界上最 快的優化算法
區域優化算法
區域優化算法中，SYNOPSYS 以標準模擬退火算法開始，但將其與 PSD 結合使其比其他程序中的模擬退火更有效。
Masaki Isshiki 的全局優化與逃逸函數算法也已實現，但目前沒有足夠的經驗與其他程序的實現進行比較。
最快的優化算法
SYNOPSYS?光學設計軟件
概述
? BEAM高斯光束追跡
? RAY真實光線追跡
? 高斯光束的強度分布
? MDI高斯光束的衍射
設置工作目錄
? 選擇
最快的優化算法
SYNOPSYS?光學設計軟件
概述
? MSW光譜向導
? 波長-離焦曲線
? FST選擇玻璃組合
? BFO彎曲反轉優化
設置工作目錄
? 選擇Dbook工作目錄
最快的優化算法
SYNOPSYS?光學設計軟件
概述
我們將進行一項高級的鏡頭設計任務，該任務將利用您在 前幾章中學到的許多強大工具。
鏡頭要求在0.38-0.9μm 的波長范圍內工作，鏡頭F/#為0.714。 其他要求： 1.
最快的優化算法
SYNOPSYS?光學設計軟件
概述
假如你的鏡頭設計的好，但是當你測試它的時候，會發現一些明亮的光源進入這個視場，你會看到一個糟糕的鬼像。這不是一個好的事情，而且這種情況經常發生。
最快的優化算法
SYNOPSYS?光學設計軟件
概述
設計一個衍射限制的相機：
典型的Petzval 相機設計，是一種由兩個分離的正群組透鏡組成的 照相機鏡頭（如下圖），原始設計要求要包含 8 片透鏡，但是因 為我們比較喜歡挑戰，所以我們將會試圖設計一個只含有
最快的優化算法
SYNOPSYS?光學設計軟件
概述
隨著更好的加工成形和測量光學表面的方法變得可用，光學制造變 得越來越復雜。
最快的優化算法
SYNOPSYS?光學設計軟件
ZSEARCH
ZSEARCH程序將搜索鏡頭空間，以找到一個有潛力的初始結構。指定光學系統規 格和所需的變焦結構。
最快的優化算法
SYNOPSYS?光學設計軟件
概述
創建一個廣角前端，使 DSEARCH 可以在很大的視場內 工作 使用 DSEARCH 的新功能設計超廣角鏡頭：如果您在 DSEARCH 文件的 SYSTEM 部分輸入廣角物面規格
