
發(fā)布
注冊
/
登錄人工神經(jīng)網(wǎng)絡(luò)的案例
人工神經(jīng)網(wǎng)絡(luò)及其應用
它有神經(jīng)元或神經(jīng)細胞,它們是大腦和神經(jīng)系統(tǒng)的主要單位。這些神經(jīng)元接收來自外部世界的感覺輸入,然后對其進行處理,然后提供輸出,這些輸出可能充當下一個神經(jīng)元的輸入。
這些神經(jīng)元中的每一個都在突觸處以復雜的排列方式與其他神經(jīng)元相連。現(xiàn)在,您是否想知道這與 人工神經(jīng)網(wǎng)絡(luò)有什么關(guān)系?讓我們詳細看看他們是什么以及他們?nèi)绾螌W習信息。
人工神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)包含稱為 units 的人工神經(jīng)元。這些單元被安排在一系列層中,這些層共同構(gòu)成了系統(tǒng)中的整個人工神經(jīng)網(wǎng)絡(luò)。一個層只能有十幾個單元或數(shù)百萬個單元,因為這取決于復雜神經(jīng)網(wǎng)絡(luò)如何學習數(shù)據(jù)集中的隱藏模式。通常,人工神經(jīng)網(wǎng)絡(luò)有一個輸入層、一個輸出層以及一個隱藏層。輸入層接收來自外部世界的數(shù)據(jù),神經(jīng)網(wǎng)絡(luò)需要分析或了解這些數(shù)據(jù)。然后,此數(shù)據(jù)通過一個或多個隱藏層,這些隱藏層將輸入轉(zhuǎn)換為對輸出層有價值的數(shù)據(jù)。最后,輸出層以人工神經(jīng)網(wǎng)絡(luò)對提供的輸入數(shù)據(jù)的響應形式提供輸出。
在大多數(shù)神經(jīng)網(wǎng)絡(luò)中,單元從一層到另一層是相互連接的。這些連接中的每一個都有權(quán)重,用于確定一個單元對另一個單元的影響。隨著數(shù)據(jù)從一個單元傳輸?shù)搅硪粋€單元,神經(jīng)網(wǎng)絡(luò)會越來越多地了解數(shù)據(jù),最終導致輸出層的輸出。
?
編輯
神經(jīng)網(wǎng)絡(luò)架構(gòu)
人類神經(jīng)元的結(jié)構(gòu)和作是人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)。它也被稱為神經(jīng)網(wǎng)絡(luò)或神經(jīng)網(wǎng)絡(luò)。人工神經(jīng)網(wǎng)絡(luò)的輸入層是第一層,它接收來自外部源的輸入并將其釋放到隱藏層,即第二層。在隱藏層中,每個神經(jīng)元接收來自上一層神經(jīng)元的輸入,計算加權(quán)和,并將其發(fā)送到下一層的神經(jīng)元。
展開 人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,簡稱ANNs)-1
(1)人工神經(jīng)網(wǎng)絡(luò)的魯棒性和應用:
人工神經(jīng)網(wǎng)絡(luò)(ANN)對訓練數(shù)據(jù)中的錯誤具有魯棒性,并且已經(jīng)成功應用于學習各種函數(shù),包括解釋視覺場景、語音識別和學習機器人控制策略等問題。
(2)生物神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)的靈感來源:
人工神經(jīng)網(wǎng)絡(luò)的研究部分受到大腦中復雜交織的神經(jīng)元網(wǎng)絡(luò)的啟發(fā)。人腦包含大約10^11到10^12個神經(jīng)元,每個神經(jīng)元平均連接到10^4到10^5個其他神經(jīng)元。因此,人腦平均需要大約10^-1秒的時間來做出復雜的決策。
(3)人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu):
人工神經(jīng)網(wǎng)絡(luò)通常由大量簡單單元組成,這些單元密集地相互連接。每個單元接收多個實值輸入并產(chǎn)生單個實值輸出。盡管如此,人工神經(jīng)網(wǎng)絡(luò)并不完全模仿生物神經(jīng)系統(tǒng)的復雜性。
(4)生物神經(jīng)元與人工神經(jīng)元的差異:
生物神經(jīng)元的主要組成部分包括軸突、樹突和突觸。
人工神經(jīng)元則通過權(quán)重來模擬這些生物組成部分的功能。
生物神經(jīng)元
人工神經(jīng)元
主要成分:軸突、樹突、突觸
主要成分:軸突、樹突、突觸
來自其他神經(jīng)元的信息以電脈沖的形式進入樹突,通過稱為突觸的連接點接收。信息從樹突流向細胞進行處理。輸出信號(脈沖的序列)隨后沿著軸突傳送到其他神經(jīng)元的突觸。
神經(jīng)元的排列和連接組成網(wǎng)絡(luò),共有三層。第一層稱為輸入層,是唯一暴露于外部信號的層。輸入層將信號傳遞給下一層的神經(jīng)元,該層稱為隱藏層。隱藏層從接收的信號中提取相關(guān)特征或模式。這些被認為重要的特征或模式隨后被轉(zhuǎn)發(fā)到輸出層,輸出層是網(wǎng)絡(luò)的最后一層。
突觸能夠增強或減弱連接的強度。這是信息存儲的地方。
人工信號可以通過權(quán)重進行改變,類似于突觸中發(fā)生的物理變化。
展開 人工神經(jīng)網(wǎng)絡(luò)的模型及其應用
人工神經(jīng)網(wǎng)絡(luò)的模型及其應用
一共有2個分卷壓縮附件
人工神經(jīng)網(wǎng)絡(luò)的模型及其應用.part2.rar
人工神經(jīng)網(wǎng)絡(luò)的模型及其應用.part1.rar
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,簡稱ANNs)-2、3
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,簡稱ANNs)-2
人工神經(jīng)網(wǎng)絡(luò)的特點包括:
? 它是一個數(shù)學模型,通過神經(jīng)方式實現(xiàn)。
? 它包含大量的相互連接的處理元素,稱為神經(jīng)元,用于執(zhí)行所有操作。
? 存儲在神經(jīng)元中的信息基本上是神經(jīng)元之間的加權(quán)連接。
? 輸入信號通過連接和連接權(quán)重到達處理元素。
? 它有能力通過適當分配和調(diào)整權(quán)重,從給定數(shù)據(jù)中學習、回憶和泛化。
? 神經(jīng)元的集體行為描述了其計算能力,沒有單個神經(jīng)元攜帶特定信息。
簡單神經(jīng)元的工作原理如下:
假設(shè)有兩個神經(jīng)元X和Y,它們正在向另一個神經(jīng)元Z傳遞信號。那么,X和Y是傳遞信號的輸入神經(jīng)元,而Z是接收信號的輸出神經(jīng)元。輸入神經(jīng)元通過連接鏈接(A和B)連接到輸出神經(jīng)元,如圖中所示:
圖 5一種簡單的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
對于上述神經(jīng)元架構(gòu),需要以以下方式計算凈輸入:
I = xA + yB
其中x和y分別是輸入神經(jīng)元X和Y的激活值。通過將激活函數(shù)應用于凈輸入,可以獲得輸出神經(jīng)元Z的輸出z。
O = f(I), Output = Function ( net input calculated )
輸出 = 函數(shù)(計算的凈輸入)
應用于凈輸入的函數(shù)稱為激活函數(shù),有多種激活函數(shù)可能用于此。
在神經(jīng)網(wǎng)絡(luò)中,有一個函數(shù)需要被應用到每個神經(jīng)元的網(wǎng)輸入上,這個函數(shù)被稱為激活函數(shù)。對于這個目的,有多種不同的激活函數(shù)可以選擇使用。這些激活函數(shù)(可以影響神經(jīng)元的輸出,從而影響整個神經(jīng)網(wǎng)絡(luò)的行為和性能。常見的激活函數(shù)包括Sigmoid、Tanh、ReLU等。
展開 
人工神經(jīng)網(wǎng)絡(luò)(ANN)(網(wǎng)絡(luò)架構(gòu))-4 ¥2
人工神經(jīng)網(wǎng)絡(luò)(ANN)(網(wǎng)絡(luò)架構(gòu))-4
人工神經(jīng)網(wǎng)絡(luò)(ANN):這是一種受人腦啟發(fā)的信息處理范式。ANN通過示例學習,就像人類一樣。通過學習過程,ANN可以被配置用于特定應用,如模式識別或數(shù)據(jù)分類。學習過程主要涉及調(diào)整神經(jīng)元之間的突觸連接。
ANN的類型:
ANN有多種架構(gòu),每種架構(gòu)都有其優(yōu)勢和劣勢。常見的架構(gòu)包括:
o 前饋神經(jīng)網(wǎng)絡(luò)(Feedforward Neural Networks):這是最簡單的ANN架構(gòu),信息從輸入層單向流動到輸出層。各層是全連接的,即一層中的每個神經(jīng)元都與下一層的所有神經(jīng)元相連。
o 循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks,簡稱RNNs):這些網(wǎng)絡(luò)具有“記憶”組件,信息可以在網(wǎng)絡(luò)中循環(huán)流動。這使得網(wǎng)絡(luò)能夠處理數(shù)據(jù)序列,如時間序列或語音。
o 卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,簡稱CNNs):這些網(wǎng)絡(luò)旨在處理具有網(wǎng)格拓撲結(jié)構(gòu)的數(shù)據(jù),如圖像。層由卷積層組成,它們學習檢測數(shù)據(jù)中的特定特征,以及池化層,它們減少數(shù)據(jù)的空間維度。
o 自編碼器(Autoencoders):這些神經(jīng)網(wǎng)絡(luò)用于無監(jiān)督學習。它們由編碼器組成,將輸入數(shù)據(jù)映射到低維表示,以及解碼器,將表示映射回原始數(shù)據(jù)。
o 生成對抗網(wǎng)絡(luò)(Generative Adversarial Networks,簡稱GANs):這些神經(jīng)網(wǎng)絡(luò)用于生成建模。它們由兩部分組成:一個生成器,學習生成新的數(shù)據(jù)樣本,以及一個鑒別器,學習區(qū)分真實和生成的數(shù)據(jù)。
ANN模型的三個實體:
o 互連(Interconnections):互連定義了ANN中處理元素(神經(jīng)元)如何相互連接。這些處理元素的排列和互連的幾何形狀在ANN中非常重要。
展開 人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,簡稱ANNs)-Python中實現(xiàn)人工神經(jīng)網(wǎng)絡(luò)訓練過程 ¥5
<p class="ql-align-center"><br></p><p>人工神經(jīng)網(wǎng)絡(luò)(ANN)是一種受大腦啟發(fā)的信息處理模式。就像人類一樣,ANN通過示例來學習。通過學習過程,ANN被配置用于特定應用,例如模式識別或數(shù)據(jù)分類。學習過程主要涉及調(diào)整神經(jīng)元之間存在的突觸連接。</p><p><img src="https://img.jishulink.com/msimage/202410/ebd1b7ae2d7209c566a82da5be29f702.png"></p><p>大腦由數(shù)千億個稱為神經(jīng)元的細胞組成。這些神經(jīng)元通過突觸連接在一起,突觸只不過是一個神經(jīng)元可以向另一個神經(jīng)元發(fā)送沖動的連接。當一個神經(jīng)元向另一個神經(jīng)元發(fā)送興奮性信號時,該信號將被添加到該神經(jīng)元的所有其他輸入中。如果它超過給定的閾值,那么它將導致目標神經(jīng)元向前發(fā)射動作信號——這就是思考過程內(nèi)部的工作方式。</p><p>在計算機科學中,我們通過使用矩陣在計算機上創(chuàng)建 “網(wǎng)絡(luò)” 來模擬這個過程。這些網(wǎng)絡(luò)可以理解為神經(jīng)元的抽象,而沒有考慮所有生物復雜性。為簡單起見,我們只對一個簡單的 NN 進行建模,其中兩層能夠解決線性分類問題。
展開 什么是 Perceptron 最簡單的人工神經(jīng)網(wǎng)絡(luò) ¥3
Perceptron 是最簡單的人工神經(jīng)網(wǎng)絡(luò)架構(gòu)之一,由 Frank Rosenblatt 于 1957 年提出。它主要用于二進制分類。
當時,統(tǒng)計機器學習和常規(guī)編程等傳統(tǒng)方法通常用于預測。盡管 Perceptron 模型是最簡單的人工神經(jīng)網(wǎng)絡(luò)形式之一,但事實證明,該模型在解決特定分類問題方面非常有效,為 AI 和機器學習的進步奠定了基礎(chǔ)。
本文旨在提供感知器模型的基礎(chǔ)知識、其架構(gòu)、工作原理和應用,涵蓋使用 PyTorch 的理論和實際實現(xiàn)。
目錄
? 什么是感知器?
? Perceptron 的組件
? Perceptron 是如何工作的?
? 構(gòu)建和訓練單層感知器模型
? 將 Perceptron 與 PyTorch 結(jié)合使用進行二進制分類
? Perceptron 的限制
1 什么是感知器?
感知器是一種 執(zhí)行二進制分類的神經(jīng)網(wǎng)絡(luò),它將輸入特征映射到輸出決策,通常將數(shù)據(jù)分為兩類之一,例如 0 或 1。
Perceptron 由單層輸入節(jié)點組成,這些節(jié)點完全連接到一層輸出節(jié)點。它特別擅長學習線性可分模式。它利用了一種稱為閾值邏輯單元 (TLU) 的人工神經(jīng)元變體,該神經(jīng)元由 McCulloch 和 Walter Pitts 在 1940 年代首次引入。這個基礎(chǔ)模型在開發(fā)更高級的神經(jīng)網(wǎng)絡(luò)和機器學習算法方面發(fā)揮了至關(guān)重要的作用。
2 感知器的類型
1. 單層感知器是一種僅限于學習線性可分離模式的感知器。它對于數(shù)據(jù)可以通過直線劃分為不同類別的任務非常有效。雖然它的簡單性很強大,但它難以解決更復雜的問題,其中輸入和輸出之間的關(guān)系是非線性的。
2. 多層感知器具有增強的處理能力,因為它們由兩層或多層組成,擅長處理數(shù)據(jù)中更復雜的模式和關(guān)系。
展開 土木界首篇人工智能論文出爐:用卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)結(jié)構(gòu)損傷視覺識別
Cha老師用上了卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,簡稱CNNs)——他在文中引用多篇LeCun的文章,LeCun正是Facebook人工智能實驗室的負責人,還是Google創(chuàng)始人Page的老師。Google、微軟、Facebook、Twitter、百度等世界“AI巨頭”們目前爭相投入重金研究的課題,正是這個CNNs。Google用CNNs開發(fā)基于安卓系統(tǒng)的語音識別系統(tǒng),百度用CNNs開發(fā)視覺搜索引擎……
微軟的Leon Bottou說:“沒有人比LeCun更能推動卷積神經(jīng)網(wǎng)絡(luò)發(fā)展了”;深度學習運動核心人物Geoffrey Hinton說:“是LeCun高舉著火炬,沖過了最黑暗的時代”——在多年前,神經(jīng)網(wǎng)絡(luò)這個工具并不好用,經(jīng)常出錯,直到計算機科學家LeCun對算法有了實質(zhì)性的推進。如今我們有足夠的理由相信神經(jīng)網(wǎng)絡(luò)這個科技工具,至少我們相信那些把神經(jīng)網(wǎng)絡(luò)大規(guī)模應用于銀行業(yè)務和ATM機上的銀行家們的選擇——他們往往是對技術(shù)很保守的一群人。
回到這篇文章,Cha老師首先掌握了332張用佳能單反相機拍攝的高清混凝土結(jié)構(gòu)表面裂縫照片,他把這些照片分為兩組,一組是277張分辨率為4928x3264的照片作為“訓練組”,一組是55張分辨率為5888x3584的照片作為“驗證組”。
人工神經(jīng)網(wǎng)絡(luò)的訓練數(shù)據(jù)庫需要海量數(shù)據(jù),277這個數(shù)字顯然不夠,況且,當一副照片中含有的信息越多,對神經(jīng)網(wǎng)絡(luò)而言,干擾就越多,就越不容易突出重點。于是Cha老師將這277張照片分割成4萬張分辨率為256x256的小照片作為訓練數(shù)據(jù)庫。
展開 基于Mathematica神經(jīng)網(wǎng)絡(luò)的驗證碼識別
人工神經(jīng)網(wǎng)絡(luò)(英語:Artificial Neural Network,ANN),簡稱神經(jīng)網(wǎng)絡(luò)(Neural Network,NN)或類神經(jīng)網(wǎng)絡(luò),在機器學習和認知科學領(lǐng)域,是一種模仿生物神經(jīng)網(wǎng)絡(luò)(動物的中樞神經(jīng)系統(tǒng),特別是大腦)的結(jié)構(gòu)和功能的數(shù)學模型或計算模型,用于對函數(shù)進行估計或近似。神經(jīng)網(wǎng)絡(luò)由大量的人工神經(jīng)元聯(lián)結(jié)進行計算。大多數(shù)情況下人工神經(jīng)網(wǎng)絡(luò)能在外界信息的基礎(chǔ)上改變內(nèi)部結(jié)構(gòu),是一種自適應系統(tǒng),通俗的講就是具備學習功能。現(xiàn)代神經(jīng)網(wǎng)絡(luò)是一種非線性統(tǒng)計性數(shù)據(jù)建模工具,神經(jīng)網(wǎng)絡(luò)通常是通過一個基于數(shù)學統(tǒng)計學類型的學習方法(Learning Method)得以優(yōu)化,所以也是數(shù)學統(tǒng)計學方法的一種實際應用,通過統(tǒng)計學的標準數(shù)學方法我們能夠得到大量的可以用函數(shù)來表達的局部結(jié)構(gòu)空間,另一方面在人工智能學的人工感知領(lǐng)域,我們通過數(shù)學統(tǒng)計學的應用可以來做人工感知方面的決定問題(也就是說通過統(tǒng)計學的方法,人工神經(jīng)網(wǎng)絡(luò)能夠類似人一樣具有簡單的決定能力和簡單的判斷能力),這種方法比起正式的邏輯學推理演算更具有優(yōu)勢。
目前存在很多成熟的神經(jīng)網(wǎng)絡(luò)框架,比如Tensorflow、PyTorch、Keras、MXNet還有百度的paddle,matlab也有相對應的工具箱,而作為同是“3m”之一的Mathematica自然也是不甘于落后,于2016年引入相關(guān)的接口,并在2020年進行了主要的更新,本文假定讀者已經(jīng)擁有了深度學習的基礎(chǔ)知識,將利用mathematica軟件提供的接口來解決一類簡單的驗證碼識別任務,以此來引導讀者對mathematica的深度學習工具有一個大致的了解,希望能對大家有所啟發(fā)。
數(shù)據(jù)集準備
目前許多網(wǎng)站的人機識別機制還是如下圖的驗證碼形式,本體是由26個字母和10個數(shù)字組合而成再加以隨機變換和噪聲干擾的四個字符圖片。
展開 遞歸神經(jīng)網(wǎng)絡(luò)解釋
編輯
在循環(huán)網(wǎng)絡(luò)的訓練期間,網(wǎng)絡(luò)還會在每個時間步長生成一個輸出。此輸出用于使用梯度下降訓練網(wǎng)絡(luò)。
?編輯
所涉及的反向傳播類似于典型人工神經(jīng)網(wǎng)絡(luò)中使用的反向傳播,但有一些細微的變化。這些變化被記錄為:-設(shè)網(wǎng)絡(luò)在任何時間步的預測輸出為?編輯 ,實際輸出為?編輯 。然后每個時間步的誤差由下式給出:
?編輯
誤差由所有時間步的誤差之和給出。
?編輯
?編輯
同樣,該值?編輯 可以計算為每個時間步的梯度之和。
?編輯
使用微積分的鏈式法則,并利用時間步 t 的輸出是循環(huán)單元的當前隱藏狀態(tài)的函數(shù)這一事實,產(chǎn)生了以下表達式:-
?編輯
請注意,上述表達式中使用的權(quán)重矩陣 W 對于輸入向量和隱藏狀態(tài)向量是不同的,并且僅以這種方式用于符號的便利性。
因此,出現(xiàn)了以下表達式:-
?編輯
因此,Back-Propagation Through Time 與典型的 Back-Propagation 的唯一區(qū)別在于,每個時間步的誤差相加以計算總誤差。?編輯
盡管基本的遞歸神經(jīng)網(wǎng)絡(luò)相當有效,但它可能會遇到一個重大問題。對于深度網(wǎng)絡(luò),反向傳播過程可能會導致以下問題:
消失的梯度:當梯度變得非常小并趨于零時,就會發(fā)生這種情況。
分解梯度:當梯度由于反向傳播而變得太大時,會發(fā)生這種情況。
Exploding Gradients 的問題可以通過使用 hack 來解決 – 通過在時間上回傳遞的梯度設(shè)置閾值。但是這種解決方案并不被視為問題的解決方案,也可能降低網(wǎng)絡(luò)的效率。為了解決這個問題,開發(fā)了遞歸神經(jīng)網(wǎng)絡(luò)的兩種主要變體——長短期記憶網(wǎng)絡(luò)和門控遞歸單元網(wǎng)絡(luò)。
遞歸神經(jīng)網(wǎng)絡(luò) (RNN) 是一種人工神經(jīng)網(wǎng)絡(luò),旨在處理順序數(shù)據(jù)。
展開 并使用Python構(gòu)建真實世界的神經(jīng)網(wǎng)絡(luò)模型 ¥5
你還將深入研究神經(jīng)網(wǎng)絡(luò)和深度學習概念,這些概念驅(qū)動著當今最先進的技術(shù),如自動駕駛汽車、推薦引擎、語音助手和圖像識別系統(tǒng)。
- 課程涵蓋內(nèi)容:
- 機器學習、人工智能與神經(jīng)網(wǎng)絡(luò)入門
- 有監(jiān)督、無監(jiān)督和強化學習技術(shù)
- 神經(jīng)網(wǎng)絡(luò)、深度學習和模型優(yōu)化
- 實用人工智能應用和真實世界用例
- 理解人工智能系統(tǒng)如何學習、適應和改進
- 構(gòu)建可擴展人工智能解決方案的工具和最佳實踐
- 適用人群:
- 沒有任何人工智能或機器學習經(jīng)驗的初學者
- 希望進入人工智能領(lǐng)域的學生和專業(yè)人士
- 想要掌握機器學習、人工智能與神經(jīng)網(wǎng)絡(luò)的開發(fā)者和數(shù)據(jù)愛好者
- 尋求理解人工智能驅(qū)動決策的商業(yè)專業(yè)人士
- 推薦理由:
- 當今就業(yè)市場所需的熱門技能
- 清晰的解釋與實踐學習示例相結(jié)合
- 終身訪問權(quán)限,可立即應用的實用知識
- 為進階人工智能、深度學習和數(shù)據(jù)科學職業(yè)奠定堅實基礎(chǔ)
- 課程成果:課程結(jié)束時,你將能夠自信地理解并應用機器學習、人工智能與神經(jīng)網(wǎng)絡(luò)來解決實際問題,并在人工智能領(lǐng)域推進你的職業(yè)生涯。
展開 
什么是神經(jīng)網(wǎng)絡(luò)? ¥2
通過強化學習進行學習
通過與環(huán)境互動和以獎勵或懲罰的形式提供反饋,網(wǎng)絡(luò)獲得了知識。找到一種隨著時間的推移優(yōu)化累積獎勵的政策或策略是該網(wǎng)絡(luò)的目標。這種經(jīng)常用于游戲和決策應用程序。
神經(jīng)網(wǎng)絡(luò)的類型
可以使用七種類型的神經(jīng)網(wǎng)絡(luò)。
前饋神經(jīng)網(wǎng)絡(luò):前饋神經(jīng)網(wǎng)絡(luò)是一種簡單的人工神經(jīng)網(wǎng)絡(luò)架構(gòu),其中數(shù)據(jù)沿單個方向從輸入移動到輸出。它有 input、hidden 和 output 層;沒有反饋循環(huán)。其簡單的架構(gòu)使其適用于許多應用程序,例如回歸和模式識別。
多層感知器 (MLP):MLP 是一種具有三層或更多層的前饋神經(jīng)網(wǎng)絡(luò),包括一個輸入層、一個或多個隱藏層和一個輸出層。它使用非線性激活函數(shù)。
卷積神經(jīng)網(wǎng)絡(luò) (CNN):卷積神經(jīng)網(wǎng)絡(luò) (CNN) 是一種專為圖像處理而設(shè)計的專用人工神經(jīng)網(wǎng)絡(luò)。它采用卷積層從輸入圖像中自動學習分層特征,從而實現(xiàn)有效的圖像識別和分類。CNN 徹底改變了計算機視覺,在對象檢測和圖像分析等任務中發(fā)揮著關(guān)鍵作用。
遞歸神經(jīng)網(wǎng)絡(luò) (RNN):一種用于順序數(shù)據(jù)處理的人工神經(jīng)網(wǎng)絡(luò)類型稱為遞歸神經(jīng)網(wǎng)絡(luò) (RNN)。它適用于上下文依賴關(guān)系至關(guān)重要的應用程序,例如時間序列預測和自然語言處理,因為它利用反饋循環(huán),使信息能夠在網(wǎng)絡(luò)中生存。
長短期記憶 (LSTM):LSTM 是一種 RNN,旨在克服訓練 RNN 中的梯度消失問題。它使用存儲單元和門選擇性地讀取、寫入和擦除信息。
神經(jīng)網(wǎng)絡(luò)的簡單實現(xiàn)
代碼案例
?
展開 IJP:從RVE到組件的跨尺度預測
這些結(jié)果形成了一個巨大的數(shù)據(jù)庫,可用于人工神經(jīng)網(wǎng)絡(luò)學習。
用于本構(gòu)更新的ANN:從CACPFEM模型獲得的數(shù)據(jù)樣本被處理成三組,分別用于訓練、驗證和測試人工神經(jīng)網(wǎng)絡(luò)模型。隨后,ANN模型可用于確定動態(tài)變化的本構(gòu)參數(shù)(例如,參考屈服應力和各向異性參數(shù))。因此,通過足夠的數(shù)據(jù)樣本和適當?shù)挠柧殻梢杂行У亟⒂糜跇?gòu)件有限元分析的基于神經(jīng)網(wǎng)絡(luò)的本構(gòu)關(guān)系。
宏觀預測的FEM:基于人工神經(jīng)網(wǎng)絡(luò)的本構(gòu)關(guān)系,用有限元法對零件的成形過程進行整體預測。考慮到人工神經(jīng)網(wǎng)絡(luò)模型是由CACPFEM產(chǎn)生的數(shù)據(jù)樣本建立的,因此微觀尺度的演化機制可以反映在宏觀尺度的變形行為中。
用于微尺度預測的CACPFEM:通過對組件中相關(guān)區(qū)域的FEM分析(例如,應變、時間、溫度、變形模式)得出的邊界條件將通過CACPFEM模型應用于RVE。通過這樣做,可以獲得非均勻變形、力學響應和微觀結(jié)構(gòu)演變的更精細的微觀尺度預測。
為了確保高精度,應該執(zhí)行不同級別的優(yōu)化循環(huán):
優(yōu)化A:優(yōu)化ANN學習過程中的優(yōu)化。如果人工神經(jīng)網(wǎng)絡(luò)模型的輸入和輸出之間的任何相關(guān)指標不在允許的范圍內(nèi),將啟動優(yōu)化。在這種情況下,CACPFEM模型將生成更多的數(shù)據(jù)樣本。將使用更新的數(shù)據(jù)庫重新訓練ANN模型,并將再次檢查優(yōu)化A的必要性。優(yōu)化A的循環(huán)將繼續(xù),直到所有的相關(guān)指數(shù)都是允許的。
優(yōu)化B:有限元試分析后的優(yōu)化。如果人工神經(jīng)網(wǎng)絡(luò)模型中的輸入和輸出之間的相關(guān)指數(shù)是允許的,人工神經(jīng)網(wǎng)絡(luò)模型將被構(gòu)建到有限元分析中進行試分析。如果FEM預測范圍超出了ANN預測范圍,將使用CACPFEM模型生成更多變形條件下的數(shù)據(jù)樣本,并添加到數(shù)據(jù)庫中。將使用更新的數(shù)據(jù)庫重新訓練ANN模型,并且將再次重新檢查優(yōu)化A和B的必要性。優(yōu)化B的循環(huán)將繼續(xù),直到最終FEM預測范圍在ANN預測范圍內(nèi)。
優(yōu)化C:跨尺度比較的優(yōu)化。
展開 基于振動模態(tài)分析和神經(jīng)網(wǎng)絡(luò)技術(shù)的結(jié)構(gòu)損傷
結(jié)構(gòu)損傷診斷是結(jié)構(gòu)健康監(jiān)測研究的核心與難點目前有關(guān)這一關(guān)鍵問題的研究兩個熱點是利用結(jié)構(gòu)振動模態(tài)分析技術(shù)和人工神經(jīng)網(wǎng)絡(luò)技術(shù)
基于振動模態(tài)分析和神經(jīng)網(wǎng)絡(luò)技術(shù)的結(jié)構(gòu)損傷....pdf
卷積神經(jīng)網(wǎng)絡(luò)簡介 ¥5
?
?
卷積神經(jīng)網(wǎng)絡(luò) (CNN) 是計算機視覺中常用的一種深度學習神經(jīng)網(wǎng)絡(luò)架構(gòu)。計算機視覺是人工智能的一個領(lǐng)域,它使計算機能夠理解和解釋圖像或視覺數(shù)據(jù)。
在機器學習方面,人工神經(jīng)網(wǎng)絡(luò)表現(xiàn)非常出色。神經(jīng)網(wǎng)絡(luò)用于各種數(shù)據(jù)集,如圖像、音頻和文本。不同類型的神經(jīng)網(wǎng)絡(luò)用于不同的目的,例如,為了預測單詞序列,我們使用循環(huán)神經(jīng)網(wǎng)絡(luò),更準確地說是 LSTM,同樣,對于圖像分類,我們使用卷積神經(jīng)網(wǎng)絡(luò)。在本博客中,我們將為 CNN 構(gòu)建一個基本構(gòu)建塊。
?
目錄
神經(jīng)網(wǎng)絡(luò):層和功能
卷積神經(jīng)網(wǎng)絡(luò)
CNN 架構(gòu)
卷積層是如何工作的?
卷積的數(shù)學概述
用于構(gòu)建 ConvNet 的層
神經(jīng)網(wǎng)絡(luò):層和功能
在常規(guī)神經(jīng)網(wǎng)絡(luò)中,有三種類型的層:
Input Layers(輸入層):這是我們?yōu)槟P吞峁┹斎氲膶印T搶又械?em>神經(jīng)元數(shù)量等于我們數(shù)據(jù)中的特征總數(shù)(圖像中的像素數(shù))。
隱藏層:然后,來自 Input 層的輸入被饋送到隱藏層中。根據(jù)我們的模型和數(shù)據(jù)大小,可以有許多隱藏層。每個隱藏層可以有不同數(shù)量的神經(jīng)元,這些神經(jīng)元通常大于特征的數(shù)量。每一層的輸出是通過矩陣乘前一層的輸出與該層的可學習權(quán)重,然后加上可學習偏差,然后是激活函數(shù)來計算的,這使得網(wǎng)絡(luò)非線性。
輸出層:然后將隱藏層的輸出饋送到 sigmoid 或 softmax 等 logistic 函數(shù)中,該函數(shù)將每個類的輸出轉(zhuǎn)換為每個類的概率分數(shù)。
將數(shù)據(jù)輸入模型并從上述步驟獲得每一層的輸出稱為前饋,然后我們使用誤差函數(shù)計算誤差,一些常見的誤差函數(shù)是交叉熵、平方損失誤差等。
展開