計算機深度學習的案例
收藏 | 深度學習在計算機視覺領域的應用總結
編輯 | 計算機視覺聯盟
還是做一些背景介紹。已經是很熱的深度學習，大家都看到不少精彩的故事，我就不一一重復。
簡單的回顧的話，2006年Geoffrey Hinton的論文點燃了“這把火”，現在已經有不少人開始潑“冷水”了，主要是AI泡沫太大，而且深度學習不是包治百病的藥方。
計算機視覺不是深度學習最早看到突破的領域，真正讓大家大吃一驚的顛覆傳統方法的應用領域是語音識別，做出來的公司是微軟，而不是當時如日中天的谷歌。計算機視覺應用深度學習堪稱突破的成功點是2012年ImageNet比賽，采用的模型是CNN，而不是Hinton搞的RBM和DBN之類，就是Hinton學生做出來以他命名的AlexNet。
（注：順便提一下，2010年的ImageNet冠軍是余凱/林元慶領導的NEC和UIUC Tom Huang組的合作團隊，當時采用的方法是基于sparse coding+SVM。）
當然，真正一直在研究CNN的專家是Yann LeCun，小扎后來拉他去FB做AI research的頭。第一個CNN模型就是他搞出來的，即LeNet，原來就是做圖像數字識別。不得不說，CNN非常適合2-D信號的處理任務，RNN呢，是時域上的拓展。
現在CNN在計算機視覺應用的非常成功，傳統機器學習方法基本被棄之不用。其中最大的一個原因就是，圖像數據的特征設計，即特征描述，一直是計算機視覺頭痛的問題，在深度學習突破之前10多年，最成功的圖像特征設計 (hand crafted feature)是SIFT，還有著名的Bag of visual words，一種VQ方法。后來大家把CNN模型和SIFT比較，發現結構還蠻像的：），之后不是也有文章說RNN和CRF很像嗎。
展開 一文讀懂深度學習在計算機視覺領域中的應用
4).游戲和控制：體感游戲；
5).監控：公共場所隨處可見的監控攝像機，用來監視可疑行為；
6).生物識別技術：指紋、虹膜和人臉匹配是生物特征識別中常用的方法；
7).智能汽車：視覺仍然是觀察交通標志、信號燈及其它視覺特征的主要信息來源；
正如斯坦福大學公開課CS231所言，計算機視覺任務大多是基于卷積神經網絡完成。比如圖像分類、定位和檢測等。那么，對于計算機視覺而言，有哪些任務是占據主要地位并對世界有所影響的呢？本篇文章將分享給讀者5種重要的計算機視覺技術，以及其相關的深度學習模型和應用程序。相信這5種技術能夠改變你對世界的看法。
1.圖像分類
圖像分類這一任務在我們的日常生活中經常發生，我們習慣了于此便不以為然。每天早上洗漱刷牙需要拿牙刷、毛巾等生活用品，如何準確的拿到這些用品便是一個圖像分類任務。官方定義為：給定一組圖像集，其中每張圖像都被標記了對應的類別。之后為一組新的測試圖像集預測其標簽類別，并測量預測準確性。
如何編寫一個可以將圖像分類的算法呢？計算機視覺研究人員已經提出了一種數據驅動的方法來解決這個問題。研究人員在代碼中不再關心圖像如何表達，而是為計算機提供許多很多圖像（包含每個類別），之后開發學習算法，讓計算機自己學習這些圖像的特征，之后根據學到的特征對圖像進行分類。
鑒于此，完整的圖像分類步驟一般形式如下：
1).首先，輸入一組訓練圖像數據集；
2).然后，使用該訓練集訓練一個分類器，該分類器能夠學習每個類別的特征；
3).最后，使用測試集來評估分類器的性能，即將預測出的結果與真實類別標記進行比較；
對于圖像分類而言，最受歡迎的方法是卷積神經網絡（CNN）。
展開 深度學習|基于MobileNet的多目標跟蹤深度學習算法
源自：控制與決策 作者：薛俊韜 馬若寒 胡超芳
摘要
針對深度學習算法在多目標跟蹤中的實時性問題, 提出一種基于MobileNet的多目標跟蹤算法. 借助于MobileNet深度可分離卷積能夠對深度網絡模型進行壓縮的原理, 將YOLOv3主干網絡替換為MobileNet, 通過將標準卷積分解為深度卷積和逐點卷積, 保留多尺度預測部分, 以有效減少參數量. 對于檢測得到的邊框信息, 利用Deep-SORT算法進行跟蹤. 實驗結果表明, 所提出方法在跟蹤效果基本不變的情況下可提升處理速度近50%.
關鍵詞
深度學習 多目標跟蹤 目標檢測 YOLOv3 deep-SORT MobileNet
0 引言
多目標跟蹤是計算機視覺領域的研究熱點, 可應用于交通監測、安防等多個領域, 具有一定的應用價值和挑戰性[1]. 檢測方式可以分為檢測跟蹤和無檢測跟蹤兩類, 前者需要檢測目標后再進行跟蹤; 后者需要在第1幀手動初始化目標, 然后進行跟蹤. 在目標跟蹤中, 涌現出許多具有良好性能的算法, 如SSD[2]、R-CNN[3-4]以及YOLO系列[5-7], 其中YOLOv3[7]算法在檢測跟蹤中體現出較強的優勢.
由于深度學習的發展, 卷積神經網絡模型逐漸替代了傳統手工設計的特征, 提供了一種端到端的處理方法, 精度也大幅提高. 但CNN模型在不斷提高精度的同時, 其網絡深度和尺寸也在成倍增長, 需要GPU來進行加速, 使得基于深度學習的跟蹤算法無法直接應用于移動設備, 導致難以符合實時性要求. 因此降低算法復雜度、提高實時性、簡化和加速模型便成為亟待解決的問題. 文獻[8-10]使用剪枝方法對神經網絡進行網絡壓縮. 文獻[11]提出從零開始訓練低秩約束卷積神經網絡模型的方法, 不僅速度得到提升, 而且在一些情況下模型性能也有所提高.
展開 深度學習|會開發AI的AI：超網絡有望讓深度學習大眾化
會開發AI的AI：超網絡有望讓深度學習大眾化
超網絡（hypernetwork）可以加快訓練AI的過程。
編者按：在執行特定類型任務，如圖像識別、語音識別等方面，AI已經可以與人類相媲美了，甚至有時候已經超越了人類。但這些AI事先必須經過訓練，而訓練是個既耗時又耗計算能力的過程，有上百萬甚至幾十億的參數需要優化。但最近研究人員做出了能瞬時預測參數的超網絡。通過利用超網絡（hypernetwork），研究人員現在可以先下手為強，提前對人工神經網絡進行調優，從而節省部分訓練時間和費用。文章來自編譯。譯者：boxi。
劃重點：
人工智能是一場數字游戲，訓練耗時耗力
超網絡可以在幾分之一秒內預測出新網絡的參數
超網絡的表現往往可以跟數千次 SGD 迭代的結果不相上下，有時甚至是更好
超網絡有望讓深度學習大眾化
人工智能在很大程度上是一場數字游戲。10 年前，深度神經網絡（一種學習識別數據模式的 AI 形式）之所以開始超越傳統算法，那是因為我們終于有了足夠的數據和處理能力，可以充分利用這種AI。
現如今的神經網絡對數據和處理能力更加渴望。訓練它們需要對表征參數的值進行仔細的調整，那些參數代表人工神經元之間連接的強度，有數百萬甚至數十億之巨。其目標是為它們找到接近理想的值，而這個過程叫做優化，但訓練網絡達到這一點并不容易。 DeepMind研究科學家Petar Veli?kovi? 表示：“訓練可能需要數天、數周甚至數月之久”。
但這種情況可能很快就會改變。加拿大安大略省圭爾夫大學（University of Guelph）的Boris Knyazev和他的同事設計并訓練了一個“超網絡”——這有點像是凌駕于其他神經網絡之上的最高統治者——用它可以加快訓練的過程。
展開 
基于深度學習的機器人目標識別和跟蹤
4 基于深度學習的機器人目標識別和發展趨勢目標檢測是計算機視覺、深度學習、人工智能等。它是更復雜的計算機視覺任務的重要前提，例如目標跟蹤、事件檢測、行為分析和場景語義理解。它旨在定位從圖像中提取感興趣目標，準確確定類別并給出每個目標的邊界框目標。已廣泛應用于汽車自動駕駛、視頻圖像檢索、智能視頻監控、醫學圖像分析、工業檢測等領域。傳統的人工提取特征檢測算法主要包括預處理、窗口滑動、特征提取、特征選擇、特征分類和后處理六個步驟，一般針對特的識別任務。它的缺點主要是數據量小，可移植性差，沒有針對性，時間復雜度高，窗口冗余，對多樣性沒有魯棒性變化，只有在特定的簡單環境下才有良好的性能。目標檢測作為計算機視覺中最基本和最具挑戰性的問題之一近年來備受關注。基于深度學習的檢測算法已被廣泛應用在很多領域，但深度學習還有一些問題有待探索：
減少對數據的依賴。
實現小物體的高效檢測。
多類別目標檢測的實現。
現如今隨著科學技術的進步，以前很多機器視覺領域的技術都得到了長足的發展，但是在某些方面還是存在著一定的不足。比如說機器人的目標識別方面：機器人在對物體進行識別時，大目標通常都能正常檢測出來，但是對于小目標受限于目標大小和周圍環境影響等等會出現漏檢等情況。在目標跟蹤方面
專門應用于目標跟蹤任務的訓練集較少，無法適應當前多變的跟蹤環境，完成訓練任務。
當前的訓練模型受限于目標的遮擋、外觀的強烈變化等等問題，使得算法無法實現長時間的精確跟蹤。除此以外跟蹤時，由于受到外界因素影響，可能會有一些相似對象，從而使得跟蹤出現錯誤。
展開 機器學習與深度學習 ￥9.9
以下內容關于機器學習與深度學習的入門資料。
基于深度學習的2D圖像深度估計:從單目到多目
最近學習總結分享，關于深度立體匹配和多視角立體幾何：
機器學習與深度學習簡述和工程案例展示
機器學習(Machine Learning)，是一門人工智能的科學，是通過用算法解析數據，不斷學習，對世界中發生的事做出判斷和預測的一項技術。
深度學習(Deep Learning)，是用于建立、模擬人腦進行分析學習的神經網絡，并模仿人腦的機制來解釋數據的一種機器學習技術。
人工智能、機器學習與深度學習的關系
工程應用中 機器學習與深度學習的主要區別有以下幾方面：
機器學習典型過程：
（1）首先在計算機中存儲歷史的數據。
（2）將這些數據通過機器學習算法進行處理，這個過程在機器學習中叫做“訓練”。
（3）處理的結果可以被我們用來對新的數據進行預測，這個結果一般稱之為“模型”。
（4）對新數據的預測過程在機器學習中叫做“預測”。
“訓練”與“預測”是機器學習的兩個過程，“模型”則是過程的中間輸出結果，“訓練”產生“模型”，“模型”指導 “預測”。
機器學習與人類思考的類比
深度學習的主要差異：
深度學習不需要我們去提取特征，而是自動地對數據進行篩選，自動地提取數據高維特征。如下圖所示，深度學習與機器學習中的監督學習一般方法相比，少了特征工程，節約了工程師們大量工作時間。
展開 關于“人工智能與機器學習”python-深度學習
Python 機器學習與人工智能深度學習案例實踐——課程大綱（配備機器學習教材）
第
一
節
Python與TensorFlow
1．機器學習與數據挖掘的基本概念、聯系及區別
2．機器學習和大數據、人工智能及其他學科領域的關系
3．機器學習和深度學習的關系
4．機器學習方法的分類及本課程內容
（1）有監督學習：分類、回歸
（2）無監督學習：聚類
（3）強化學習
（4）半監督學習
5．機器學習應用的一般流程
（1）對象的表示
（2）訓練/學習
（3）測試/應用
6．機器學習的典型應用案例
（1）機器學習在自然語言理解領域的應用(機器翻譯、智能問答)
（2）機器學習在多媒體處理領域的應用
(人臉識別、視頻分析)
（3）機器學習在語音處理領域的應用(語
音識別、語音合成)
（4）機器學習在網絡安全領域的應用(入
侵檢測、惡意軟件識別)
（5）機器學習在互聯網上的應用(搜索引
擎、計算廣告、推薦系統)
代碼和案例實踐：
1.卷積與(指數)移動平均線
2.股票數據分析
3.缺失數據的處理
4.環境數據異常檢測和分析
第
二
節
回歸分析
1．線性回歸
（1）回歸的基本概念
（2）線性回歸
（3）對率(Logistic)回歸
（4）嶺(Ridge)回歸
（5）Lasso 回歸
（6）Elastic Net
2．Logistic/Softmax回歸
展開 MATLAB數據分析、圖形圖像處理、機器學習與深度學習培訓班
第十六講 智能優化技術
第十七講 有監督模式分類
第十八講 無監督機器學習
知識點42：粒子群優化 知識點43：遺傳算法
知識點44：蟻群算法 知識點45：最小二乘
知識點46：支持向量機 知識點47：集成分類
知識點48：無監督降維 知識點49：k-means聚類
知識點50：譜聚類 機器學習經典案例
七：神經網絡和深度學習
第十九講 卷積神經網絡
第二十講 深度學習
知識點51：機器學習和神經網絡
知識點52：訓練網絡和后向傳播
知識點53：自動特征提取 知識點54：深度學習技術
知識點55：卷積神經網絡
知識點56：卷積神經網絡做手寫體數字識別
八：圖像處理和高級編程技術
第二十一講 圖形界面設計
第二十二講 圖像處理
第二十三講 程序優化
知識點57：GUI使用方法 知識點58：GUI例題講解
知識點59：讀寫圖像文件 知識點60：讀寫視頻文件
知識點61：圖像降噪 知識點62：灰度均衡
知識點63：程序效率 知識點64：矢量化和矩陣化
知識點65：空間換時間 知識點66：處理異常情況
九：經驗分享與問題答疑
第二十四講 答疑與學習平臺
1、針對學員面對的實踐問題展開討論、方案建議。
展開 普通視頻轉高清：10個基于深度學習的超分辨率神經網絡
機器學習與深度學習
對于接觸機器學習與深度學習較少的開發者，可能會搞不清兩者的差別，甚至認為機器學習就是深度學習。其實，我們用一張圖可以簡單區分這個概念。
上世紀50年代，就有人工智能的概念，后來也有一些較基礎的應用，比如國際象棋。但到了70年代，由于硬件性能的制約，以及訓練數據集的匱乏，使得人工智能經歷了一段低谷。人工智能包括了很多，比如機器學習、調度算法、專家系統等。到了80年代才開始出現更多機器學習的應用，比如利用算法來分析數據，并進行判斷或預測。機器學習包括了邏輯樹、神經網絡等。而深度學習，則是機器學習中的一種方法，源于神經網絡。
超分辨率是什么？
超分辨率是基于人類視覺系統提出的概念。1981年諾貝爾醫學獎獲獎者David Hubel、Torsten Wiesel，發現人類視覺系統的信息處理方式是分層級的。第一層是原始的數據輸入。當人看到一個人臉圖像時，首先會先識別出其中的點、線等邊緣。然后進入第二層，會識別出圖像中一些基本的組成元素，比如眼睛、耳朵、鼻子。最后，會生成一個對象模型，也就是一張張完整的臉。
而我們在深度學習中的卷積神經網絡（如下圖為例），就是模仿了人類視覺系統的處理過程。正因此，計算機視覺是深度學習最佳的應用領域之一。超分辨就是計算機視覺中的一個經典應用。
超分辨率是通過軟件或硬件方法，提高圖像分辨率的一種方法。它的核心思想，就是用時間帶寬換取空間分辨率。簡單來講，就是在我無法得到一張超高分辨率的圖像時，我可以多拍幾張圖像，然后將這一系列低分辨率的圖像組成一張高分辨的圖像。這個過程叫超分辨率重建。
為什么超分辨率可以通過多拍幾張圖像，就能提高圖片分辨率呢？
這牽涉到抖動。我們經常說的拍照防抖動，其實防的是較明顯的抖動，但微小的抖動始終存在。
展開 
人工智能的三個分支：認知、機器學習、深度學習
c) 部署
機器學習需要從計算機科學實驗室進入到軟件當中。越來越多像CRM、Marketing、ERP等的供應商，正在提高嵌入式機器學習或與提供它的服務緊密結合的能力。
◆◆ ◆
3) 深度學習(Deep Learning)
如果機器學習是前沿的，那么深度學習則是尖端的。這是一種你會把它送去參加智力問答的AI。它將大數據和無監督算法的分析相結合。它的應用通常圍繞著龐大的未標記數據集，這些數據集需要結構化成互聯的群集。深度學習的這種靈感完全來自于我們大腦中的神經網絡，因此可恰當地稱其為人工神經網絡。
深度學習是許多現代語音和圖像識別方法的基礎，并且與以往提供的非學習方法相比，隨著時間的推移具有更高的準確度。
希望在未來，深度學習AI可以自主回答客戶的咨詢，并通過聊天或電子郵件完成訂單。 或者它們可以基于其巨大的數據池在建議新產品和規格上幫助營銷。或者也許有一天他們可以成為工作場所里的全方位助理，完全模糊機器人和人類之間的界限。
人工智能通過在其上使用的數據規模來生存和改進，這意味著不但我們能夠隨著時間的推移看到更好的人工智能，而且它們的發展將會圍繞著那些可以挖掘最大數據集的組織。
來源于網絡
展開 三個相關概念：深度學習Vs機器學習Vs模式識別
本文我們來關注下三個非常相關的概念（深度學習、機器學習和模式識別），最熱門的科技主題（機器人和人工智能）的聯系。
圖1 人工智能并非將人放入一臺計算機中（圖片來源于 WorkFusion 的博客）
環繞四周，你會發現不缺乏一些初創的高科技公司招聘機器學習專家的崗位。而其中只有一小部分需要深度學習專家。我敢打賭，大多數初創公司都可以從最基本的數據分析中獲益。那如何才能發現未來的數據科學家？你需要學習他們的思考方式。
三個與“學習”高度相關的流行詞匯
模式識別（Pattern recognition）、機器學習（machine learning）和深度學習（deep learning）代表三種不同的思想流派。模式識別是最古老的（作為一個術語而言，可以說是很過時的）。機器學習是最基礎的（當下初創公司和研究實驗室的熱點領域之一）。而深度學習是非常嶄新和有影響力的前沿領域，我們甚至不會去思考后深度學習時代。我們可以看下圖所示的谷歌趨勢圖。可以看到：
1）機器學習就像是一個真正的冠軍一樣持續昂首而上；
2）模式識別一開始主要是作為機器學習的代名詞；
3）模式識別正在慢慢沒落和消亡；
4）深度學習是個嶄新的和快速攀升的領域。
2004年至今三個概念的谷歌搜索指數（圖來源于 谷歌趨勢 ）
1. 模式識別：智能程序的誕生
模式識別是70年代和80年代非常流行的一個術語。它強調的是如何讓一個計算機程序去做一些看起來很“智能”的事情，例如識別“3”這個數字。而且在融入了很多的智慧和直覺后，人們也的確構建了這樣的一個程序。例如，區分“3”和“B”或者“3”和“8”。早在以前，大家也不會去關心你是怎么實現的，只要這個機器不是由人躲在盒子里面偽裝的就好（圖2）。
展開 AMD EPYC Genoa 9654雙路八卡深度學習，機器學習GPU服務器
<p>凌炫8路GPU服務器是一款支持雙路AMD EPYC 9004最大支持TDP400W處理器，雙12通道內存，支持8片雙寬GPU卡，助力于深度學習、機器學習領域。</p><div contenteditable="false" width="100%"><img src="https://img.jishulink.com/upload/202306/b042aa8169054b3c8f86fe0d67280f13.jpg" title="1.jpg" alt="1.jpg" style="max-width:760px;" data-mobile-src="https://img.jishulink.com/upload/202306/b042aa8169054b3c8f86fe0d67280f13.jpg?image_process=/format,webp/quality,q_40/resize,w_400" data-pc-src="https://img.jishulink.com/upload/202306/b042aa8169054b3c8f86fe0d67280f13.jpg?
展開 【3月20-22日 線上】MATLAB數據分析、圖形圖像處理、機器學習與深度學習培訓班
第十六講 智能優化技術
第十七講 有監督模式分類
第十八講 無監督機器學習
知識點42：粒子群優化 知識點43：遺傳算法
知識點44：蟻群算法 知識點45：最小二乘
知識點46：支持向量機 知識點47：集成分類
知識點48：無監督降維 知識點49：k-means聚類
知識點50：譜聚類 機器學習經典案例
七：神經網絡和深度學習
第十九講 卷積神經網絡
第二十講 深度學習
知識點51：機器學習和神經網絡
知識點52：訓練網絡和后向傳播
知識點53：自動特征提取 知識點54：深度學習技術
知識點55：卷積神經網絡
知識點56：卷積神經網絡做手寫體數字識別
八：圖像處理和高級編程技術
第二十一講 圖形界面設計
第二十二講 圖像處理
第二十三講 程序優化
知識點57：GUI使用方法 知識點58：GUI例題講解
知識點59：讀寫圖像文件 知識點60：讀寫視頻文件
知識點61：圖像降噪 知識點62：灰度均衡
知識點63：程序效率 知識點64：矢量化和矩陣化
知識點65：空間換時間 知識點66：處理異常情況
九：經驗分享與問題答疑
第二十四講 答疑與學習平臺
1、針對學員面對的實踐問題展開討論、方案建議。
展開 