多傳感器融合技術的案例
交通管控中多傳感器融合技術的優勢
德國Jenoptik集團推出多傳感器融合技術來避免混淆監測。
Jenoptik集團目前正在聚焦于ITS部門的多傳感器融合技術應用的優勢。當考慮利用傳感器系統來改善交通擁堵和道路安全問題時，如果是涉及到警務安全，考慮只采用雷達系統或激光掃描儀來實現。但現在管理者需要的是檢測和監控車輛的解決方案，并同時實現執法功能，而目前并沒有哪一種傳感器技術能夠全部滿足這些條件，因此最優的解決方案是使用傳感器和其他組件的組合優勢來達到結果。
但大家必須清楚，多傳感器融合并不是電影《1984》的現實版本，它不會以“老大哥”無所不在的方式監視著公眾。相反，該技術以多種方式來協助道路使用者，高速公路運營商和交警以及公眾，為所有人提供更安全，更高效的旅程。
交叉路口的三維運動物體識別
多傳感器數據融合
多傳感器融合需要模塊化的多傳感器和基于基礎設施的物體檢測系統組合，并通過先進的傳感器技術（立體攝像機，車牌識別攝像機，雷達和激光等）檢測所有關于交通狀況和道路使用者的信息，并實現實時流量數據的收集。在這里，傳感器的測量范圍和速度的準確性，檢測率，穩定性，都會受到環境條件（照明，雨雪和溫度）的影響。
Jenoptik集團目前已經推出用于檢測往來車輛車型，車牌識別，車軸數等數據的模塊化的多傳感器融合系統。該系統的部署必須預先知道哪些組件安裝在什么地方可以實現復雜交通狀況的監控預期效果。路邊組件會將采集到的數據發送到后臺處理系統進行評估。另外，智能車牌識別軟件還可實現車輛信息與運營商數據的融合。
左：攝像機覆蓋區域。右：雷達覆蓋區域
路邊數據通常來源于車牌識別攝像機，包括車牌和車輛類型的圖像等，這些數據通過加密后部分或完全傳輸到中央數據服務器。但這些數據在不進行分析的情況下，只能算原始信息，價值并不大。
展開 康謀技術 | 多傳感器數據融合技術與策略解析
在汽車行業邁向智能化、自動化的今天，自動駕駛技術也在快速發展。為了進一步讓自動駕駛更加“智能化”，像老師傅一樣進行開車，離不開對車輛周圍環境的全面認識。
面對復雜的感知任務，單一傳感器的局限性逐漸顯現，比如相機對目標的顏色和紋理比較敏感，但易受光照、天氣條件的影響。LiDAR以獲得目標精確的3D信息，但無法獲得目標紋理，易產生噪點等情況。多傳感器數據融合技術應時而生，通過整合不同傳感器的優勢，為車輛提供了一個全面、立體的感知維度。
一、多傳感器融合的先決條件
當多種傳感器裝在同一輛車上時，使用同一個系統來采集并處理數據。為了確保這些傳感器采集的數據能有效精準識別同一個物體，需要對這些傳感器進行統一時鐘和坐標系，即最終實現：同一個目標在同一個時刻出現在不同類別的傳感器的同一個世界坐標處。
圖1：傳感器融合先決條件
1、統一時鐘
確保所有傳感器數據在時間上的一致性，為后續處理提供同步基準。關于時間同步的詳細內容可見往期內容：
《自動駕駛：揭秘高精度時間同步技術（一）》
https://www.yqgqt.org.cn/post/1942685
《自動駕駛：揭秘高精度時間同步技術（二）》
https://www.yqgqt.org.cn/post/1943634
2、統一坐標系
統一坐標系包含兩步，一是運動補償，二是傳感器標定。
① 運動補償：確保數據時效性
運動補償是針對周期性采集數據的傳感器，如激光雷達（LiDAR），其數據采集周期可能長達100毫秒。
展開 【11月3-5日 北京】無人駕駛多傳感器技術和系統功能開發技術高級培訓班
第二章主要圍繞毫米波雷達技術的原理，車載毫米波雷達的研發現狀，主要技術瓶頸，分享在工程量產時碰到的一些痛點及解決方案。未來雷達技術的發展方向，系統地分析雷達在輔助駕駛和無人駕駛技術中應用。同時分析攝像頭技術和激光雷達，以及不同傳感器的技術參數以及各自的優缺點，引出下一章基于多傳感器技術的多種輔助駕駛系統。
作為真正意義上的無人駕駛技術，不僅需要多傳感器技術互相配合分工，實現系統冗余達到更高的安全級別，同時人工智能算法，高速的數字網絡基礎設施，高精地圖和信息安全技術等是不可缺少的一部分。通過全面的講解，使學員對整個無人駕駛技術得到全面的認識。第五章將從國家發展戰略高度來解析無人駕駛技術將來的運營和普及，以及該領域帶來的新的商業模式。
第二部分，聚焦無人駕駛中的關鍵技術-多傳感器融合。本課程前三章首先闡述車規級前裝量產自動駕駛項目對于多傳感器融合技術的要求，并介紹當今全球無人駕駛感知方面的主流技術方案。
第四章和第五章詳細介紹傳感器融合的基本原理和兩種基本技術方案-前端與后端融合。當前比較普遍的做法是基于檢測對象的后端融合。這種做法被廣泛應用于多種輔助駕駛量產項目中。后端融合對各傳感器采集的信息進行單獨、孤立地處理，不僅會導致信息處理工作量的增加，而且，割斷了各傳感器信息間的內在聯系，丟失了信息經有機組合后可能蘊含的有關環境特征，造成信息資源的浪費，甚至可能導致決策失誤。基于傳感器原始數據的前端融合致力于更有效合理的處理傳感器原始數據從而實現多傳感器的互補，是現在公認的技術發展方向。但是對于相對成熟的后端融合，前端融合仍然有很多技術痛點仍然亟待攻克。傳感器專家將對多傳感器前端融合技術痛點通過具體案例分享自己在工作中的心得和體會。
主講專家
資深專家1: 博士，全德華人機電工程師學會、中德教育與科技合作促進中心特聘專家。
展開 多傳感器融合技術原理及融合技術分析
來源 | CSDN
概述
多傳感器融合（Multi-sensor Fusion, MSF）是利用計算機技術，將來自多傳感器或多源的信息和數據以一定的準則進行自動分析和綜合，以完成所需的決策和估計而進行的信息處理過程。
多傳感器融合基本原理就像人腦綜合處理信息的過程一樣，將各種傳感器進行多層次、多空間的信息互補和優化組合處理，最終產生對觀測環境的一致性解釋。在這個過程中要充分利用多源數據進行合理支配與使用，而信息融合的最終目標則是基于各傳感器獲得的分離觀測信息，通過對信息多級別、多方面組合導出更多有用信息。這不僅是利用了多個傳感器相互協同操作的優勢，而且也綜合處理了其它信息源的數據來提高整個傳感器系統的智能化。
具體來講，多傳感器數據融合原理如下：
（1）多個不同類型傳感器（有源或無源）收集觀測目標的數據；
（2）對傳感器的輸出數據（離散或連續的時間函數數據、輸出矢量、成像數據或一個直接的屬性說明）進行特征提取的變換，提取代表觀測數據的特征矢量Yi；
（3）對特征矢量Yi進行模式識別處理（如聚類算法、自適應神經網絡或其他能將特征矢量Yi變換成目標屬性判決的統計模式識別法等），完成各傳感器關于目標的說明；
（4）將各傳感器關于目標的說明數據按同一目標進行分組，即關聯；
（5）利用融合算法將目標的各傳感器數據進行合成，得到該目標的一致性解釋與描述。
以Autoware為例，在自動駕駛中，傳感器是汽車感知周圍的環境的硬件基礎，在實現自動駕駛的各個階段都必不可少。自動駕駛離不開感知層、控制層和執行層的相互配合。
展開 
技術探秘 | 自動駕駛汽車傳感器融合系統，及多傳感器數據融合算法淺析
目前而言，車載感知模塊包括視覺感知模塊、毫米波雷達、超聲波雷達、360°環視系統等，多源傳感器的協同作用識別道路車道線、行人車輛等障礙物，為安全駕駛保駕護航。因此，感知信息也需要融合，感知信息也需要相互補充。
這里引出一個重要的概念：多傳感器信息融合（information fusion）。各種不同的傳感器，對應不同的工況環境和感知目標。比方說，毫米波雷達主要識別前向中遠距離障礙物（0.5米-150米），如路面車輛、行人、路障等。超聲波雷達主要識別車身近距離障礙物（0.2米-5米），如泊車過程中的路沿、靜止的前后車輛、過往的行人等信息。兩者協同作用，互補不足，通過測量障礙物角度、距離、速度等數據融合，刻畫車身周邊環境和可達空間范圍。
圖6：智能汽車感知模塊
信息融合起初叫做數據融合（data fusion），起源于1973年美國國防部資助開發的聲納信號處理系統，在20世紀90年代，隨著信息技術的廣泛發展，具有更廣義化概念的“信息融合”被提出來，多傳感器數據融合MSDF (Multi-sensor Data Fusion）技術也應運而生。
數據融合主要優勢在于：充分利用不同時間與空間的多傳感器數據資源，采用計算機技術按時間序列獲得多傳感器的觀測數據，在一定準則下進行分析、綜合、支配和使用。獲得對被測對象的一致性解釋與描述，進而實現相應的決策和估計，使系統獲得比它各組成部分更為充分的信息。
一般地，多源傳感器數據融合處理過程包括六個步驟，如下圖所示。首先是多源傳感系統搭建與定標，進而采集數據并進行數字信號轉換，再進行數據預處理和特征提取，接著是融合算法的計算分析，最后輸出穩定的、更為充分的、一致性的目標特征信息。
圖7：多源數據融合過程
利用多個傳感器所獲取的關于對象和環境全面、完整信息，主要體現在融合算法上。
展開 多傳感器融合定位是否足夠安全？
如圖所示，平均成功率隨著攻擊者在每個分析回合中進行更多的攻擊試驗而增加，因為隨著更多的攻擊試驗，d和f組合的配置成功率在統計上更接近真實值。尤其是，當每個分析回合的試驗次數為40次時，我們的分析算法可以找到d和f組合，其中偏離和逆向攻擊的平均成功率均超過80％（分別為84.2％和80.7％）。在這種情況下，平均分析成本僅為42個時間為90秒的攻擊試驗，即約為1小時。
防御措施討論
GPS反欺騙
我們的攻擊基于GPS欺騙，因此一個直接的防御方向是利用現有的GPS欺騙檢測或防御技術。但是，如今GPS欺騙檢測和預防都不能完全解決問題。在檢測方面，已經提出了許多技術，它們利用信號功率監視，基于多天線的信號到達角檢測或基于眾包的交叉驗證。但是，它們要么被更先進的欺騙器所規避，要么僅適用于有限的領域，例如機載GPS接收器。在預防方面，基于密碼認證的民用GPS基礎架構可以從根本上防止直接制造欺騙GPS信號；但是，它需要對現有的衛星基礎設施和GPS接收器進行重大修改，并且仍然容易受到重放攻擊的影響。
MSF和LiDAR
另一個防御方向是改良MSF算法和LiDAR定位，這是影響現實中接管漏洞的兩個最重要因素。從根本上說，實際中的這種MSF算法中的不確定狀態是由于LiDAR定位算法的不準確和傳感器噪聲引起的。并且正如我們的分析所示，即使對于當今自動駕駛汽車中使用的高端傳感器和生產級LiDAR，這些誤差和噪聲也足夠大且頻繁，足以使FusionRipper得以利用。為了對此進行改進，需要在傳感器和基于LiDAR的定位方面取得技術突破。
利用獨立的定位源（例如基于攝像機的車道檢測）作為不安全狀態下的定位。
對于能夠短期內實現的方案來說，一個有希望的方向是利用獨立的定位源來交叉檢查定位結果，從而充當不安全狀態下的定位源。
展開 自動駕駛多模態傳感器融合的綜述
多模態融合是感知自動駕駛系統的一項基本任務，最近引起了許多研究人員的興趣。然而，由于原始數據噪聲大、信息利用率低以及多模態傳感器的無對準，達到相當好的性能并非易事。
本文對現有的基于多模態自動駕駛感知任務方法進行了文獻綜述。
分析超過50篇論文，包括攝像頭和激光雷達，試圖解決目標檢測和語義分割任務。與傳統的融合模型分類方法不同，作者從融合階段的角度，通過更合理的分類法將融合模型分為兩大類，四小類。此外，研究了當前的融合方法，就潛在的研究機會展開討論。
最近，用于自動駕駛感知任務的多模態融合方法發展迅速，其從跨模態特征表示和更可靠的模態傳感器，到更復雜、更穩健的多模態融合深度學習模型和技術。然而，只有少數文獻綜述集中在多模態融合方法本身的方法論上，大多數文獻都遵循傳統規則，將其分為前融合、深度（特征）融合和后融合三大類，重點關注深度學習模型中融合特征的階段，無論是數據級、特征級還是提議級。首先，這種分類法沒有明確定義每個級別的特征表示。其次，它表明，激光雷達和攝像頭這兩個分支在處理過程中始終是對稱的，模糊了激光雷達分支中融合提議級特征和攝像頭分支中融合數據級特征的情況。綜上所述，傳統的分類法可能是直觀的，但對于總結最近出現的越來越多的多模態融合方法來說卻很落后，這使得研究人員無法從系統的角度對其進行研究和分析。
如圖是自動駕駛感知任務的示意圖：
深度學習模型僅限于輸入的表示。為了實現該模型，需要在數據輸入模型之前，通過一個復雜的特征提取器對原始數據進行預處理。
至于圖像分支，大多數現有方法保持與下游模塊輸入的原始數據相同的格式。然而，激光雷達分支高度依賴于數據格式，這種格式強調不同的特性，并對下游模型設計產生巨大影響。
展開 自動駕駛多傳感器數據融合方法
一、摘要
近年來，深度學習技術在涉及高維非結構化數據領域展現出了最先進的性能，如計算機視覺、語音、自然語言處理等方面，并且開始涉及更大、更復雜的多模態信息問題。
不同傳感器在進行同一實驗任務時，針對產生的同一現象進行觀測，采集的數據構成被測對象的多模態信息。多模態信息可以實現不同傳感器之間數據互補，并在相同學習任務獲取更豐富的特征，從而實現比單一模態更好的性能。
在自動駕駛領域，多模態數據通常包括安裝在車輛上的多個傳感器，包括雷達、立體可見光攝像頭、紅外攝像頭、GPS等，為執行自動巡航，從傳感器收集的異構數據用于學習許多相互關聯但復雜的任務，如定位和測繪、場景識別、路徑規劃和駕駛員狀態識別等。
大多數先進的融合方法集中于如何融合來自多模態空間的信息或特征。根據多模態信息的融合策略主要可以分為早期融合、中期融合和晚期融合。
二、多傳感器數據融合處理方法
1、早期融合
早期融合在輸入端進行簡單鏈接多模態數據組合，然后輸入到特定的模型進行處理。LaserNet采用了這種融合策略，將三維的點云映射到二維圖像上，采用全卷積網絡進行概率預測，實現端到端的三維物體檢測。
早期融合的方式能夠保留最多原始數據的特征，但對于來自不同傳感器的模態信息來說，這種融合方式計算量大，對設備運行要求較高。
2、中期融合
中期融合又稱作是特征融合，需要對來自不同模態的數據進行特征提取，并對特征圖進行融合操作后輸入到目標任務中進行處理。通過ROI池化的方式將二維圖像和點云鳥瞰圖、前視圖特征整合到同一特征尺度進行融合，并構建兩個子網絡進行多視圖區域特征融合，并在不同路徑中間層中交互特征，實現了自動駕駛場景下高精度的三維物體檢測。
展開 多傳感器融合，叩開自動駕駛大門
2
多傳感器融合成必經之路
雖然說自動駕駛在全球范圍內已經形成風潮，并有望在2021年實現4級自動駕駛，但是其想要真正走入現實也并非易事。從技術方面而言，目前自動駕駛的痛點在于穩定可靠的感知及認知，包括清晰的視覺、優質的算法、多傳感器融合以及高效強大的運算能力。其中，多傳感器融合也被認為是自動駕駛未來的重要發展趨勢。
目前用于自動駕駛的傳感器主要有激光雷達、毫米波雷達以及攝像頭三類，其各具優缺點。激光雷達具有高精度、高分辨率的優勢，然而其易受雨霧等極端天氣影響，且成本居高不下，不利于大規模量產。雖然毫米波雷達可解決激光雷達的部分缺點，但是其探測距離易受元器件功率及潮濕環境影響。另一方面，如果不與其他傳感器配合使用，攝像頭在夜晚就顯得捉襟見肘了。
針對感知層的現狀，Lance Williams表示：“傳感器融合是具潛力的方案，也是迫在眉睫的挑戰。有效地開發和實施一個含多傳感器的方案也面臨著許多挑戰。”
具體而言，多傳感器融合就是將多個傳感器獲取的數據、信息集中在一起綜合分析以便更加準確可靠地描述外界環境，從而提高系統決策的正確性。雖然在原理上看似簡單，但是在自動駕駛場景中則顯得充滿挑戰。多傳感器融合，需要對每個傳感器采集的信息進行快速處理，從而讓高速行駛的汽車及時進行反饋動作，以應對突發的交通情況。由此可見，多傳感器融合并不僅僅是硬件方面的協同配合，還包括決策層的算法和算力支持。
為此，安森美半導體在自動駕駛感知層覆蓋了所有的傳感器方案，包括超聲波、成像、雷達、光達，可支持視覺、前視先進駕駛輔助系統(ADAS)、車道偏離警告、自適應巡航控制、乘員檢測、電子車鏡、駕駛員監控和手勢識別。在決策層方面，還是關鍵廠商如Mobileye、NVIDIA和英特爾的主要供應商。
展開 九小場所消防安全：傳感器技術筑起守護防線
為了守護這些場所的安全，傳感器技術正逐步成為消防安全管理的重要利器。
智慧消防：從“事后處理”到“事前預防”
傳統消防管理模式往往側重于火災發生后的應急響應，但這種方式在九小場所中顯然力不從心。智慧消防理念的提出，為破解這一難題提供了新思路。通過引入傳感器技術，實現對火災風險的實時監控與預警，將消防工作從“事后處理”轉向“事前預防”，有效降低了火災發生的概率和損失。
傳感器技術：火災探測的“火眼金睛”
在九小場所的消防安全管理中，傳感器技術發揮著至關重要的作用。特別是在火災初期，當肉眼難以察覺時，傳感器卻能敏銳地捕捉到火災的前兆信號。其中，一氧化碳傳感器因其高靈敏度和高選擇性，成為火災探測領域的佼佼者。
一氧化碳作為火災燃燒過程中釋放的重要氣體之一，其濃度在火災初期會迅速上升。通過安裝高靈敏度的一氧化碳傳感器，如TGS5141-P00，可以實現對火災跡象的早期探測。這款傳感器不僅體積小、功耗低，而且具有超長的使用壽命和可靠的穩定性，非常適合在九小場所中廣泛應用。
多傳感器融合：提升火災預警的可靠性
為了提高火災預警的準確性和可靠性，九小場所的消防系統往往采用多傳感器融合技術。除了一氧化碳傳感器外，還可以結合煙霧傳感器、溫度傳感器等多種探測手段，進行綜合判斷。這種多傳感器融合的方式，能夠有效避免單一傳感器可能存在的誤報或漏報問題，提升整個消防系統的智能化水平。
可燃氣體傳感器：守護餐飲業的“安全衛士”
對于餐飲業這一九小場所的重要組成部分，可燃氣體傳感器同樣不可或缺。餐飲業中廣泛使用的天然氣、液化氣等易燃氣體，一旦泄漏就可能引發嚴重的爆炸事故。
展開 康謀應用 | 基于多傳感器融合的海洋數據采集系統
然而，海洋數據采集也面臨數據噪聲和誤差、數據融合與協同和復雜海洋環境適應等諸多挑戰，制約著無人艇技術的發展。
針對這些挑戰，我們探索并推出一套基于多傳感器融合的海洋數據采集系統，能夠高效地采集和處理海洋環境中的多維度數據，為無人艇的自主航行和控制算法訓練提供高質量的數據支持。
一、方案架構
無人艇要在復雜海上環境中實現自主導航，尤其是完成障礙物檢測和跟蹤任務，其關鍵在于對海面環境的高效感知。因此，通過集成多種傳感器，包括相機、激光雷達、IMU（慣性測量單元）和GPS（全球定位系統），能夠采集更全面、更精確的海洋環境數據。但這種系統也會進一步涉及時間同步、數據傳輸與存儲以及環境適應性等問題。
基于以上考慮，采用BRICKplus(工控機)+ETH6000+傳感器套件(6*iDS相機+1*LiDAR+1*IMU+1*GPS)方案架構，如下圖所示：
基于BRICKplus+ETH6000構建的數采平臺，提供12個以太網接口（10*1Gb+2*10Gb）可以有效接入各個傳感器，并為后續升級技術架構、接入更多傳感器預留更多空間。多傳感器產生的數據量巨大，對數據傳輸和存儲提出了高要求，特別是8MP相機6個同時采集。
采用BRICKplus提供大容量（8/16/32TB）高速寫入（16Gbit/s）存儲硬盤，能夠高效穩定落盤傳感器數據。采用GPS模塊，支持（g）PTP時間同步與定位。
二、系統搭建
為了更好的感知無人艇周邊環境信息，對傳感器分布和方式進行了設計和調整，布局如下圖所示。該布局可以更有效的應對海面復雜環境下的數據采集。
三、數據采集
在面向無人艇數據采集時，需要使傳感器套件（四類傳感器）能夠同時采集數據，并具備時間同步，實時可視化、存儲和回放等能力。
展開 
2021年全國激光測振與多傳感融合技術應用研討會云會議通知
為更好的提升我國振動傳感檢測技術，促進高等學校、研究院所和企業密切合作，推進激光測振與多傳感融合技術在機器人、智能檢測、電機電力、交通監測和超聲等領域的應用，中國振動工程學會振動利用工程專業委員會、浙江省振動工程學會和寧波大學壓電器件技術實驗室將聯合主辦“2021年全國激光測振與多傳感融合技術應用研討會”。
蔚來公布自動駕駛進展：放棄純視覺路線，做多傳感器融合
隨著 ADAS 逐步優化，自動駕駛 Team——現在 360 多人，很多精力都會放在 L4 平臺的開放上。蔚來會跳過 L3 直接到 L4。
至于現在的第一代車，也就是 ES8 ，以目前傳感器和運算能力，做不到L4，我們也不會宣布可以做到 L3。
李斌說，蔚來下一代的自動駕駛平臺，會用到更多的傳感器，激光雷達、紅外，滿足不同場景下的需求。從今天角度來看，不用更多傳感器，是做不到L4。有些公司，宣稱攝像頭可以。以產業共識來看，是有誤導的。（我覺得說的就是特斯拉）
其實不光是傳感器與芯片，還需要考慮冗余與備份。一個轉向器壞了，剎車壞了怎么板？蔚來需要完整設計這個體系。
與特斯拉基于攝像頭的感知是不同，蔚來依靠多傳感器融合，選擇跳過 L3 選擇直接 L4，提高自動駕駛的研發進程。
總結
蔚來以前的目標是做”中國的特斯拉”，然而特斯拉卻偏偏進入了中國，蔚來跟自己的模仿對象競爭，技術功能上至少落后2年，而且價格也并不占任何優勢。用戶花了很高的價錢，買了一臺裝滿傳感器的ES8智能車，然而該平臺可能最終無法升級到想要的L4功能，蔚來汽車自動駕駛的未來并不明朗。
展開 傳感器融合-數據篇（自動駕駛）
作者 | 黃浴
來源 | 知乎@黃浴(https://zhuanlan.zhihu.com/p/109895639)
自動駕駛感知模塊中傳感器融合已經成為了標配，只是這里融合的層次有不同，可以是硬件層（如禾賽，Innovusion的產品），也可以是數據層（這里的討論范圍），還可以是任務層像障礙物檢測（obstacle detection），車道線檢測（lane detection），分割（segmentation）和跟蹤（tracking）以及車輛自身定位（localization）等。
有些傳感器之間很難在底層融合，比如攝像頭或者激光雷達和毫米波雷達之間，因為毫米波雷達的目標分辨率很低（無法確定目標大小和輪廓），但可以在高層上探索融合，比如目標速度估計，跟蹤的軌跡等等。
這里主要介紹一下激光雷達和攝像頭的數據融合，實際是激光雷達點云投影在攝像頭圖像平面形成的深度和圖像估計的深度進行結合，理論上可以將圖像估計的深度反投到3-D空間形成點云和激光雷達的點云融合，但很少人用。原因是，深度圖的誤差在3-D空間會放大，另外是3-D空間的點云分析手段不如圖像的深度圖成熟，畢竟2.5-D還是研究的歷史長，比如以前的RGB-D傳感器，Kinect或者RealSense。
這種融合的思路非常明確：一邊兒圖像傳感器成本低，分辨率高（可以輕松達到2K-4K）；另一邊兒激光雷達成本高，分辨率低，深度探測距離短。可是，激光雷達點云測距精確度非常高，測距遠遠大于那些Infrared/TOF depth sensor，對室外環境的抗干擾能力也強，同時圖像作為被動視覺系統的主要傳感器，深度估計精度差，更麻煩的是穩定性和魯棒性差。所以，能不能把激光雷達的稀疏深度數據和致密的圖像深度數據結合，形成互補？
展開 自動駕駛傳感器融合：激光雷達+攝像頭
前言
自動駕駛感知技術所采用的傳感器主要包括攝像頭，激光雷達和毫米波雷達。這些傳感器各有優缺點，也互為補充，因此如何高效的融合多傳感器數據，也就自然的成為了感知算法研究的熱點之一。本篇文章介紹如何在感知任務中融合激光雷達和攝像頭，重點是目前主流的基于深度學習的融合算法。
攝像頭產生的數據是2D圖像，對于物體的形狀和類別的感知精度較高。深度學習技術的成功起源于計算機視覺任務，很多成功的算法也是基于對圖像數據的處理，因此目前基于圖像的感知技術已經相對成熟。圖像數據的缺點在于受外界光照條件的影響較大，很難適用于所有的天氣條件。對于單目系統來說，獲取場景和物體的深度（距離）信息也比較困難。雙目系統可以解決深度信息獲取的問題，但是計算量很大。激光雷達在一定程度上彌補了攝像頭的缺點，可以精確的感知物體的距離，但是限制在于成本較高，車規要求難以滿足，因此在量產方面比較困難。同時，激光雷達生成的3D點云比較稀疏（比如垂直掃描線只有64或128）。對于遠距離物體或者小物體來說，反射點的數量會非常少。
如下圖所示，圖像數據和點云存在著巨大的差別。首先是視角不同，圖像數據是真實世界通過透視投影得到的二維表示，而三維點云則包含了真實世界歐式坐標系中的三維信息，可以投影到多種視圖。其次是數據結構不同，圖像數據是規則的，有序的，稠密的，而點云數據是不規則的，無序的，稀疏的。在空間分辨率方面，圖像數據也比點云數據高很多。
圖片來源于參考文獻[1]
自動駕駛感知系統中有兩個典型的任務：物體檢測和語義分割。深度學習技術的興起首先來自視覺領域，基于圖像數據的物體檢測和語義分割已經被廣泛和充分的研究，也有很多非常全面的綜述文章，這里就不贅述了。
展開 