多傳感器融合定位的案例
多傳感器融合定位是否足夠安全？
如圖所示，平均成功率隨著攻擊者在每個(gè)分析回合中進(jìn)行更多的攻擊試驗(yàn)而增加，因?yàn)殡S著更多的攻擊試驗(yàn)，d和f組合的配置成功率在統(tǒng)計(jì)上更接近真實(shí)值。尤其是，當(dāng)每個(gè)分析回合的試驗(yàn)次數(shù)為40次時(shí)，我們的分析算法可以找到d和f組合，其中偏離和逆向攻擊的平均成功率均超過80％（分別為84.2％和80.7％）。在這種情況下，平均分析成本僅為42個(gè)時(shí)間為90秒的攻擊試驗(yàn)，即約為1小時(shí)。
防御措施討論
GPS反欺騙
我們的攻擊基于GPS欺騙，因此一個(gè)直接的防御方向是利用現(xiàn)有的GPS欺騙檢測或防御技術(shù)。但是，如今GPS欺騙檢測和預(yù)防都不能完全解決問題。在檢測方面，已經(jīng)提出了許多技術(shù)，它們利用信號(hào)功率監(jiān)視，基于多天線的信號(hào)到達(dá)角檢測或基于眾包的交叉驗(yàn)證。但是，它們要么被更先進(jìn)的欺騙器所規(guī)避，要么僅適用于有限的領(lǐng)域，例如機(jī)載GPS接收器。在預(yù)防方面，基于密碼認(rèn)證的民用GPS基礎(chǔ)架構(gòu)可以從根本上防止直接制造欺騙GPS信號(hào)；但是，它需要對現(xiàn)有的衛(wèi)星基礎(chǔ)設(shè)施和GPS接收器進(jìn)行重大修改，并且仍然容易受到重放攻擊的影響。
MSF和LiDAR
另一個(gè)防御方向是改良MSF算法和LiDAR定位，這是影響現(xiàn)實(shí)中接管漏洞的兩個(gè)最重要因素。從根本上說，實(shí)際中的這種MSF算法中的不確定狀態(tài)是由于LiDAR定位算法的不準(zhǔn)確和傳感器噪聲引起的。并且正如我們的分析所示，即使對于當(dāng)今自動(dòng)駕駛汽車中使用的高端傳感器和生產(chǎn)級LiDAR，這些誤差和噪聲也足夠大且頻繁，足以使FusionRipper得以利用。為了對此進(jìn)行改進(jìn)，需要在傳感器和基于LiDAR的定位方面取得技術(shù)突破。
利用獨(dú)立的定位源（例如基于攝像機(jī)的車道檢測）作為不安全狀態(tài)下的定位。
對于能夠短期內(nèi)實(shí)現(xiàn)的方案來說，一個(gè)有希望的方向是利用獨(dú)立的定位源來交叉檢查定位結(jié)果，從而充當(dāng)不安全狀態(tài)下的定位源。
展開 技術(shù)探秘 | 自動(dòng)駕駛汽車傳感器融合系統(tǒng)，及多傳感器數(shù)據(jù)融合算法淺析
全分布式系統(tǒng)只將對象數(shù)據(jù)或元數(shù)據(jù)（描述對象特征和/或識(shí)別對象的數(shù)據(jù)）發(fā)回到中央融合ECU。ECU將數(shù)據(jù)組合在一起，并最終決定如何執(zhí)行或做出反應(yīng)——請見圖4。
圖4：傳感器數(shù)據(jù)由傳感器模塊處理、決策由中央ECU制定的分布式系統(tǒng)。
全分布式系統(tǒng)既有優(yōu)點(diǎn)又有缺點(diǎn)。
優(yōu)點(diǎn)：
傳感器模塊——傳感器模塊與中央ECU之間可以使用更低帶寬、更加簡單且更加便宜的接口。在很多情況下，小于1Mb/s的CAN總線就足夠用了。
處理ECU——中央ECU只將對象數(shù)據(jù)融合在一起，因此其所需處理能力更低。對于某些系統(tǒng)來說，用一個(gè)高級的安全微控制器就足夠了。模塊更小，所需功耗也就更低。由于很多處理都是在傳感器內(nèi)部完成的，傳感器數(shù)量增加不會(huì)大幅增加對中央ECU的性能需求。
缺點(diǎn)：
傳感器模塊——傳感器模塊需要有應(yīng)用處理器，這樣的話就會(huì)變得體積更大、價(jià)格更高且功耗更大。由于本地處理和決策制定，傳感器模塊的功能安全要求也就更高。當(dāng)然，增加更多的傳感器，成本也會(huì)大幅上升。
處理ECU——中央決策制定ECU只能獲取對象數(shù)據(jù)，而無法訪問實(shí)際的傳感器數(shù)據(jù)。因此，想要“放大”感興趣的區(qū)域很難實(shí)現(xiàn)。
尋找黃金分割
根據(jù)系統(tǒng)中所使用傳感器的數(shù)量與種類，以及針對不同車型和升級選項(xiàng)的可擴(kuò)展性要求，將兩個(gè)拓?fù)浠旌显谝黄鹁涂色@得一個(gè)優(yōu)化解決方案。目前很多融合系統(tǒng)使用帶本地處理的傳感器用于雷達(dá)和激光雷達(dá)（LIDAR），使用前置攝像頭用于機(jī)器視覺。一個(gè)全分布式系統(tǒng)可以使用現(xiàn)有的傳感器模塊與對象數(shù)據(jù)融合ECU組合在一起。諸如環(huán)視和后視攝像頭的系統(tǒng)中的“傳統(tǒng)”傳感器模塊可以讓駕駛員看到周圍的環(huán)境情況——請見圖5?？梢詫⒏?em>多的ADAS功能集成進(jìn)駕駛員監(jiān)測或攝像頭監(jiān)控系統(tǒng)等融合系統(tǒng)中，但是傳感器融合的原理還是一樣。
圖5：尋找分布式和集中式處理的完美結(jié)合。
展開 多傳感器融合技術(shù)原理及融合技術(shù)分析
來源 | CSDN
概述
多傳感器融合（Multi-sensor Fusion, MSF）是利用計(jì)算機(jī)技術(shù)，將來自多傳感器或多源的信息和數(shù)據(jù)以一定的準(zhǔn)則進(jìn)行自動(dòng)分析和綜合，以完成所需的決策和估計(jì)而進(jìn)行的信息處理過程。
多傳感器融合基本原理就像人腦綜合處理信息的過程一樣，將各種傳感器進(jìn)行多層次、多空間的信息互補(bǔ)和優(yōu)化組合處理，最終產(chǎn)生對觀測環(huán)境的一致性解釋。在這個(gè)過程中要充分利用多源數(shù)據(jù)進(jìn)行合理支配與使用，而信息融合的最終目標(biāo)則是基于各傳感器獲得的分離觀測信息，通過對信息多級別、多方面組合導(dǎo)出更多有用信息。這不僅是利用了多個(gè)傳感器相互協(xié)同操作的優(yōu)勢，而且也綜合處理了其它信息源的數(shù)據(jù)來提高整個(gè)傳感器系統(tǒng)的智能化。
具體來講，多傳感器數(shù)據(jù)融合原理如下：
（1）多個(gè)不同類型傳感器（有源或無源）收集觀測目標(biāo)的數(shù)據(jù)；
（2）對傳感器的輸出數(shù)據(jù)（離散或連續(xù)的時(shí)間函數(shù)數(shù)據(jù)、輸出矢量、成像數(shù)據(jù)或一個(gè)直接的屬性說明）進(jìn)行特征提取的變換，提取代表觀測數(shù)據(jù)的特征矢量Yi；
（3）對特征矢量Yi進(jìn)行模式識(shí)別處理（如聚類算法、自適應(yīng)神經(jīng)網(wǎng)絡(luò)或其他能將特征矢量Yi變換成目標(biāo)屬性判決的統(tǒng)計(jì)模式識(shí)別法等），完成各傳感器關(guān)于目標(biāo)的說明；
（4）將各傳感器關(guān)于目標(biāo)的說明數(shù)據(jù)按同一目標(biāo)進(jìn)行分組，即關(guān)聯(lián)；
（5）利用融合算法將目標(biāo)的各傳感器數(shù)據(jù)進(jìn)行合成，得到該目標(biāo)的一致性解釋與描述。
以Autoware為例，在自動(dòng)駕駛中，傳感器是汽車感知周圍的環(huán)境的硬件基礎(chǔ)，在實(shí)現(xiàn)自動(dòng)駕駛的各個(gè)階段都必不可少。自動(dòng)駕駛離不開感知層、控制層和執(zhí)行層的相互配合。
展開 自動(dòng)駕駛多傳感器數(shù)據(jù)融合方法
一、摘要
近年來，深度學(xué)習(xí)技術(shù)在涉及高維非結(jié)構(gòu)化數(shù)據(jù)領(lǐng)域展現(xiàn)出了最先進(jìn)的性能，如計(jì)算機(jī)視覺、語音、自然語言處理等方面，并且開始涉及更大、更復(fù)雜的多模態(tài)信息問題。
不同傳感器在進(jìn)行同一實(shí)驗(yàn)任務(wù)時(shí)，針對產(chǎn)生的同一現(xiàn)象進(jìn)行觀測，采集的數(shù)據(jù)構(gòu)成被測對象的多模態(tài)信息。多模態(tài)信息可以實(shí)現(xiàn)不同傳感器之間數(shù)據(jù)互補(bǔ)，并在相同學(xué)習(xí)任務(wù)獲取更豐富的特征，從而實(shí)現(xiàn)比單一模態(tài)更好的性能。
在自動(dòng)駕駛領(lǐng)域，多模態(tài)數(shù)據(jù)通常包括安裝在車輛上的多個(gè)傳感器，包括雷達(dá)、立體可見光攝像頭、紅外攝像頭、GPS等，為執(zhí)行自動(dòng)巡航，從傳感器收集的異構(gòu)數(shù)據(jù)用于學(xué)習(xí)許多相互關(guān)聯(lián)但復(fù)雜的任務(wù)，如定位和測繪、場景識(shí)別、路徑規(guī)劃和駕駛員狀態(tài)識(shí)別等。
大多數(shù)先進(jìn)的融合方法集中于如何融合來自多模態(tài)空間的信息或特征。根據(jù)多模態(tài)信息的融合策略主要可以分為早期融合、中期融合和晚期融合。
二、多傳感器數(shù)據(jù)融合處理方法
1、早期融合
早期融合在輸入端進(jìn)行簡單鏈接多模態(tài)數(shù)據(jù)組合，然后輸入到特定的模型進(jìn)行處理。LaserNet采用了這種融合策略，將三維的點(diǎn)云映射到二維圖像上，采用全卷積網(wǎng)絡(luò)進(jìn)行概率預(yù)測，實(shí)現(xiàn)端到端的三維物體檢測。
早期融合的方式能夠保留最多原始數(shù)據(jù)的特征，但對于來自不同傳感器的模態(tài)信息來說，這種融合方式計(jì)算量大，對設(shè)備運(yùn)行要求較高。
2、中期融合
中期融合又稱作是特征融合，需要對來自不同模態(tài)的數(shù)據(jù)進(jìn)行特征提取，并對特征圖進(jìn)行融合操作后輸入到目標(biāo)任務(wù)中進(jìn)行處理。通過ROI池化的方式將二維圖像和點(diǎn)云鳥瞰圖、前視圖特征整合到同一特征尺度進(jìn)行融合，并構(gòu)建兩個(gè)子網(wǎng)絡(luò)進(jìn)行多視圖區(qū)域特征融合，并在不同路徑中間層中交互特征，實(shí)現(xiàn)了自動(dòng)駕駛場景下高精度的三維物體檢測。
展開 
自動(dòng)駕駛多模態(tài)傳感器融合的綜述
多模態(tài)融合是感知自動(dòng)駕駛系統(tǒng)的一項(xiàng)基本任務(wù)，最近引起了許多研究人員的興趣。然而，由于原始數(shù)據(jù)噪聲大、信息利用率低以及多模態(tài)傳感器的無對準(zhǔn)，達(dá)到相當(dāng)好的性能并非易事。
本文對現(xiàn)有的基于多模態(tài)自動(dòng)駕駛感知任務(wù)方法進(jìn)行了文獻(xiàn)綜述。
分析超過50篇論文，包括攝像頭和激光雷達(dá)，試圖解決目標(biāo)檢測和語義分割任務(wù)。與傳統(tǒng)的融合模型分類方法不同，作者從融合階段的角度，通過更合理的分類法將融合模型分為兩大類，四小類。此外，研究了當(dāng)前的融合方法，就潛在的研究機(jī)會(huì)展開討論。
最近，用于自動(dòng)駕駛感知任務(wù)的多模態(tài)融合方法發(fā)展迅速，其從跨模態(tài)特征表示和更可靠的模態(tài)傳感器，到更復(fù)雜、更穩(wěn)健的多模態(tài)融合深度學(xué)習(xí)模型和技術(shù)。然而，只有少數(shù)文獻(xiàn)綜述集中在多模態(tài)融合方法本身的方法論上，大多數(shù)文獻(xiàn)都遵循傳統(tǒng)規(guī)則，將其分為前融合、深度（特征）融合和后融合三大類，重點(diǎn)關(guān)注深度學(xué)習(xí)模型中融合特征的階段，無論是數(shù)據(jù)級、特征級還是提議級。首先，這種分類法沒有明確定義每個(gè)級別的特征表示。其次，它表明，激光雷達(dá)和攝像頭這兩個(gè)分支在處理過程中始終是對稱的，模糊了激光雷達(dá)分支中融合提議級特征和攝像頭分支中融合數(shù)據(jù)級特征的情況。綜上所述，傳統(tǒng)的分類法可能是直觀的，但對于總結(jié)最近出現(xiàn)的越來越多的多模態(tài)融合方法來說卻很落后，這使得研究人員無法從系統(tǒng)的角度對其進(jìn)行研究和分析。
如圖是自動(dòng)駕駛感知任務(wù)的示意圖：
深度學(xué)習(xí)模型僅限于輸入的表示。為了實(shí)現(xiàn)該模型，需要在數(shù)據(jù)輸入模型之前，通過一個(gè)復(fù)雜的特征提取器對原始數(shù)據(jù)進(jìn)行預(yù)處理。
至于圖像分支，大多數(shù)現(xiàn)有方法保持與下游模塊輸入的原始數(shù)據(jù)相同的格式。然而，激光雷達(dá)分支高度依賴于數(shù)據(jù)格式，這種格式強(qiáng)調(diào)不同的特性，并對下游模型設(shè)計(jì)產(chǎn)生巨大影響。
展開 多傳感器融合，叩開自動(dòng)駕駛大門
想要真正意義上實(shí)現(xiàn)自動(dòng)駕駛，在產(chǎn)業(yè)鏈的積極配合下還有很多問題需要去攻克。目前來看，在硬件方面還沒有完全達(dá)到自動(dòng)駕駛要求，仍需要不斷完善，正如多傳感器的相互融合。
康謀技術(shù) | 多傳感器數(shù)據(jù)融合技術(shù)與策略解析
這種融合方式涉及將不同傳感器的數(shù)據(jù)在特征空間中進(jìn)行組合，通常通過級聯(lián)或元素相乘的方式實(shí)現(xiàn)。通過特征互補(bǔ)可以提高魯棒性和提升泛化能力。
后融合（Late-Fusion）：是在各個(gè)傳感器獨(dú)立完成目標(biāo)檢測或分類等任務(wù)后，將它們的預(yù)測結(jié)果進(jìn)行綜合分析，以做出最終的決策。通過綜合多個(gè)傳感器的預(yù)測結(jié)果，提高決策準(zhǔn)確性?？筛鶕?jù)需要靈活添加或替換傳感器模型。
3、應(yīng)用場景
在多傳感器融合中，前融合、深度融合和后融合各有優(yōu)勢和適用場景。
前融合：在數(shù)據(jù)層面上實(shí)現(xiàn)早期整合，適合對原始數(shù)據(jù)依賴性較強(qiáng)的應(yīng)用。
深度融合：在特征層面上進(jìn)行信息融合，適合需要特征互補(bǔ)的復(fù)雜感知任務(wù)。
后融合：在目標(biāo)層面上進(jìn)行決策整合，適合需要最終決策優(yōu)化的場景。
在實(shí)際應(yīng)用中，根據(jù)系統(tǒng)需求和傳感器特性，選擇合適的融合策略或多種策略的組合，以達(dá)到最佳的感知效果。
展開 交通管控中多傳感器融合技術(shù)的優(yōu)勢
德國Jenoptik集團(tuán)推出多傳感器融合技術(shù)來避免混淆監(jiān)測。
Jenoptik集團(tuán)目前正在聚焦于ITS部門的多傳感器融合技術(shù)應(yīng)用的優(yōu)勢。當(dāng)考慮利用傳感器系統(tǒng)來改善交通擁堵和道路安全問題時(shí)，如果是涉及到警務(wù)安全，考慮只采用雷達(dá)系統(tǒng)或激光掃描儀來實(shí)現(xiàn)。但現(xiàn)在管理者需要的是檢測和監(jiān)控車輛的解決方案，并同時(shí)實(shí)現(xiàn)執(zhí)法功能，而目前并沒有哪一種傳感器技術(shù)能夠全部滿足這些條件，因此最優(yōu)的解決方案是使用傳感器和其他組件的組合優(yōu)勢來達(dá)到結(jié)果。
但大家必須清楚，多傳感器融合并不是電影《1984》的現(xiàn)實(shí)版本，它不會(huì)以“老大哥”無所不在的方式監(jiān)視著公眾。相反，該技術(shù)以多種方式來協(xié)助道路使用者，高速公路運(yùn)營商和交警以及公眾，為所有人提供更安全，更高效的旅程。
交叉路口的三維運(yùn)動(dòng)物體識(shí)別
多傳感器數(shù)據(jù)融合
多傳感器融合需要模塊化的多傳感器和基于基礎(chǔ)設(shè)施的物體檢測系統(tǒng)組合，并通過先進(jìn)的傳感器技術(shù)（立體攝像機(jī)，車牌識(shí)別攝像機(jī)，雷達(dá)和激光等）檢測所有關(guān)于交通狀況和道路使用者的信息，并實(shí)現(xiàn)實(shí)時(shí)流量數(shù)據(jù)的收集。在這里，傳感器的測量范圍和速度的準(zhǔn)確性，檢測率，穩(wěn)定性，都會(huì)受到環(huán)境條件（照明，雨雪和溫度）的影響。
Jenoptik集團(tuán)目前已經(jīng)推出用于檢測往來車輛車型，車牌識(shí)別，車軸數(shù)等數(shù)據(jù)的模塊化的多傳感器融合系統(tǒng)。該系統(tǒng)的部署必須預(yù)先知道哪些組件安裝在什么地方可以實(shí)現(xiàn)復(fù)雜交通狀況的監(jiān)控預(yù)期效果。路邊組件會(huì)將采集到的數(shù)據(jù)發(fā)送到后臺(tái)處理系統(tǒng)進(jìn)行評估。另外，智能車牌識(shí)別軟件還可實(shí)現(xiàn)車輛信息與運(yùn)營商數(shù)據(jù)的融合。
左：攝像機(jī)覆蓋區(qū)域。右：雷達(dá)覆蓋區(qū)域
路邊數(shù)據(jù)通常來源于車牌識(shí)別攝像機(jī)，包括車牌和車輛類型的圖像等，這些數(shù)據(jù)通過加密后部分或完全傳輸?shù)街醒霐?shù)據(jù)服務(wù)器。但這些數(shù)據(jù)在不進(jìn)行分析的情況下，只能算原始信息，價(jià)值并不大。
展開 康謀應(yīng)用 | 基于多傳感器融合的海洋數(shù)據(jù)采集系統(tǒng)
然而，海洋數(shù)據(jù)采集也面臨數(shù)據(jù)噪聲和誤差、數(shù)據(jù)融合與協(xié)同和復(fù)雜海洋環(huán)境適應(yīng)等諸多挑戰(zhàn)，制約著無人艇技術(shù)的發(fā)展。
針對這些挑戰(zhàn)，我們探索并推出一套基于多傳感器融合的海洋數(shù)據(jù)采集系統(tǒng)，能夠高效地采集和處理海洋環(huán)境中的多維度數(shù)據(jù)，為無人艇的自主航行和控制算法訓(xùn)練提供高質(zhì)量的數(shù)據(jù)支持。
一、方案架構(gòu)
無人艇要在復(fù)雜海上環(huán)境中實(shí)現(xiàn)自主導(dǎo)航，尤其是完成障礙物檢測和跟蹤任務(wù)，其關(guān)鍵在于對海面環(huán)境的高效感知。因此，通過集成多種傳感器，包括相機(jī)、激光雷達(dá)、IMU（慣性測量單元）和GPS（全球定位系統(tǒng)），能夠采集更全面、更精確的海洋環(huán)境數(shù)據(jù)。但這種系統(tǒng)也會(huì)進(jìn)一步涉及時(shí)間同步、數(shù)據(jù)傳輸與存儲(chǔ)以及環(huán)境適應(yīng)性等問題。
基于以上考慮，采用BRICKplus(工控機(jī))+ETH6000+傳感器套件(6*iDS相機(jī)+1*LiDAR+1*IMU+1*GPS)方案架構(gòu)，如下圖所示：
基于BRICKplus+ETH6000構(gòu)建的數(shù)采平臺(tái)，提供12個(gè)以太網(wǎng)接口（10*1Gb+2*10Gb）可以有效接入各個(gè)傳感器，并為后續(xù)升級技術(shù)架構(gòu)、接入更多傳感器預(yù)留更多空間。多傳感器產(chǎn)生的數(shù)據(jù)量巨大，對數(shù)據(jù)傳輸和存儲(chǔ)提出了高要求，特別是8MP相機(jī)6個(gè)同時(shí)采集。
采用BRICKplus提供大容量（8/16/32TB）高速寫入（16Gbit/s）存儲(chǔ)硬盤，能夠高效穩(wěn)定落盤傳感器數(shù)據(jù)。采用GPS模塊，支持（g）PTP時(shí)間同步與定位。
二、系統(tǒng)搭建
為了更好的感知無人艇周邊環(huán)境信息，對傳感器分布和方式進(jìn)行了設(shè)計(jì)和調(diào)整，布局如下圖所示。該布局可以更有效的應(yīng)對海面復(fù)雜環(huán)境下的數(shù)據(jù)采集。
三、數(shù)據(jù)采集
在面向無人艇數(shù)據(jù)采集時(shí)，需要使傳感器套件（四類傳感器）能夠同時(shí)采集數(shù)據(jù)，并具備時(shí)間同步，實(shí)時(shí)可視化、存儲(chǔ)和回放等能力。
展開 蔚來公布自動(dòng)駕駛進(jìn)展：放棄純視覺路線，做多傳感器融合
隨著 ADAS 逐步優(yōu)化，自動(dòng)駕駛 Team——現(xiàn)在 360 多人，很多精力都會(huì)放在 L4 平臺(tái)的開放上。蔚來會(huì)跳過 L3 直接到 L4。
至于現(xiàn)在的第一代車，也就是 ES8 ，以目前傳感器和運(yùn)算能力，做不到L4，我們也不會(huì)宣布可以做到 L3。
李斌說，蔚來下一代的自動(dòng)駕駛平臺(tái)，會(huì)用到更多的傳感器，激光雷達(dá)、紅外，滿足不同場景下的需求。從今天角度來看，不用更多傳感器，是做不到L4。有些公司，宣稱攝像頭可以。以產(chǎn)業(yè)共識(shí)來看，是有誤導(dǎo)的。（我覺得說的就是特斯拉）
其實(shí)不光是傳感器與芯片，還需要考慮冗余與備份。一個(gè)轉(zhuǎn)向器壞了，剎車壞了怎么板？蔚來需要完整設(shè)計(jì)這個(gè)體系。
與特斯拉基于攝像頭的感知是不同，蔚來依靠多傳感器融合，選擇跳過 L3 選擇直接 L4，提高自動(dòng)駕駛的研發(fā)進(jìn)程。
總結(jié)
蔚來以前的目標(biāo)是做”中國的特斯拉”，然而特斯拉卻偏偏進(jìn)入了中國，蔚來跟自己的模仿對象競爭，技術(shù)功能上至少落后2年，而且價(jià)格也并不占任何優(yōu)勢。用戶花了很高的價(jià)錢，買了一臺(tái)裝滿傳感器的ES8智能車，然而該平臺(tái)可能最終無法升級到想要的L4功能，蔚來汽車自動(dòng)駕駛的未來并不明朗。
展開 2021年全國激光測振與多傳感融合技術(shù)應(yīng)用研討會(huì)云會(huì)議通知
為更好的提升我國振動(dòng)傳感檢測技術(shù)，促進(jìn)高等學(xué)校、研究院所和企業(yè)密切合作，推進(jìn)激光測振與多傳感融合技術(shù)在機(jī)器人、智能檢測、電機(jī)電力、交通監(jiān)測和超聲等領(lǐng)域的應(yīng)用，中國振動(dòng)工程學(xué)會(huì)振動(dòng)利用工程專業(yè)委員會(huì)、浙江省振動(dòng)工程學(xué)會(huì)和寧波大學(xué)壓電器件技術(shù)實(shí)驗(yàn)室將聯(lián)合主辦“2021年全國激光測振與多傳感融合技術(shù)應(yīng)用研討會(huì)”。
傳感器融合-數(shù)據(jù)篇（自動(dòng)駕駛）
作者 | 黃浴
來源 | 知乎@黃浴(https://zhuanlan.zhihu.com/p/109895639)
自動(dòng)駕駛感知模塊中傳感器融合已經(jīng)成為了標(biāo)配，只是這里融合的層次有不同，可以是硬件層（如禾賽，Innovusion的產(chǎn)品），也可以是數(shù)據(jù)層（這里的討論范圍），還可以是任務(wù)層像障礙物檢測（obstacle detection），車道線檢測（lane detection），分割（segmentation）和跟蹤（tracking）以及車輛自身定位（localization）等。
有些傳感器之間很難在底層融合，比如攝像頭或者激光雷達(dá)和毫米波雷達(dá)之間，因?yàn)楹撩撞ɡ走_(dá)的目標(biāo)分辨率很低（無法確定目標(biāo)大小和輪廓），但可以在高層上探索融合，比如目標(biāo)速度估計(jì)，跟蹤的軌跡等等。
這里主要介紹一下激光雷達(dá)和攝像頭的數(shù)據(jù)融合，實(shí)際是激光雷達(dá)點(diǎn)云投影在攝像頭圖像平面形成的深度和圖像估計(jì)的深度進(jìn)行結(jié)合，理論上可以將圖像估計(jì)的深度反投到3-D空間形成點(diǎn)云和激光雷達(dá)的點(diǎn)云融合，但很少人用。原因是，深度圖的誤差在3-D空間會(huì)放大，另外是3-D空間的點(diǎn)云分析手段不如圖像的深度圖成熟，畢竟2.5-D還是研究的歷史長，比如以前的RGB-D傳感器，Kinect或者RealSense。
這種融合的思路非常明確：一邊兒圖像傳感器成本低，分辨率高（可以輕松達(dá)到2K-4K）；另一邊兒激光雷達(dá)成本高，分辨率低，深度探測距離短。可是，激光雷達(dá)點(diǎn)云測距精確度非常高，測距遠(yuǎn)遠(yuǎn)大于那些Infrared/TOF depth sensor，對室外環(huán)境的抗干擾能力也強(qiáng)，同時(shí)圖像作為被動(dòng)視覺系統(tǒng)的主要傳感器，深度估計(jì)精度差，更麻煩的是穩(wěn)定性和魯棒性差。所以，能不能把激光雷達(dá)的稀疏深度數(shù)據(jù)和致密的圖像深度數(shù)據(jù)結(jié)合，形成互補(bǔ)？
展開 自動(dòng)駕駛傳感器融合：激光雷達(dá)+攝像頭
前言
自動(dòng)駕駛感知技術(shù)所采用的傳感器主要包括攝像頭，激光雷達(dá)和毫米波雷達(dá)。這些傳感器各有優(yōu)缺點(diǎn)，也互為補(bǔ)充，因此如何高效的融合多傳感器數(shù)據(jù)，也就自然的成為了感知算法研究的熱點(diǎn)之一。本篇文章介紹如何在感知任務(wù)中融合激光雷達(dá)和攝像頭，重點(diǎn)是目前主流的基于深度學(xué)習(xí)的融合算法。
攝像頭產(chǎn)生的數(shù)據(jù)是2D圖像，對于物體的形狀和類別的感知精度較高。深度學(xué)習(xí)技術(shù)的成功起源于計(jì)算機(jī)視覺任務(wù)，很多成功的算法也是基于對圖像數(shù)據(jù)的處理，因此目前基于圖像的感知技術(shù)已經(jīng)相對成熟。圖像數(shù)據(jù)的缺點(diǎn)在于受外界光照條件的影響較大，很難適用于所有的天氣條件。對于單目系統(tǒng)來說，獲取場景和物體的深度（距離）信息也比較困難。雙目系統(tǒng)可以解決深度信息獲取的問題，但是計(jì)算量很大。激光雷達(dá)在一定程度上彌補(bǔ)了攝像頭的缺點(diǎn)，可以精確的感知物體的距離，但是限制在于成本較高，車規(guī)要求難以滿足，因此在量產(chǎn)方面比較困難。同時(shí)，激光雷達(dá)生成的3D點(diǎn)云比較稀疏（比如垂直掃描線只有64或128）。對于遠(yuǎn)距離物體或者小物體來說，反射點(diǎn)的數(shù)量會(huì)非常少。
如下圖所示，圖像數(shù)據(jù)和點(diǎn)云存在著巨大的差別。首先是視角不同，圖像數(shù)據(jù)是真實(shí)世界通過透視投影得到的二維表示，而三維點(diǎn)云則包含了真實(shí)世界歐式坐標(biāo)系中的三維信息，可以投影到多種視圖。其次是數(shù)據(jù)結(jié)構(gòu)不同，圖像數(shù)據(jù)是規(guī)則的，有序的，稠密的，而點(diǎn)云數(shù)據(jù)是不規(guī)則的，無序的，稀疏的。在空間分辨率方面，圖像數(shù)據(jù)也比點(diǎn)云數(shù)據(jù)高很多。
圖片來源于參考文獻(xiàn)[1]
自動(dòng)駕駛感知系統(tǒng)中有兩個(gè)典型的任務(wù)：物體檢測和語義分割。深度學(xué)習(xí)技術(shù)的興起首先來自視覺領(lǐng)域，基于圖像數(shù)據(jù)的物體檢測和語義分割已經(jīng)被廣泛和充分的研究，也有很多非常全面的綜述文章，這里就不贅述了。
展開 自動(dòng)駕駛中的9種傳感器融合算法
來源 |
AI修煉之路
在自動(dòng)駕駛汽車中，傳感器融合是融合來自多個(gè)傳感器數(shù)據(jù)的過程。該步驟在機(jī)器人技術(shù)中是強(qiáng)制性的，因?yàn)樗峁┝烁叩目煽啃浴⑷哂嘈砸约白罱K的安全性。
為了更好地理解，讓我們考慮一個(gè)簡單的例子，如激光雷達(dá)和相機(jī)都在看著行人：
如果兩個(gè)傳感器中的一個(gè)沒有檢測到行人，我們將使用另一個(gè)傳感器作為冗余來增加檢測到行人的機(jī)會(huì)。
如果兩個(gè)傳感器都檢測到了行人，傳感器融合技術(shù)將使我們更準(zhǔn)確地知道行人的位置……通過處理兩個(gè)傳感器的噪聲值。
由于傳感器是有噪聲的，因此需要傳感器融合算法來處理這些噪聲，并盡可能進(jìn)行最精確的估計(jì)。
在融合傳感器時(shí)，我們實(shí)際上是在融合傳感器數(shù)據(jù)，或者叫做數(shù)據(jù)融合。有9種方法可以構(gòu)建數(shù)據(jù)融合算法。這9種方法又可以分為3大類。
本文將重點(diǎn)介紹傳感器融合的3種分類和9種算法。
按抽象級別進(jìn)行傳感器融合
最常見的融合類型是抽象級別的。在這種情況下，問題是“應(yīng)該什么時(shí)候進(jìn)行融合？”
文章激光雷達(dá)和攝像頭的融合中描述了早期（EARLY）和后期（LATE）融合兩種過程。
在業(yè)界，還有其他稱呼：低級（Low Level）、中級（Mid-Level）和高級（High-Level）傳感器融合。
低級別融合：融合原始數(shù)據(jù)
低級別傳感器融合是關(guān)于融合來自多個(gè)傳感器的原始數(shù)據(jù)。例如，融合來自激光雷達(dá)的點(diǎn)云數(shù)據(jù)和來自攝像頭的像素級數(shù)據(jù)。
展開 自動(dòng)駕駛汽車中的激光雷達(dá)和攝像頭傳感器融合
來源 | 汽車電子與軟件
傳感器融合是自動(dòng)駕駛汽車的關(guān)鍵技術(shù)之一。這是自動(dòng)駕駛汽車工程師都必須具備的技能。原因很簡單：感知無處不在，無時(shí)無刻不在使用。
自動(dòng)駕駛汽車通過4個(gè)關(guān)鍵技術(shù)工作：感知、定位、規(guī)劃和控制。
傳感器融合是感知模塊的一部分。我們希望融合來自視覺傳感器的數(shù)據(jù)，以增加冗余、確定性或利用多個(gè)傳感器的優(yōu)勢。
傳感器數(shù)據(jù)和融合
在感知步驟中，使用激光雷達(dá)、雷達(dá)和攝像頭的組合來理解環(huán)境是很常見的。這3個(gè)傳感器各有優(yōu)缺點(diǎn)，使用它們可以幫助您擁有所有優(yōu)點(diǎn)。
如上圖所示：
攝像頭擅長處理對象分類及理解場景。
作為一種飛行時(shí)間傳感器，激光雷達(dá)非常適合估計(jì)距離。
雷達(dá)可以直接測量障礙物的速度。
在本文中，我們將學(xué)習(xí)融合激光雷達(dá)和攝像頭，從而利用攝像頭的分辨率、理解上下文和對物體進(jìn)行分類的能力以及激光雷達(dá)技術(shù)來估計(jì)距離并查看3D世界。
攝像頭：2d傳感器
相機(jī)是一種眾所周知的傳感器，用于輸出邊界框、車道線位置、交通燈顏色、交通標(biāo)志和許多其他東西。在任何自動(dòng)駕駛汽車中，攝像頭從來都不是問題。
如何使用這種2D傳感器，并將其與3D傳感器（如：激光雷達(dá)）一起應(yīng)用于3D世界？
激光雷達(dá)：3d傳感器
激光雷達(dá)代表光檢測和測距。它是一個(gè)3D傳感器，輸出一組點(diǎn)云；每個(gè)都有一個(gè)(X,Y,Z)坐標(biāo)。可以在3D數(shù)據(jù)上執(zhí)行許多應(yīng)用：包括運(yùn)行機(jī)器學(xué)習(xí)模型和神經(jīng)網(wǎng)絡(luò)。
展開 