自動駕駛汽車安全系統工程的案例
汽車自動駕駛輔助系統電磁安全性研究
從現有研究成果來看，智能網聯汽車自動駕駛輔助系統的電磁安全不容忽視。從推動智能網聯汽車產業落地和保護人民生命財產安全的角度來看，行業需要投入更多的資源對汽車自動駕駛輔助系統的電磁安全性進行深入研究，從而發現和解決安全風險，助力中國汽車工業“新四化”發展進程。
自動駕駛汽車真的比人駕駛汽車更安全嗎?
但自動駕駛汽車真的會更安全嗎？
汽車行業面對的最大挑戰主要是邊緣情況引發的意外狀況。事實上有兩個新的汽車安全標準，ISO 26262 和 UL 4600，就試圖解決這些邊緣情況。
然而這些標準不是強制性的，監管機構不要求自動駕駛汽車遵守這些或其他任何自動駕駛行業專屬標準。更糟糕的是，正如我將在下面解釋的那樣，有充分的理由相信某些類型的自動駕駛汽車可能無法處理這些邊緣情況。
自動化水平
首先，我們來定義“自動駕駛”的含義。汽車工程師協會定義了自動駕駛技術的六個級別，如下所示：
L0：人類司機掌控所有駕駛功能
L1：某種程度的駕駛輔助（可以是自適應巡航或路線保持 / 居中）
L2 ：部分自動駕駛（同時具備自適應巡航和路線居中），但司機必須保持控制狀態（手放在方向盤上，雙眼注視路線，或者兩者皆有）
L3：有條件的自動駕駛（特定條件下司機可以雙手離開方向盤做自己的事情，但收到車輛提示時必須介入控制）
L4：高度自動駕駛（在特定場景下，如指定城市街道和 / 或校園道路上，司機不需要介入控制）
L5：完全自動駕駛（不需要人類介入控制）
L3-5 被視為自動駕駛系統（ADS），其中司機無需注意道路。在第 3 級別，司機可以看書或看電影，但如果車輛要求，司機必須能夠在 10-60 秒內接管車輛操控。
展開 自動駕駛系統安全隱患分析
來源 |
軒轅實驗室
A Comprehensive Study of Autonomous Vehicle Bugs
本文來自實驗室金若辰、黃安妍、許偉豪、楊園的研究成果和學習筆記
自動駕駛汽車（AVs）正成為我們日常生活中不可或缺的一部分。大約50家公司正在積極開發自動駕駛汽車，包括谷歌、福特和英特爾等大公司。一些自動駕駛汽車已經在公共道路上運行，最近有記錄顯示至少有一人不幸死亡。因此，了解自動駕駛系統中的錯誤對于確保其安全性、安全性、健壯性和正確性至關重要。
此篇論文從Baidu Apollo, Autoware系統中分析16851次代碼提交以及499個bug，并將其分類為13種原因，20種現象，18種分類，最終總結出16條發現。
1.AV系統基本介紹
百度Apollo開源平臺的主要部分：HD maps（高精度地圖）（支持其他所有模塊）, localization(定位)，perception（感知），prediction（預測），planning（規劃），control（控制）
定位：汽車運用激光和雷達數據，將這些傳感器感知內容與高分辨率地圖進行對比，這種對比可以實現厘米級別精度的定位
精確定位的常用方法：傳感器內容與地圖內容進行對比，需要將自身坐標系中的數據轉化為地圖坐標系中的數據
利用激光雷達，我們可以通過點云匹配來對汽車進行定位（點云是指目標表面特性的海量點集合。結合激光測量和攝影測量原理得到點云，包括三維坐標（XYZ）、激光反射強度（Intensity）和顏色信息（RGB）。
展開 自動駕駛系統中視覺感知模塊的安全測試
車聯網領域隨著物聯網與交通運輸領域的深度融合蓬勃發展．隨著深度學習的進步,車聯網領域的自動駕駛技術得到了突破性的發展,并有演化成一場新的汽車工業革命的趨勢．無論是特斯拉、蔚來等新型車企,還是福特、寶馬等傳統車企都陸續拿到了自動駕駛路測牌照,著眼于研發深度自動駕駛技術．迅猛發展的深度自動駕駛技術正逐漸成為車聯網領域的主要支撐技術之一,正在改變未來的交通和出行方式．
視覺感知模塊是自動駕駛進行環境感知的重要組件,也是車輛進行智能決策的重要基礎．自動駕駛領域的重要企業特斯拉更是將視覺感知模塊作為其駕駛系統的唯一環境感知模塊．因此,自動駕駛系統視覺感知模塊的安全性是自動駕駛系統正常工作的關鍵．雖然視覺感知模塊的表現隨著深度視覺技術的發展穩步提升,但是其從駕駛環境中感知到的特征語義難被理解、決策過程無法解釋．如何對自動駕駛系統視覺感知模塊的安全性進行充分測試,已經成為了一個迫在眉睫、亟待解決的問題．
誠然,圍繞深度學習可解釋性方面的工作有了一定的突破,但是距離分析清楚自動駕駛視覺感知模塊的錯誤傳導機理還有較遠的距離．近年來,神經網絡的黑盒攻擊方法的進步,啟發大家提出了一些基于場景搜索的自動駕駛視覺感知模塊安全性測試技術．這些場景驅動的測試方法利用黑盒測試的思路,為駕駛系統提供盡可能多的駕駛場景數據,觀察自動駕駛系統的輸出與測試預言(TestOracle)之間的差異,進而分析自動駕駛系統視覺感知模塊的安全性．
展開 
未來自動駕駛系統功能安全模型拆解分析
但是，這些示例與特定的帶驅動系統密切相關。
檢查自動駕駛車輛是在ODD內還是在ODD之外是一項復雜的任務，因為ODD定義涵蓋了廣泛的要求。能夠感知所有這些因素對于激活和停用至關重要。下表列出了錯誤檢測時可能發生的所有錯誤類型組合：
ODD檢測結果中只有假陽性組合與安全有關，即當實際上車輛在ODD內，而錯誤的檢測到在外時，只會導致錯誤的停用系統，但這個過程是安全的。反之，ODD之外的自動駕駛操作的行為和后果不夠安全，因為既未對其進行設計也未對其進行驗證。因此，關鍵的設計要素是要采取適當的安全措施，以確保安全地檢測ODD區域和限制。
總結
本文設計自動駕駛的一般方法是基于其功能安全性的原理。它們來自上述正風險平衡和避免不合理風險的考慮。這些原則為得出總體基線要求和各種自動駕駛功能所需的活動提供了基礎。自動駕駛的功能安全性和網絡安全性原則分為三類，每組都有一個共同的共同影響領域。
第一組名為“自動車輛及相關方面”，是針對車輛層面的總體方面，包括自動駕駛系統和人為因素。但是，這些方面對于實現整體安全和網絡安全至關重要。這涵蓋了技術功能以及與過程相關的方面。
第二組名為“自動駕駛系統”的原理側重于系統的主要技術方面。這些原則構成了與自動駕駛系統本身的安全和網絡安全有關的功能。
第三類被稱為“人為因素”，涉及ADS和用戶之間所有安全交互方面。這包括用戶角色，用戶與ADS之間的角色明確劃分以及雙向接管方案。
本文旨在重點介紹與開發、生產、操作和維護自動駕駛系統相關的功能安全和網絡安全方面，這些方面的結合可為道路上的安全產品提供支持。提出的策略為自動駕駛汽車的功能安全設計和網絡安全設計奠定了基礎。
展開 汽車材料作用大 5方面推動自動駕駛汽車安全/設計
據外媒報道，完全自動駕駛汽車的競賽還在繼續，給汽車業帶來了前所未有的挑戰和機遇。盡管該行業還未實現完全自動駕駛，但是推動完全自動駕駛的技術已在公路上運行多年。現在，大多數汽車都配備了盲點監測、車道偏離警告和停車輔助等增強安全和駕駛員輔助功能，此類功能都將促使汽車業更快采用、接受完全自動駕駛汽車。
隨著自動駕駛汽車的發展，汽車行業領先化學供應商巴斯夫正考慮如何利用材料，研究出解決方案，以對已經上市和正處于研發過程中的自動駕駛技術起到補充和促進作用。以下是材料可對自動駕駛汽車的安全和設計做出的5種貢獻：
1．保護自動駕駛汽車傳感器，讓車輛可以“看見”
如果傳感器是自動駕駛汽車的眼睛，那么塑料外殼就是它的護目鏡。自動駕駛汽車的安全性取決于傳感器和攝像頭的準確性。高溫、高濕和除冰鹽等環境因素會損害傳感器和攝像頭的塑料外殼，一旦此類材料被破壞，分辨率和傳感器讀數就會受到影響，從而影響車輛性能。
巴斯夫提供了一系列材料，可保護此類敏感部件的完整性。其提供的短程和遠程雷達兼容性塑料具有優秀的尺寸穩定性和耐水解性，可以保護雷達免受環境影響。
2．使用先進顏料和創新涂料，讓汽車“被看見”
巴斯夫的化學專家正在研究如何增加車輛涂層的可見度，特別是激光雷達系統很難識別的深色涂層。目前汽車所使用的深色顏料會吸收與激光雷達和雷達相關的波長，從而導致自動駕駛汽車讀數不準確。巴斯夫公司正在研發一種可替代炭黑顏料的顏料，此種顏料可提高反射率，并且可以制造出能夠被激光雷達系統探測到的深色涂層。
3. 打造舒適、干凈、安靜的無人駕駛汽車內飾
巴斯夫預測，未來大多數自動駕駛汽車將會呈現兩種形式：一種是可作為客廳或辦公室的私人高檔車；一種是移動出行服務公司提供的網約車。
對于豪華車，汽車制造商可以使用高質量材料提高汽車整體質感。
展開 L4級自動駕駛系統如何保證行車安全
作者 |
Aimme
出品 |
焉知
我們知道，L3的本質是“一種無法定義為安全的系統”。這里所說的“安全”，可能是在技術上無法實現，或者在現實行駛狀態下無法判定是否“安全”。所以，L3級自動駕駛下，實際上駕駛員還是必須時刻保持警惕，隨時取回車輛控制權的。比如，在駕駛過程中陷入困境，并且需要在高速公路上有相應的反饋和措施。在這種情況下，汽車需要明確判斷保持什么樣的狀態才是安全的。是否立馬停車就安全了呢？答案是“不一定”，在路邊停車不一定安全。這也是目前很多主機廠（如奧迪）放棄實現L3級自動駕駛，轉而去開發L4級自動駕駛的原因。那么問題來了，對于L4級來說又如何保證駕駛安全性呢？
L4的本質是需要在其設計運行環境ODD中明確定義出何種狀態為安全狀態，并且輸出達到相應安全狀態的措施；對于L4級自動駕駛來講，最為重要的是實現ODD的準確定義，并能在所定義的ODD范圍內實現有效的自動駕駛系統算法開發。從開發層面講，確保L4級自動駕駛安全需考慮如下幾點：
1）ODD定義是否考慮到了將L4系統不能處理的靜態場景區分到ODD外，高精地圖是否更新及時，以滿足對動態目標在原ODD范圍內對設計系統產生必要的影響進行及時處理？
2）開發算法是否覆蓋了所有可能的用戶使用場景UseCase？（包含正常標準使用工況和異常使用工況）
3）軟硬件測試、系統功能測試是否覆蓋了所有的測試案例？
展開 蘋果AI汽車首撞——仿真如何保障自動駕駛汽車安全
自動駕駛汽車一直是人工智能領域的熱點，但行駛安全問題也飽受群眾懷疑。根據美國加州車管局披露，蘋果研發的自動駕駛汽車在2018年8月24日發生了一起低速追尾事故。這是一輛2016i雷克薩斯RX450H，當時正以每小時1英里的速度行駛在蘋果總部——加利福尼亞州庫比蒂諾總部附近，被一臺人類駕駛的尼桑Leaf追尾。
這也不是孤例，據統計2018年以來已有超過40起自動駕駛汽車事故。沒有道路測試，任何一輛自動駕駛汽車都無法上市，然而我們如何知道安全性的標準呢？在上路之前，我們如何測試這項新技術來避免乘客和行人受到傷害呢？答案就是進行仿真測試。
自動駕駛汽車依靠AI算法來識別危險，并以類似人的方式進行響應，車輛需要在不斷變化的環境中，在連續的閉環循環中感知周圍環境，確定必要的指令并執行所需的動作。工程師可以在虛擬仿真的環境中，模擬驗證自主駕駛系統駕駛的安全性；與物理測試相比，仿真測試能大大縮減研發周期，而且更安全，更省錢。
從公共道路上的自動駕駛汽車到SpaceX可重復使用火箭降落在自行帆船上，機器智能的快速發展使得它接管越來越多的人類復雜活動。而給予AI更大自主權可能導致它們必須做出涉及人類生命和肢體的自主選擇情況。當自動駕駛汽車真正面對類似的選擇時，它應優先考慮汽車內部人員，或車外人員，還是平等地做出選擇呢？以前，為了訓練機器的學習算法，必須由人工對自動駕駛測試車捕捉到的圖像進行標識，但是這樣的測試非常浪費時間，拖延發展進程。后續專家們借助仿真測試來對機器的學習算法進行訓練時，明顯加快了測試進度。
展開 豐田發布Guardian輔助系統 自動駕駛/安全性并舉
據英國《每日郵報》報道，豐田公司7日在2019年CES展會上Guardian駕駛輔助系統，旨在輔助駕駛員操作，提高駕車安全，防止事故的發生。
豐田在CES展會上重現了最近發生在加州的三起車禍。通過對Guardian系統的展示，闡述了該系統可以避免類似事故的發生。豐田表示，Guardian的設計宗旨是“增強人對汽車的控制，而不是取代人工操作”。系統可以識別潛在的事故并提醒司機，或者在必要時自動做出正確的反應。
豐田研究院(TRI)首席執行官、豐田汽車公司研究員Gill Pratt博士在發布會上表示，“我們都有道義上的責任，應用自動駕駛技術來盡可能、盡快地挽救更多生命。這就是為什么在過去的一年里，TRI的主要精力都集中在豐田Guardian系統上。”
Gill Pratt說，這個系統“結合并協調了人與機器的技能和優勢”。該公司解釋說，該系統的工作原理很像飛行員和戰斗機的協作。
豐田還計劃在未來推出Chauffeur全自動駕駛系統，可以完全取代駕駛員。豐田展示了自動駕駛功能如何與雷克薩斯的TRI-P4研究車型配合使用。雖然從目前來看，這項技術還有很長的路要走。
展開 測試及驗證自動駕駛系統安全、大規模部署的解決方案
Foretify? 驗證自動及分析平臺
M-SDL
Foretellix發明了M-SDL，一種開源的，人機可讀的語言。此語言僅通過幾行代碼便可描述復雜的抽象場景（abstract scenarios）。Foretelify?基于M-SDL描述的場景自動生成海量的有意義的測試，從而覆蓋在智駕系統測試中可能遇到的相關情況，邊緣條件及未知空間。
M-SDL允許各場景間進行混合、組合和重用，從而使針對使用情況和ODD需求的場景庫建設成為可能。
M-SDL是即將到來的ASAM OpenScenario2.0標準的概念先行者。
測試驗證模組包
模組包攜帶預定義且可定制的驗證計劃，滿足具體情況和ODD而設計的即拿即用抽象場景(abstract scenario)。現今提供以下模組包:
? ADAS和高速道路：用于ADAS測試的眾多場景。其包括并混合了52個M-SDL場景即相應的場景回歸測試模組。
? ALKS：商業實施的聯合國歐洲經委會(UNECE)關于自動車道保持系統的監管方案-聯合國條例157。
? 礦山作業：為礦山作業自駕系統而設計的特定ODD測試驗證模組包。
Foretellix正在擴建其測試和驗證模組包庫，以支持其他情況和ODDs。
展開 Ansys助力EasyMile提高電動自動駕駛汽車安全性
Ansys綜合全面的軟件工具幫助消除不一致性問題，加速自動駕駛汽車認證
主要亮點
EasyMile采用Ansys軟件幫助其滿足嚴格的客戶要求和政府安全法規
Ansys? medini analyze支持在概念、系統、軟硬件層面分析電子控制的安全相關功能
總部位于法國圖盧茲的全電動自動駕駛技術供應商EasyMile采用Ansys軟件開發單一來源的交鑰匙解決方案，以展示其自動駕駛汽車的安全性。Ansys聯合法國渠道合作伙伴 CADFEM 為EasyMile工程師提供能夠在統一模型上分析跨平臺的所有安全活動，從而顯著縮短研發周期，加速產品上市進程，并降低該公司自動駕駛巴士和牽引車解決方案的運營成本。
兩款電動汽車（EV）都以L4級運行，這意味著它們在檢測到系統故障之前都是完全自動駕駛的。EasyMile采用Ansys軟件對兩款汽車的基礎設施和互聯架構開展功能安全分析。
Ansys幫助EasyMile工程師顯著縮短研發周期，加速產品上市時間，并降低該公司自動駕駛巴士（如圖）和牽引車解決方案的運營成本。（圖片來源：EasyMile）
自動駕駛汽車（AV）功能只有在高水平的信息下才能安全運行。支持AV功能的實時數據處理是由激光雷達、雷達、攝像頭、物聯網（IoT）傳感器、GPS和導航軟件組成的復雜系統的輸入驅動，所有組件協同工作，以提供車輛周圍環境的360度全方位視角。想要證明這一級別的安全性是非常困難的，需要明確的方法和工具來管理這些非經典系統的復雜架構。
展開 
Velodyne聯合Ansys提升自動駕駛汽車安全性
Ansys加快激光雷達研發速度，以增強自動駕駛危險識別
主要亮點
Ansys與Velodyne展開合作研發高精度、基于物理的Velodyne激光雷達傳感器模型，以檢測和追蹤駕駛危險
此次合作加速了Velodyne傳感器與自動駕駛汽車（AV）的集成，有助于提升道路安全性
Velodyne與Ansys展開合作為新一代汽車激光雷達傳感器開發軟件模型，以顯著改進高級自動駕駛汽車的危險識別功能。此次合作將Velodyne的激光雷達設計整合到Ansys的虛擬傳感器套件中，加快汽車制造商將Velodyne傳感器集成到自動駕駛汽車應用的速度，實現行業領先的駕駛安全性并大幅加快產品上市進程。
高級駕駛輔助系統（ADAS）面臨的眾多挑戰之一是系統的魯棒性，以可靠測試并識別潛在的危險邊緣場景。
展開 Velodyne聯合Ansys提升自動駕駛汽車安全性
Ansys加快激光雷達研發速度，以增強自動駕駛危險識別
主要亮點
Ansys與Velodyne展開合作研發高精度、基于物理的Velodyne激光雷達傳感器模型，以檢測和追蹤駕駛危險
此次合作加速了Velodyne傳感器與自動駕駛汽車（AV）的集成，有助于提升道路安全性
Velodyne與Ansys展開合作為新一代汽車激光雷達傳感器開發軟件模型，以顯著改進高級自動駕駛汽車的危險識別功能。此次合作將Velodyne的激光雷達設計整合到Ansys的虛擬傳感器套件中，加快汽車制造商將Velodyne傳感器集成到自動駕駛汽車應用的速度，實現行業領先的駕駛安全性并大幅加快產品上市進程。
高級駕駛輔助系統（ADAS）面臨的眾多挑戰之一是系統的魯棒性，以可靠測試并識別潛在的危險邊緣場景。
展開 Mobileye：自動駕駛汽車安全研究（71頁）
Mobileye：自動駕駛汽車安全研究（71頁）
Velodyne聯合Ansys提升自動駕駛汽車安全性
Ansys加快激光雷達研發速度，以增強自動駕駛危險識別
主要亮點
Ansys與Velodyne展開合作研發高精度、基于物理的Velodyne激光雷達傳感器模型，以檢測和追蹤駕駛危險
此次合作加速了Velodyne傳感器與自動駕駛汽車（AV）的集成，有助于提升道路安全性
Velodyne與Ansys展開合作為新一代汽車激光雷達傳感器開發軟件模型，以顯著改進高級自動駕駛汽車的危險識別功能。此次合作將Velodyne的激光雷達設計整合到Ansys的虛擬傳感器套件中，加快汽車制造商將Velodyne傳感器集成到自動駕駛汽車應用的速度，實現行業領先的駕駛安全性并大幅加快產品上市進程。
高級駕駛輔助系統（ADAS）面臨的眾多挑戰之一是系統的魯棒性，以可靠測試并識別潛在的危險邊緣場景。
展開 