可信AI
關注創建者：匿名 創建時間：2026-01-04
可信AI的實例教程
2019年初，歐盟委員會發布了《關于歐洲人工智能開發與使用的協同計劃》，將人工智能安全列為了一大關鍵發力領域，在全球人工智能倫理道德領域占據了領先地位[11]；2019年4月，歐盟委員會發布了《人工智能倫理準則——可信AI倫理指南》，提出了可信AI的七大原則[12]；2020年6月，歐盟新發布的無人機通用準則在歐盟全境正式啟用，該準則取代了歐盟成員國各自的現行法規，為歐洲發展無人機行業提供了明確、統一的規則[13]。
我國的多無人系統相關法案制定也在逐步推進。2017年7月，我國國務院首次頒布的人工智能戰略性文件《新一代人工智能發展規劃》，提出了2030年人工智能核心產業規模應超過1萬億元，帶動相關產業規模超過10萬億元的目標，并對多無人系統協同中的人工智能基礎理論框架給出了定義，提出了“加強人工智能相關法律、倫理和社會問題研究，建立保障人工智能健康發展的法律法規和倫理道德框架”[2]。但該框架在自主協同控制與優化決策理論的定義中，更側重于協同控制的實現與優化，對于多無人系統中可能存在的安全性隱患沒有較多闡述。2020年12月，中國信息通信研究院安全研究所發布了《人工智能安全框架（2020年）》，制定了一個較為全面的人工智能安全框架，但其中對于多無人系統協同中特有的安全問題表述仍不詳細 [3]。
四、多無人系統協同面臨的挑戰
區別于傳統無人系統研究，多無人系統協同的核心要素包括通信交互，合作博弈，以及群體智能演化等。結合多無人系統協同的上述特點，堅持以問題為導向分析其具體戰略舉措，圍繞多無人系統本身的內生安全和多無人系統對外界的衍生安全兩大模塊構建了多無人系統協同中的人工智能安全框架，如圖1所示。
展開 總結一句話就是 “這個結果是可信的嗎”
AI/ML開始流行的初期，缺少對這部分的說明，但最近，這種可說明性（Explainable AI）越來越重要。這也是為什么發表AI相關庫或框架時，論文會緊隨其后。很多方法和理論存在于數學基礎之上。支持AI/ML的數學定理有很多，例如高斯-馬爾科夫定理（Gauss-Markov Theorem）、奇異值分解（Singular Value Decomposition）、默瑟定理（Mercer’s Theorem）、表示定理（Representer Theorem）、西文科定理（Universal Approximation Theorem）。值得一提的是，其中西文科SIBENKO定理還涵蓋了最近對AI/ML影響最大的人工神經網絡的數學意義。雖然無法一一詳細說明，但毋庸置疑，基于數據的機器學習和由此產生的AI在數學上是可靠的。
在數學證明方面，就像演繹法和歸納法之間沒有對錯一樣，采用基于規則的AI和基于數據的機器學習的AI也沒有對錯。解支配方程（以規則為基礎解決問題）的應用雖然在數學上很美，但由于公式展開會存在無法顯示的誤差，因此經常與現實存在差異。同樣，通過歸納數學表達式（基于數據解決問題）并加以應用，對使用的數據也無法獲得100%的準確度。也就是說，理論和現實之間的誤差總是存在的，區別在于何時何地顯現。雖然基于數據的方法乍一看讓人感覺像是在盲人摸象，但設計好的解決方法和演繹推論方法一樣絕對沒有錯。如果我們因為不能100%解決一個問題而對人工智能/ML領域的研究和應用望而卻步，那我們只能看到和聽到習慣的東西，數據驅動才是解決棘手問題的最佳方法。
展開 總結一句話就是 “這個結果是可信的嗎”
AI/ML開始流行的初期，缺少對這部分的說明，但最近，這種可說明性（Explainable AI）越來越重要。這也是為什么發表AI相關庫或框架時，論文會緊隨其后。很多方法和理論存在于數學基礎之上。支持AI/ML的數學定理有很多，例如高斯-馬爾科夫定理（Gauss-Markov Theorem）、奇異值分解（Singular Value Decomposition）、默瑟定理（Mercer’s Theorem）、表示定理（Representer Theorem）、西文科定理（Universal Approximation Theorem）。值得一提的是，其中西文科SIBENKO定理還涵蓋了最近對AI/ML影響最大的人工神經網絡的數學意義。雖然無法一一詳細說明，但毋庸置疑，基于數據的機器學習和由此產生的AI在數學上是可靠的。
在數學證明方面，就像演繹法和歸納法之間沒有對錯一樣，采用基于規則的AI和基于數據的機器學習的AI也沒有對錯。解支配方程（以規則為基礎解決問題）的應用雖然在數學上很美，但由于公式展開會存在無法顯示的誤差，因此經常與現實存在差異。同樣，通過歸納數學表達式（基于數據解決問題）并加以應用，對使用的數據也無法獲得100%的準確度。也就是說，理論和現實之間的誤差總是存在的，區別在于何時何地顯現。雖然基于數據的方法乍一看讓人感覺像是在盲人摸象，但設計好的解決方法和演繹推論方法一樣絕對沒有錯。如果我們因為不能100%解決一個問題而對人工智能/ML領域的研究和應用望而卻步，那我們只能看到和聽到習慣的東西，數據驅動才是解決棘手問題的最佳方法。
展開 
可信AI的最新內容
AI可信嗎？
雖然大致了解數據驅動的AI是如何解決問題的，但是在我們試圖解決問題的過程中，必然會遇到一些普遍和現實的疑問，比如：這種方法在數學上合理嗎？可以直接應用嗎？能向客戶說明嗎？聽說在解決問題時，準確性不是 100%？
AI可信嗎？
雖然大致了解數據驅動的AI是如何解決問題的，但是在我們試圖解決問題的過程中，必然會遇到一些普遍和現實的疑問，比如：這種方法在數學上合理嗎？可以直接應用嗎？能向客戶說明嗎？聽說在解決問題時，準確性不是 100%？
2019年初，歐盟委員會發布了《關于歐洲人工智能開發與使用的協同計劃》，將人工智能安全列為了一大關鍵發力領域，在全球人工智能倫理道德領域占據了領先地位[11]；2019年4月，歐盟委員會發布了《人工智能倫理準則——可信AI倫理指南》，提出了可信AI的七大原則[12]；2020年6月，歐盟新發布的無人機通用準則在歐盟全境正式啟用，該準則取代了歐盟成員國各自的現行法規，為歐洲發展無人機行業提供了明確、統一的規則
