在汽車電動化、網路連線、智慧化發展趨勢下，由於汽車自動駕駛技術的快速發展，汽車產業正日益逼近一場根本性的變革。然而，近年來自動駕駛汽車的安全挑戰日益凸顯，相關事故在某種程度上削弱了社會大眾對自動駕駛汽車的信心和信任。為有效應對自動駕駛演算法帶來的安全挑戰，需要建立一個統一的自動駕駛演算法安全框架，推動自動駕駛汽車從研發測試階段加快轉向商業化應用階段。
自動駕駛演算法安全性問題的主要表現
#我國目前的自動駕駛汽車立法主要側重在道路測試、示範應用、汽車資料安全這幾個方面，尚未針對以人工智慧演算法為核心的自動駕駛系統形成一個完整統一的安全監管框架。未來立法需要重點回應三個面向的問題。
第一，一般性技術安全是最主要、最相關的變數。與受制於一套既定監管框架（涵蓋安全標準、檢測認證、產品審批等事項）的傳統汽車和受到駕照與責任機制約束的人類駕駛員相比，自動駕駛系統的安全標準尚待建立，所以自動駕駛汽車還不能像傳統汽車那樣證明其安全性與合規性。因此在現階段，最核心的問題乃是確立自動駕駛系統的安全門檻、安全標準、偵測認證方法、審核機制等要求。
一個關鍵問題是，自動駕駛系統的安全性需要達到何種程度，政策制定者和監管者才可以允許自動駕駛汽車的商業化部署。社會大眾對科技的偏見可能導致可接受的安全門檻被不恰當地提升。例如，認為自動駕駛汽車需要達到足以實現零事故的絕對安全水準。在筆者看來，自動駕駛演算法的安全門檻不應是基於絕對目標（例如零事故、零傷亡）的自動駕駛水平，而應以一般人類駕駛水平為衡量之基準，來確定科學合理的安全門檻。例如，2022年8月英國發布的自動駕駛政策文件《互聯與自動出行2025：在英國釋放自動駕駛汽車的效益》明確提出了自動駕駛汽車的安全門檻，即自動駕駛汽車應當達到與「勝任且謹慎的人類駕駛者」（Competent and Careful Human driver）同等程度的安全性，這一標準高於一般人類駕駛者。
第二，網路安全挑戰。網路安全作為影響自動駕駛汽車發展應用的關鍵性因素，與之相關的風險與威脅將成為自動駕駛汽車最複雜、最難解決的威脅。整體而言，自動駕駛汽車的網路安全挑戰主要呈現以下特徵：
一是自動駕駛汽車比傳統汽車更容易遭受網路安全風險。自動駕駛汽車是“車輪上的機器人”，除了需要面對傳統意義上的網路安全風險，還將面對自動駕駛演算法所帶來的全新的網路安全挑戰、風險和威脅。
二是自動駕駛汽車的網路安全風險來源主體更加多元化，在生產製造、營運、維修、智慧基礎設施、保險、監管等多個環節，不同主體對自動駕駛汽車的存取或控制，都可能帶來網路風險。
三是自動駕駛汽車面臨的網路入侵方式更加多元。例如，駭客可以針對軟體漏洞發動攻擊，可以透過連接惡意設備對自動駕駛汽車發動物理攻擊，也可以攻擊智慧道路基礎設施等自動駕駛汽車生態系統的組成部分。
此外，就攻擊效果而言，駭客可以採取多種類型的攻擊，包括失效攻擊、操作攻擊、資料操縱攻擊、資料竊取等，這些攻擊的影響可大可小，不容小覷。四是自動駕駛汽車的網路安全風險同時呈現廣度與深度特徵，帶來全方位、多層次的危害後果。在廣度上，自動駕駛汽車的軟體和硬體漏洞可能是廣泛的，這意味著網路攻擊會被放大；在深度上，自動駕駛汽車被入侵、控制後可能造成不同層次的不利後果，包括人員傷亡、財產損害、資料竊取等。
第三，倫理安全挑戰。自動駕駛演算法的最首要的倫理安全問題是，在面對不可避免的事故（Unavoidable Accident）時，演算法該如何抉擇並採取行動？尤其是在面對兩難處境（即道德兩難）時該如何抉擇？是選擇最小化人員傷亡，還是不惜代價地保護車乘人員，即使這可能意味著選擇犧牲行人等其他道路參與者？自動駕駛汽車道德兩難的可能性，讓科技與倫理之間的互動成為不可迴避的問題，即如何將複雜的人類道德編程到自動駕駛演算法的設計當中。對於這個問題，社會各界尚未形成共識。
建立自動駕駛汽車的演算法安全框架
為了確保實現《智慧汽車創新發展戰略》提出的「到2025年，中國標準智慧汽車的技術創新、產業生態、基礎設施、法規標準、產品監管和網路安全體系基本形成。實現有條件自動駕駛的智能汽車達到規模化生產，實現高度自動駕駛的智慧汽車在特定環境下市場化應用」的目標，需要加快修訂、革新針對傳統汽車和人類司機的立法和監管框架，為自動駕駛汽車融入現行道路交通體系建立新的法律制度和監管架構。其中的一個核心層面是，建構以自動駕駛演算法為核心的安全監管框架，需要涵蓋技術安全標準與審核認證、網路安全認證、倫理風險管理三大維度。
第一，建立新的自動駕駛系統安全標準和認證機制。國家亟須為自動駕駛汽車建立新的、統一的安全標準，從傳統上以汽車硬體和人類駕駛為核心的安全標準，轉向以自動駕駛演算法為核心的安全標準，這意味著允許創新的汽車設計－無需駕駛艙、方向盤、腳踏板、後視鏡的自動駕駛汽車。此外，為了更準確可靠地評估、驗證自動駕駛系統的安全性，將來立法和政策需要為自動駕駛系統設定科學合理的安全門檻與基準，可以考慮要求自動駕駛汽車至少達到與「勝任且謹慎的人類司機」同等程度的安全性，並確立一套基於道路駕駛技術水平的科學合理的檢測方法。
第二，需要為自動駕駛汽車建立新的網路安全框架。政策制定者需要考慮融入傳統的網路安全原則，從整體上保障自動駕駛汽車的網路安全。一是建立自動駕駛汽車的網路安全認證機制，只有透過網路安全認證的自動駕駛汽車才允許銷售、使用。而且該機制需要延伸到軟硬體供應鏈。二是需要明確自動駕駛汽車的網路安全防護能力和要求，包括技術措施和非技術措施。第三是需要在產業與政府之間實現B2B、B2G、G2B等形式的資料共享，尤其是安全事故、網路安全、自動駕駛系統脫離等安全事件相關的資料。建立事故數據報告與分享機制，對於提升整個自動駕駛產業的發展水準意義重大。
第三，建立自動駕駛演算法等倫理風險管理機制。一方面，需要明確的政府監管為自動駕駛演算法設計中的倫理選擇設定標準，以確保自動駕駛演算法在倫理上符合一般的社會公共利益，並在公眾的接受度和道德要求之間實現某種平衡。另一方面，自動駕駛汽車企業需要加強汽車自動駕駛技術的科技倫理治理，積極履行科技倫理管理主體責任，堅守科技倫理底線，針對汽車自動駕駛技術進行科技倫理風險評估審查、建立科技倫理風險監測預警機制、強化科技人員的倫理訓練等。例如，英國的監管者提出建立「自動駕駛汽車倫理與安全委員會」（Committee on AV Ethics and Safety），以更好地支持自動駕駛汽車的治理。
總結而言，自動駕駛汽車的廣泛部署和使用，是實現其許多正向效益的必要條件。而其廣泛部署和使用的必要條件則是建立合適的安全框架，加快實現自動駕駛汽車從測試到商用的飛躍。但任何合理的法律政策都不能對公眾的接受度視而不見。換句話說，自動駕駛汽車要成為最優選的交通方式，就必須考慮其使用者和社會整體的預期，這些預期包括使用者的滿意和安全以及信任、責任、透明等設計價值。
對自動駕駛汽車的安全規則也必須考慮這些預期，甚至去調和其中的過高預期。基於這些考慮，本文創新地提出了一個全新的自動駕駛演算法安全監管框架，來應對自動駕駛汽車邁向商業化應用之前必須直面的演算法安全挑戰。長遠來看，自動駕駛汽車的商用只是未來交通法治的起點，而非終點，汽車設計、交通法規、責任承擔、保險賠償、駕駛習慣等一系列變革將紛至沓來。
以上是自動駕駛汽車商用，需要重視演算法安全規制的詳細內容。更多資訊請關注PHP中文網其他相關文章！
