?自動駕駛汽車是人工智能技術最令人興奮和最具影響力的應用場景之一。

僅在美國，每年就有超過 35,000 人死于車禍。由于自動駕駛汽車理論上可以比人類司機更快做出反應，并且不會醉酒駕駛、不會邊開車邊發短信或感到疲倦，所以它們應該能夠顯著提高車輛安全性。這種技術還承諾讓老年人和其他不能輕松駕車的人們更加獨立，出行更方便。

在過去三年中，自動駕駛汽車行業獲得的投資超過 2500 億美元。

下面列舉了行業中各個自動駕駛車輛類型領域中的典型企業：

• 送貨機器人：Gofurther.ai、Idriverplus、Kiwibot、Neolix、Nuro、Refraction.ai、Scout（亞馬遜）、Serve Robotics、Starship Technologies、Unity Drive、Yours Technology。
• 穿梭巴士和公交車：Auto（Ridecell）、百度、Beep、Coast Autonomous、e.Go、EasyMile、Local Motors、Milla Pod、May Mobility、Navya（軟銀）、Ohmio、Optimus Ride、Sensible4、TransDev、Venti Technologies、Voyage（Cruise）、宇通。
• 出租車：Argo、Aurora、AutoX、百度阿波羅、Cruise、滴滴出行、東風、現代、Motional、小馬智行、Waymo、文遠知行、Zoox（亞馬遜）。
• 卡車：Aurora、戴姆勒、Einride、Embark、Gatik、Ike（Nuro）、Inceptio、Kodiak Robotics、Locomation、Plus.ai、小馬智行、沃爾沃、特斯拉、TuSimple、Udelv、UPS、Waymo、Zipline。
• 消費級車輛：蘋果、Aurora、百度、寶馬、Cruise、戴姆勒、福特、本田、華為、現代、起亞、馬自達、日產、標致、上汽、斯巴魯、Tata Elxsi、特斯拉、騰訊、豐田、大眾、沃爾沃。

但自動駕駛汽車真的會更安全嗎？

汽車行業面對的最大挑戰主要是邊緣情況引發的意外狀況。事實上有兩個新的汽車安全標準，ISO 26262 和 UL 4600，就試圖解決這些邊緣情況。

然而這些標準不是強制性的，監管機構不要求自動駕駛汽車遵守這些或其他任何自動駕駛行業專屬標準。更糟糕的是，正如我將在下面解釋的那樣，有充分的理由相信某些類型的自動駕駛汽車可能無法處理這些邊緣情況。

自動化水平

首先，我們來定義“自動駕駛”的含義。汽車工程師協會定義了自動駕駛技術的六個級別，如下所示：

• L0：人類司機掌控所有駕駛功能
• L1：某種程度的駕駛輔助（可以是自適應巡航或路線保持 / 居中）
• L2 ：部分自動駕駛（同時具備自適應巡航和路線居中），但司機必須保持控制狀態（手放在方向盤上，雙眼注視路線，或者兩者皆有）
• L3：有條件的自動駕駛（特定條件下司機可以雙手離開方向盤做自己的事情，但收到車輛提示時必須介入控制）
• L4：高度自動駕駛（在特定場景下，如指定城市街道和 / 或校園道路上，司機不需要介入控制）
• L5：完全自動駕駛（不需要人類介入控制）

L3-5 被視為自動駕駛系統（ADS），其中司機無需注意道路。在第 3 級別，司機可以看書或看電影，但如果車輛要求，司機必須能夠在 10-60 秒內接管車輛操控。3 級車輛的一個大問題是，在司機接管的 10 秒過渡期內可能會發生碰撞，因此 3 級車輛可能需要包含一個 ODD，不會因為 10 秒交接而出事故（例如低速公路交通擁堵場景）。

第 4 級和第 5 級之間的區別在于，第 4 級車輛僅限在操作設計域（ODD）開啟自動駕駛模式，這個 ODD 通常包括受限制的地理區域（例如城市中的一組指定街道），并且可能包括基于天氣、當日時間、降水、道路坡度和曲率等因素的限制。5 級車輛可以不受限制地在任何地域行駛，理論上是消費級車輛和商用卡車的有效替代品。

當今道路上的許多消費級車輛，例如特斯拉，都具有駕駛輔助功能。它們可以讓車輛保持在車道中央，并且可以自動加速和制動。然而，司機駕駛這些車輛時看書或看電影是不安全的。司機必須不斷監控道路并準備好隨時接管控制。這些都是 2 級車輛，不被視為 ADS。司機必須注意道路并準備好立即接管。

例如，上周我在紐約高速公路上以自動駕駛模式駕駛時，我的特斯拉時遇到了一個大顛簸。我的特斯拉突然轉向并發出“叮叮咚”的聲音，意思是“Steve，你靠你自己了”，我不得不迅速做出反應，把它開回我的車道。

這些 2 級車輛的一個問題是，諸如“全自動駕駛”之類的營銷術語可能會誘使司機采取危險的行動，例如在 2021 年 4 月的一起特斯拉車禍中，駕駛座上連人都沒有。

重大問題：邊緣情況

人們在駕駛汽車時使用常識推理來處理各種意外情況：一頭鹿飛奔到高速公路上；洪水讓道路難以通行或無法通行；汽車在打滑，試圖爬上結冰的山丘。

人們不會在駕駛學校了解所有這些可能出現的邊緣情況。相反，我們使用日常常識推理技能來預測行動和結果。如果我們看到一個球滾到街上，我們就知道該注意追球的孩子。當我們看到前面的汽車突然轉彎時，我們就會改變駕駛行為，因為我們知道司機可能喝醉了或是在發短信。

不幸的是，沒有人知道如何將人類的常識推理能力構建到汽車或通用計算機中。為了代替常識推理能力，ADS 開發人員必須預測每種可能的情況并對其編程。機器學習只能幫助制造商預測每種情況并提供每種可能情況的訓練示例。

更糟糕的是，這些邊緣情況的數量有數百萬甚至數十億個。每個人都至少遇到過一次不尋常的駕駛經歷。世界上有 14 億司機。如果有 14 億個這樣的邊緣情況，它們怎么可能全部被識別出來呢？更不要說都得到對應的編程了？

如果 ADS 不能使用常識推理能力來處理所有這些邊緣情況，它們真的比人類司機更安全嗎？

常識推理的重要性是與 ODD 相關的

4 級車輛僅限于特定的 ODD 才能啟用自動駕駛。與沒有 ODD 的 5 級車輛相比，這往往會顯著減少邊緣情況的數量。例如，我們已經在企業園區內看到了行駛速度非常緩慢的 4 級點對點班車。

這些車輛不太可能遇到很多邊緣情況，因為在兩個地點之間的一條道路上不會發生很多意外狀況。就算發生了什么事，穿梭巴士的行駛速度也非常緩慢，乘客或行人幾乎沒有風險可言。

ODD 限于特定城市街道的 4 級自動駕駛出租車將遇到比公司班車更多的邊緣情況，但可能遠不及消費級車輛可能遇到的邊緣情況數量。將駕駛領域限制在特定街道上后，人們就可以維護非常詳細的地圖（包含交通燈和施工區域的豐富細節）。

相比之下，5 級車輛必須能在全球所有街道上行駛—或者至少是消費者所在的國家 / 地區的所有街道上自動行駛。華盛頓郵報統計，僅在美國就有超過 100 萬條道路。

這就是為什么有這么多 ADS 開發人員在鳳凰城、舊金山和其他許多城市測試自動駕駛出租車的原因。大多數測試都是由安全司機監控的，他們隨時準備在危險情況下立即接管車輛。但是，只有少數無人駕駛測試是在限制性 ODD 條件下進行的。自動駕駛汽車不像人那樣“看世界”ADS 的另一個問題是計算機視覺系統很容易出錯，因為它們可能會被一些人類能正常識別的情況愚弄。

例如，研究人員證明，限速標志的微小變化可能會讓機器學習系統認為該標志顯示的是 85 英里 / 小時而不是 35 英里 / 小時。類似地，一些黑客使用鮮艷的貼紙制造出假車道，欺騙特斯拉的自動駕駛改變車道。

在這兩種情況下，這些變化都愚弄了汽車，但愚弄不了人。此外，不良行為者想要欺騙汽車或卡車駛離道路或進入障礙物還有很多方法可用。

自動駕駛汽車看待世界的方式與人類存在很多差異，而這些差異引發的擔憂遠不止遭受黑客利用這一種。

例如，在現實世界中，許多特斯拉車主報告說他們的汽車經常將陰影（例如樹枝的陰影）視為真實物體。在優步測試車輛撞死行人的案例中，汽車的物體識別軟件首先將行人歸類為未知物體，然后歸類為車輛，最后歸類為自行車。我不知道你是怎么看的，但我覺得馬路上不管是行人、司機還是車輛，無法 100% 準確識別行人和其他物體都是很可怕的事情。

為什么測試很重要

我們有很多充分的理由相信 ADS 將比人類司機更安全，我們也有很多充分的理由擔心 ADS 不會像人類司機一樣安全。

從監管的角度來看，僅僅考慮正面理由就讓 ADS 開發人員全權決定是否讓 ADS 上路，而無需證明它們比人類司機更安全是愚蠢的做法。但這正是監管機構正在做的事情。

美國國家公路和運輸安全局（NHTSA）的立場是:

自動駕駛汽車的安全優勢非常關鍵。自動駕駛汽車挽救生命和減少傷害的潛力源于一個關鍵而悲慘的事實：94% 的嚴重碰撞事故是由人為錯誤造成的。自動駕駛汽車有可能從碰撞方程中消除人為錯誤，這將有助于保護司機和乘客，以及騎自行車的人和行人。當你考慮到美國每年有超過 35,000 人死于與機動車相關的事故時，你就會開始了解駕駛輔助技術可以幫助挽救多少生命。

NHTSA 于 2020 年 12 月發布了 ADS 安全擬議框架，該框架受到美國國家運輸安全委員會（NTSB）的批評，理由是“……缺乏強制提交安全自我評估報告的要求，并且缺乏讓 NHTSA 來評估報告是否充分的流程。”

從公共文檔中截取的圖像

NTSB 還指出，由于缺乏聯邦法規，個別州正在制定自己的法規。例如，亞利桑那州的限制最少，NTSB 稱這至少對 2018 年 Uber ADS 造成的行人死亡負有部分責任。

佛羅里達州法規 316.85 特別允許自動駕駛汽車的運營，并明確規定駕駛者在自動駕駛汽車中無需注意道路情況（例如，司機可以看電影）。它還明確允許自動駕駛車輛無需司機參與。

法規沒有要求制造商通過安全測試，作為自動駕駛功能的前置要求。當汽車、卡車、公共汽車或出租車公司認為他們準備就緒時，他們就可以自由地測試和銷售自動駕駛車輛。我在佛羅里達州有一個住處，這讓我感到害怕。其他不少州也鼓勵推出無需前置安全標準的自動駕駛汽車。

ADS 的安全標準

自動駕駛汽車需要進行三種截然不同的安全測試。

第一項測試是確保將信息提供給 AV 決策機制的所有組件都正常工作。一年前在臺灣，一輛處于自動駕駛模式的特斯拉 Model 3 以 70 英里 / 小時的速度撞上一輛翻倒的拖拉機拖車。據報道，事故是由汽車前向傳感器陣列中的軟件故障引起的，這導致自動制動無法正常工作。傳感器的測試應該足以防止這種類型的故障。

Waymo（谷歌）報告說，它將每個攝像頭放入汽車之前都會對其進行測試，然后在汽車集成后再測試一次，最后，它會測試與攝像頭相關的各種能力，例如檢測行人的能力。

ISO 26262 標準已被汽車行業廣泛采用，用于測試軟件錯誤和硬件故障。它確保傳感器和其他組件按設計工作。

第二種類型的安全測試是為了證明車輛可以處理預期遇到的真實場景類型。2016 年，NHTSA 概述了 36 種應該進行測試的場景，但指出這不是一個完整的清單。

示例場景包括：

• 檢測并響應速度限制變化和速度建議
• 執行高速并線（例如，高速公路）
• 執行低速并線

Waymo 在駕駛模擬器和加利福尼亞州一個 113 英畝設施的封閉課程中測試這些場景和其他場景，然后在真實街道上配備安全司機進行測試。

測試邊緣情況

應該進行的第三類安全測試，是分析系統在遇到未經過訓練或編程的意外情況時是否能夠安全響應。

行業已開發出兩種標準來支持此類安全測試：ISO 21448，也稱為預期功能安全性（SOTIF），專為 1 級和 2 級車輛設計，但也可用于 ADS；UL 4600 則專為 ADS 設計。這些標準要求開發人員列出和測試已知的邊緣情況。但是，這兩個標準都不能確定 ADS 的安全級別，因為它們不測試未知的邊緣情況。

那么，你如何測試未知的邊緣情況呢？ 一種方法是使用脫離接觸數據。在加利福尼亞州，許多制造商正在舊金山等城市測試自動駕駛出租車。這些車輛以 4 級模式運行，ODD 僅限于特定的城市街道，但也配備一名高度警惕的安全司機準備好立即接管，就好像它是 2 級車輛一樣。當車輛出現問題時，安全司機會接管。這被稱為脫離接觸。

我們知道人類在兩次事故之間平均會行駛多少英里。如果假設每次脫離都會導致事故，那么脫離率就可以與人類（或更具體地說是出租車司機）的事故率進行比較。不幸的是，估計自動駕駛汽車要證明安全性所需要行駛的里程數并不是那么簡單。

蘭德公司在 2016 年估計，這將需要數億英里的自動駕駛里程，這是不切實際的。但從那以后，僅 Waymo 就已經記錄了超過 2000 萬英里的自動駕駛測試里程。

另一個問題是我們沒有 針對特定 ODD 的人類司機事故的統計數據。 但是，我們至少可以將特定 ODD 的 ADS 事故率與人類司機總體事故率進行比較。鑒于 90% 的人類司機車禍是由人為錯誤造成的，即使我們用的是精細的 ODD 統計數據，也可能不會與總體事故率有很大偏差，因為大多數事故都是人為錯誤造成的。

最后一個問題是，在 ADS 測試期間發生的許多脫離不會導致事故。很多脫離的發生是出于良性原因，例如需要在不屬于 ODD 的街道上行駛。盡管如此，ADS 測試過程可以得到加強，以便進行某種程度的比較。

例如，Aurora 安全司機會記錄他們為了防止事故而脫離的次數。類似地，Argo 記錄脫離事件的傳感器數據，讓分析人員可以使用它來審查脫離事件。Waymo 使用脫離傳感器數據在模擬中重新創建脫離條件，從而確定如果安全司機沒有脫離，車輛是否會發生碰撞。

Aurora、Argo 和 Waymo 等公司正在測試 4 級車輛—主要是自動駕駛出租車。對于 5 級消費車輛而言分析脫離數據更加困難，因為環境種類繁多，這些車輛很難配備安全司機進行測試。然而，當使用的是 2 級 ADS 時，消費級車輛實際上是有安全司機的，安全司機就是消費者。

事實上，一些消費級車輛記錄了不少脫離。例如，當特斯拉在自動駕駛模式下被人類司機接管控制時，這將被記錄為脫離并報告給特斯拉總部。但據我所知，特斯拉不會與監管機構共享這些數據。盡管如此，消費級汽車制造商仍可以讓負責記錄脫離原因的安全司機測試他們的車輛，并且監管機構可能會要求 ADS 開發商共享這些數據。

自動駕駛系統（ADS）旨在驅動汽車、出租車、公共汽車或其他車輛，而人類可以在車上做其他事情（例如讀書）。3 級和 4 級 ADS 的操作設計域（ODD）有限制，其中可能包括受限制的地理區域和基于天氣、時間、降水、道路坡度和曲率以及其他因素的限制。5 級車輛可以在任何地方運行，并且沒有 ODD。

有充分的理由假設 ADS 將比人類司機更安全。畢竟它們從不疲倦，不會在開車時發短信，或酒后駕車。

同樣有充分的理由假設它們不會更安全。沒有人知道如何將常識構建到計算機中。但是，ADS 需要常識推理來處理它可能遇到的所有意外情況（邊緣情況）。在沒有常識推理能力的情況下，ADS 只能處理已明確編碼到 ADS 軟件中的邊緣情況，或 ADS 已被訓練處理的邊緣情況。當遇到 ADS 工程師未預料到的邊緣情況時，可能會發生事故和交通擁堵。

現實情況是，ADS 可能對某些 ODD 是安全的（例如以 5 英里 / 小時的速度在一條街道上來回穿梭的公司班車），但對于其他 ODD（例如覆蓋廣泛地理和所有天氣條件的出租車服務）可能就不夠安全，或者無法實現 5 級自動駕駛了。

美國和世界各地的監管機構都在急于將 ADS 技術推向市場，因為它具有降低事故率和改善老年人和殘疾人的出行能力等潛在好處。例如，美國國家公路和運輸安全局（NHTSA)）表示，它認為對 ADS 能力的測試不是必需的。某些 ADS 將被證明對特定 ODD 是安全的。一些 ADS 可能會被證明對其他 ODD 和 / 或 5 級駕駛是不夠安全的。

在允許 ADS 進入公共道路之前，難道不應該要求 ADS 開發人員證明 ADS 至少與特定 ODD 的人類司機一樣安全嗎？缺乏監管有可能將我們的道路變成一場具有災難性后果的大規模試驗。