作者 ｜ 趙婧初

編輯 ｜ 志豪

特斯拉 FSD 最大的風(fēng)險(xiǎn)，或許已不是能力不足，而是過度信任。

車東西 6 月 2 日消息，日前，美國(guó)電動(dòng)車媒體 Electrek 發(fā)布評(píng)論文章稱，隨著特斯拉 FSD（Full Self-Driving，完全自動(dòng)駕駛）能力不斷提升，駕駛員正在面臨一種新的安全隱患——過度信任駕駛輔助，從而逐漸放松警惕，甚至釀成事故。

在其看來，特斯拉 FSD 的問題已經(jīng)不再是 " 會(huì)不會(huì)開 "，而是 " 開得太好 "，以至于讓人忘記自己仍然是駕駛員，仍需要監(jiān)督 FSD 駕駛。

而在特斯拉加速推進(jìn) Robotaxi 業(yè)務(wù)的背景下，這場(chǎng)關(guān)于技術(shù)、人類與信任關(guān)系的討論，也正在成為智能駕駛行業(yè)的新課題。

一、FSD 越來越成熟 駕駛員卻越來越容易分心

評(píng)論文章的作者、Electrek 主編弗蘭德 · 蘭伯特（Fred Lambert）表示，自己已經(jīng)測(cè)試特斯拉駕駛輔助系統(tǒng)超過十年。

蘭伯特稱，在早期版本中，由于駕駛系統(tǒng)頻繁需要人工接管，駕駛員必須時(shí)刻保持高度警覺。但隨著 FSD 持續(xù)迭代，他發(fā)現(xiàn)情況正在發(fā)生變化。

按照其描述，最新版本的 FSD 已經(jīng)能夠在兩次關(guān)鍵干預(yù)之間連續(xù)行駛數(shù)千公里，在城市道路、高速公路以及復(fù)雜交通場(chǎng)景中的表現(xiàn)明顯提升。

問題恰恰出現(xiàn)在這里。

當(dāng)系統(tǒng)絕大多數(shù)時(shí)間都能夠安全駕駛時(shí)，人類會(huì)本能地降低注意力。

這種現(xiàn)象在心理學(xué)和人因工程領(lǐng)域被稱為 " 自動(dòng)化自滿 "（Automation Complacency）。簡(jiǎn)單來說：

面對(duì)一個(gè)自動(dòng)化能力較弱、不可靠的系統(tǒng)時(shí)，人們會(huì)始終保持警覺，因?yàn)樗鼤?huì)頻繁地出現(xiàn)問題，進(jìn)而迫使人們集中注意力；

相反，當(dāng)系統(tǒng)實(shí)現(xiàn)了百分百的自動(dòng)化能力、完全安全時(shí)，人類也無需警覺和介入；

而最容易出現(xiàn)問題的，恰恰是介于兩者之間的階段——系統(tǒng)絕大部分時(shí)間表現(xiàn)優(yōu)秀，能夠處理大部分路況，但又遠(yuǎn)未達(dá)到真正的無人駕駛水平，仍會(huì)不可預(yù)測(cè)地出現(xiàn)故障，需要駕駛員隨時(shí)準(zhǔn)備接管。

但是人類的心理機(jī)制決定了我們并不擅長(zhǎng)長(zhǎng)時(shí)間監(jiān)督一個(gè)幾乎不會(huì)犯錯(cuò)的系統(tǒng)。

也就是說，F(xiàn)SD 駕駛輔助水平越高，駕駛員越容易忘記自己仍然承擔(dān)著監(jiān)督其駕駛的責(zé)任。

二、這并非特斯拉獨(dú)有 而是自動(dòng)化行業(yè)的共同難題

事實(shí)上，類似問題并非首次出現(xiàn)。

在航空領(lǐng)域，自動(dòng)飛行控制系統(tǒng)已經(jīng)應(yīng)用數(shù)十年。有研究發(fā)現(xiàn)，當(dāng)飛行員長(zhǎng)期處于監(jiān)督狀態(tài)而非主動(dòng)操控狀態(tài)時(shí)，其警覺性和接管能力都會(huì)下降。

軌道交通、醫(yī)療設(shè)備等領(lǐng)域，也都曾出現(xiàn)類似現(xiàn)象。

系統(tǒng)自動(dòng)化程度越高，人類參與度往往越低。

而當(dāng)系統(tǒng)遇到超出能力范圍的極端情況時(shí)，人類卻未必能夠迅速恢復(fù)狀態(tài)并完成接管。

多項(xiàng)人因工程研究表明，監(jiān)視高度自動(dòng)化系統(tǒng)的過程極為無聊，監(jiān)視者的警惕會(huì)大幅下降。而當(dāng)駕駛輔助系統(tǒng)需要將控制權(quán)交還給駕駛員時(shí)，駕駛員需要 8 到 15 秒的時(shí)間才能重新集中注意力。

也就是說，當(dāng) FSD 遇到突發(fā)狀況需要駕駛員緊急介入時(shí)，例如遇到突發(fā)障礙物或者難以識(shí)別的施工區(qū)域，如果駕駛員在那短短幾秒鐘內(nèi)沒能快速恢復(fù)注意力，可能會(huì)導(dǎo)致嚴(yán)重后果。

全球知名出行服務(wù)公司優(yōu)步（Uber）的前自動(dòng)駕駛部門負(fù)責(zé)人拉菲 · 克里科里安，曾在駕駛特斯拉 Model X 使用 FSD 的過程中遭遇事故。當(dāng)時(shí)車輛在彎道中突然失去方向判斷，克里科里安未能及時(shí)接管，最終整車報(bào)廢。

人因工程領(lǐng)域一直存在一個(gè)經(jīng)典觀點(diǎn)：自動(dòng)化系統(tǒng)最困難的階段，并不是完全人工階段，也不是完全自動(dòng)階段，而是人機(jī)共同承擔(dān)責(zé)任的過渡階段。

從這一角度來看，上述問題實(shí)際上并非只針對(duì)特斯拉一家企業(yè)，而是整個(gè)智能駕駛行業(yè)共同需要面對(duì)的挑戰(zhàn)。

三、FSD 越來越強(qiáng) 功能宣傳與用戶預(yù)期的邊界在哪

相比技術(shù)本身，爭(zhēng)議更大的地方，其實(shí)是特斯拉 FSD 的營(yíng)銷。

目前，特斯拉官方命名 FSD 為 "Full Self-Driving（Supervised）"，即 " 完全自動(dòng)駕駛（監(jiān)督版）"。5 月 22 日，特斯拉中國(guó)官網(wǎng)更新命名為 " 特斯拉輔助駕駛 "。

從法律和監(jiān)管層面來看，F(xiàn)SD 仍然屬于需要駕駛員全程監(jiān)督的輔助駕駛范疇。

過去幾年中，馬斯克圍繞 FSD 描繪了一幅宏大的未來圖景。無人監(jiān)督駕駛、大規(guī)模 Robotaxi 運(yùn)營(yíng)網(wǎng)絡(luò)等概念頻繁出現(xiàn)在特斯拉的宣傳中。

這些愿景本身并非問題。

問題在于，當(dāng)未來愿景與當(dāng)前產(chǎn)品同時(shí)存在時(shí)，消費(fèi)者往往很難嚴(yán)格區(qū)分二者。

對(duì)于許多消費(fèi)者而言，他們接觸到的不只是 " 監(jiān)督版（Supervised）" 這個(gè)限定詞。

更容易被他們記住的，往往是 " 自動(dòng)駕駛正在實(shí)現(xiàn) "" 無人駕駛正在到來 ""Robotaxi 時(shí)代即將開啟 " 等宣傳話語。

而當(dāng)這種認(rèn)知逐漸形成后，用戶對(duì)于智能駕駛功能的信任程度也會(huì)隨之提高，甚至?xí)a(chǎn)生過度信任。這種過度信任并不一定來自技術(shù)本身，也可能來自用戶對(duì)技術(shù)能力的主觀誤判。

企業(yè)需要不斷地展示技術(shù)進(jìn)步，需要向市場(chǎng)描繪未來藍(lán)圖；但又必須避免用戶對(duì)產(chǎn)品能力產(chǎn)生超出實(shí)際水平的預(yù)期。

如何在技術(shù)愿景與現(xiàn)實(shí)能力之間找到平衡，正在成為亟需解決的問題。

結(jié)語：智能駕駛時(shí)代 過度信任也是一種風(fēng)險(xiǎn)

過去幾年，圍繞 FSD 的討論大多集中在技術(shù)層面。比如感知決策能力如何提升、端到端路線如何優(yōu)化以及 Robotaxi 商業(yè)化落地效果如何。

但隨著智能駕駛技術(shù)不斷進(jìn)步，新的問題已然從 " 系統(tǒng)能不能開車？" 轉(zhuǎn)變成 " 當(dāng)系統(tǒng)越來越會(huì)開車時(shí)，人類還應(yīng)該扮演什么角色？"

智能駕駛行業(yè)最大的挑戰(zhàn)，也許不再只是算法、芯片和數(shù)據(jù)。而是在用戶和系統(tǒng)之間，真正建立起一種合理的信任關(guān)系。

如何讓用戶既相信系統(tǒng)，又不過度依賴系統(tǒng)，或許將成為整個(gè)行業(yè)邁向下一階段必須回答的問題。