世界新动态:车企们,请别拿人命开玩笑
来源:搜狐科技     时间:2023-05-19 13:56:22

出品 | 虎嗅汽车组

作者 | 王笑渔

编辑 | 周到


(资料图片仅供参考)

头图 | 视觉中国

“它会识别行人并自动刹车吗?”

“对,避让这些都是基础操作”

“啊”

上一秒,阿维塔的销售还在向客户宣传来自华为ADS的城市NCA功能之强,能够无保护右转、能避让道路上行人。结果下一秒,就险些跟横穿马路的自行车来了一个“亲密接触”。

事后,阿维塔回应称:“当日在城区NCA演示中,突然冲出横穿马路的骑车人,以S形路线自右向左横穿,驾驶员紧急接管刹停。后台数据显示:智驾系统检测到碰撞风险早于人类驾驶员0.248秒,功能触发与人类驾驶员刹车动作仅相差0.047秒,智驾人驾几乎同时介入,果断避免事故发生。”

好在,阿维塔官方及时作出了回应。否则,这又要被网友们解读成“刹车失灵”了。

在特斯拉的怂恿下,城市NOA导航辅助驾驶功能,已经悄悄地成为了中国车企角逐智能驾驶赛道的关键点。阿维塔11所提供的城区NCA,亦是NOA功能中的一种,与蔚来的NOP、小鹏的NGP、理想的NOA如出一辙——他们,正在图让人工智能驾驶着车辆在城市道路上行驶。

然而,车企卷城市NOA功能,就像科技和互联网公司卷GPT一样。好像你不掺和一脚GPT和大模型,就是没有AI人工智能积累的表现。但两者不同的是,如果GPT出现了失误,无非就是多一段笑话,而城市NOA失误可真是要出人命的。

为了卖车,学会了说谎

“如果你想要研究AI是如何出错的,获得一笔金钱索赔,并且一有机会就试图杀死你,那就买辆特斯拉吧。”这是苹果联合创始人史蒂夫·沃兹尼亚克的最新观点。作为两辆特斯拉Model S车主的沃兹尼亚克,曾多次公开表示:他被特斯拉所宣扬的自动驾驶能力误导了。

“早些时候特斯拉放出了一些全无人驾驶的视频,给车主产生了混淆。让车主们以为,我买了特斯拉这个车就能够这么运行,然后放出来一些Demo。”某自动驾驶业内人士告诉虎嗅,国内车企早些时候放的,在上海街道中行驶的Demo就给人产生同样误导,让用户误以为它的ODD(Operational Design Domain,运营设计域)覆盖范围就是这么大。

回到文章开头提到的场景。

根据视频信息,这台阿维塔11上城区NCA(Navigation Cruise Assist )智驾导航辅助处于激活状态。当时自行车从马路右侧以S形路线驶出,车辆有适当的控速但并未马上刹车。最后,是在距离自行车较近的距离下,驾驶员和智驾系统几乎同时执行了刹车动作,所幸没有造成碰撞。

显然,用户实际使用场景,远比测试车跑过的场景更加复杂多变。

比如,有媒体进行场地“自行车鬼探头”测试,阿维塔11不仅轻松避开了自行车,并且还在避开后加速,迅速驶回自己原本的道路。这一系列操作,堪称“天花板”级的避让。但实际用户遇到类似场景时,有诸多外部因素会导致系统处理结果有差别。

阿维塔在《车主指南》的注意事项中,也明确写到了:“禁止在可能有行人或非机动车出现的路段使用NCA智驾导航辅助。”这意味着,车主需要在使用过程中保持更高的警惕性。以当前的法规条件,一旦真撞上了行人和非机动车,驾驶员需要对车辆行为负责。

“为什么说现阶段的辅助驾驶更难,它解决的不是替你驾驶的问题,而是解决帮你驾驶的问题。所以,它跟无人驾驶的难度相比是差不多的。”

车控合伙人、战略主理洪泽鑫告诉虎嗅,车企和技术供应商,需要先把自己的能力边界给明确清楚。明确好不能掌控的场景,就提前告诉驾驶员接管,或者明确一种机制来避开不可控场景。

特斯拉FSD走得很冷静

然而,为了标榜更广的覆盖、更多的功能,车企会将ODD设计运行域的边界模糊化。因为,一旦ODD限制越严格,就意味着自动化系统驾驶功能的可用性越差。

ODD运行设计域的定义来自SAE J3016——“特定驾驶自动化系统或其功能专门设计的运行条件,包括但不限于环境、地理和时间限制,和/或某些交通或道路特征的存在或缺失。”而只有当全部条件都满足的时候,该自动化系统才能保证正常运作。相反,欠缺任何一个前提条件,该系统都有可能出现故障,这种情况下就要采取紧急停车措施或是驾驶员手动接管。

这就导致了一个行业普遍现象出现——原本只能在50%的场景做到100分,但车企现在硬要在100%的场景里干50分的事。

系统的上限,不该是生命的底线

“擦边球”打得好,绝对不是好的辅助驾驶。但边界划定得足够清,必然是对生命安全负责任的辅助驾驶。这一点,系统复杂度更高的航空领域,可以佐证。

“Autopilot”一词,是特斯拉从航空领域引入到汽车行业的,并将其翻译成“自动驾驶”。但Autopilot曾闯下了不少大祸,迫于压力,特斯拉从2016年8月16日以后,将中国官网的介绍从“Autopilot自动驾驶”改成了“Autopilot自动辅助驾驶”。

本质上,航空领域的Autopilot,与汽车上的Autopilot有着异曲同工之妙——它们都不能被称之为自动驾驶,仅仅是起到辅助作用。

“男人减速带”之 A350驾驶舱

比如,你开着车上了高速或者快速路,打开车道偏移辅助功能,它就类似飞机上的LNAV/VNAV;当你加速到120km/h并打开定速巡航功能,它就类似于飞机上的Autothrust;再则,车上的盲点警示系统也会提醒你左右有没有来车,类似飞机上TCAS。

那么,飞行员在激活Autopilot,是不是可以去睡觉,或者去跟空姐聊天呢?

以前的人们,确实是这样想的。《连线》杂志曾在2012年刊登一篇报道,作者写道:“自动驾驶是一种电脑装置,能够独立操控一架787,无须人力支援,但我们还是不理性地在驾驶舱塞几个人类机师当保姆,只为了以防万一。”

但历史上有诸多惨痛案例告诉我们,让飞机完全自动驾驶是一件危险的事情。比如”法航447航班“事件——2009年6月1日,一架从巴西里约热内卢飞往法国巴黎的航班在大西洋上空失事,当时机上216名乘客和12名机组人员全部遇难,这是法航运营史上最严重的空难。

法国民航局调查认定,事故的直接原因是机身外部的空速管因结冰失灵,导致飞机无法判断航速和高度;自动驾驶系统发生故障,即使切换手动驾驶也回天乏术,随后飞机坠海。然而在故障出现时,机长在轮休,副机长缺乏应对危机的经验。

一趟航行中,情况时时刻刻变化,复杂、流动,绝对不是提前写死的。所以飞行员必须随时下决定,每个决策都事关重大。虽然有各式各样的协定、检查表、步骤,写成白纸黑字,机组成员仍旧必须依据主观判断,下达成百上千个指令。

譬如,避开堆叠起来的积云、解决机械问题等等,不胜枚举。即使是在最最普通的一趟航行,驾驶舱也会忙到让你惊讶——而且,这还是开着自动驾驶的情况下。

飞机上的自动驾驶更应该叫”自动飞行系统“,与其他设备一样是辅助机组成员使用的工具,你还是得告诉它该做什么、何时做、如何做。因为自动驾驶系统综合了多种功能,可以调整速度、推力、水平和垂直航向,这些功能全都需要组员定时输入指令,才能妥善运作。哪怕是设定自动爬升或下降,也至少有其中不同的方式,需要视情况判断采用哪一种。

所以,真正负责任的汽车自动驾驶系统,就应该像飞机的Autopilot一样,明确好自己的能力边界,并且干好自己“辅助”的活。

特斯拉没做好,不代表它是垃圾

“现在所谓的自动驾驶,最大的难点都不在于技术,而是在于交互的设计上,怎么样让人知道它的边界在哪里?”洪泽鑫向虎嗅分析道。

比如最近,小鹏和理想都出现了超越能力边界的危险场景——在NOA导航辅助驾驶开启后,车辆原本设定的逻辑是会主动超越慢车。但从第一车道自动变道到第二车道时,往往第三车道车辆也同时变道到第二车道。

一位小鹏G9车主在高架桥上就遇到了这一场景,驾驶员及时掰回方向盘,才避免了两车侧面相撞。小鹏自动驾驶产品总监刘毅林表示:“隔道车辆同时变道到目标车道,一代NGP处理的不够拟人,基于BEV的全新版本的NGP在路上了,变道能力和博弈上会有大幅提升。”

从车机屏幕上可以看到,直到驾驶员介入前的那一刻,系统都并未给出相应的提醒。驾驶员完全需要凭自己的经验和判断能力,来选择是否介入接管。

下面这台理想,所面临的场景则更加危险。因为NOA设定的巡航速度达到了130km/h,右侧白色福特SUV以更高的速度接近视频车。大概率是驾驶员介入了接管,NOA这时才降级为定速巡航,随后驾驶员踩下制动,定速巡航完全退出。

对此,理想智能驾驶产品经理赵哲伦表示:“我们正在做的动态BEV算法、DenseTNT 预测算法,规划算法的重构,对这类交互博弈场景的帮助会非常大。”

事实上,哪怕是这一场景做不到,车主也是感知不到的。洪泽鑫告诉虎嗅,“所以,先是车企自己要有ODD的界定,然后更重要的是说,怎么把边界更好的呈现给用户。”

在体验过市面上大多数城市/高速NOA产品之后,我愿意将人机共驾的交互分为两类:一种是,渣男式交互,出了问题不负责、不关心;另一种是暖男式交互,想方设法为你好。

所谓的“渣男式交互”,主要代表是以特斯拉为首的新势力阵营。

表现一,先是给你秀肌肉。它们普遍会用车机来展现系统所感知到的周边环境,并将行人、非机动车等信息显示的丰富视为实力的象征。虽然这可以大大增强驾驶员的信任感,但真要到了危急时刻,环境显示再丰富也不代表一定能刹住车。

仅用一条“蓝线”来表示FSD状态

表现二,关系模糊不清。它们普遍会用蓝色的指引线和小图标,来告知驾驶员车辆是出于被接管的状态。但对于定速巡航、车道保持、导航辅助驾驶的切换过程,有的产品过于简单粗暴。这很容易导致驾驶员,对当前系统运行状态出现误判,甚至会把定速巡航当成NOA去开。

表现三,出了问题不负责。它们在遇到系统无法应对的场景时,会立刻弹出“请接管方向盘”之类的警示,或者立刻退出辅助驾驶状态。因为在“车主须知”,他们早已将自己的责任撇的一干二净。出了事的时候,都是你驾驶员不小心。

所谓的“暖男式交互”,主要也有三个层面的表现:

表现一,时刻同步自己的状态。

像智己汽车在NOA功能上,增加了”信任增强功能“。在NOA激活后,仪表会为驾驶员传达智能驾驶任务的信任指数:3级表示系统能处理成功,2级邀请驾驶员注意力,1级则需要驾驶员时刻关注路况。这样一来,系统就可以及时地告知驾驶员,其对于当前环境的处理能力。减轻驾驶员焦虑的同时,提高系统的安全性。

表现二,以各种方式支持你。

像凯迪拉克在Super Cruise功能中,引入了方向盘灯带提醒、座椅振动和声音警示。当注意力系统判断驾驶员视线没集中在前方道路,方向盘灯带将会以绿色灯带闪烁方式进行提示。如果还接管车辆,则以红色灯带闪烁、座椅振动和声音警示。最后再不接管,车辆会自动停下,并联系安吉星OnStar人工坐席寻求帮助。

而座舱联动的交互方式,在后续还有迭代空间。从行业的解决方案来看,中央集成式架构能够解决现在跨控制域通信延迟的问题。舱驾融合之后数据更加集中,减少软件代价的同时,降低传输同步代价。英伟达Thor芯片、黑芝麻智能武当C1200等芯片,都是为了把智驾信息更好地用座舱去呈现给驾驶员,取代以前单一的车机显示。

表现三,负责到底。

全球首个获得L3自动驾驶认证的奔驰,最早地喊出了“你撞了我来赔”的口号。在条款中,奔驰明确写到——基于产品和生产者责任,汽车制造商对因产品缺陷造成的损失承担相应责任。这一准则同时适用于可以实现有条件自动驾驶和不具有自动驾驶相关功能的车辆。

当后方有救护车驶过时,奔驰L3会提醒驾驶员接管

写在最后

即便是技术不成熟、覆盖场景不全面、接管和预警机制不及时,城市NOA导航辅助驾驶功能“冲”上大街小巷的进程也不会有丝毫的放缓。因为,“狼”要来了。

5月12日,上海市经信委智能制造推进处的消息,下阶段,上海将进一步深化与特斯拉的合作,推动自动驾驶、机器人等功能板块在沪布局——这似乎意味着,特斯拉FSD(完全自动驾驶)即将进入中国市场。

当不成熟的AI,遇上不熟练的驾驶员,碰到不易应对的场景,那下一次所谓的“刹车失灵”也快了。

车主睡得很安详

正在改变与想要改变世界的人,都在虎嗅APP

标签:

广告

X 关闭

广告

X 关闭