观点的文章

前面。未来的透明。,21March 2023
秒。连接的灵活性和自动化
卷4 - 2023 | https://doi.org/10.3389/ffutr.2023.1137469

相信我!为什么最近的特斯拉的所谓故障进一步凸显了需要透明的对话吗

史蒂芬·r·米尔福德 ^1、2*,

柏妮丝s Elger ¹和

David m .肖 ^1、3

¹生物医学伦理、巴塞尔大学,瑞士巴塞尔
²Potchefstroom学院神学,西北大学,南非
³教师健康、医学和生命科学,马斯特里赫特,荷兰马斯特里赫特大学

2022年11月13日,视频发布据称是特斯拉模型Y故障通过一个中国城市的街道超速行驶造成两人死亡。这样的视频有可能破坏对AVs的信任。而特斯拉回应说他们会“真理”,有问题这个事实是如何决定,也许更重要的是公众如何相信特斯拉或负面报道。我们探索的“事实”事件,讨论建立信任的挑战新的AVs系统基于透明度。在本文中,我们认为,透明度是不仅仅让“真理。“这是培养关系的事实和涉众之间的对话。隐喻使用O ' brien的窗口,本文还探讨了AV制造商需要考虑此类事件的内容,利益相关者的不同看法,媒介内容。除了独立的事故调查人员的需要,有必要对AV制造商不仅仅只是“把真相”和与公众负责任。

介绍

2022年11月13日的视频被上传到社交网站,包括微博和YouTube的闭路电视记录Y显然失灵的特斯拉模型的公路上飞驰,两人死亡,数人受伤(快乐的日子,2022年;鸡母的消息,2022年)。可以想象,镜头迅速传开,需要正式回应来自特斯拉声称与中国当局合作,但否认其系统在故障(李,2022)。一个YouTube频道只有52个订阅者的36.6万年11月13日获得视图视频在不到48小时(快乐的日子,2022年)。滚动数百条评论一个发现混合反应与媒体报道许多争论。然而,许多用户对自动驾驶汽车表示深切关注,一个用户,例如,评论:

先进技术和计算机电子产品只能用于计算机系统和F1的我们应该回到机械系统由司机过去!不幸的是那辆车(特斯拉)没有控制已成为致命的武器。(EgiGe59迪玛在快乐的日子,2022年)

偶尔,传统汽车故障,导致悲惨的生命损失,是众所周知的。调查,公司负责,经常向受害者支付了大笔资金(Rhee Schone, 2010;托马斯,2010)。然而,有更多的与自主车辆(AVs)的股份。虽然是事实,问题仍然存在,AV的最终使用和收益(Martinez-Diaz Soriguera, 2018;穆勒et al ., 2020;Litman 2023)——尤其是当他们与易受伤害的道路使用者(欧文斯et al ., 2019),以及行人和骑自行车的人(Sandt欧文斯,2017)许多人认为,AVs是一个关键粉碎机技术(Medrano-Berumen Akbaş,2021;尼基塔et al ., 2021;2022年奥斯曼)。对于一些住客提供反拥挤交通的诱人前景,降低公共交通成本,生态优势,更不用说从根本上减少交通事故死亡人数(的前景艾蒂安,2021)。

如果AVs部署在公共道路上行驶,公众必须愿意接受他们。这需要信任(崔和霁,2015),仍然是一个关键的障碍公众普遍采用AVs (Kaur Rampersad, 2018;Raats et al ., 2020;Kenesei et al ., 2022)。在2020年,只有10%的美国受访者表示,他们会相信一个完全自动驾驶汽车,28%的人不确定(Raats et al ., 2020)。事件这样的问题证明是多么脆弱non-vehicular道路使用者,包括汽车运营商,并有可能削弱公众的信任。建立信任和对抗这种侵蚀要求透明度(米勒,2021)。然而,11月5日究竟发生了什么是不清楚的。

显然事实…

闭路电视录像事件的11月5日既引人注目又震惊。短片,持久的只有40多岁,显示了模型Y靠边停车,短暂停留后重新进入道路和试图超越滑板车。几乎立即汽车迅速加速似乎是一个几乎不可能的速度。在一系列明显的闭路电视片段沿着路线,从不同角度拍摄的汽车比赛失控。它袭击另一个摩托车,一个骑自行车(甚至在路上),和驱动器直接通过一个小货运车辆(完全摧毁)只有立即闯入一家商店前完全停止。据路透社报道,当局在潮州城市正在调查,特斯拉本身就是合作。显然问题,55岁的司机在事故的状态提出了司机的儿子,詹其雄,告诉记者,警方检测为酒精和毒品,但他的父亲测试都是负面的。

据称,司机试图踩刹车但他们发生故障,和汽车控制了。然而,特斯拉声称车辆的数据显示,没有行动的司机踩刹车“整个车辆的旅程”(李,2022)。令人吃惊的是,特斯拉能够做出这样的索赔事件发生后几天,这种信心的数据。然而,这可能是因为主人是在这种冲击的事件,他们甚至不认为停车。或者汽车故障并没有注册刹车被压抑。

虽然不是闻所未闻的闭路电视录像了,有一些有趣的方面。首先,它注意到镜头的来源是鸡母的消息,一个在中国湖北政府支持的官方媒体。镜头,而短,时间上和一个可以确定的路程AV的事件。使用此信息可以计算出汽车在30年代走2.6公里(陶氏化学2022)。这使得其平均速度312公里/小时。模型的官方最高时速只有250公里/小时(特斯拉2022)。

另一方面,而特斯拉声称刹车没有抑郁的整个事件,事实上,闭路电视录像显示他们没有照亮在大多数轿车约23年代后镜头开始后事件的后刹车灯似乎很快打开(陶氏化学2022)。这导致了詹姆逊陶氏Electrek(一个在线的网站关注交通新闻)认为:“完全有可能,这里有一些未经检验的原因,它几乎肯定是相同的原因,因为它总是在这些情况下:有人按错了踏板,然后保持紧迫时惊慌失措”(陶氏化学2022)。有先例陶氏的争用(英国独立电视台新闻,2022年)。

被认为是谁?特斯拉,他显然表现如此迅速地诊断汽车数据的事件发生后,55岁的司机称,刹车失灵,汽车加速的协议,或出现的闭路电视录像显示一辆车远远超过自己的最高速度?

独立的第三方调查的必要性

特斯拉发誓要得到“真相”(奥利维拉,2022)的事件。这是欢迎的透明度和真理可以帮助促进信任。系统透明使用崔和霁的任期(2015)——建立公众信任的一个重要方面。它可以被定义为“在一定程度上用户可以预测和理解自主的操作工具”(崔和霁,2015,p。694)。当事件如一个11月5日发生,公众可以理解发生了什么感兴趣。如果车辆以不可预知的方式采取行动(例如,突然加速并无明显的原因)公众可能会很难预测AV的操作,因此可能难以信任AVs。然而,它不应该留给特斯拉来唯一确定真相。

促进公众信任的一种方法是对诸如此类的事件进行调查。然而,常见的交通事故通常受到独立调查,调查由制造商。这可能是一个称职的警察事故调查员,或国家公路交通安全管理局(NHTSA)。这应该是没有什么不同事故车辆如特斯拉。例如,致命的事故涉及特斯拉型号S在2021年4月。美国国家运输安全委员会是负责调查和定期更新发布(NTSB, 2021)。

它并不完全清楚,或者为什么,特斯拉就能获取车辆的数据对2022年11月5日的事件如此之快。然而,似乎值得怀疑,公众会信任一个调查由一个投资聚会,有一个明确的利益冲突。如果公众不相信丰田调查自己的加速器malfunctions-ultimately调用国会调查(CNN, 2010)-为什么他们会相信特斯拉调查自己的车吗?

重要的是要注意,有明显的失败为住客提供一个健壮的法医调查框架(霍克和哈桑,2021)。美国已经开始朝着这个职位。例如,国家公路交通安全管理局发布站将军令,要求所有自动驾驶系统的制造商和运营商,以及SAE(汽车工程师学会)二级及以上高级驾驶员辅助系统,报告事故的机构(国家公路交通安全管理局,2022 b)。虽然这是欢迎的,有问题,是否这是足够的。仅仅报告崩溃并不意味着NHTSA会调查原因,也不能让预防建议。目前,国家公路交通安全管理局的安全测试的程控自动车辆透明和参与使AV测试结果,公开是自愿(国家公路交通安全管理局,2022)。

超越了简单的“真相”

尽管独立评估的需要,仅仅提供案件的客观事实可能还不够。有效的透明度要比这复杂得多。O ' brien (2019)例如,主张两个模型的透明度。第一个观点透明度只是的传播准确、客观信息(真理)。在这个模型中,特斯拉将满足需要透明度通过简单地解释数据收集在事件和数据显示。自然这是说起来容易做起来难。AVs充分利用机器学习和人工智能(Utesch et al ., 2020;Mankodiya et al ., 2022)。实际上很可能故障应该发生的确切原因可能是深藏在汽车的人工智能“黑盒”(Utesch et al ., 2020;Umbrello Yampolskiy, 2022),被访问的程序员本身,更不用说公众。

即使信息显然是可用的,仅仅是披露可能不足以促进透明度。很多外行,算法数据的披露可能不是可以理解的,而且需要专家来解释数据,专家可能有既得利益(如特斯拉的员工)。O ' brien,然而,出现了一个透明的模式,把人的注意力吸引到了社会取向的透明度。这是说,有一个关系和动态特性,它是一种交际行为的透明度。透明度本身是中性的,而是培养信任,让透明的目标价值。在这种背景下,透明度不是只有事实的情况,但对话提供信息和与公众co-construct解释和解决方案。不能假设每个人都理解的信息(无论可能)在同样的方式。用O ' brien的话说:“存在着一种内在的张力之间的过滤和框架需要使信息可访问和纯粹的渴望充分披露的信息”(2019年,p。758)。取得信任,一个人必须协商这种紧张关系。

因此,重要的是要记住,而信任包括透明度,它超越了仅仅是“真理”(斯达克et al ., 2022)。人类以非常复杂和动态的方式建立信任。大部分的工作已经完成,调查用户的信任与AVs (Adnan et al ., 2018;Celmer n . et al ., 2018;Hegner et al ., 2019;Ha et al ., 2020;哈特维奇评论道:et al ., 2021;Waung et al ., 2021)。有趣的是,有证据表明,我们能够建立信任与汽车技术(如AVs)是建立在大量的交互作用随着时间的推移和超出一套单层有限的交互有个人这样的技术。它植根于整个社会和culture-what米勒等人叫“大局意识”——包括共享心理模型(2021)。

等在这方面,场景发生在11月5日的不仅是重要的对于那些直接参与此事,但也更广泛的公众在我们考虑通过AIs错误决策的风险。徐和霍华德(2020)了在这方面注意AVs的重要性。他们认为在AVs AI错误决策的后果是明确地呈现在公众的面前。考虑到之前错误的AI机构显著影响信任人机交互,徐和霍华德展示在公众中建立信任的重要性为住客以建立信任其他的人机交互。这个话题最近(已获得了高度的关注Raats et al ., 2020)。

O ' brien的窗口

如果我们要建立信任通过透明我们需要超越仅仅披露的事实。奥布莱恩是隐喻的一个窗口是一个有用的工具来吸引我们的注意力三个组件的关系事实和利益相关者之间的对话(2019年p。758)。首先,O ' brien notes窗玻璃外的场景,内容本身,即。,实际的细节发生了某人。我们必须认识到,什么是很少被共享,而不是共享的实际情况的细节。相反,它由世卫组织和目的更重要窗口外的场景。

把事件的问题。有多个演员参与,有些是强大的,有些可能是寻求权力。特斯拉可能被视作“西方公司”与特定议程,而鸡新闻(作为官方支持的媒体)可能有一个完全不同的议程。事实上,很可能“受害者”中(司机)也可能有一个议程,当然,我们不要忘记,那些共享的故事分享自己的目的的“事实”。所以当一可能询问事实如汽车故障,还是司机错误的油门刹车,演员们共享信息与一个特定的目标。

对于像特斯拉这样的公司,这不仅仅需要一个反应事情的“真相”,或引用过去的虚假指控和提醒“反对人们相信“谣言”事件”(陶氏化学2022)。建立信任本身和它的汽车,特斯拉需要描述一个公司关心公众的信任在技术可能是有益的。而不是指责他人,否认责任,或提醒公众,它可能是更好的特斯拉,鼓励开放的讨论和一个独立的调查。这将有助于公众认为特斯拉的公众的利益而不是仅仅试图保护自己的投资。

第二个组件O ' brien的透明度模型是观众透过窗玻璃。不同的观众会认为内容是不同的。每个有不同的知识、价值观和假设内容。他们会有不同的解释和显示不同的情感反应的信息提供的现场。例如,有意见人机系统的频谱范围从反对派(极端的反感和不信任任何相关算法),loafing-extreme自满或自动化的倾向(Zerilli et al ., 2022)。个体在每个年底光谱提供的信息有不同的解释。

特斯拉这需要承认,与不同的利害关系方。股东对公司价值感兴趣,特斯拉老板想知道他们的车是安全的,未来的特斯拉客户想知道,特斯拉汽车正在开发道德,而行人想知道特斯拉汽车不是将他们置于更大的风险。每个涉众认为感兴趣的信息通过他们的镜头,和每个寻求信息,确认或挑战他们的潜在的问题。如果特斯拉是通过透明度,以建立公众的信任,他们的信息需要解决广泛的观众。

第三个组件O ' brien的模型是窗玻璃本身。场景是介导的媒介影响它的解释。这帧场景,限制了观众所看到的,扭曲,扭曲,色彩呈现的信息。30年代车程减少到10年代鲜明的编辑和兴奋的音乐,更对一个场景的动作电影比两人死亡的悲剧。即使图片显示一个故障AV,现在他们在社交媒体上的方式几乎对任何一方产生信任和透明(制造商、消息代理或司机)。

对于像特斯拉公司这意味着在不同的格式显示相同的信息不同的观众。有趣的是,对这一事件(或者其他类似事件)是上市特斯拉的新闻网站,包括部分。而不是避免潜在的有害的故事,特斯拉最好将信息等事件的发生在11月5日,鼓励开放讨论它在自己的网站上。

讨论

AVs的风险很高,尤其是在公众慢慢移动采用这项新技术。虽然仍是难得找到一个全自动的车辆在公路上,特斯拉汽车广告是无人驾驶capable-although有质疑其实际能力(伊万诺娃2023)。因此,有人可能不实际使用完整的自动驾驶模式的特斯拉,它声称能够充分自治使它有别于其他道路车辆。事件的问题,尤其是在公众的注意力已收到的光,吸引关注公众与这项技术。当一个自治车辆故障的时候会发生什么?做什么呢在汽车的路上变得完全控制和速度?故障的后果是什么,或许更适切地,我们如何确保它不再发生?

在这些情况下,公众寻找透明度。公众想知道他们可以信任的AV产品妥善调查此类事件。这需要良好的程序到位与公正的独立调查人员,将从多个来源收集信息,从不同的角度。例如,也许在这种情况下有其他目击者,手机可能捕捉到不同的角度,或者私人闭路电视录像。

但是特斯拉如何回应这个指控可能是比其响应的内容更重要。公众正在寻找一个特定类型的透明,透明度,不仅仅考虑事实。公众寻求透明度,参与讨论的事实提出了他们的背景下,理解他们,以及他们如何。沟通不仅仅是在这些情况下的能力现在的事实和数据对算法性能指标(Zerilli et al ., 2022)。最终依赖于能力超越单纯的explainability。无论如何这是真的事实。如果事实证明这一事件是一场精心策划的骗局,那么它是无益的特斯拉简单地指出这一点,继续前进。更糟糕的是,另一个事件出现,这将是毫无意义的特斯拉指先前未经证实的主张和小看公众关注事件在这种情况下通过引用以前的欺诈性索赔制动故障(李,2022)。

如果AVs的潜在好处是意识到,他们必须部署在公共道路上行驶。这只会是可能的如果公众信任他们。事件发生的11月5日有可能在AVs侵蚀公众信任。培养信任,各方应争取透明度。透明度包括“真相”(最好是通过独立的第三方调查),但也承认交流这些事实的关系和动态特性。在像特斯拉公司努力追求通过透明建立公众信任他们需要考虑他们感知的方式,他们的观众是由不同的利益相关者和他们沟通的媒介影响事实的感知方式。通过建立互信的透明度需要超越呈现事实。它需要一个动态的和关系与公众参与。

数据可用性声明

最初的贡献提出了研究中都包含在本文/辅料,可以针对相应的作者进一步询问。

作者的贡献

SM:构想、写作初稿;是:构想、写作、审查和编辑;DS:构想、写作、审查和编辑。

资金

研究支持NCCR自动化、国家能力的研究中心,由瑞士国家科学基金会资助(批准号180545)。

的利益冲突

作者声明,这项研究是在没有进行任何商业或财务关系可能被视为一个潜在的利益冲突。

出版商的注意

本文表达的所有索赔仅代表作者,不一定代表的附属组织,或出版商、编辑和审稿人。任何产品,可以评估在这篇文章中,或声称,可能是由其制造商,不保证或认可的出版商。

引用

Adnan, N。,Md Nordin, S., bin Bahruddin, M. A., and Ali, M. (2018). How trust can drive forward the user acceptance to the technology? In-Vehicle technology for autonomous vehicle.透明。部分》118年,819 - 836。doi: 10.1016 / j.tra.2018.10.019