授权human-AI团队通过故意行为同步
默罕默德·y·m·nas
1
西尔维亚•巴塔查里亚2
*
- 1Neuro-Interaction创新实验室,肯尼索州立大学电气工程系,玛丽埃塔,乔治亚州,美国
- 2Neuro-Interaction创新实验室,肯尼索州立大学工程技术部门,玛丽埃塔,乔治亚州,美国
人工智能(AI)遍布在各个行业,如医疗、交通、能源、军事应用,human-AI团队之间的合作变得越来越重要。理解系统元素之间的相互关系——人类与人工智能实现最好的结果是至关重要的在各个团队成员的能力。这也是设计更好的人工智能算法,找到喜欢的关键场景进行联合AI-human任务,利用这两个元素的独特功能。在这个概念上的研究中,我们将介绍故意行为同步(IBS)作为同步机制人类和人工智能之间建立信任关系不影响任务的目标。IBS的目标是创造一种相似性的人工智能决策和人类的期望,利用心理概念,可以集成到人工智能算法。我们还讨论使用多通道融合的潜在设立两个合作伙伴之间的反馈回路。我们的目标与这项工作开始的研究方向集中在探索创新的方法部署非人的团队成员之间的同步。我们的目标是培养一个更好的人类和人工智能之间协作和信任的感觉,导致更有效的联合任务。
1。介绍
连贯性与快速增长的兴趣在人工智能(AI)应用程序中,这是不可避免的,AI将会在人类的生活中扮演一个重要部分(Haenlein和卡普兰,2019年)。因此,即将到来的年将看到各种形式的人机合作跨多个域和应用程序,包括那些参与高敏感和复杂的任务,如军事应用(国家情报委员会,2021年)、运输(国家科学技术委员会美国运输部2020),和其他人。对human-AI团队动力学研究是一个跨学科的努力涉及智能相关技术概念部分(如计算机科学与工程)和人为因素(如心理学)。它还需要研究人类和人工智能之间的交互,除了上面的概念,涵盖范围广泛的考虑,包括人为因素,伦理和政策制定。这一领域的研究正变得越来越重要,因为更少的研究是可用的,检查人类之间的交互和艾比那些只关注单个元素。因此,越来越多的兴趣,了解人类与人工智能可以一起工作的方式是安全的,伦理,和有效的。
虽然人工智能是一个新的领域,研究它不必从头开始。相反,我们认为人工智能的子域基于机器自动化运动开始于1900年代中期。因此,有大量的研究和知识,我们可以用它来设计更好的human-AI系统。此外,通过查看人工智能作为一个进化,更加复杂的版本的基于规则的机器或机器人,的一个关键支柱在理解人类与人工智能的关系是人类的信任,一个主题,解决了许多在过去的几年里,那些可以追溯到1980年代(穆尔,1987)。从文献,我们人类相信人工智能定义为一个用户的程度持积极态度AI团队成员的可靠性、可预测性和可靠性来执行操作,导致交付的整体任务目标。信任建立受多种因素的影响,可分为三类:人为因素(对人类),合作伙伴因素(AI),和环境因素(上下文),都是相互关联的(汉考克et al ., 2011)。实现人类信任和人工智能之间的正确平衡和校准功能需要占所有这些因素,一个概念被称为“校准信任”(李和看到,2004年)。这项工作是同样通过引入一个新的概念,有可能帮助提高我们的知识human-AI团队的系统。
在人与人之间的团队环境中,受托人信托委托人的地方的水平是影响后者的能力为自己辩护和解释他们的决定背后的基本原理。这也是可扩展human-AI团队(陈et al ., 2016)。然而,这是一个具有挑战性的特性在人工智能(卡尔霍恩et al ., 2019)。因此,而不是强加explainability负载AI,我们建议将这一负担转移到人类通过AI模仿他们的行为可能发生失事的子任务。认识到自己行为的人工智能,人类可以建立一个连接。结果,在决策过程中情况最好的决定是不清楚,人类可以相信人工智能从早些时候的决定基于预定义的信任,更直接的决策互动。我们称之为模型“故意行为同步(IBS),我们将它定义为故意采用小决策模式由一个人工智能代理来模仿人类的队友等情况决定最小显著影响任务的总体目标。这种方法旨在提高human-AI合作,提高团队在长期的表现。本文旨在介绍这个概念,讨论它的起源和在实际的应用程序中实现它的能力。
2。故意行为同步
2.1。理论基础
肠易激综合症的概念的灵感从人与人之间的互动的心理现象,称为人际同步。传统上,人与人之间的同步是指物理和时间协调(施密特et al ., 1990),但是它已经发现涉及几个运动之外的其他行为机制(Mazzurega et al ., 2011)。它是成熟的,同步是一个社会在两人之间亲密的指标(Tickle-Degnen罗森塔尔,1987)。这个概念可以很容易地推断人类主体团队,但只有与相似或代理紧密匹配的人类行为和认知能力。但这里我们关心的是AI-powered机器,或者代理,处理复杂信息的能力,推理、决策、采取行动,追求一般高层目标(灵感来自定义Gabbay et al。(1998)]。这些代理不一定是人形,他们可能是嵌在人类的一个软件是无形的。这就是为什么同步,在传统意义上,不能使用这样的系统。因此,肠易激综合症的概念被引入。可以认为是一个附加的IBS目前现有的人工智能元素的性质不同。这是一个建立信任的策略对人类与人工智能的队友合作,可以集成到人工智能算法来提高团队的整体性能。
信任来自它的重要性是必要的在建立个人关系或他和队友的友谊。这种人类特征推进团队努力实现自己的目标(爱et al ., 2021)。人类努力证明友谊的感觉与他们的财产,如图所示,许多个人命名他们的财物。这种做法是普遍的在各种领域,包括敏感的环境就像军队一样,设备通常是命名,如著名的大狗机器人。因此,通过实现IBS在人工智能算法,我们可以创造一种和谐与人类的期望,从而培养更强的团队成员之间的连接,允许人类信任更复杂的决策由人工智能,人类可能无法证明的最优决策。
2.2。操作环境
拟议的战略在本质上是基本的,因此,可以实现在各种场景。在这里,我们提供一些指导方针来说明肠易激综合症可以有效地使用。
2.2.1。不限于机器人
IBS是为了提供一个决策元素和同伴的人类之间的联系来缓解联合任务的性能。这种联系并不局限于机器人或人形代理但可以扩展到任何类型的智能实体。例如,它可能是一个软件应用程序进行操作,是否可见或不可见地,影响关节的任务。同时,肠易激综合症和其他行为同步机制将与人形机器人有效工作,可能有更大的潜力比无形的人工智能代理。
2.2.2。不限于特定类型的交互
无论自由AI和是否它的互补作用是人类共同决策或者处理独立决策,行为同步带来的信任值是毫无疑问的。因此,肠易激综合症可用于各种应用程序不管人工智能与人类互动的合作伙伴。此外,人类之间的信任的重要性,人工智能不仅限于特定领域人的情绪状态是至关重要的实现团队目标,但团队合作的一个基本方面。因此,至关重要的是要考虑信任当完善设计的人工智能机器生成的团队整体利益的最大化。
2.2.3。一个个性化的时尚
每个人都有独特的视角和品质影响他们在团队中有效工作的能力和与人工智能交互,这称为外在相信文学(霍夫和巴希尔,2015)。外在的信任发展的人类特征,如积累经验和生活事件由个人到现在时间见面。这些显著的交互影响人类行为,会使个人容易有意或无意的偏见,它可以影响到他们如何与人工智能在联合协作系统。因此,肠易激综合症的集成,以及任何建立互信机制,需要在个人的基础上进行的。然而,集群技术可用于在人类中找到共同的特征,可以缓解过程。
3所示。实际的框架
3.1。描述
我们的愿景是使用肠易激综合症和行为同步在高度动态和复杂的环境中任务分层与多个目标和目标。这些环境提供了许多机会来测试我们的理论在实际应用的有效性;他们可以自由选择方法(决策),最终可以实现相同的目标。给这样的战略将如何工作的角度,考虑中的示范图图1。图说明一个AI元素定位决策,以分层的方式,在每一个决策影响后来的决定。这些决策是相互依赖、由一组主要和次要目标,人工智能已编程实现。在图中,人工智能是许多元素之一的网络元素涉及人类同伴和其他AI-human团队。这个设置是理想的应用肠易激综合症和类似的算法。
图1。人工智能的一个模范图决定在一个复杂的多层次的使命。
每一步的决策过程中,决策,有助于实现最大数量的目标优先。这是智能元素应如何编程。在图中,这些路径显示为红色。在这种环境下,人工智能可以进行人类设定的目标在不同方面遵循红色路线之一。因此,没有实验的目标或目标路径会受到影响了。拟议的IBS方法建议优先路径,更像一个人会选择什么,不仅仅是在第一个阶段,但在整个决策过程。这可以通过添加实现IBS要求的二级甚至三级列表需求系统。虽然这不是一个特定的任务的目的本身,它的目标是建立一个与人类可能最终帮助实现其他战略目标,使用人工智能算法开发的训练任务。
但是,某些决策由人工智能可以妥协的交付目标,描绘在黄色的路径图。如果黄色路径更直观的人类相比,红色的路径,挑战就做比较和分析权衡特定任务的目标是实现尽可能多的目标和总体战略目标(构建健壮的人工智能算法,有效地工作,有效地与人类)。相关的挑战在于分析风险和回报为相互关联的团队由很多元素组成的。集成IBS的有两种方法来解决的情况下增加肠易激综合症的标准可能会影响工作的质量。第一种方法是将这个元素以离线的方式在训练阶段。一旦足够的培训已经完成,人类应该有足够的信心在人工智能的推理能力做出适当的决定不需要实时肠易激综合症。第二种方法是保持IBS实现实际任务执行期间提供一个连续实时的与人类相似,只要避免不寻常的行为。
3.2。人类思考的反馈
测试人工智能决策对人类的影响以及是否从一组选项是最理想的选择,一个潜在的测量方法是使用自我报告的问卷调查。然而,这种方法容易受到偏见如召回,解释,和社会赞许性偏见等等。另一种方法是将人类实时信号纳入人工智能系统。使用生理模式在人机交互(HMI)应用程序中普遍存在。在设置信号采集设备可用,它们可以用来建立一个反馈回路从人类到AI系统来评估其决策。然而,这种策略增加了约束,尤其是信号解释和必要的隔离外部事件的目标事件的机器。这些障碍可能超过生理信号提供的见解不能通过其他传统的方法。
长期以来不同人体生理信号检测人类情感设置是正确的,包括信任这样一个情感。因为建立信任的神经关联,脑电图(EEG)的一个关键方法用于提取信任水平(长et al ., 2012)。最早的尝试大多局限于使用与事件相关电位(erp)提取人类的大脑反应而完成特定的认知活动。这类的研究包括(Boudreau et al ., 2009;长et al ., 2012;董et al ., 2015)。ERP(事件相关电位)的方法是很难被整合到实际系统中,因此我们不会推荐它。此外,在发表的一项研究阿卡什et al。(2018)、脑电图和皮肤电反应(GSR)被用来找到与信任。作者成功地做到了这一点,用精度值在70%左右。GSR也显示与信任水平研究不同的上下文,如的工作蒙塔古et al。(2014)和Khawaji et al。(2015)。此外,最近的一些研究脑电图检测人类神经标记的信任,如王et al。(2018),Blais et al。(2019),荣格et al。(2019),哦et al。(2020)。心电图(ECG)是研究脑电图和GSR相比少得多。我们不知道任何检查的研究实现心电图捕捉人类的信任的背景下,智能机器。,一些研究显示心率和其他心电图特征之间的关系与信任上下文与人机界面,如显示的工作Leichtenstern et al。(2011)和Ibanez说et al。(2016)。也有一些研究调查了眼球追踪与信任之间的映射,但在应用程序的应用程序感兴趣的。
除了生理信号,有可能用面部表情来检测信任和其他人类在这样的情感系统。使用深层神经网络训练录像,这更为普遍和容易实现特定的生理形态,可以将人类的情感。检测人类情绪的面部表情是一个广泛的研究领域,并已经形成的非常有效(Ko, 2018;娜迦族et al ., 2021)。
如上所示,许多人类显示一个潜在的输入检测人类的信任。此外,一些研究已经进行调查的有效性多通道融合技术在检测人类的信任和情感,如郑et al。(2014),黄et al。(2017),赵et al。(2019)。也就是说,多通道融合仍在发展的第一阶段。不过,它有可能为创建健壮的分类方案,留下余地进一步整合不同的生理形态量化研究人类和人工智能之间的信任。
3.3。支持的证据
通过分析相关文献,探讨该方法的正确性。在这里,两个基本问题进行了讨论。
3.3.1。熟悉/相似性可以帮助人类和人工智能之间建立信任?
Explainability与机器是建立信任的关键,但它并不总是可行的。为了解决这个问题,介绍了IBS作为一个工具来创建相似。我们的目标是取代explainability相似,得到的工作的支持Brennen (2020)发现,用户建立信任在AI熟悉而不是其工作方法的详细说明。此外,建立信任基于行为模仿人类是一个著名的心理特征。在的工作et al。(2013),这是证明儿童重视建立信任与成年人当成年人模仿他们的选择。其他研究也调查了共享特征建立信任的重要性。例如,在研究Clerke和Heerey (2021)更高水平的行为模仿和相似性导致更大的个人之间的信任,这进一步支持探索IBS方法的有效性human-AI系统中建立信任。
3.3.2。有可能有相同/相似的输出尽管早期不同的决策?
简单的应用程序的单一目标,如一盘棋,这的确是可能获得相同或相似的结果尽管早期不同决策(萨顿和Barto, 1998);不同的获胜的机会会导致相同的输出。然而,当网络介绍了子目标,如希望在最短的时间内完成游戏,这个过程变得更加复杂。而具体的经验证据是必要的提供一个明确的答案,这是合理的期望输出相似,无论早期的决策。这是因为可能的路径(决策)的数量很可能超过潜在结果的数量。结果,这些方式最终都将导致非常相似的输出,为机器学习提供许多选项,而与人类的伙伴建立关系。
4所示。结论
在这个短暂的概念研究中,我们引入了故意行为同步的概念(IBS)之间构建信任的关键一步,人类与人工智能机器联合系统。我们已经强调了意义和积极影响人类和人工智能之间的同步元素在一起作为一个团队工作时,特别是在高度动态和复杂的任务。尽管我们的研究没有提供经验证据,它提供了宝贵的见解研究IBS的影响在现实系统和鼓励进一步的研究探索因素被忽视或低估了在建立更有效的human-AI团队。未来的研究可能包括调查不同的机制来衡量人类对人工智能的反应在这种动态的应用程序。同时,创新方式的工作铺平了道路组成的团队,其中包括非人类成员之间实现同步。这种努力需要多学科的合作团队的工程师,数据科学家,心理学家和必须执行上下文相关的。
数据可用性声明
最初的贡献提出了研究中都包含在本文/辅料,可以针对相应的作者进一步询问。
作者的贡献
MN的构思和撰写整个论文的指导下某人所有作者的文章和批准提交的版本。
资金
这篇文章是一个持续的肯尼索州立大学和美国之间的合作努力DEVCOM陆军研究实验室(支持)认知和Neuro-ergonomics协作技术联盟(合同w911nf - 10 - 2 - 0022;更多信息:https://www.arl.army.mil/cast/CaNCTA)。这种合作的部分支持由肯尼索州立大学从陆军研究实验室的人力与资金自主合作必不可少的研究项目(合同# w911nf - 2020205)。
的利益冲突
某人报告金融支持是由美国陆军研究实验室提供。
其余作者宣称,这项研究是在没有进行任何商业或财务关系可能被视为一个潜在的利益冲突。
出版商的注意
本文表达的所有索赔仅代表作者,不一定代表的附属组织,或出版商、编辑和审稿人。任何产品,可以评估在这篇文章中,或声称,可能是由其制造商,不保证或认可的出版商。
引用
阿卡什,K。,Hu, W. L., Jain, N., and Reid, T. (2018). A classification model for sensing human trust in machines using EEG and GSR.ACM反式。Int。系统。(、)8、1 - 20。doi: 10.1145 / 3132743
Blais C。,Ellis, D. M., Wingert, K. M., Cohen, A. B., and Brewer, G. A. (2019). Alpha suppression over parietal electrode sites predicts decisions to trust.Soc。>。14日,226 - 235。doi: 10.1080 / 17470919.2018.1433717
Boudreau C。,McCubbins, M. D., and Coulson, S. (2009). Knowing when to trust others: an ERP study of decision making after receiving information from unknown people.Soc。Cognit。等于off。>。4,23-34。doi: 10.1093 /扫描/ nsn034
卡尔霍恩,c . S。Bobko, P。,Gallimore, J. J., and Lyons, J. B. (2019). Linking precursors of interpersonal trust to human-automation trust: an expanded typology and exploratory experiment.j . Res的信任。9,28-46。doi: 10.1080 / 21515581.2019.1579730
陈,j . Y。,Barnes, M. J., Selkowitz, A. R., Stowers, K., Lakhmani, S. G., Kasdaglis, N., et al. (2016). “Human-autonomy teaming and agent transparency” in同伴21国际会议上发表的智能用户界面,28-31。索诺玛,CA: ACM。
Clerke, a S。,Heerey, E. A. (2021). The influence of similarity and mimicry on decisions to trust.Collabra:心理学。7日,23441年。doi: 10.1525 / collabra.23441
盾,s Y。,Kim, B. K., Lee, K., and Lee, S. Y. (2015). A preliminary study on human trust measurements by EEG for human-machine interactions.Int,哼。国际米兰。8,265 - 268。doi: 10.1145/2814940.2814993
Haenlein, M。,Kaplan, A. (2019). A brief history of artificial intelligence: on the past, present, and future of artificial intelligence.加州管理。牧师。61年,为5 - 14。doi: 10.1177 / 0008125619864925
汉考克,p。,Billings, D. R., Oleson, K. E., Chen, J. Y., Visser, D., Parasuraman, E., et al (2011). A Meta-Analysis of Factors Influencing the Development of Human-Robot Trust. doi: 10.1177/0018720811417254 Available online at:https://apps.dtic.mil/sti/pdfs/ADA556734.pdf
霍夫,k。,Bashir, M. (2015). Trust in automation: Integrating empirical evidence on factors that influence trust.嗡嗡声。因素57岁,407 - 434。doi: 10.1177 / 0018720814547570
黄,Y。,Yang, J., Liao, P., and Pan, J. (2017). Fusion of facial expressions and EEG for multimodal emotion recognition.第一版。Int >。2017年,1 - 8。doi: 10.1155 / 2017/2107451
Ibanez说,m . I。,Sabater-Grande, G., Barreda-Tarrazona, I., Mezquita, L., López-Ovejero, S., Villa, H., et al. (2016). Take the money and run: Psychopathic behavior in the trust game.前面。Psychol。7日,1866年。doi: 10.3389 / fpsyg.2016.01866
荣格,大肠。,盾,s Y。,Lee, S. Y. (2019). Neural correlates of variations in human trust in human-like machines during non-reciprocal interactions.科学。代表。9 - 10。doi: 10.1038 / s41598 - 019 - 46098 - 8
Khawaji,。周,J。陈,F。,Marcus, N. (2015). Using galvanic skin response (GSR) to measure trust and cognitive load in the text-chat environment.安。Abstr Ext。嗡嗡声。第一版。系统。15日,1989 - 1994。doi: 10.1145/2702613.2732766
李,j . D。,See, K. A. (2004). Trust in automation: Designing for appropriate reliance.嗡嗡声。因素46岁,50 - 80。doi: 10.1518 / hfes.46.1.50.30392
Leichtenstern, K。蜜蜂,N。,André, E., Berkmüller, U., and Wagner, J. (2011).生理测量trust-related行为trust-neutral和trust-critical的情况。联合会信息和通信技术的进步。柏林,海德堡:海德堡激飞柏林。
长,Y。,Jiang, X., and Zhou, X. (2012). To believe or not to believe: trust choice modulates brain responses in outcome evaluation.神经科学。200 - 58。doi: 10.1016 / j.neuroscience.2011.10.035
爱,h . B。,Cross, J. E., Fosdick, B., Crooks, K. R., VandeWoude, S., and Fisher, E. R. (2021). Interpersonal relationships drive successful team science: an exemplary case-based study.嗡嗡声。Soc。科学。Commun。8 - 10。doi: 10.1057 / s41599 - 021 - 00789 - 8
Mazzurega, M。Pavani F。,Paladino, M. P., and Schubert, T. W. (2011). Self-other bodily merging in the context of synchronous but arbitrary-related multisensory inputs.Exp。大脑Res。213年,213 - 221。doi: 10.1007 / s00221 - 011 - 2744 - 6
蒙塔古,E。徐,J。,Chiou, E. (2014). Shared experiences of technology and trust: an experimental study of physiological compliance between active and passive users in technology-mediated collaborative encounters.IEEE反式。嗡嗡声。Mac系统。44岁,614 - 624。doi: 10.1109 / THMS.2014.2325859
穆尔,b . m . (1987)。人类和机器之间的信任,辅助决策系统的设计。Int。j .人机斯图。27日,527 - 539。doi: 10.1016 / s0020 - 7373 (87) 80013 - 5
椒,P。,Marri, S. D., and Borreo, R. (2021). Facial emotion recognition methods, datasets and technologies: a literature survey.材料今天Proc。80年,2824 - 2828。doi: 10.1016 / j.matpr.2021.07.046
国家情报委员会(2021)。未来的战场。nic - 2021 - 02493。网上:https://www.dni.gov/files/images/globaltrends/gt2040/nic - 2021 - 02493 -未来- - -战场−14 may21.pdf没有说明消息来源(2021年5月14日通过)。
国家科学技术委员会美国运输部(2020)。确保美国在自动车辆技术的领导地位。AV 4,0。网上:https://www.transportation.gov/sites/dot.gov/files/2020-02/EnsuringAmericanLeadershipAVTech4.pdf(2020年4月4日通过)。
哦,。,Seong, Y., Yi, S., and Park, S. (2020). Neurological measurement of human trust in automation using electroencephalogram.Int。j . Int模糊逻辑系统。20岁,261 - 271。doi: 10.5391 / IJFIS.2020.20.4.261
结束,H。,Carpenter, M., Spears, R., and Gattis, M. (2013). Children selectively trust individuals who have imitated them.社会开发。22日,215 - 224。doi: 10.1111 / sode.12020
施密特,r . C。Carello C。,Turvey, M. T. (1990). Phase transitions and critical fluctuations in the visual coordination of rhythmic movements between people.j . Exp Psychol。嗡嗡声。Percep。穿孔。16日,227年。0096 - 1523.16.2.227 doi: 10.1037 /
Tickle-Degnen, L。,Rosenthal, R., (eds.). (1987). “Group Rapport and Nonverbal Behavior”, in组织流程和群际关系(Sage出版物),113 - 36。
王,M。,Hussein, A., Rojas, R. F., Shafi, K., and Abbass, H. A. (2018). “EEG-based neural correlates of trust in human-autonomy interaction,” in 2018IEEE研讨会系列计算智能(1),350 - 57。IEEE。班加罗尔:IEEE。
赵,l . M。李,R。,郑,w . L。,Lu, B. L. (2019). “Classification of five emotions from EEG and eye movement signals: complementary representation properties,” in2019年9日国际IEEE /磨床神经工程会议(尼珥),611 - 614。IEEE。美国旧金山,CA: IEEE。
关键词:human-AI合作,故意行为同步(IBS),人机信任,人机交互(HMI),多通道融合
引用:nas MYM和巴塔查里亚年代(2023)授权human-AI团队通过故意行为同步。前面。Neuroergon。4:1181827。doi: 10.3389 / fnrgo.2023.1181827
收到:07年3月2023;接受:2023年6月6日;
发表:2023年6月20日。
编辑:
Gememg张美国梅奥诊所审核:
完蔡美国杜兰大学,版权©2023 nas和巴塔查里亚。这是一个开放分布式根据文章知识共享归属许可(CC)。使用、分发或复制在其他论坛是允许的,提供了原始作者(年代)和著作权人(s)认为,最初发表在这个期刊引用,按照公认的学术实践。没有使用、分发或复制是不符合这些条件的允许。
*通信:西尔维娅BhattacharyaSBhatta6@kennesaw.edu