解释在Human-AI系统

智能系统和应用程序,主要是基于机器学习(ML)的人工智能(AI),已经在几乎所有层次和所有领域的社会:从人工智能农业系统(例如,温室优化)算法交易在金融领域以及我们个人的同伴,比如社会机器人和个人语音助理(例如,Siri, Alexa)。提出了担忧,然而,因为他们的透明度,安全责任、算法的偏见和公平和诚信。为了应对这些问题,监管框架由人工智能原理在社会中出现了两个,机构和政府的水平。此外,人工智能和机器学习的回应(AI /毫升)社区的形式出现了可翻译的模型和可辩解的AI(新品)工具和方法。然而,这些有限制在解释复杂的人工智能的行为/毫升系统技术上没有经验的用户。

本研究课题的重点是如何概念化,设计和实施human-AI系统可以解释他们的决定和行动不同类型的消费者和角色。目前机器学习方法在定制更多的解释和解释为技术更适合建模者和没有经验的用户。在其他human-AI交互,例如,谷歌援助,Alexa,社会机器人,网络搜索,和推荐系统,解释推荐,搜索结果或行为不视为不可或缺的一部分human-AI交互机制。因此,有必要重新概念化,human-AI系统的设计和实现的方式,他们在他们的推理方式提供更多的透明度以及他们如何沟通这通过自适应的解释技术对不同类型的用户。这可以更好地通过采取跨学科方法的概念“解释”和“什么是一个很好的解释”的观点。例如,哲学和心理学等学科科学(例如,理论解释,因果推理)、社会科学(例如,社会期望)、心理学(例如,认知偏见),沟通,和媒体科学提供了一个基础知识‘解释’是什么以及如何去做人们选择,评估,和沟通解释。

本研究主题邀请研究人员和从业人员从学术机构和私人公司提交文章的概念化,设计,和实施可辩解的human-AI系统从理论/系统性的,和实用的角度来看。

从理论和系统性的角度来看,这些可以解决以下几方面:
•解释理论、意义和语义
•可辩解的,可判断的算法(如道德算法)和数据
•语言(口头、书面、标志)的解释
•Self-explainable和理解人工智能系统
•解释认知科学和计算
•大脑信息学和生物运算
•评估解释
•历史视角的解释在人工智能、机器学习以及其他学科
•解释社会科学研究
•心理学的解释(如认知和确认偏误)
•法律、道德和社会后果的自动决策(ADM)

从应用程序的角度,文章可能解决以下领域:
•自治系统(如车辆、工业机器人)
•社会机器人
•网络搜索和推荐系统(如谷歌,Netflix,亚马逊)
•机器学习和数据的科学
•大数据和分析