评论文章

前面。系统。医学杂志。,10 November 2022
秒。多尺度机械建模
卷2 - 2022 | https://doi.org/10.3389/fsysb.2022.959665

集成创新生物医学系统的机器学习和基于主体建模

尼基塔Sivakumar ¹ ^__,

卡梅隆不均匀 ²*^__和

Shayn m·皮尔斯 ¹

¹生物医学工程系,美国弗吉尼亚州夏洛茨维尔的弗吉尼亚大学
²学院的科学数据,美国弗吉尼亚州夏洛茨维尔的弗吉尼亚大学

基于主体建模(ABM)是一种行之有效的计算范例模拟复杂系统的各个实体之间的交互组成系统的人口。机器学习(ML)是指计算方法,算法使用统计方法从数据在自己的“学习”,即。,没有强加任何先天的模型/理论在系统或其行为。生物分类系统,从分子到细胞,到整个生物体,甚至整个族群ecosystems-consist大量离散的实体,由跨不同时空尺度上的相互作用和相互交织的复杂网络具有非线性,实体之间的耦合特性转化和可变度。由于这些原因,生物系统的宏观性质和集体动力学通常难以准确模型或预测通过连续体建模技术和平均场形式。反弹道导弹采用“自下而上”的方法,消除常见的困难其他建模方法通过使一个相对轻松地创建(或至少提出测试)一组明确定义的“规则”被应用到单个实体(代理)的一个系统。定量评估系统和传播其状态在一系列离散的时间步有效模拟系统,允许各种可见计算和系统的性能进行分析。因为规则的反弹道导弹很难从实验数据抽象和制定,至少在一个公正的方式,有一个独特的协同机会采用ML帮助推断出最优,系统特定的反弹道导弹的规则。一旦这些规则集设计、运行反弹道导弹可以生成大量的数据,计算和毫升可以应用,比如,生成统计措施,准确和有意义的描述系统的随机输出及其属性。作为一个例子的协同其他方向(从反弹道导弹毫升),反弹道导弹模拟可以生成合理的(现实的)数据集训练ML算法(例如,正规化,减轻过度拟合)。在这些方面,你可以想象各种各样的协同反弹道导弹⇄毫升循环。引入基于动因的模型的一些基本思路和ML后,和其局限性,本文描述的示例反弹道导弹和ML如何集成在不同情况下,跨越空间尺度上,包括多细胞对人类群体流行病学和tissue-scale生物学。这样做,我们使用已发表的研究方法作为指导识别毫升反弹道导弹适合特定类型的应用程序,基于生物系统的规模和可用的属性数据。

1介绍

1.1生物医学系统和数据驱动的动力机械建模

现在飞速发展在实验方法使我们能够获得大量的人口数据描述单个实体,如单个细胞内复杂的多细胞组织,或在大型流行病学系统个别病人。因此,系统生物学和生物医学研究的焦点,包括阐明模式在这些大型datasets-what之间的关联离散,单个实体本身,和什么是机制的行为,这些自治代理状态和相互作用导致大的规模,全民的结果吗?例如,单细胞RNA序列(黄et al ., 2018;波特,2018;Kulkarni et al ., 2019)、单细胞蛋白质组学(爱尔兰et al ., 2006;马克思,2019)和流式细胞术(吴et al ., 2012;吴et al ., 2013;陈et al ., 2019;却et al ., 2020)提供快照单个细胞的状态在一个时间点。然而,理解这些单细胞的组织水平和器官水平影响数据需要一套完全不同的分析方法,有能力时空集成异类数据以及至少两个“维度”:整个实体的数量,以及在多个尺度(细胞→器官)。例如,使用单细胞RNA-Seq可以检测和量化的rna存在的每一个细胞肿瘤,但这些数据无法照亮如何肿瘤细胞的特定集合,进行不同的行为(例如,扩散和迁移)是由其独特的细胞状态,有助于组织水平和血管生成和转移等器官水平的结果。

流行病学数据集近年来类似的扩展(安德鲁·佩雷斯et al ., 2015;Ehrenstein et al ., 2017;Saracci 2018)。许多因素推动这种增长,包括:1)改进的标准化和系统化的电子健康记录(电子医疗纪录;(安德鲁·佩雷斯et al ., 2015;布斯et al ., 2016;凯西et al ., 2016;Ponjoan et al ., 2019),与此同时增加数据存储、更复杂的计算机(例如,云计算)和改进的数据挖掘能力,2)采用高分辨率、诊断医学成像(支持者et al ., 2005;Smith-Bindman et al ., 2008;安德鲁·佩雷斯et al ., 2015;Preim et al ., 2016),3)收购基因组和其他“组学”大数据,很大程度上通过下一代测序(托马斯,2006;安德鲁·佩雷斯et al ., 2015;Maturana et al ., 2016;楚et al ., 2019等),4)技术可穿戴病人健康传感器(Atallah et al ., 2012;安德鲁·佩雷斯et al ., 2015;Guillodo et al ., 2020;Perez-Pozuelo et al ., 2021),5)收购的空间和环境数据从地理信息系统(GIS);(克里,2003;Rytkonen 2004;安德鲁·佩雷斯et al ., 2015)]。尽管这些技术进步,没有一个良好的分析和方法论框架集成,然后探索这些数据仍然很难理解,例如,某些生活方式行为或医疗保健政策可能导致疾病的传播在人群中独特的个体。大数据的挑战和未实现的潜力也适用在生理系统的规模越细,从器官和组织细胞社区,单个细胞,甚至在亚细胞尺度。生物大数据处理,几乎所有的现代计算分析管道采用机器学习(ML)方法,下面描述。而ML的方法提供了一个强大的家族处理和分析大数据,以及绘图推论,机械的见解和问题的因果关系一般不容易阐明通过毫升;为此,我们求助于机械建模。

1.2基于主体建模的概述:一般方法和示例应用程序

的定量测定和预测如何个人机制有助于系统级结果(称为“涌现性”)很大程度上奠定了基础研究的基础,也是关键应用领域如创建有针对性的治疗,减轻疾病传播,最终,指导更明智的医疗政策。所描述的拿(2002),这些一般类型的problems-deciphering全球,集体行为出现在一个复杂的系统,由一个统计大量的交互(本地),单个组件是特别适合的方法被称为基于主体建模(ABM)。因此,一个人可以想象协同集成反弹道导弹和ML,利用各自的优势:基于动因的模型是一个潜在的强大的仪器的机械性质与分析(non-mechanistic黑盒)可以预测通过毫升。简要介绍反弹道导弹和ML后,本文的剩余部分描述了他们潜在的协同作用,包括相对的优点和局限性,在最近的研究,整合这些不同的方法并将其应用在不同的尺度,从细胞到生态。

反弹道导弹现在是一个行之有效的计算范例模拟系统的群体结果基于组成人口的个人实体之间的交互。这种方法或反弹道导弹“心态”(拿2002)必然是自下而上的,和一般的方法已经应用于领域从宏观的动态系统,如全球金融市场(拿2002),信使rna的微观动力学导出从细胞核(Soheilypour Mofrad, 2018)。基于动因的模型模拟spatially-discrete,自主的个体,或“代理”,遵循相对简单的“规则”在一系列离散的时间步长。制定规则来描述离散、定义良好的个人行为,一个代理可以通过在给定的时间步根据(也可能是为了应对)自己的状态和当地环境;规则可以是概率或确定的,并且可以灵活考虑代理州之前,模拟时间,和其他系统特定的参数。主体可以代表蛋白质、生物细胞,生物个体,或任何可确定的实体(例如,个人在股市交易员)表现出特定的行为随着时间的推移,和这些行为的集合(例如,两两交互模式)系统中产生群体结果/合奏,如胚胎发育的(Longo et al ., 2004;索恩et al ., 2007 a;罗伯逊et al ., 2007),血管增生(皮尔斯et al ., 2004;索恩et al ., 2011;沃波尔et al ., 2015),在给定的有机体疾病进展(马丁et al ., 2015;Virgilio et al ., 2018),或者子集之间的传染病传播生物人口(Cuevas 2020;罗基特et al ., 2020)。在最近的一项研究指出,开发了一种“生物气体点阵细胞自动机”(BIO-LGCA)细胞实体的集体行为在复杂的多细胞系统(多伊奇et al ., 2021),古典,于格子基于动因的模型和元胞自动机(CA)方法是相似的。特别是,中科院也模拟现象通过基于网格的空间表示,但往往没有明确考虑代理之间的交互(这样的话,中科院可能被视为ABM)的简化形式。为最近的一个介绍性的概述基于动因的模型,从数学的角度和一个演示应用程序,一个三态疾病传播模型,明白了Shoukat和Moghadas (2020)。

基于动因的模型的离散特性,在时间和空间,让他们来捕获时间特性转化和空间最复杂的动力系统所固有的异构性问题,生物或其他。源于特性转化和异质性的可变性¹可以处理反弹道导弹模拟数值强劲的方式(例如,奇点,分歧),因此,能够模拟真实的生物过程如何进展可能不同的结果(即。,non-deterministic behavior), based on 1) heterogeneity among the unique agents in a population, 2) stochasticity at the level of individual agents (i.e. inherent variability stemming from differential responses of each individual agent), or 3) variability in the environment and the coupling of agents to that potentially dynamic environment (i.e., spatial inhomogeneities). Moreover, ABMs can quantitatively predict numerous outcomes for a dynamical system that may be difficult or impossible to quantify experimentally, at least with sufficient spatial and temporal resolutions²。基于动因的模型也可以用于预测系统行为以应对各种不同的扰动和初始条件,允许更全面的了解生物医学系统访问通过实验。ABM的另一个主要好处是,它作为建模方法的准确性不遭受average-based假设系统的要求(平均场近似完全混合,等等),与偏微分方程(PDE)的方法或其他建模框架,治疗系统作为一个光滑连续,无奇点和违规行为。结合方法论的方法如灵敏度分析(十Broeke et al ., 2014;十Broeke et al ., 2016;Ligmann-Zielinska et al ., 2020),这些属性使基于动因的模型特别有用的工具检查依赖关系群体现象的行为和相互作用的个体组成的人群(如。,使用反弹道导弹模拟地图“响应面”,一些潜在的特性/解释变量(威利•et al ., 2015)]。

基于动因的模型已经被广泛地用于模型多细胞过程,比如组织模式和形态发生(索恩et al ., 2007 a;索恩et al ., 2007 b;罗伯逊et al ., 2007;泰勒et al ., 2017),肿瘤发生(王et al ., 2007;Gerlee和安德森,2008年;Zangooei哈比比,2017;Oduola和李,2018年;华纳et al ., 2019),血管化(沃波尔et al ., 2015;沃波尔et al ., 2017;拉博拉et al ., 2019),免疫反应(一个2006;贝利et al ., 2007;Woelke et al ., 2011;徐et al ., 2018)和药效学(亨特et al ., 2013;•et al ., 2015;金正日et al ., 2015;霁et al ., 2016;加拉赫et al ., 2018)。领域的流行病学、反弹道导弹也被用来代表人类的个体人口为了研究传染性疾病传播的疾病传播和创造模拟一群个体随时间(马歇尔和盔状突起物,2015年;特蕾西et al ., 2018;Cağlayan et al ., 2018;Cuevas 2020;罗基特et al ., 2020);注意,在流行病学、地理、社会、经济和其他一些设置,反弹道导弹和“微观”往往交替使用,尽管他们是不同的方法(听到et al ., 2015;Bae et al ., 2016;半刚石et al ., 2019)。还像中科院,微观分析模拟单个实体在离散空间离散的步伐,并没有个人代理交互³。虽然基于动因的模型已经得到了广泛的应用和生物医学研究成果,他们并非没有认识的局限性。例如,规则,基于动因的模型很难单从实验数据抽象和制定,至少minimally-biased。此外,运行基于动因的模型可以计算昂贵,并选择统计措施,准确和有意义的总结可以挑战随机输出(十Broeke et al ., 2016)。其中的一些约束和限制可能缓解通过利用机器学习(ML)方法作为反弹道导弹管道的一部分。

1.3毫升是什么,它是有用的在研究生物医学系统如何?

机器学习是一组巨大的方法,算法使用统计形式和方法来“学习”从他们的行之有效的数据,没有明确的程序。在ML,无论关系、模式或其他关联可能潜伏性存在于一体的数据收集的数据,而不需要一个先天的理论或模型预先指定的细节可能的关系。鉴于此,注意一些一般形式模型必须posited-e.g。,we assume datasets can be fit by a linear function, can be represented by a neural network, exist as natural clusters of associations, or so on; how these unavoidable assumptions manifest is known as the感应偏压毫升的模型和学习算法。下面的小节将介绍一些基本的ML概念和术语通过一个基本的描述监督式学习;然后,剩下的部分考虑的问题评估毫升模型(1.3.2节),最后,提供了一个更广泛的角度毫升更普遍(1.3.3节),包括一个分类的概述毫升方法(监督、非监督等)。

1.3.1基本毫升的概念,通过监督学习的镜头

最广泛,每毫升项目始于问题,数据和模型。配备模型,痛切地说Alpaydin (2021)”,它再也不是程序员,但数据本身,它定义了下一步该做什么”。这种学习是如何实现可以被理解为,ML,最普遍,来确定一个函数,优化地图数据集(包括一套独立的变量,通常称为“特性”)的一组结果/结果(因变量)。也就是说,我们的目标是找到一个函数ℱ数据映射到“结果”, ${D} ⟼ {R}$ ,“地图”可以作为简单的线性模型(即。,weighted sum of linear terms) or as complex as a deep neural network (DNN) in the context of ML通过神经网络(NNs)。在后一种情况下人工NNs (ann),比如在深度学习,成千上万的参数(神经元之间的突触权重、偏见等)定义/款,参数化模型(连同预设等“hyperparameters”隐藏层的数量,激活功能,学习速率,等等)是习得的通过反向传播算法,它是一款模式的连接性和权重,定义了功能性映射⁴。我们通常寻找一个地图是“最优”的预测结果之间的误差最小化和既存的结果已知(作为“地面实况”)对于一个给定的数据子集(训练集)。机器学习的“学”部分基本上是迭代近似的参数优化模型对一个目标函数(在许多类的函数形式/毫升方法是预先假定,当决定模型数据通过一种方法或其他)。这个训练过程,反过来,仅仅意味着找到一组权重/参数优化地图的健身,对应于模型的预测误差最小化;从根本上说,这些“权重”可以是简单的数值变量项的系数优化功能(复杂性源于有无数这样的参数),而且,作为一个例子目标函数常用的线性回归,最小化均方误差等于最大化(正态分布)的可能性所观察到的数据在我们的(优化)的线性模型。到达这个点的优化参数,我们说有一个“训练模型”;第二阶段的ML项目通常是“推理阶段”,然后利用训练模型在规模作出预测。后一个阶段涉及应用训练模式在新/看不见的数据(即。,在dividual data items), which can take the form of either test datasets (while still developing/validating the model) or else real-world data (if the model is being deployed for production purposes, e.g., as part of a computational pipeline for automated tagging of chest X-rays in a clinic).

1.3.2毫升评估模型:一个重要和棘手的话题

模型训练、选择和评价是至关重要的阶段,任何毫升开发管道,包括在考虑潜在的与一个反弹道导弹框架的集成。即使在广泛的、高度通用terms-considering,例如,分类和回归问题,ANN-based毫升与其他类型的ML,所以等的话题模型选择和绩效评估毫升模型组成整个领域本身。彻底治疗这一主题,我们建议Raschka (2018)。在这里,我们只是注意几点。首先,模型训练(即。,核心学习毫升管道的一部分)和模型选择issues-e.g通常是不可分割的。,当整体数据集的构建“分裂”培训(比方说80%的数据)测试(比方说20%的数据)集,然后进一步雕刻出一个验证(从其余的训练集不相交的子集)。毫升的方法是如何评估很大程度上取决于模型的形式和复杂性,和评估方法可能适合回归或其他“浅”的学习方法,无论是分裂的比率以及如何数据分配给培训/验证/测试集,不得作为更复杂的模型,如款。其次,模型开发和性能密切相关的关键目标减轻过度拟合/ underfitting;最成功的模型,实现这一平衡最优产量最低的”泛化误差”(即。,一个ccuracy of future predictions with unseen data, particularly data-points that lie distant from the training set). Third, 1) the general方法(例如,交叉验证、贝叶斯模型选择等)和2)类型的评价指标(例如,log-loss函数分类任务,均方误差回归,等等)可以有很大区别的类型的毫升执行(例如,安和non-ANN)。简而言之,当考虑毫升方法与ABM框架的集成,必须注意,以便不不经意间混淆使用的各种方法培训,测试,验证,和其他方面的培训和绩效评价毫升模型,包括等问题的模型是否ANN-versus non-ANN-based。与ML的所有应用程序,必须注意考虑毫升的类型制定验证和评价策略。

1.3.3更广泛,分类视角毫升

而精确区分一个算法机器学习算法(参见统计建模,例如)是有争议的,在这里我们认为广义的ML算法米切尔的标准(米切尔,1997):一个算法是对“学习”说,如果提高它的性能, $P$ 关于一个任务, $T$ ,通过执行一些计算过程, $E$ 。ML算法大致分为四个主要类型,主要依赖的角色带安全标签的数据时在训练和学习的过程(注意,这些类型之间的界限是模糊的):监督式学习,无监督学习,Semi-supervised学习,强化学习。1)监督式学习算法推断独立和相关的变量之间的关系通过应用模式训练有素的针对之前数据已知的类型(Bhavsar Ganatra, 2012;辛格et al ., 2016);这些“真实”数据包括(准确地)“标记”样本可以分裂成不同的方式(例如,“培训”,“测试”和“确认”/“发展”集)的一部分model-training政权。2)在无监督学习,ML算法自动识别模式,趋势或“分组”(集群)的数据集,用零人工干预的形式关于“正确”associations-i.e的先验知识。由人类专家,只有无标号数据(未经)可供使用(绅士和凯里,2008年;Kassambara 2017)。3)Semi-supervised学习大量的数据时,可以使用可用,但只有一小部分(正确地)标记,特点是包含标记数据和未标记数据的训练集,后者的优势。在这里,我们考虑“知情毫升”(冯Rueden et al ., 2021),或者“专家知识“毫升semi-supervised学习的一种形式,在modeler可以手动调整模型权重基于已知系统的行为和属性。4)在强化学习,毫升过程的行为通过一组规则(“政策”)和一系列的系统“州”(类似于反弹道导弹),并根据结果奖励或惩罚的“移动”;ML算法的演化系统通过状态转换,以最大化的回报在一个给定的环境(萨顿,1992;Kaelbling et al ., 1996;Kulkarni 2012),在那种情况下,“学习”。一个丰富多样的学习算法属于这些更广泛的范畴,作为总结毫升样品库存的方法表1。虽然这表不是全面的,列出的每毫升的方法已被广泛应用于研究和分析各种类型的生物系统(蛋白质、网络、组织等)。

表1

表1。这种分类法的ML算法组织几个流行的方法使用方案基于米切尔毫升的定义。

许多有用的评论毫升的生物科学近年来出现,包括学习的革命通过款(即。,deep learning (DL)]. As but one example,Ching et al。(2018)彻底审查带来的挑战和机遇毫升在生物科学大数据的应用程序。而专注于深度学习(勒存et al ., 2015;格拉汉姆·古德费勒et al ., 2016;唐et al ., 2019),审查的许多原则适用于毫升更广泛地说,例如,浏览深度网络类似于毫升的经典回归方法,但足够一般化,允许非线性特性之间的关系⁵。在生物医学领域,毫升已成为一个强大的和广义范例集成数据进行分类和预测表型遗传相似性,在各种生理过程和疾病状态;在这里,无数的评论是可用的(Chicco 2017;公园et al ., 2018;Serra et al ., 2018;琼斯,2019;尼科尔森和格林,2020年;苏et al ., 2020;彭et al ., 2021;Tchito Tchapga et al ., 2021)。

1.4毫升的局限性和潜在的协同效应的整合反弹道导弹/毫升生物医学系统?

尽管其许多重大成功,有几个重要的限制与ML到生物学的应用。创建一个精确的和健壮的ML模型需要大量的实验数据,如病人数据,测量细胞层面,“组学”数据,等;这些数据可能是一个挑战获得由于各种原因,包括测量不准确,固有的稀疏数据集,或其他问题如缺乏健康数据源于隐私政策。也许对于建模者,最根本的是棘手的ML体系结构和算法通常追求最优标准的方式产量“黑箱”解决方案,不幸的是可能链接预测和结果变量的内部机制仍然未知;因此,ML算法通常不照射的因果机制构成整个系统的行为(在上面的语言中,我们发现ℱ地图,但没有解释的依据)。由于这些类型的原因,“可辩解的人工智能”已经成为一个非常活跃的研究领域(Jimenez-Luna et al ., 2020;Confalonieri et al ., 2021;Vilone和隆戈,2021)。出现一个有趣的概念,如果我们考虑1)黑盒毫升的属性方法,配合2)自底向上,机械的设计基于动因的模型(例如,在离散的、定义良好的规则集),并把它通过镜头3)因果推理理论(珍珠,2000)。也就是说,ABM规则集基本上是低级的集合因果机制(例如,结构因果模型)。因此,可能有可能从反弹道导弹协同应用数据模拟检验(高级)(即ML-based预测。,假设)?,这样做可以帮助“放松”因果关系的“梯子”(Bareinboim et al ., 2022),或因果层次结构,所诱导的反弹道导弹的因果机制,至少松散来说,可能支撑“内部运作”(黑盒)相应的ML模型?这些类型的问题可以被明智地探索整合毫升和反弹道导弹。

与各自的优势和局限性,反弹道导弹和ML方法可以看作是互补的方法建模生物systems-particularly系统和问题的其中一种方法的优势(反弹道导弹或ML)可用于解决特定的缺点。例如,ML算法(如款)经常被批评,因为他们预测到了黑盒的方式;另外,大多数监督算法需要大量的准确标记的训练数据,和过度拟合是一种常见的陷阱很多毫升的方法。基于动因的模型,另一方面,1)是建立在明确的陈述/配方精确的系统组件之间的相互作用(这些规则是“低级”,因此制定相对容易),和2)可以很容易地生成,通过套房的模拟,大量的输出数据。同样,在创建规则基于动因的模型通常是通过手动和主观内容管理的文献,这可能导致偏见或过于简单化的抽象的真正的生物复杂性,毫升强化学习等方法可用于计算推断出最优规则集代理和他们的相互作用。因此,有一个自然的协同关系这些成对的反弹道导弹和ML的相对优势和劣势。

受这种潜在的协同作用,本文的其余部分突出了一些已发表的研究综合毫升与基于动因的模型在以下方面,为了创建更高级的生物系统和精确的计算模型,在多细胞和流行病学尺度:

•学习通过ML反弹道导弹规则:强化学习和监督学习方法可以用来推断和完善代理规则,这一点非常重要因为这些规则应用在每一个离散的时间步长,因此,在很大程度上定义反弹道导弹。

•参数校准和代理模型基于动因的模型:随机优化方法,如遗传算法和粒子群方法,可用于校准反弹道导弹参数。监督学习算法可以被训练来创建代理模型的反弹道导弹,也减轻艾滋病在校准和必须执行许多基于动因的模型的计算成本。

•探索基于动因的模型通过ML:毫升方法可以帮助探索复杂的高维参数空间的反弹道导弹,灵敏度分析,模型的鲁棒性,等等。

作为本文的高层组织的概述,图1计划如何个人研究,在最近的文献报道,集成毫升到每一步的制定和分析这一模型。我们现在强调,决不是全面回顾:我们仅仅专注于特定的上述类型的集成的例子。前几个评论已经描述了如何利用毫升计算模型,例如,通过阿尔伯et al。(2019)并通过彭et al。(2021)。此外,协同整合的想法毫升和反弹道导弹(图2)自至少已经存在兰德的(2006)早期的报告,包括最近的作品等Giabbanelli (2019),Brearcliffe和骗子(2021),Zhang et al。(2021)。的其余部分我们目前的审查更侧重于毫升的效用在基于动因的模型,并试图提供一些指导原则,这些集成模拟不同尺度的生物学中是可行的。

图1

图1。本文系统化毫升如何援助的不同阶段的发展和应用ABM-define /确定代理规则,调整参数,参数空间探索等。代表例子给出各种类型的协同ML-ABM联轴器(见文献引用)。

图2

图2。原理概述潜在的ML / ABM集成方案。这个图表显示四个模式(由哪一个编号的圆圈)可能会集成毫升和反弹道导弹,取决于毫升子系统行为优化的微观个体的规模(①和②,左侧卧),否则整个人口的宏观层面的代理(③和④,右侧)。代理1、2、…n被吸引的反弹道导弹子系统(中间面板),与代理之间的耦合用虚线箭头;平方晶格纯粹是强调ABM方法的离散特性。如何解释这个图的一个例子,注意模式②,“行为干预”,需要应用“在线”毫升方法修改代理行为/行动政策,本质上是强化学习。注意,这个例子是改编自一出现在Zhang et al。(2021),进一步的细节可能被发现。

2使用毫升推导并确定代理规则

2.1概述和动机:反弹道导弹“规则”是从哪里来的?

反弹道导弹的规则定义一个代理可以执行的自治行为作为其状态和响应的函数改变当地的环境。例如,细胞可能发生细胞凋亡如果经历持续缺氧,或健康的个体可能感染了一种病毒在靠近受感染的个人。注意,“可以”和“可能”发生在前面的句子,因为反弹道导弹的概率定义规则。规则的因果联系的方式制定的个人代理/实体(分子、细胞、人类个体,等等)的人口正在考虑。传统上,这些规则是手动生成的modeler中,他们必须牧师和解释经验数据描述系统,并综合专家意见和/或教条的文学。反弹道导弹,规则集只是验证反弹道导弹已经运行模拟和预测后独立实验数据相比,或验证数据集。因此,一种常见的批评传统的反弹道导弹rule-generation过程是内在主体性的model-builder规则引入偏见,从而扭曲其下游的生物相关性和预测结果。

为了克服这个潜在的问题,最近的反弹道导弹已经开始利用毫升计算确定了一个不那么特别和启发式的规则基于代理人的代理行为空间环境在给定的时间步长。而不是手动生成规则,这可能是无意中偏向某一组没有统计学的预测目标人群的代表或系统行为,ML算法可以学习规则,参数化等等更客观地检查实验数据或通过应用基本的数学关系(图3);事实上,这种“学习数据”能力直接源于毫升的根源在信息理论和统计学习(Hastie et al ., 2009)。

图3

图3。毫升定义规则集在流行病学中的应用(左)和多细胞(右)基于动因的模型。在这两个说明性的例子,ML-related阶段在红色或蓝色ABM-related步骤用黄色突出显示。在这两种环境,个人代理调查环境变量在给定的时间步的仿真。这些环境变量形成了ML算法的输入,输出代理制定的决定。左边的例子是指反弹道导弹开发模拟霍乱蔓延在库马西,加纳,在监督学习算法训练调查数据被用来选择最可能的行为基于环境变量(Abdulkareem et al ., 2019;Augustijn et al ., 2020)。其他几个流行病学反弹道导弹利用大型数据集训练监督学习算法来确定代理行为(天et al ., 2013;Abdulkareem et al ., 2019;亚历山大小et al ., 2019;Augustijn et al ., 2020)。右边示例引用多细胞基于动因的模型,模拟个体细胞行为的组织,细胞“决策”是基于问则(Zangooei哈比比,2017)或安方法(Gerlee和安德森,2007年,2008年;伤势严重et al ., 2012 a;伤势严重et al ., 2012 b;Al-Mamun et al ., 2013;Al-Mamun et al ., 2014;Al-Mamun et al ., 2016;Abdulkareem et al ., 2019)。

2.2监督学习开发代理行为

监督学习算法已经在流行病学杠杆反弹道导弹定义代理行为模拟的传染性和非传染性疾病的传播。的确,监督学习可能是有用的在反弹道导弹规则生成,因为“学习”能力代理规则从地图标记数据集代理功能在系统不同的条件或情况下代理的行为。例如,微观分析(天et al ., 2013)糖尿病性视网膜病变(DR)的一群个人使用多元逻辑回归算法来帮助建立规则,确定每个人代理什么时候博士的推进到下一个阶段,基于特征如年龄、性别、糖尿病、时间当前烟草使用和高血压。代替手动估计概率从博士阶段进步文学,这些规则被培训一个多元逻辑回归模型计算了数据集描述535博士的病人。个别患者相关的逻辑回归算法学习函数的概率特性,博士阶段发展,开始时每一个模拟的反弹道导弹这个函数是用来确定每个人类代理是否会推进到下一个阶段的这种方法表明,模拟博士群501个病人从一个实际病人组没有显著差异。此外,逻辑回归方法用于识别的关键预测博士阶段发展(天et al ., 2013)。最后,请注意,这个例子说明了回归模型的一般原则是高度适用于构建规则当大量的病人数据是可用的。

另一项研究(亚历山大小et al ., 2019)评估多个监督学习方法预测,在一个反弹道导弹平台的背景下,个别病人反应博士与目标的药物加巴喷丁受体和用于治疗几个条件,包括糖尿病神经病变。研究发现,“合奏”方法,结合几个“基于实例的学习方法,包括监督k最近的邻居和模糊c则,取得了最高的分类精度(亚历山大小et al ., 2019)。

生物医学信息学最近的努力主要集中在发展中,系统自动提取方法和推断统计严格新information-so-called“真实的证据”(RWE)从主数据源,如电子健康记录(病历)。这些努力的一般目标是多方面的,包括发现新用途的药物已知是安全的和有效的(一种方法称为“再利用”),最终达到高信任度,clinically-actionable建议(例如,一个特定的药物为一个特定的迹象),理想的个性化,“精密医学”的方式。潜在的协同界面之间可以找到基于动因的模型和RWE-related研究,例如通过使用原始(低级)patient-derived数据对开发基于动因的模型(定义规则集、参数化等)并部署它们用于预测。例如,实际数据的传播COVID-19在医院和其他设置用于开发和部署基于动因的模型用于优化政策措施和探索其他流行病学问题(Gaudou et al ., 2020;参加et al ., 2021;公园et al ., 2021);还广泛地引人注目,最近ABM-based“信息传播”的研究已经使用先进社区卫生发展的资源(林道市et al ., 2021),检查“医疗创新”如何传播中特定的社区,如心脏病专家(Borracci和Giorgi, 2018年)。

2.3专家知识的监督学习方法基于动因的模型

其他的研究已经证明了ML算法的效用反弹道导弹规则生成,即使是有限的可用的训练数据。一些研究培训监督学习算法对可用数据与专家知识和增强学习功能。贝叶斯网络(bn),例如,是一种常见的监督与专家知识的学习算法。首先,BN训练数据集来确定发生某些事件的条件概率基于预测的值,如生病的个体感染健康个体的概率给出它们之间的物理距离。然后,在一种方法被称为“知情毫升”(冯Rueden et al ., 2021),领域专家可以根据经验和主观调整这些学过概率发表文学作品。一项研究(Abdulkareem et al ., 2019)使用这种方法来确定人工代理规则之前开发的反弹道导弹的霍乱蔓延在库马西,加纳。工作(图3)四种不同的bn相比,训练有素的不同组合的调查数据和专家意见支持,定义一个规则在人类的代理是否决定使用河水基于不同层次的视觉污染,2)媒体影响,3)与邻居沟通,和4)过去的经历吧。反弹道导弹被发现时最精确的bn结合底层数据和专家知识;这有点奇怪,因为可用的训练数据来自有限数量的参与者,没有整体人口代表建模。此外,研究发现,“顺序学习”的方法进一步改进的反弹道导弹的准确性。序列学习是指训练BN的“在线”的方式,同时反弹道导弹仿真的BN培训是在反弹道导弹仿真数据生成。这项研究不仅表明,贝叶斯网络是一个可行的学习算法时专家意见集成到基于动因的模型可用的训练数据是有限的,而且反馈流程顺序学习可以进一步提高学习算法的精度,利用数据生成的反弹道导弹模拟。在另一项研究中,Augustijn et al。(2020)采取另一种方法确定人类代理人在上述霍乱反弹道导弹用水:决策树训练工作在相同的训练数据集作为早期的研究(Abdulkareem et al ., 2019),以便确定一个代理将使用河水基于相同的预测变量。决策树方案与BN方法的不同之处在于,决策树不需要专家意见或连续的学习,而不是从头派生(小说)代理规则通过确定每个代理的树状模型/路径认为预测变量做出决定关于使用河水。决策树方法产生了反弹道导弹的预测和不同数量的感染者(Augustijn et al ., 2020)。这种差异可以预期的,因为中概述图4,这两种不同的ML集成导致两个根本不同的规则集,从而影响系统的涌现性/结果。毫升的这些不同的集成这两项研究成果不同的反弹道导弹强调测试多个毫升方法和集成策略的重要性,为了评估方法将收益率最高的准确性基于动因的模型为特定系统接受检查。

图4

图4。对比两个应用程序的监督学习算法在流行病学基于动因的模型定义代理规则集。两项研究应用毫升定义代理规则集的反弹道导弹开发模拟霍乱蔓延在库马西,加纳。第一项研究(上游通路)应用朴素贝叶斯模型来预测用水量的个人代理基于环境变量(Abdulkareem et al ., 2019低),而第二个(路径)决策树训练获得代理行为基于相同的环境变量(Augustijn et al ., 2020)。两毫升/ ABM集成预测不同数量的人口总感染者,说明ML算法用于自适应细化代理人的行为会影响整体的反弹道导弹系统范围的趋势预测。

监督学习方法专家知识也被应用于研究前馈人工神经网络(ann)集成到多细胞系统的基于动因的模型。今天的深的前辈NNs,信息处理的网络是受分层的,多层次,densely-interconnected模式层神经元之间的信号和信息流动在人类的大脑。安,每个神经元(或“隐藏单位”)流程输入变量,例如,通过线性求和,和“决定”如何将这些信息传递给下一个神经元(下游),这一决定是基于计算出的数值是否超过一个“激活阈值”。(NNs对待经典文本的基础微积分(2009))在理想情况下,一个安的输入变量捕获突出对系统的动力学特性,当地环境,等等;非数值信息(例如,分类数据)可以被作为输入通过这一过程称为编码。另外,注意,激活函数和神经元的input-combining功能范围可以从相对简单的(比如,一个二进制阶跃函数或参数的加权线性组合)更复杂的形式,如1)那些基于双曲正切(或类似的物流功能,这两个反曲的饱和),或2)最近的分段线性“修正线性单位”(ReLU),这是发现通常工作在培训款(Glorot et al ., 2011)。

作为安/ ABM的例子,一个研究结合专家知识前馈安决定细胞行为基于环境条件在肿瘤生长的反弹道导弹(Gerlee和安德森,2007年)。反弹道导弹中,每个细胞代理编码一个安决定细胞表型基于输入描述细胞的当地环境,如细胞的数量的邻居,当地的氧浓度、葡萄糖浓度和pH值(Gerlee和安德森,2007年)。每个安处理这些输入选择一个从数量有限的离散的表型反应,如扩散、静止,运动,或细胞凋亡。在工作的每个神经元的连接权值和激活阈值是手动设置,因此“调谐”安,这样整体的细胞行为与癌细胞(即。一定比例的人口输出的每个表型细胞),而不是训练安在实际的蜂窝数据。随着细胞的泛滥,他们含蓄地传递安一代又一代的读者。基因突变是纳入仿真模型通过引入随机波动在安权重和阈值传给子细胞(Gerlee和安德森,2007年)。这些模拟基因突变使得作者在肿瘤研究克隆进化和环境因素会影响糖酵解phenotype-a细胞状态的出现具有调节糖酵解,,以增加肿瘤的侵袭性(Gerlee和安德森,2007年,2008年)。

上述安框架纳入后续研究旨在建模药物输送和缺氧。这些增加的复杂性进一步的研究细胞通过添加生长和抑制因素作为输入(安伤势严重et al ., 2012 a;伤势严重et al ., 2012 b),同时通过引入bioreductive药物注入反弹道导弹;这些研究探索的影响蛋白结合药物传输(伤势严重et al ., 2012 a;伤势严重et al ., 2012 b)。其他研究使用类似安架构查明缺氧对肿瘤生长的影响(Al-Mamun et al ., 2014),探讨了化学治疗剂的功效,maspin,肿瘤转移(Al-Mamun et al ., 2013;Al-Mamun et al ., 2016)。总的来说,这个设计scheme-i.e。”,embedding” ANNs into the agent entities of an ABM—illustrates an intriguing and creative type of synergy that is possible when integrating ML and ABM–based approaches.

2.4强化学习:在多细胞基于动因的模型确定代理的行为

另一种类型的学习算法用于多细胞基于动因的模型是强化学习(RL),学习细胞行为是“政策”(累积)奖励基于最大化系统的周边环境和转换从一个状态到下一个(表1)。概念之间的相似性RL和反弹道导弹规则集根深蒂固:RL方法很大程度上可以看作是一种基于代理的马尔可夫决策过程(Puterman 1990)。这种方法的关键元素是四个相互关联的概念:1)状态所占据的一个代理在一个给定的时刻(比如,一个细胞可以在“静”与“增殖”状态);2)行动一个代理可以(例如,apoptose与划分);3)概率政策的地图的机会(奖励),指定给定的组合状态之间的转换和操作(叫它 ${{年代}_{我}, 一个}$ )到一个新的状态, ${年代}_{我 + 1}$ (换句话说,采取行动的条件概率 $一个$ 因此采用状态 ${年代}_{我 + 1}$ ,而在状态 ${年代}_{我}$ );和4)的概念奖励,价值或返回(这些相互关联的数量可以被视为等效为存在目的),这是增量计算这两个瞬间,状态转换 $我 \to 我 + 1$ ,以及累计(全球奖励价值,为整个/完成过程;最终,RL方法寻求最大化后者数量)。奖励函数可以由modeler制定促进已知/预期细胞行为,如高代谢葡萄糖的存在或接触抑制,当周围的细胞(Kaelbling et al ., 1996;Kulkarni 2012)。

最近的研究多细胞系统(Zangooei哈比比,2017;王et al ., 2018;侯et al ., 2019)利用一种被称为“模范自由”RL算法问则(表1)定量学习细胞行为或行动,代理应该承担,根据周围环境(环境上下文)。在这种方法中,状态- - - - - -行动双(见上图)映射到一个奖励空间由质量函数,问,大致可以视为回报的期望值在一系列的政府行动对(即。,一系列的行动和连续状态的链接)。问则将寻求最优的政府行动政策最大化总体的感觉/累计奖励。可以想象,实现这一目标需要探索和剥削解决方案:1)粗略地说,“探索”是指采样新,可能遥远地区的系统可能的政府行动对在当前的宇宙政策(这可以被视为一个长期/延迟奖励),而2)”剥削”是指(重新)抽样已经和有利的区域空间特征(例如,局部能量最小)。的探索/剥削权衡进入问方程(可调)学习速率。直观地,一个人可以想象更多的开发相对较早发生在RL集(此时的解决方案空间,或政策空间,已经少了),而平衡可能转向开发后期(一旦算法学习更有效率/奖励类型的动作,对应于特定地区的政府行动空间)。

为例,这种类型的毫升在基于动因的模型的适用性,研究开发了一种三维混合基于代理模型的血管肿瘤,其中一个问则算法动态地确定单个细胞表型特征的基础上他们的周边环境(图5),比如当地氧气和葡萄糖的浓度,细胞分裂数,和许多健康和癌变的邻居(Zangooei哈比比,2017)。比较与其他预测,验证ODE-based模型(Wodarz Komarova, 2009;Gerlee 2013)表明,反弹道导弹准确概括细胞表型选择和血管生成的行为。

图5

图5。的应用问则更新细胞在肿瘤发生的反弹道导弹。3 d肿瘤发生的反弹道导弹(Zangooei哈比比,2017)应用问则将找到最优单元操作(增殖、迁移成为缺氧,发生细胞凋亡)基于单个细胞的周围的环境变量,包括氧浓度、葡萄糖浓度,健康细胞数量的邻居,邻居和癌细胞的数量。

问则也被用于模型多细胞系统的细胞迁移行为。细胞迁移是一种复杂的和具有挑战性的过程模型因为趋药性的梯度的微妙组合,细胞···衬底相互作用,和其他因素影响的方向运动。一项研究中,使用问则将开发细胞迁移规则的反弹道导弹秀丽隐杆线虫胚胎发生(王et al ., 2018),训练有素的深-问网络优化系统中单个细胞迁徙行为。深-问网络是deep-RL方法整合深NNs(如深卷积神经网络)问则将框架为了提高的功率和效率基本RL方法(Alpaydin 2021);这改进是通过使用款的美德,和贝尔曼方程的一个变体从动态规划(艾迪,2004),代表和优化问上面提到的功能(同样,构成的映射状态- - - - - -行动对和概率性的政策到奖励空间)。以类似的方式,问则也被用来定义细胞迁移行为的系统(侯et al ., 2019)。在这一背景下尤其RL方法可以被看作是一个补充流行“群体智慧”的方法(表1),如粒子群、蚁群和蜻蜓随机优化算法(Meraihi et al ., 2020;金et al ., 2021蚂蚁)特性,蜻蜓,等等,作为离散agent-like实体。

2.5毫升应用到反弹道导弹rule-generation:例子,和新兴原则?

理想情况下,ABM的规则集捕捉单个实体的控制行为的潜在机制以应对当地的环境。因此,应用毫升推断代理规则的一个含义是,模型的结构和定量制定毫升、本身,准确地表达了一个代理的决策过程,并且模型可归纳的(至少在一些足够的范围内)。作为一个早期的例子使用ann模型代理规则,Gerlee和安德森(2007)嵌入式网络在细胞细胞肿瘤增长预测的代理人的行为,如扩散、静止,运动,或细胞凋亡。在这种方法中,安建模“反应网络”(或规则)控制细胞的行为代理为了应对当地的微环境,一个假设是,一个神经网络架构可以很好代表单个细胞如何制定行为的复杂的肿瘤微环境。和类似的目标,但不同的方法,Zangooei,哈比比(2017)RL算法应用于定义癌细胞代理行为在一个三维的肿瘤生长。这些研究使用的方法对比表明,它可能是有趣的,评估他们的相对优势代表决策错综复杂的微环境中肿瘤细胞。事实上,现在有一个机会来评估不同的ML方法如何影响反弹道导弹预测的准确性和通用性。Augustijn et al。(2020)执行这样一个直接比较的流行病学反弹道导弹霍乱传播:具体来说,他们对比decision-tree-based算法和EK-driven朴素贝叶斯方法在反弹道导弹模拟决策。正如所预期的那样,研究发现,ABM的紧急预测基于ML的方法是使用不同的。如上强调毫升模型验证,我们这里的压力,没有“一刀切”的方法来整合毫升和反弹道导弹。当一个关键原则是追求最优的“匹配”之间的结构/毫升的架构方法和反弹道导弹仿真系统,它不过支付系统地分析的行为尽可能多的ML / ABM集成方案资源许可证。

ML算法的选择可能会受到两个因素的影响:1)和2)和可用性的数据类型验证ML算法的能力,自己和后与ABM框架集成。在流行病学的设置、调查数据和电子医疗纪录使大量的训练数据集的创建是服从训练和验证隔离定义代理行为监督学习算法。在这里,几个监督学习算法可以训练和展品的算法预测精度最高可以嵌入在一个反弹道导弹模拟。相比之下,没有纯粹的数据描述细胞的行为在组织环境。在这些情况下,训练和验证监督学习算法可能不可行;在那里,大多数研究利用EK-driven人工神经网络或RL算法。早些时候提到的,回想一下,得到“普遍预测,”这意味着功能可以找到任何数据集之间的关系。在生物医学datasets-which通常是高维,常常noisy-this容易导致过度拟合模型的数据。为了减轻过度拟合,深度学习模型需要大型数据集进行验证。此外,扰动NNs不能只使用训练数据(见上述笔记因果层次结构),并要求新实例,以彻底检查扰动的影响。我们建议尽可能多的ML / ABM集成测试是可行的,而且理由(同样,尽可能)提供特定学习算法申请制定规则。 Finally, note that an opportunity that can be envisioned in this field is to integrate ANNs with simulations, perturb the ANNs, and study emergent differences in the ABM.

3用毫升校准模型和减少反弹道导弹计算成本

通常,基于动因的模型包括各种参数,指定代理行为和影响模型的结果。尽管其中一些参数可能实验可访问和特征明显,如时间对细胞分裂或受感染的个人的传染性的时期,往往很多参数是未知的,无法测量实验。例如,两个细胞形成的概率adherens结或病毒传播的物理距离从个体到个体参数难以准确确定。同时,某些广泛不同的参数可能采用值本质上非常广泛分布。例如,在分子水平上蛋白质和其他分子的扩散性质基于胞质拥挤可以有很大区别,方便运输,等等,这种程度的分布一个参数(例如,平移扩散系数)是相当广泛的分布式(超过一个数量级)。急性挑战反弹道导弹发展是校准等参数值,以便统计模型输出类似于实验测量值,包括它们的分布。参数校准通常涉及到modeler制定一个适当的“错误”或“适应性”函数,比较模型与实验输出输出;校准算法优化多个参数,以减少错误,或者等价于最大限度地健身。例如,在传染病传播的反弹道导弹,一个误差函数可以定义为感染者的平方差异最终分数模型中与一个真实的例子。参数校正算法将寻求一个反弹道导弹参数组合,最大限度地减少这种错误函数计算任务艰巨,详尽的,蛮力”参数扫描”迅速成为棘手的,即使是相对粗采样,由于组合爆炸(即搜索空间的大小。维度的诅咒(Donoho 2000)]。基于动因的模型通常有高度多维参数空间,使它有一个有效的校准的关键管道可迅速探索这个空间和限制参数组合的数量,需要评估。遗传算法和其他进化算法”提供有效的高维随机优化方法搜索,已公认的上下文中基于动因的模型(Calvez Hutzler, 2005;Stonedahl和奥巴马,2011年)。因此,以下部分更详细地考虑遗传算法,例如这些类型的生物启发ML算法与基于动因的模型及其相互作用。

3.1遗传算法:将随机优化与基于动因的模型的一个例子

遗传算法(气)是一种广泛使用的毫升在参数标定方法,更普遍的是,在任何形式的数值问题,试图识别全球巨大的最适条件,多维搜索空间。灵感来自于原生生物分子进化和自然选择的过程,如一个永恒的荷兰(1992)、天然气尤其擅长定位参数的组合(如“解决方案”或“个人”在网上人口)随机优化一个适应度函数。气体的描述更广泛的景观进化计算中可以找到福斯特(2001);最近,金et al。(2021)教学提供了一个有用的气体与群技术和其他基于“metaheuristic”方法随机优化问题(表1)。

一般来说,GA操作通过几个不同的阶段:1)初始化人口的个人(随机)参数组合作为染色体编码(例如,长字符串,每个染色体对应一个个体),2)数值评估健身在循环中每个个体的人口n3)选择步骤/个人相对较高,其中参数组合健身选为“父母”是基于特定的标准/协议,从而人口更偏向于更大的整体健身(选择协议的算法和阈值可以不同程度的随机,例如“锦标赛选择”、“轮盘赌选择”或类似的方法(钟et al ., 2005),4)的随机应用定义的遗传算子交叉(重组)和变异等人口的一个子集,从而产生下一代的个人“后代”。下一个,n + 1^th个人成为一代n的步骤,从阶段2)开始,反复重复。在连续的迭代中,某些等位变异(“口味”的基因)可能成为丰富在特定的染色体区域,表明收敛对这些基因/地区。GA循环可以终止一个特定的迭代次数/代后,或者达到收敛阈值一次。在这个过程的结论,组可用的个人(编码基因型)将代表各种原始问题的“解决方案”,解决方案是读出“基因序列”(即。基因型)的最后一组染色体,代表“适者”个人(对应于最优表型)。的迭代评估健康→选择→繁殖/变异继续,希望探索新的区域的搜索空间在每个阶段,一代的平均健身方法更优的值(例如,最大交通流,最小的自由能,最小的损失/误差函数)。此时,GA可以认为聚合和确定一个参数组合优化的适应度函数。

而气体可以找到参数,优化多目标健身功能,从而避免不必为每一个可能的运行一个反弹道导弹参数组合,天然气仍然可以非常昂贵的运算。由于其固有的特性转化,反弹道导弹必须多次运行达到稳定值的单个参数组合(基因型),对于一个给定的一代的迭代进行。因此,正如《反弹道导弹的复杂性和计算负担增加,传统的天然气成为少计算可行的选择,特别是对于校准一个复杂的反弹道导弹。然而,请注意,气体与基于动因的模型用于串联等众多领域的金融和零售市场的校准模型(Heppenstall et al ., 2007;费2013),在参数化的反弹道导弹“人类大脑的功能”(乔伊斯et al ., 2012),并在“高维”模型细化和rule-discovery反弹道导弹系统炎症(Cockrell和,2021年)。一个活跃的研究领域关注的发展战略,GA / GA-like方法可以导航搜索空间的方式更多的数值效率和计算的(例如,一个病态的健身景观)。这样的随机优化方法包括,例如,一个家庭的协方差矩阵adaptation-evolution策略(参见(CMA-ES)算法Slowik和Kwasnicka (2020)这和相关方法),有些相关,概率模型的气体(PMBGAs)”指导通过建立和搜索最优抽样明确概率模型的候选解决方案”(维基百科,2022)。

增加气体的计算效率的一种方法是减少的参数优化,从而减少遗传算法的整体搜索空间的维数,达到收敛所需的步骤。在这种背景下,毫升的方法可以应用在反弹道导弹进行敏感性分析,确定最敏感/关键参数校准的目标。随机森林(RFs),它是由一个决策树(表1),是一个受欢迎的监督学习算法进行敏感性分析(Strobl et al ., 2007;Strobl et al ., 2008;Criminisi et al ., 2012)。的一项研究加戈et al。(2019)RFs识别敏感参数用于三种不同的细胞群的多细胞反弹道导弹声襞手术损伤和修复。在创作中,《反弹道导弹首次竞选各种输入参数值生成输出和创建一个训练数据集,输入参数组合输出值有关。之后,一个射频训练数据分类模型输出基于初始参数值。RF分层次订单输入参数通过基尼系数,这是一个测量的方差与错误分类的概率输出,输入参数从列表中随机选择的所有输入参数(方差越大,越大程度的误分类)。查看基尼指数来衡量功能的重要性,基尼系数较高的参数值可以被视为更不成比例的影响结果(相对于其他参数)作为模型更有可能产生错误的(是不是)输出,如果参数值是随机选择的。RF训练后,本研究选取了前三个参数与模型中的每个细胞类型相关校准GA (加戈et al ., 2019)。这里提到这个综合和多管齐下的方法,因为它减少了参数的数量需要校准通过遗传算法,从而提高了算法的计算效率整体模型的校准过程。

计算效率之外,气体和基于动因的模型可以综合的方式可能会延长的低级功能(或两者)的一个基本算法的方法吗?例如,气体可以启用适应性强的代理的反弹道导弹?综述了的DeAngelis和迪亚兹(2019)的上下文中,主要生态科学、代理规则集和决策过程的可塑性是一个关键的组件在实现更大的准确性和现实主义在建模和模拟复杂的自适应系统。这里的决策规则和流程管理个人代理人的行为,在一个特定的时间步的模拟,是“一般齿轮优化某种健身措施”,and-critically-there决策过程改变的能力(进化)通过选择过程仿真展开。作为具体的例子的方法将可塑性和异质性代理行为(跨越个人代理实体,和时间),我们注意到模糊认知地图(fcm)曾与气体和基于代理的方法在至少两个不同的方面:1)在构建一个框架,利用fcm模型基因调控网络,刘先生和刘(2018)采用多智能体遗传算法和随机森林解决高维搜索问题时发现的大型FCM-based模型最优参数。2)最近,沃兹尼亚克et al。(2022)设计了一种遗传算法有效地创建代理级fcm(即。FCM每个独特的代理之一,与一个单一的全球所有代理FCM);重要的是,智能体的能力fcm,或者代理”也有不同的特征和遵循不同的规则”,支持更细粒度的出现(和更现实的)群体的异质性。遗传方法使代理能够更具有适应能力将使基于动因的模型更加“表达”,提供一个更现实的和微妙的系统建模。借鉴“代理”之间的平行(真实或虚拟)的反弹道导弹和RL,我们注意Sehgal et al。(2019)发现,使用GA提供更有效的发现代理的学习算法的最优参数化值在深RL框架,在特工被更新通过问则将方法(具体地说,深决定性策略梯度(DDPGs)结合事后经验重播(她)];虽然这工作的机器人,它可以被视为ABM-related因为RL算法的“代理”本质上是抽象的,智能(随机)代理制定决策⁶基于主机的反馈因素,在1)intra-agent的水平(即。,一个n一个gent’s internal state), 2) inter-agent interactions (with neighbors, near or far) and 3) agent···environment interactions. Finally, we end with one “inverse” example:Yousefi et al。(2018)把发展“合奏元模型”的方法(为了减少模型要求最终的评估由GA) ABM-generated训练数据,然后使用元模型有效的健身功能遗传算法框架,旨在解决约束优化问题在医院急诊部门的动态资源分配。我们将此描述为“逆”,因为,而不是使用遗传算法来帮助一个潜在的基于主体框架,基于动因的模型被用来通知GA(虽然过程通过ML-based元模型)。我们相信这类的协同作用是可能的。

3.2代理模型的概述

监督学习算法,创建一个更容易评估的元模型或“代理模式”最初的反弹道导弹也可以显著减少计算负担,使模型校准过程更计算容易处理。如图示图6,这种方法涉及到评估一组初始的反弹道导弹参数通过计算组合健身,给定一个由modeler构造目标函数。然后,一个监督学习算法训练数据,以创建一个代理毫升模型可以预测反弹道导弹输出为各种初始参数组合。最后,参数标定方法,如天然气,粒子群优化或其他方法适合庞大的搜索空间(表1),可以应用到这个代理模型。通常,代理模型比反弹道导弹,因为运行速度显著提升推理阶段毫升的管道只是涉及到新数据应用受良好训练的模型(同时,ML模型/函数评估单个数据项价值而不是整个模拟的数据点)。为了减少流行病模型的运行时,佩雷拉et al。(2021)使用这个通用的策略训练深层神经网络(款)由反弹道导弹模拟生成的数据。的应用(即款。,推断出ence) was more computationally efficient than executing numerous ABM simulations; and, unlike the ABM, the DNN run-time did not increase as the number of ABM agents increased. This DNN-based surrogate model was then used for parameter calibration (佩雷拉et al ., 2021)。其他的研究采取了相似的做法,例如,通过使用回归算法训练代理感兴趣的反弹道导弹的元模型(通et al ., 2015;李et al ., 2017;赛et al ., 2019;Lutz Giabbanelli, 2022)。

图6

图6。培训代理毫升可以减轻计算负担的反弹道导弹校准模型。因为它需要反复评估潜在的复杂的数值表达式,为多个代理在众多的步伐,反弹道导弹参数可以计算昂贵。一旦训练(即。,一个年代一个pplied in the inference stage), ML models are generally less computationally costly because they entail evaluating a single function to generate a prediction. Several studies (通et al ., 2015;Cevik et al ., 2016;李et al ., 2017;赛et al ., 2019;佩雷拉et al ., 2021)利用这种优势首先评估一个毫升的反弹道导弹在有限范围的参数,然后创建一个“代理”相关的数据集反弹道导弹参数最终的错误。接下来,代理监督学习算法可以在这些数据,训练和代理模型可以用于探索更广泛地区的原始反弹道导弹的参数空间。

最近一个相对微观仿真研究(Cevik et al ., 2016),跟踪女性乳腺癌的发展,用新颖的主动学习⁷方法参数校准。在工作,代孕的人工神经网络(ann的“袋子”,或“bagANN”)是基于ABM-generated训练数据集的训练。然后,bagANN模型被用来预测适合未经测试的参数组合。较低的参数组合预测健康评估反弹道导弹,和精致的训练数据集是进一步培养bagANN开发的。bagANN反复训练参数组合与增加健身,直到健身聚集在一些最大的价值。这样,整个计算管道本质上包含一个迭代之间的“跳跃”毫升(bagANN,在这种情况下)和反弹道导弹阶段,不像所描述的兰特(2006)⁸在博弈论的社会科学背景。最后,我们注意到,生物bagANN研究显示,一个主动学习的方法可以找到最优参数组合的评价只有2%的参数空间,需要在之前的研究中用于校准相同的采样模型(Batina et al ., 2013;Cevik et al ., 2016)。

代理毫升模型也存在小说捕获和探索的机会连续系统的行为通过基于动因的模型。ABMs模型的多细胞的相互作用可以表示和信息交互,如迁移、粘附和增殖,出现在离散时间的步骤。然而,这些离散的信息行为源于分子过程发生在一个有效连续时间域,如蛋白质的快速表达由复杂的细胞内的信号级联。多尺度模型试图代表跨胞内和inter-cellular生物尺度的现象比否则可能更真实、准确;这是追求采用连续动力学方法预测胞内信号,并利用这些预测更新离散规则描述信息的行为。然而,这些多尺度模型的一个关键挑战是评估一个连续体模型,计算成本的增加反应动力学的说,在每一个离散的时间步的反弹道导弹。应对这样的挑战,新承诺家庭方法的观点基于动因的模型和常规,equation-based建模而不是互斥的方法(范戴克Parunak et al ., 1998),而是机会校准基于动因的模型(你们et al ., 2021)和/或“学习”(ML意义上和外)系统的动力学的经典,differential-equation-based框架;见,例如,纳尔迪尼et al。(2021)“有前途,小说和统一的方法”的开发和分析生物基于动因的模型。

至于equation-based机械模型,最近的一项研究利用代理模型的训练来提高计算效率的多尺度模型在肿瘤微环境中免疫细胞的相互作用(运气和芬利,2020)。工作利用一个ODE-based机械模型预测巨噬细胞表型,基于周围的细胞因子浓度,采用这一模型来表示合成肿瘤细胞之间的相互作用。减轻计算负担评价机械模型在每个时间步,小组训练神经网络的机械模型,以减少模型”一个简单的输入/输出系统”,在输入被局部细胞因子浓度和输出细胞表型。神经网络实现了精度超过98%,开始详细的揭示,细胞内的机械模型可以完成一个简单的二进制model-reduced整个混合动力的计算复杂性,多尺度反弹道导弹(运气和芬利,2020)。

3.3培训代理模型:外推和指导原则的挑战

同时代理模型提供了一个机会,减少重新运行几个基于动因的模型的计算负担,监督学习算法的选择和培训过程用于获得一个代理模式,是确保代理的关键模型可以准确地概括反弹道导弹结果在很多情况下和条件。这些条件包括预测与“out-of-distribution”(OOD)数据(Hendrycks Gimpel, 2017),即。,those which are highly dissimilar/distant from the data used for training; again, this closely relates to the generalization power of the implemented ML, and recent reviews of OOD challenges can be found inGhassemi和Fazl-Ersi (2022)而在桑切斯et al。(2022)(见4.3节的生物医学背景)。代理模型通常训练在参数空间的一个子集,然后应用于预测反弹道导弹参数空间的行为在一个未知的区域。然而,获得一个训练有素的代理模型,可以成功地应用于广泛的场景(包括OOD)可能是“困难”的角度,基于动因的模型系统,如那些高度随机,而预测的多种可能性为单个组合参数值(一个一对多的映射),它具有极高的内在可变性(想象一个困难的函数形式,在一个高维空间,和只有分散取样数据可用),等等。

4使用毫升探索反弹道导弹的参数空间

模型开发和校准后,反弹道导弹的行为可以定量探索和用于解决各种问题。这种探索的一个可能的方法是敏感性分析(SA)。在这种一般方法,扰乱一个反弹道导弹和独立参数,同时监测预测因变量的变化和其他相关输出(十Broeke et al ., 2016)。SA是一个特别细粒度仪探测反弹道导弹系统的行为。评估的coarser-scale行为模型,例如,“what - if”类型的分析,可以建立干预反弹道导弹(例如,通过设置特定参数值对应的特定范围干预),做出重大改变阈值,和/或做类似的大规模改变反弹道导弹及其输入。规模细,检查参数空间的区域通过SA可能的目标是确定最优值(或评估的影响)的干预;例如,在肿瘤发生的反弹道导弹modeler可以找到一种药物的最佳剂量和调度代理来减少肿瘤的大小。参数空间探索的另一个目标可能是使用反弹道导弹模拟预测真实的反应。传染性疾病的流行病学反弹道导弹传播,例如,一个可以使用反弹道导弹模拟预测疾病传播的时间在一个正在进行的大流行。离散仿真模型也被应用于病毒细胞间传播的水平在一个人的;例如,使用CA模型方法的主机内hiv - 1的蔓延,Giabbanelli et al。(2019)研究了模型参数估计的预测精度(占可用生物/机械的信息)。最近基于动因的模型利用各种独特的ML援助方法在测试各种扰动和描述随机结果(图7)。有趣的是,我们回顾文献显示,参数空间的目标exploration-whether优化干预的效果,培训反弹道导弹仿真结果的预测模型,或应该是密切相关的类型ML算法的使用。

图7

图7。毫升可以应用于参数空间探索基于动因的模型。基于动因的模型可以被用来产生海量数据,探索系统扰动如何影响群体结果的模型。从这一模型生成仿真数据后,毫升反弹道导弹可以用来描述模式(Karolak et al ., 2019)。同时,基于动因的模型生成的数据集可以用来训练更健壮的ML算法(Sheikh-Bahaei和亨特,2006;Nsoesie et al ., 2011)。

强化学习方法已经应用于流行病学和多细胞基于动因的模型优化问题,其中一个干预,如药物,被认为是一个代理和ML被用来找到感兴趣的最优政策来实现输出(例如,减少肿瘤大小)。精密医学、多细胞反弹道导弹使用深强化学习(DRL)找到最优multi-cytokine治疗剂量对脓毒症患者的反弹道导弹系统炎症(彼得森et al ., 2019);在工作中,DRL算法发现12个细胞因子促进病人康复的最佳剂量。RL也一直在使用,胶质母细胞瘤的多细胞反弹道导弹,确定一个最优调度的Temozolomide治疗肿瘤大小最小化(Zade et al ., 2020)。同样,RL也用于优化异构放疗治疗,血管肿瘤(Jalalimanesh et al ., 2017 a;Jalalimanesh et al ., 2017 b)。

前面提到的主动学习方法被用来加速的参数空间探索基于动因的模型。使用反弹道导弹框架PhysiCell (Ghaffarizadeh et al ., 2018相比),最近的一项研究基于遗传和主动的学习参数勘探方法在肿瘤和免疫细胞的相互作用(Ozik et al ., 2019)。参数空间探索的目标是优化六种不同的免疫细胞参数,包括细胞凋亡率,杀死率和依恋率,以减少总体肿瘤细胞计数。在GA方法中,最优参数被发现通过迭代选择参数组合减少意味着肿瘤细胞计数。涉及的主动学习方法训练代孕射频反弹道导弹分类器,这样RF预测一组输入反弹道导弹参数是否会屈服的意思是肿瘤细胞计数低于一个预定义的阈值。divide-and-conquer-like战略,主动学习方法选择性样本“可行的”参数子空间,产生肿瘤细胞计数低于阈值,以找到一个解决方案(Ozik et al ., 2019)。工作说明了集成的可能性与ABM-based ML-guided自适应采样策略的方法。

监督和非监督学习方法的组合杠杆使用反弹道导弹模拟建立预测模型。的一项研究Nsoesie et al。(2011)评估七个不同分类算法的预测能力(即完整的流行曲线。,the graphical representation of population-level disease incidence over time, from the first to last infection), given a partial epidemic curve of only the early, middle, or late stages of disease transmission. The study trained these classification algorithms on simulation data from an influenza ABM that modeled the transmission of influenza virus between human agents. Six different variations of the influenza ABM were used to generate a dataset of partial epidemic curves and their corresponding full epidemic curves. Then, supervised learning algorithms were trained to classify partial epidemic curves into one of the six full-epidemic curve categories. The study found that RF classifiers yielded the highest accuracy, whereas linear discriminant analysis had the lowest accuracy (Nsoesie et al ., 2011)。另一项研究(Sheikh-Bahaei和亨特,2006)使用无监督的模糊c——(FCM)分类预测胆运输和新药物的排泄特性,基于相似性之前模拟药物的反弹道导弹之间的相互作用在网上肝细胞和药品代理。首先研究参数化胆运输和排泄的特性实验测试药物的反弹道导弹使用参数优化算法。然后,FCM方法用于集群和描述的相似程度,以前遇到的新药物的药物。以前遇到的基于相似度的药物被FCM,新药的胆汁运输和排泄特性估计的加权平均,以前遇到的药物(Sheikh-Bahaei和亨特,2006)。这些例子演示如何使用监督和非监督ML算法与基于动因的模型协同预测结果对于流行病学和多细胞系统,包括从药理学角度。

最后,无人监督的ML算法也被用来发现相关模式反弹道导弹仿真的结果,如识别肿瘤单细胞特性的差异如何产生不同肿瘤的空间组织。一项研究(Karolak et al ., 2019)共同细胞半径,细胞分裂和细胞接触抑制敏感性时代,在肿瘤发生的一个3 d反弹道导弹,使建立一个模拟图书馆多细胞肿瘤瀑样。然后,研究了非监督k中位数集群这个库的多细胞肿瘤瀑样确定四个不同类型的肿瘤瀑样。研究发现,这四类瀑样对药物治疗的反应不同,并确定哪个类真正的肿瘤分为可以指导治疗设计(Karolak et al ., 2019)。

5讨论

5.1影响因素反弹道导弹/毫升集成:数据量的限制

毫升是一个广泛的术语,涵盖多种预测算法,每个需要不同层次的数据可用性实现卓有成效的学习/培训和决策。监督学习算法的主要要求,例如,大量accurately-labeled数据为目的的培训和测试。根据生物建模系统的规模,这样的数据集可能是也可能不是可用,从而影响监督学习算法适用性的反弹道导弹。许多流行病学系统广泛使用调查数据和电子医疗纪录将病人特性(如年龄、性别、药物使用),疾病,如糖尿病性视网膜病变或肺癌的阶段。因为一般大型流行病学数据高可用性,许多流行病学反弹道导弹训练监督学习算法对这些数据来确定代理规则和行为在他们的模型(天et al ., 2013;亚历山大小et al ., 2019;Augustijn et al ., 2020)。流行病学系统相比,多细胞系统往往缺乏全面的数据驱动的详细机制复杂的细胞行为。在多细胞系统中,一系列的细胞行为,如迁移、增殖,凋亡或坏死,取决于几个动态和时空线索,如营养可用性、局部细胞因子浓度和细胞内蛋白表达水平。目前的实验方法面临的挑战是创建数据集,将这些时空特性的环境与细胞行为在异质细胞组成各种组织的广泛人群;因此,培训监督学习算法来预测细胞行为基于环境功能目前不是一个常规这类系统的可能性。然而,一些代表性增强数据的缺乏在这方面与expert-knowledge-driven毫升(Gerlee和安德森,2007年;Gerlee和安德森,2008年;伤势严重et al ., 2012 a;伤势严重et al ., 2012 b;Al-Mamun et al ., 2013;Al-Mamun et al ., 2014;Al-Mamun et al ., 2016)或RL算法(Zangooei哈比比,2017;王et al ., 2018;侯et al ., 2019在多细胞ABM)定义细胞行为。虽然这些最近的方法并不实际的实验数据集上训练,他们让每个细胞自主做决定基于他们的当地环境,从而实际造型在多细胞系统的细胞间的异质性。这些研究说明有限的训练数据可用性并不一定是一个非常严重的约束在协同整合毫升和基于动因的模型。

5.2影响因素反弹道导弹/毫升集成:数据相关性和扩充

努力在ML致力于采购满足训练数据集,尤其是深度学习和分类任务(无论是对图像识别、语音处理等)。而数据真实性/准确性和体积一直是关键,大数据的4 V的两个(另外两个是速度和不同),数据集的的重要性相关性(问题)被越来越多地赞赏的人工智能(最近的一次“以数据为中心”的转变Ng, 2022),并基于动因的模型可能扮演了一个重要的角色在这种情况下。格拉汉姆·古德费勒等中描述的文本(2016),一个数据扩增方法是简单的“创建假数据,并将它添加到训练集”;例如,对于与图像相关的任务可以获得合成新数据开始运用仿射变换图像,对图像面具或过滤器,改变强度,色调,饱和度,等等。一般来说,毫升的努力可以利用一个反弹道导弹的能力有效地生成大量的似是而非的/可靠的仿真数据,以产生新的数据集毫升培训工作流程。提及和引用在本文的其他地方,这种类型的协同数据增大或“共享”的数据(交叉毫升和反弹道导弹工作流之间)的上下文中已经完成反弹道导弹/毫升集成,我们设想它在这些领域变得越来越普遍。

5.3毫升的类型影响预测精度的反弹道导弹/毫升系统集成

不同的ML算法通常会依赖从根本上不同的计算方法和标准来做出决定。例如,逻辑回归模型依赖的加权线性组合预测变量对一个对象进行分类,而一个朴素贝叶斯模型使用条件概率在处理这些任务(表1)。根据数据,这两种不同的建模方法可以稍微不同的预测从相同的数据集。因此,当与一个反弹道导弹系统,集成的性质不同的ML算法将影响反弹道导弹模拟真实系统的准确性和反弹道导弹生成的各种预测。例如,两个以前讨论研究了替代方法使用毫升定义规则,决定人类剂用水的反弹道导弹霍乱传播(Abdulkareem et al ., 2019;Augustijn et al ., 2020)。一项研究训练贝叶斯网络来定义代理行为,而另一个使用决策树得到代理规则类似的形式。反弹道导弹使用决策树方法对感染者的数量产生了更高的预测;这种差异并不令人吃惊,因为两毫升/ ABM方法不同的基本方式每个代理行为,因此毫升。考虑到毫升的不同集成这两个研究中产生不同的反弹道导弹的结果显示测试多个毫升集成策略的重要性,为了评估各自的精度的方法。

绕过这个问题不同的ML集成策略产生不同的结果,几项研究已经测试了各种毫升集成在他们的反弹道导弹之前推导模型预测(Sheikh-Bahaei和亨特,2006;Nsoesie et al ., 2011;亚历山大小et al ., 2019;Gaudou et al ., 2020;参加et al ., 2021)。这些研究表明,计算方法潜在的ML算法应该涉及如何(实际)代理可能决定在真实的环境中,包括,例如,代理适应性。例如,是否决定细胞增殖,迁移或坚持其邻国可能结果相结合的加权输入信号级联,类似于线性加权和逻辑回归模型。另外,当一个人决定是否使用一个特定的水源可能(隐式地)评估一系列的二元问题,通过决策树相似的轨迹。在观看一个综合ML /反弹道导弹系统,主要思想是“对齐”毫升方法和反弹道导弹之间的配方是至关重要的,无论是对于反弹道导弹模拟精度的问题,至于是否计算管道系统的模型是有限的(例如,拟合数据,ML擅长做),与模拟系统与物理现实主义(反弹道导弹“心态”)的潜在好处。

5.4综合反弹道导弹/毫升系统和公平的重要性

毫升的交集和反弹道导弹是一个新兴的快速发展领域,通过同行评议的出版物的增加,可再生的和可共享的反弹道导弹模型。为了促进这一领域的持续增长,其成员必须发布模型,验证给定的生物环境,记录和维护,透明和免费(开放、开源),否则随时可用的所有研究人员的许多ABM-related社区。虽然是6年前,超过2000 ABM-related文章的仔细分析发现,“共享的模型代码基于动因的模型仍然是罕见的(≈10%的论文),但这种做法正在缓慢改善”(詹森,2017)。开放获取出版和开源的分布验证,解释的很明白自己的可行和可共享的反弹道导弹及相关建模社区可以应用扩展,并学习—关键为了推进新技术和协同方法的结毫升和反弹道导弹的生态系统。事实上,后者本质上是一个调用应用学术研究的“公平原则”可寻性、可访问性、互操作性和可重用性(威尔金森et al ., 2016)]反弹道导弹、反弹道导弹/毫升字段。

6结论

在本文中,我们概述了几行工作如何结合毫升的不同阶段开发和部署基于动因的模型的多细胞或流行病学体制定义个人代理人的行为和最优规则集,优化模型参数,定量研究模型的敏感性和特性的参数空间。我们回顾文献显示两个指导原则当使用ML算法结合基于动因的模型。首先,生物规模系统(分子、细胞、器官、流行病学等)和类型的数据系统直接影响类型的ML算法(监督、专家知识、看管,活跃,强化学习,等等),适用于确定和描述代理行为,如图示图8。第二,具体类型的ML算法使用这一模型强烈影响紧急结果和预测的准确性反弹道导弹,使它的关键评估多个ML / ABM集成方案并选择精度最高的算法和/或相似的决策结构(实际)建模系统;值得注意的是,类似的点最近的社会科学Brearcliffe和骗子(2021),他发现,“不同的ML方法中使用相同的(ABM)模型仿真结果的影响”。就像没有普遍“最好”的方法反弹道导弹或单独毫升,没有放之四海而皆准的解决方案的集成:系统的探索ML / ABM集成方案似乎是值得的努力。

图8

图8。综合反弹道导弹/毫升的方法取决于系统规模和数据特征。这种高度示意图表示建议合适的ML方法如何与一个特定的集成ABM方法可能随生物系统的规模(横轴)以及可用的数据集的属性(垂直轴),如体积、品种、等等。

作者的贡献

NS,厘米和SP都积极参与设计和写评论文章,从早期起草最终修订阶段;图形插图是由NS /数据,输入从CM和SP。

资金

部分这项工作是由NSF事业奖mcb - 1350957和弗吉尼亚大学的数据科学的学校。

确认

我们感谢比尔Basener菲尔·伯恩和谢磊有益的讨论,支持,和阅读的手稿。注意,本文只提供一瞥毫升和代表性,反映我们自己熟悉的一个子集,许多潜在的主题;没有具体的引用只反映了空间约束和不看法早期作品中的意义和价值。

的利益冲突

作者声明,这项研究是在没有进行任何商业或财务关系可能被视为一个潜在的利益冲突。

出版商的注意

本文表达的所有索赔仅代表作者,不一定代表的附属组织,或出版商、编辑和审稿人。任何产品,可以评估在这篇文章中,或声称,可能是由其制造商,不保证或认可的出版商。

缩写

反弹道导弹、基于代理模型;人工智能,人工智能;安,人工神经网络;BN,贝叶斯网络;CA,元胞自动机;款,深层神经网络;博士,糖尿病性视网膜病变;电子健康档案、电子健康记录;FCM,模糊认知图或模糊c——(根据上下文);遗传算法,遗传算法;毫升,机器学习;OOD, out-of-distribution;PDE,偏微分方程;RL,强化学习;RWE,真实的证据;SA,灵敏度分析。

脚注

¹“随机”一词一般指时间(例如,“随机事件过程”),而“异质性”作为一个空间或全民现象发生(例如,“异构人口”)。使用的术语在某些领域可以有所联系,但概念是不同的(格雷格et al ., 2021):1)非均质性方差可以被看作是在一个特定的功能在人口或空间域,而2)特性转化意味着微分反应相同的刺激下(即从个人代理。,它适用于时域)。

²然而,请注意,预测“不可见的”数据是一个不愉快的努力:远非简单评估模型或模拟的有效性没有真正的“地面实况”数据,实证比较良好的系统。

³中科院,基于动因的模型和微观分析共享许多相似之处,但它们并非是是等效的。所有这些方法都是自底向上和离散(时空,在个体水平,制定自己的决策)。然而,而微观的实体,而自治和更新随机(本质上毫无关系的代理)对应于人口,代理···代理的社会互动是反弹道导弹的关键;事实上,正是这种社会耦合,支撑着集体的出现,全民行为基于动因的模型。

⁴这样一个功能性映射(通过“地图”我们的意思是一个任意的,非线性输入→输出映射)是可实现的是通用的前馈神经网络架构的保证通用逼近定理,严格证明了存在一些神经网络模型的能力/近似任意连续函数在任何所需的精度水平,给予足够的神经元(这些隐藏的单位可以堆放一些吗深度(层数)或排列在一些宽度每层神经元数)。微积分的文本(2009)提供了一个权威的治疗和相关主题,包括函数近似和1)之间的相互作用的健壮性神经网络的泛化特性(如。,过度拟合/限制过度训练一个神经网络的能力,准确地估计更广泛的社区的功能空间(例如,概括),如神经网络有效地记忆(而不是概括)的输入/输出映射,产生各种各样的“脆性”),2)多少输入数据为“好”的泛化可能就足够了,和3)诅咒的维度,在这种背景下的训练神经网络模型,描述了如何为模型训练数据集限制构成指数更大的困难问题的维数的增长(生物医学系统中一个严重的问题,数据可能是稀疏的体积和他们典型地样本系统感兴趣的)。

⁵注意,DL近年来取得的许多成就这样一个巨人,这个术语通常被视为毫升的代名词;然而,肯定不是这样,款不过是一种形式的人工NNs(见下文),进而属于毫升方法的庞大家族。

⁶一个简单的、操作的定义可以在“决定”DeAngelis和迪亚兹(2019)和引用,谁来决定”无论一个或两个(或更多)选项选择”。

⁷主动学习是一种迭代的监督学习中学习算法可以问一个信息来源为正确的标签标记(输入)数据;培训是迭代查询可以周期性地发生,它是监督只要正确的标签,通知学习来自一个值得信赖的,可靠的来源(例如,一个用户或其他专家,有时被称为一个甲骨文)。

⁸据我们所知,这会议论文是最早的文件承认自然的“适合”反弹道导弹和毫升之间的“周期”;,兰德公司提出的“综合循环”是一个通用的框架,上面毫升和ABM方法。

引用

Abdulkareem, s。穆斯塔法,y . T。,Augustijn E.-W。,Filatova, T. (2019). Bayesian networks for spatial learning: A workflow on using limited survey data for intelligent learning in spatial agent-based models.GeoInformatica23 (2),243 - 268。doi: 10.1007 / s10707 - 019 - 00347 - 0

CrossRef全文|谷歌学术搜索

Al-Mamun, m·A。、棕色、l . J。,Hossain, M. A., Fall, C., Wagstaff, L., and Bass, R. (2013). A hybrid computational model for the effects of maspin on cancer cell dynamics.j理论的。医学杂志。337年,150 - 160。doi: 10.1016 / j.jtbi.2013.08.016