量化不确定性的机器学习方法给出违约损失gydF4y2Ba

1。介绍gydF4y2Ba

金融机构扮演重要角色在金融部门的稳定。他们充当中介机构支持货币供应量和贷款以及风险实体之间的转移。然而,这让金融机构几种类型的风险,包括信用风险。信用风险有最大的股份大约84%的风险加权资产131欧盟主要银行的2021年6月(gydF4y2Ba1gydF4y2Ba]。预期的损失(EL)由于信用风险由三个参数:违约概率(PD),鉴于违约损失(乐金显示器),和暴露在违约(EAD)。PD的概率定义为债权人不会遵守约定义务在稍后的时间。乐金显示器被定义为相对分数的未偿还部分丢失。最后,含铅被定义为违约的杰出的时间。gydF4y2Ba

本文主要关注乐金显示器作为这种风险参数是重要的金融机构不仅从风险管理的角度对信贷风险资产定价。金融机构可以使用他们自己的模型来计算估计乐金显示器。这估计是随后用于确定贷款的利息/债券和金融机构的资本要求本身看,例如,(gydF4y2Ba2gydF4y2Ba- - - - - -gydF4y2Ba6gydF4y2Ba]。根据违约资产,我们可以将乐金显示器进一步划分为市场和锻炼乐金显示器。前者指上市工具像债券,通常被定义为:1 -违约后30天的比市场价格除以债务总额的违约。后者是指银行贷款和是由积累贴现支付债权人在默认的决议过程。在本文中,我们使用一个记录的近三十年的市场化乐金显示器从穆迪违约和恢复数据库收集1990年1月开始,直到2019年12月。最近文献使用较短的历史数据文档的机器学习模型由于其能力占司机和乐金显示器估计的非线性关系比标准的统计方法,看到的,例如,(gydF4y2Ba7gydF4y2Ba- - - - - -gydF4y2Ba9gydF4y2Ba]。Fraisse和LaportegydF4y2Ba10gydF4y2Ba]表明,允许非线性可以是有益的许多风险管理应用程序,可以导致更好的评估银行资本充足率约束。因此,使用机器学习模型可以增加中央信用风险参数的精度,因此,有可能会引出更多的资本充足要求银行由于增加精度。gydF4y2Ba

有大量的文献对乐金显示器使用先进的统计方法。这些包括β回归,阶乘响应模型,当地logit回归,回归,混合物和分位数回归在众多国家中,看到的,例如,(gydF4y2Ba2gydF4y2Ba- - - - - -gydF4y2Ba4gydF4y2Ba,gydF4y2Ba9gydF4y2Ba,gydF4y2Ba11gydF4y2Ba- - - - - -gydF4y2Ba18gydF4y2Ba]。关于增加计算能力和有条不紊的进展在学术界,机器学习模型有关乐金显示器的应用越来越频繁gydF4y2Ba^1gydF4y2Ba。早期的研究Matuszyk et al。gydF4y2Ba28gydF4y2Ba]和巴斯托斯[gydF4y2Ba12gydF4y2Ba采用基于树的方法。此外,一些研究提供基准练习使用各种机器学习方法,看到的,例如,(gydF4y2Ba13gydF4y2Ba- - - - - -gydF4y2Ba15gydF4y2Ba]。征求et al。gydF4y2Ba5gydF4y2Ba)和Kaposty et al。gydF4y2Ba29日gydF4y2Ba用新数据更新以前的基准研究和算法。Nazemi et al。gydF4y2Ba30.gydF4y2Ba]发现基于文本的变量是重要的司机marked-based乐金显示器。此外,证据表明,空间相关性中扮演着重要角色在点对点借贷乐金显示器估计可以在花茎甘蓝和ZaningydF4y2Ba31日gydF4y2Ba]。通过结合统计和机器学习模型,Sigrist和HirnschallgydF4y2Ba32gydF4y2Ba柯尔尼]和et al。gydF4y2Ba6gydF4y2Ba)显示,受益于两个世界可以被捕捉到。gydF4y2Ba

机器学习的一个重要方面,乐金显示器文学还没有注意,是相关的不确定性的估计和预测gydF4y2Ba^2gydF4y2Ba。通常,我们可以定义两种类型的不确定性,任意和认知gydF4y2Ba33gydF4y2Ba]。后Gawlikowski et al。gydF4y2Ba34gydF4y2Ba),偶然的不确定性是数据本身的不确定性,不能降低,因此也被称为不可约或数据不确定性。在经典统计,这种类型的不确定性是例如由ϵ在线性回归框架。认知不确定性指的是不确定性的模型由于样本量(有限)。可以减少这种不确定性增加样本容量模型的训练,因此也称为可约或模型不确定性gydF4y2Ba34gydF4y2Ba]。在线性回归环境认知不确定性,占标准错误的β系数。考虑到一个更大的样本量,应该降低标准错误。最近,文献的不确定性估计调查在一篇文章中提到的快速增长Gawlikowski et al。gydF4y2Ba34gydF4y2Ba]。gydF4y2Ba

第一次直观的方式量化不确定性是贝叶斯方法,在经典统计也常见。然而,贝叶斯神经网络计算昂贵,不容易扩展到包含许多复杂的神经网络结构参数。因此,其他研究人员瞄准逼近贝叶斯推理/预测神经网络。Blundell et al。gydF4y2Ba35gydF4y2Ba]介绍backpropagation-compatible算法学习概率分布的权重,而不是唯一的点估计。他们称之为“Backprop贝叶斯方法。”而不是应用贝叶斯原理在训练的时候,另一个链的文学试图只近似后验分布的预测。加和GhahramanigydF4y2Ba36gydF4y2Ba)引入一个概念叫做蒙特卡罗辍学,它适用于一个随机辍学层预测估计的不确定性。这个框架的另一个变体是称为蒙特卡罗DropConnect Mobiny et al。gydF4y2Ba37gydF4y2Ba]。这个变体使用泛化的辍学层,叫做DropConnect层,下降的直接用于每个重量,而不是每个输出单元。DropConnect方法比辍学在许多应用程序和数据集,看到的,例如,(gydF4y2Ba37gydF4y2Ba]。另一个策略是使用所谓的hypernetworks [gydF4y2Ba38gydF4y2Ba]。这种类型的网络是一个神经网络产生另一个神经网络的参数(即所谓的主网络)与随机噪声的输入。最后,超级和初级神经网络结合在一起形成一个模型,可以很容易地通过反向传播训练。文学的另一个链的整体方法和使用他们的信息适用于近似不确定性,看到的,例如,(gydF4y2Ba39gydF4y2Ba- - - - - -gydF4y2Ba41gydF4y2Ba]。然而,这些方法计算更昂贵比辍学或DropConnect-related方法。进一步链文学旨在预测不确定性的类型直接在神经网络结构。这些方法被称为深证据回归之一Amini et al。gydF4y2Ba42gydF4y2Ba)和扩展Meinert et al。(gydF4y2Ba43gydF4y2Ba),了解所谓的证据的参数分布。这种方法量化不确定性没有额外的计算训练后。此外,证据分布的估计参数可以插入分析公式认知和偶然的不确定性。这种方法量化不确定性以快速和可追踪方式没有任何额外的计算负担。因为它有许多优点,本文依靠证据回归框架。gydF4y2Ba

我们为文学在两个重要方面。首先,本文运用机器学习的不确定性估计框架乐金显示器估计和预测。我们观察到深证据回归提供了一个框架来量化经济又好又快,任意和认知的不确定性。这是很重要的对监管问题。explainability不仅要求监管机构、量化不确定性的预测可能是一个卓有成效的一步接受监管情况下的机器学习算法。其次,本文分析了任意和认知不确定性和发现,偶然的不确定性比认知不确定性更大。这意味着最大的份额来自于数据本身的不确定性,因此,不能降低。认知不确定性,即。,model uncertainty, plays only a minor role. This may explain why advanced methods may outperform simpler ones, but still, the estimation and prediction of LGD remain a very challenging task.

本文的其余部分的结构如下。数据呈现在第二节,第三节中描述的方法。我们的实证结果讨论了部分4、5的结论。gydF4y2Ba

2。数据gydF4y2Ba

分析债券违约,损失我们使用穆迪默认和恢复数据库(穆迪DRD)。这些数据信息市场化乐金显示器,默认的类型和各种其他特征的1999美国国债从1990年1月到2019年12月gydF4y2Ba^3gydF4y2Ba。我们使用债券票面利率等特点,成熟度,债券的资历,和一个额外的变量,这表明是否支持的债券担保债券发行人的资产。此外,我们有一个二进制变量,决定如果发行人的工业部门属于火(金融、保险、房地产)部门。控制差异由于违约的原因,我们还包括默认类型分析。除此之外,我们添加了标准普尔500指数回归控制周围的宏观经济。符合Gambetti et al。gydF4y2Ba4gydF4y2Ba),我们计算我们直接从穆迪DRD违约率。控制戒断症状的影响,我们使用违约发生在某个月的数量除以同期公司之后的数量。因为我们感兴趣的不确定性乐金显示器估计,我们包括不确定性变量。将金融的不确定性,我们使用金融不确定性指数Jurado et al。gydF4y2Ba44gydF4y2Ba)和Ludvigson et al。gydF4y2Ba45gydF4y2Ba)在网站上公开。最后,我们提供包括news-based经济政策不确定性指数贝克et al。gydF4y2Ba46gydF4y2Ba),也可以在他的网站上。保持预测属性,我们落后于所有宏观经济变量和不确定性指标四分之一类似奥尔森et al。gydF4y2Ba8gydF4y2Ba]。gydF4y2Ba

我们的因变量显示模式为90%,说明gydF4y2Ba图1gydF4y2Ba。这是符合Gambetti et al。gydF4y2Ba4gydF4y2Ba),分析了回收率。所示乐金显示器平均约64.29%gydF4y2Ba表1gydF4y2Ba的标准偏差为27.59%。示例还包括几乎整个范围的市场化乐金显示器最低0.5%,最高99.99%。gydF4y2Ba

表2gydF4y2Ba列出了变量和数据类型。总的来说,我们使用六个债券相关变量,两个宏观经济,两个不确定性变量。直言债券相关变量作为控制变量的不同债券结构。gydF4y2Ba

表3gydF4y2Ba显示了宏观经济和不确定性变量之间的相关性。变量是中度到强烈的相关性。这必须考虑当解释变量的影响。唯一的例外是金融指数和违约率的不确定性,有很弱的相关性。gydF4y2Ba

表4gydF4y2Ba显示了债券的资历的描述性统计。每个子类捕捉乐金显示器的整个范围,而高级担保债券的均值和中位数都相对较低。此外,高级担保债券几乎没有偏态,而高级无担保债券的偏态是温和的。高级次级,次级债券的偏态是更多的负面和相当类似。在资历比较描述性统计,我们观察到的位置分布是不同的,但分布的变化是相当大的。这可能是第一个迹象的大型(数据)的不确定性。gydF4y2Ba

表5gydF4y2Ba分类乐金显示器的默认类型,它改变了整个画面的某些方面。相比gydF4y2Ba表1gydF4y2Ba、类别的交换和其他低均值和中位数乐金显示器和正偏态。这两个类别之间最大的区别是,不良交换标准偏差较低。以前未支付的利息和预打包的第11章显示相似比整个样本描述性统计gydF4y2Ba表1gydF4y2Ba。最后一类第11章甚至更高的均值和中位数乐金显示器和偏态是相当低的。gydF4y2Ba

3所示。方法gydF4y2Ba

模型的不确定性乐金显示器中,我们使用一个框架称为深证据回归Amini et al。gydF4y2Ba42gydF4y2Ba]。这种方法能够确定回归任务和估算的不确定性认知和偶然的不确定性。模型任意回归的不确定性情况下的一种方法是训练一个神经网络权重gydF4y2BawgydF4y2Ba基于正态分布的负对数似,因此执行最大似然优化。目标函数为每个观察是Amini et al。gydF4y2Ba42gydF4y2Ba]:gydF4y2Ba

在哪里gydF4y2BaygydF4y2Ba_我gydF4y2Ba是gydF4y2Ba我gydF4y2Bath乐金显示器观察的样本大小gydF4y2BaNgydF4y2Ba和μgydF4y2Ba_我gydF4y2Ba和gydF4y2Ba${\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}}$假定正态分布的均值和方差的观察gydF4y2Ba我gydF4y2Ba。自从μgydF4y2Ba_我gydF4y2Ba和gydF4y2Ba${\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}}$是未知的,他们可以以概率的方式建模假设他们遵循之前发行版吗gydF4y2Ba问gydF4y2Ba(μgydF4y2Ba_我gydF4y2Ba),gydF4y2Ba$\mathrm{问gydF4y2Ba}(gydF4y2Ba{\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}})gydF4y2Ba$。后Amini et al。gydF4y2Ba42gydF4y2Ba),为μgydF4y2Ba_我gydF4y2Ba正态分布和gydF4y2Ba${\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}}$选择了逆伽马分布:gydF4y2Ba

与γgydF4y2Ba_我gydF4y2Ba∈ℝ,νgydF4y2Ba_我gydF4y2Ba> 0,αgydF4y2Ba_我gydF4y2Ba> 1和βgydF4y2Ba_我gydF4y2Ba> 0。分解前的联合分布gydF4y2Ba$\mathrm{问gydF4y2Ba}(gydF4y2Ba{\mathrm{\mu gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}},gydF4y2Ba{\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}})gydF4y2Ba=gydF4y2Ba\mathrm{问gydF4y2Ba}(gydF4y2Ba{\mathrm{\mu gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}})gydF4y2Ba\mathrm{问gydF4y2Ba}(gydF4y2Ba{\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}})gydF4y2Ba$结果在正常逆伽马分布:gydF4y2Ba

这个正常的逆伽马分布可以用虚拟观测,可以描述总Φ证据gydF4y2Ba_我gydF4y2Ba。相反Amini et al。gydF4y2Ba42gydF4y2Ba),我们建议全部证据的定义Meinert et al。gydF4y2Ba43gydF4y2Ba]ΦgydF4y2Ba_我gydF4y2Ba=νgydF4y2Ba_我gydF4y2Ba+ 2αgydF4y2Ba_我gydF4y2Ba,因为派生Meinert et al。gydF4y2Ba47gydF4y2Ba),ν的参数gydF4y2Ba_我gydF4y2Ba和2αgydF4y2Ba_我gydF4y2Ba共轭先验的正常逆伽马分布可以被解释为虚拟先验分布的观测,μgydF4y2Ba_我gydF4y2Ba和gydF4y2Ba${\mathrm{\sigma gydF4y2Ba}}_{\mathrm{我gydF4y2Ba}}^{\mathrm{2gydF4y2Ba}}$估计。因此,总证据是这两个表达式的总和。通过选择消极的逆伽马分布作为先验分布,存在计算边际或可能性模型的解析解的证据如果遵循正态分布的数据(gydF4y2Ba42gydF4y2Ba,gydF4y2Ba43gydF4y2Ba]。因此,边际似然遵循学生t分布:gydF4y2Ba

边际似然代表获得观察的可能性gydF4y2BaygydF4y2Ba_我gydF4y2Ba考虑到参数的先验分布,在这种情况下,γgydF4y2Ba_我gydF4y2Ba,νgydF4y2Ba_我gydF4y2Ba,αgydF4y2Ba_我gydF4y2Ba,βgydF4y2Ba_我gydF4y2Ba。因此,最大化的边际可能性最大化模型。这可以通过最小化的负对数似然gydF4y2BapgydF4y2Ba(gydF4y2BaygydF4y2Ba_我gydF4y2Ba|γgydF4y2Ba_我gydF4y2Ba,νgydF4y2Ba_我gydF4y2Ba,αgydF4y2Ba_我gydF4y2Ba,βgydF4y2Ba_我gydF4y2Ba)。由于特殊的共轭设置与正态分布数据和正常逆先验分布,边际似然可以计算出在一个封闭的形式(gydF4y2Ba42gydF4y2Ba]:gydF4y2Ba

这样ΩgydF4y2Ba_我gydF4y2Ba= 2βgydF4y2Ba_我gydF4y2Ba(1 +νgydF4y2Ba_我gydF4y2Ba)和Γ()代表了伽马函数。这使得深隐函数表达式证据回归网络的快速计算。任意的一个准确的估计和认知的不确定性损失函数正规化。相反的原始配方Amini et al。gydF4y2Ba42gydF4y2Ba),Meinert et al。gydF4y2Ba43gydF4y2Ba)显示不同的正则化项,因为当使用原始配方正规化可能性不足以找到边缘相似性的参数。因此,我们遵循的方法Meinert et al。gydF4y2Ba43gydF4y2Ba)和使用调整正则化项。这种调整尺度的残差学生t分布的宽度Eq。(5),gydF4y2BawgydF4y2Ba_{年代gydF4y2BatgydF4y2Ba我gydF4y2Ba},这样Φ的梯度gydF4y2Ba_我gydF4y2Ba因此,νgydF4y2Ba_我gydF4y2Ba嘈杂的地区并不会很大:gydF4y2Ba

与gydF4y2BapgydF4y2Ba残差的正规化的强度。因此损失函数的神经网络可以计算为:gydF4y2Ba

λ是hyperparameter确定正则化在情商的力量。(7)。因为λ和gydF4y2BapgydF4y2Ba必须提前确定网络有四个输出神经元,对应于每个参数Eq。(5)的边缘相似性。这些参数可以用来量化的不确定性。由于学生t之间的紧密联系和正态分布,gydF4y2BawgydF4y2Ba_{年代gydF4y2BatgydF4y2Ba我gydF4y2Ba}可以作为一个近似的偶然的不确定性(gydF4y2Ba43gydF4y2Ba]。后Meinert et al。gydF4y2Ba43gydF4y2Ba),认知和偶然的不确定性可以推导如下:gydF4y2Ba

通过使用这种方法,我们假设因变量,gydF4y2BaygydF4y2Ba遵循正态分布。乐金显示器通常在0到1之间的时间间隔,这仅仅是一个正态分布的空间的一部分。因此,我们获得的可能性这个范围之外的预测值。然而,使用正常的假设是很常见的在乐金显示器研究OLS回归是常用的主要方法或至少作为其他方法的基准,看到的,例如,(gydF4y2Ba5gydF4y2Ba,gydF4y2Ba11gydF4y2Ba,gydF4y2Ba13gydF4y2Ba- - - - - -gydF4y2Ba15gydF4y2Ba,gydF4y2Ba17gydF4y2Ba,gydF4y2Ba29日gydF4y2Ba,gydF4y2Ba48gydF4y2Ba- - - - - -gydF4y2Ba53gydF4y2Ba]。预测结果在第四节中,我们将看到,几乎所有债券的预期值在0到1之间的时间间隔,因此,我们的方法产生合理的估计。此外,深证据回归方法需要一些假设获得封闭的解。对于其他分布的假设,例如,乐金显示器的贝塔分布,没有封闭边缘相似性,,如果使用,消除这种方法的优点。gydF4y2Ba

推出的关系由神经网络建模,我们使用累积局部作用(ALE)情节Apley和朱gydF4y2Ba54gydF4y2Ba]。啤酒情节想象上的独立变量的平均效果预测。啤酒的另一个优点情节比其他可辩解的人工智能(新品)方法是公正的和快速的计算。第二节中提到的,是一个温和的宏观经济和不确定性变量之间高度相关。因此,新品方法是健壮的相关性,这是啤酒的另一个优势的情节。一个独立的变量gydF4y2Ba${\mathrm{XgydF4y2Ba}}_{\mathrm{jgydF4y2Ba}}\in gydF4y2Ba{\mathrm{ℝgydF4y2Ba}}^{\mathrm{NgydF4y2Ba}\times gydF4y2Ba\mathrm{1gydF4y2Ba}}$,总范围的观测值分为gydF4y2BaKgydF4y2Ba桶。这是通过定义完成gydF4y2BaZgydF4y2Ba_{j, kgydF4y2Ba}随着gydF4y2Ba$\frac{\mathrm{kgydF4y2Ba}}{\mathrm{KgydF4y2Ba}}$经验分布的分位数。因此gydF4y2BaZgydF4y2Ba_{jgydF4y2Ba,0gydF4y2Ba}是最小和gydF4y2BaZgydF4y2Ba_{j, KgydF4y2Ba}的最大价值gydF4y2BaZgydF4y2Ba_jgydF4y2Ba。在这种方法中,gydF4y2Ba年代gydF4y2Ba_{j, kgydF4y2Ba}可以被定义为一组值的左侧开区间内gydF4y2BaZgydF4y2Ba_{j, kgydF4y2Ba−1gydF4y2Ba}来gydF4y2BaZgydF4y2Ba_{j, kgydF4y2Ba}与gydF4y2BangydF4y2Ba_{j, kgydF4y2Ba}观察的数量gydF4y2Ba年代gydF4y2Ba_{j, kgydF4y2Ba}。让gydF4y2BakgydF4y2Ba(gydF4y2BaXgydF4y2Ba_jgydF4y2Ba)是一个索引,返回值的桶gydF4y2BaXgydF4y2Ba_jgydF4y2Ba,那么(偏心)积累了当地可以形式化的影响:gydF4y2Ba

${\mathrm{XgydF4y2Ba}}_{\backslash gydF4y2Ba\mathrm{jgydF4y2Ba}}\in gydF4y2Ba{\mathrm{ℝgydF4y2Ba}}^{\mathrm{NgydF4y2Ba}\times gydF4y2Ba\mathrm{PgydF4y2Ba}-\; -\; -\; -\; -\; -gydF4y2Ba\mathrm{1gydF4y2Ba}}$没有变量表示的一组变量gydF4y2BajgydF4y2Ba的gydF4y2BaPgydF4y2Ba变量和gydF4y2BafgydF4y2Ba(.)描述了神经网络的输出之前最后的转变。被减数的方括号表示的预测gydF4y2BafgydF4y2Ba()如果观察gydF4y2Ba我gydF4y2Ba被替换为gydF4y2BaZgydF4y2Ba_{j, kgydF4y2Ba}和减数代表预测gydF4y2BaZgydF4y2Ba_{j, kgydF4y2Ba−1gydF4y2Ba}相反的观察gydF4y2Ba我gydF4y2Ba。的差异在每一个观察总结gydF4y2Ba年代gydF4y2Ba_{j, kgydF4y2Ba}。这样做是为每一个桶gydF4y2BakgydF4y2Ba因此gydF4y2BaggydF4y2Ba_{啤酒gydF4y2Ba}(gydF4y2BaXgydF4y2Ba_jgydF4y2Ba)是内部资金的总和加权观测的数量在每个桶。为了得到集中积累的地方效果意味着零效应gydF4y2BaXgydF4y2Ba_jgydF4y2Ba的gydF4y2BaggydF4y2Ba_{啤酒gydF4y2Ba}(gydF4y2BaXgydF4y2Ba_jgydF4y2Ba)集中如下:gydF4y2Ba

由于啤酒的定心情节,轴描述了主要的影响gydF4y2BaZgydF4y2Ba_jgydF4y2Ba在某种程度上相比,平均预测价值。gydF4y2Ba

存在其他几个新品方法打开机器学习方法的黑盒。在我们文章的目的是研究非线性特性和乐金显示器估计之间的关系。因此,我们决定使用图形化的方法。它们包括部分依赖情节由弗里德曼(PDP) (gydF4y2Ba55gydF4y2Ba)为全球的解释和个人条件期望(冰)情节Goldstein et al。gydF4y2Ba56gydF4y2Ba为当地的解释)。然而,第一个方法尤其是可以遭受偏见的结果如果特性是相关的。这是经常的宏观经济变量用于我们的文章。因此,我们使用ALE情节Apley et al。gydF4y2Ba54gydF4y2Ba),因为他们是快速计算和解决我们文章中相关特性的问题。采用图形化的方法,还有其他几个备选方案,如石灰里贝罗et al。(gydF4y2Ba57gydF4y2Ba)或由她和李世鹏科技电子(gydF4y2Ba58gydF4y2Ba]。然而,这些方法无法想象潜在的非线性特性和乐金显示器估计之间的关系。此外,这两种方法中已知的问题如果特性相关,在某些情况下不稳定,看,例如,(gydF4y2Ba59gydF4y2Ba,gydF4y2Ba60gydF4y2Ba]。因此,我们使用ALE情节Apley et al。gydF4y2Ba54gydF4y2Ba),因为他们非常适合相关特性。gydF4y2Ba

关于信用风险,这些方法经常应用在最近的文学。例如,征求et al。gydF4y2Ba5gydF4y2Ba)使用ALE情节关注锻炼乐金显示器。巴斯托斯和马托斯(gydF4y2Ba7gydF4y2Ba比较几种新品方法,包括啤酒的情节以及夏普利值。同样,商量et al。gydF4y2Ba61年gydF4y2Ba)使用世鹏科技电子来解释的预测在fintech市场违约的概率。Barbaglia et al。gydF4y2Ba25gydF4y2Ba)使用ALE情节来确定抵押贷款违约概率的司机在欧洲。在相关领域,如网络风险管理或金融风险管理一般来说,新品方法的应用变得越来越广泛,看到的,例如,(gydF4y2Ba62年gydF4y2Ba- - - - - -gydF4y2Ba65年gydF4y2Ba]。gydF4y2Ba

4所示。结果gydF4y2Ba

4.1。学习策略gydF4y2Ba

我们使用深证据为乐金显示器估计回归框架分析预测以及偶然的和认知的不确定性。我们的数据集包含了1999个观察从1990年到2019年。看不见的数据来评估神经网络,不同年训练数据,我们将数据的观察从2018年到2019年保留时间数据。剩下的数据从1990年到2017年是随机分割成一个80:20比率。分数20%这个数据是保存样本外数据比较模型性能上看不见的数据具有相同的结构。这个分裂是训练数据的80%的分数。这个训练数据用于训练模型和验证hyperparameters。接下来,连续变量训练数据的标准化,以调整这些变量的均值为零,方差为1。这个扩展适用于样本外的时间数据与训练数据的尺度参数。编码的分类变量是一个炎热的,一类是下降了。 For seniority, Senior Unsecured, and, for the default type, Chapter 11 is dropped and thus act as reference categories. For the guarantee variable and Industry type, we use the positive category as reference. The last preprocessing step includes scaling the LGD values by a factor of 100, such that the LGDs can be interpreted in percentages and enhance computational stability.

预处理后,hyperparameters神经网络和损失函数必须选择gydF4y2Ba^4gydF4y2Ba。的参数gydF4y2BapgydF4y2BaEq。(7)设置为2,加强正规化的残差的影响,看到的,例如,(gydF4y2Ba43gydF4y2Ba]。参数λ被设置为0.001。执行的分析也是λ= 0.01和λ= 0.0001,但差异可以忽略不计。最常用的hyperparameters在神经网络的学习速度,层数,神经元的数量。为了避免过度拟合我们包括辍学层,辍学率,也必须调整。我们使用随机搜索获得200个不同星座模型使用5倍交叉验证和验证它们。随机搜索,我们假设每个hyperparameter离散或连续分布。gydF4y2Ba表6gydF4y2Ba显示分布的hyperparameters神经网络。例如辍学率是一个十进制数,通常在0之间的间隔,没有正规化,和0.5,最强的正规化。因此,我们使用一个连续均匀分布的辍学率。此外,20%的数据从迭代训练折叠用于早期停止,避免过度拟合。五迭代重复五次,减少体重随机初始化的影响,并取平均值。选择最好的模型,这样的意思是RMSE五抵抗折交叉验证是最小的。来确定神经元的数量我们使用的方法类似于柯尔尼et al。gydF4y2Ba6gydF4y2Ba]。作为基线神经元,我们使用(32岁,16)最多两个隐藏层。在这个过程中,乘数是尺度的因素基线数量的神经元gydF4y2Ba^5gydF4y2Ba。作为激活函数ReLU选择所有隐藏的单位通过亚当和网络优化。以确保νgydF4y2Ba_我gydF4y2Ba,αgydF4y2Ba_我gydF4y2Ba,βgydF4y2Ba_我gydF4y2Ba保持在所需的时间间隔,其产出softplus神经元被激活的功能,即1添加到激活神经元的αgydF4y2Ba_我gydF4y2Ba。gydF4y2Ba

列三个(最后一个参数)的星座gydF4y2Ba表6gydF4y2Ba用于形成最终的网络。,网络训练数据训练,其中20%用于早期停止。后来经过训练的网络评估样本外和时间数据。这个过程重复25倍。gydF4y2Ba表7gydF4y2Ba提供了平均值和总结不同数据集的评估和比较不同模型。由于损失函数在(8)取决于λ和情商gydF4y2BapgydF4y2Ba,这些参数的变化导致失去可比性。gydF4y2Ba

表7gydF4y2Ba比较深的神经网络证据框架神经网络训练均方误差和在文献中常用的方法。这些包括线性回归、转换后的线性回归,β回归,和部分响应回归,看,例如,(gydF4y2Ba5gydF4y2Ba,gydF4y2Ba14gydF4y2Ba]。对转换后的线性回归乐金显示器由一个分对数变换,转换然后用于符合线性回归。这种回归的预测转换回原来的规模使用s形的函数。每个模型是相同的训练数据训练。与均方误差的神经网络训练,相同的网格搜索和交叉验证方法与早期停止使用gydF4y2Ba^6gydF4y2Ba。由于证据神经网络是唯一与边际似然模型作为目标函数的证据只能损失计算模型。比较证据不同的神经网络模型,我们使用根均方误差评价模型。请注意,对于计算均方误差只有一个参数,该参数γ是必要的,因为代表了乐金显示器方面的预测。从gydF4y2Ba表7gydF4y2Ba,我们可以看到神经网络对训练和执行最佳样本外数据。时间数据,β回归分数第二最好的均方误差的神经网络训练后,但证据神经网络的区别是在第三位。gydF4y2Ba

4.2。偶然的和认知的不确定性预测gydF4y2Ba

深证据回归框架允许我们直接计算任意和认知不确定性为每个预测的神经网络。gydF4y2Ba图2gydF4y2Ba显示了我们的估计样本两种类型。x轴显示的观测数量预测按升序排序。命令乐金显示器在y轴。命令周围的深灰色带预测是通过增加/减少计算方程式的值。(9)和(10)在我们的预测。浅灰色带了两次通过增加/减少这些方程的价值。在下面,我们称之为“应用一个或两个标准的不确定性”错误在我们的预测。灰色的点显示实际的观察,即。,真正的乐金显示器实现。gydF4y2Ba

比较这两块gydF4y2Ba图2gydF4y2Ba,我们观察到任意的不确定性覆盖更大的范围比认知不确定性在我们的预测。几乎所有真正乐金显示器实现内任意两个标准错误的不确定性。因此,不可约的错误或数据不确定性最大的份额总量的不确定性。回想一下,市场化乐金显示器是基于市场预期时计算为1减去违约后30天交易的市场价格。因此,数据的变化还取决于市场预期是出了名的难以估计,在很大程度上无法预测。因此,它是合理的,偶然的不确定性是整体不确定性的主要原因。相反,认知的不确定性,也就是说。,的model uncertainty, is considerably lower. This may be attributed to our database. This article covers nearly three decades including several recessions and upturns. Hence, we cover LGDs in many different points of the business cycle and across many industries and default reasons. Therefore, the data might be representative for the data generating process of market-based LGDs. Hence, the uncertainty due to limited sample size is relatively small in our application.

当我们模型中所有参数的证据分布依赖于输入功能,我们也可以预测不确定性对样本外预测和时间样本。比较gydF4y2Ba图2gydF4y2Ba,gydF4y2Ba3gydF4y2Ba可能有人会认为,认知不确定性增加是由于较低的样本大小和看不见的数据的使用。然而,认知不确定性的函数关系是校准估计样本,通过预测转移到样本外数据。因此,如果特性值没有显著不同,预测的不确定性是相似的。只有当我们观察新的实现我们的功能以意想不到的(未经训练的)值范围,不确定性预测应该偏离强烈。因此,我们可能使用的预测不确定性也作为质检的结构性变化。gydF4y2Ba

的结构性变化乐金显示器估计主要是由于随着时间的变化而变化。这就是为什么一些研究者认为验证预测方法特别是在时间的数据集,看到的,例如,(gydF4y2Ba3gydF4y2Ba,gydF4y2Ba8gydF4y2Ba]。在我们的应用程序中,没有定性的结构性突变的信号通过不同的不确定性估计在2018年和2019年。比较gydF4y2Ba图4gydF4y2Ba与前两个,我们看到一个类似的模式。这可能是预期out-of-time-period并不以特定的危机或特殊情况。gydF4y2Ba

比较的认知不确定性在所有三个数据,我们观察到的不确定性乐队成为小预测乐金显示器值增加。这意味着神经网络在预测大乐金显示器变得更加自信。本课程比较的柱状图gydF4y2Ba图1gydF4y2Ba,一种解释可能是相当大的样本量右边。当我们观察大乐金显示器在我们的示例中,在这一领域认知的不确定性降低。gydF4y2Ba

4.3。解释乐金显示器预测gydF4y2Ba

在本节中,我们将深入了解意味着乐金显示器的驱动程序预测。在第三节中,我们使用ALE情节来可视化我们连续特性的影响。我们选择gydF4y2BaKgydF4y2Ba= 10桶啤酒的阴谋。总体上我们有三个不同的驱动程序。第一个由债券特定变量,随后我们调查司机反映整个宏观经济的发展,最终我们遵循Gambetti et al。gydF4y2Ba4gydF4y2Ba),包括不确定性变量。评估功能的影响是很重要的验证的内部力学uncertainty-aware神经网络配合经济直觉。主要关心的是如果金融机构倾向于使用这个框架的计算资本要求。解释使用模型的要求是记录在监管当局的许多出版物,看到的,例如,(gydF4y2Ba66年gydF4y2Ba- - - - - -gydF4y2Ba69年gydF4y2Ba]。gydF4y2Ba

图5gydF4y2Ba显示了债券相关驱动程序的功能效应。特征值范围包括rugplot可视化显示在x轴上的分布特性。乐金显示器上的司机的影响预测显示在y轴。我们看到左边的gydF4y2Ba图5gydF4y2Ba的负面影响,票面利率约8%的价值。这种消极的关系似乎是可信的,更高的息票利率在决议中也可能意味着更高的回流的债券,从而减少损失给违约。8%后的关系开始变得积极,这也可能被解释成更高的票面利率这一事实也意味着更高的风险,因此,潜在的回流变得更加不确定。成熟有一个几乎线性的和积极的关系预测乐金显示器值。一般来说,较长的乐金显示器成熟度的增加是由卖方机构投资者通常持有债券的压力有更长的成熟,看到的,例如,(gydF4y2Ba48gydF4y2Ba]。这些关系也证实了Gambetti et al。gydF4y2Ba4gydF4y2Ba),发现债券相关变量意味着市场化乐金显示器产生重大影响。gydF4y2Ba

关于描述周围的宏观特性,gydF4y2Ba图6gydF4y2Ba对乐金显示器显示他们的影响的预测。违约率是一个最有名的司机市场化乐金显示器,用于各种研究,看,例如,(gydF4y2Ba3gydF4y2Ba,gydF4y2Ba4gydF4y2Ba,gydF4y2Ba30.gydF4y2Ba,gydF4y2Ba52gydF4y2Ba]。增加课程反映了观察,乐金显示器在衰退和危机时期往往高于在正常时期。这个经验事实也为产生所谓的衰退铺平了道路估计应该反映这一危机的行为。这些衰退估计也包括在计算资本要求金融机构看,例如,(gydF4y2Ba70年gydF4y2Ba,gydF4y2Ba71年gydF4y2Ba低迷]或估计的筒子,看到贝茨et al。gydF4y2Ba72年gydF4y2Ba]。同样,我们观察一个消极的关系预测乐金显示器和标普500指数的回报,这意味着乐金显示器增加如果回报变得消极。有趣的是,积极的回报对乐金显示器的预测几乎没有影响,这又加强了乐金显示器的衰退特征。gydF4y2Ba

符合Gambetti et al。gydF4y2Ba4gydF4y2Ba),第一个文档的重要性不确定性变量的估计乐金显示器,我们包括两个常用的司机,所示gydF4y2Ba图7gydF4y2Ba。金融不确定性提出Jurado et al。gydF4y2Ba44gydF4y2Ba)和News-based EPU指数贝克et al。gydF4y2Ba46gydF4y2Ba基于基本金融值),涉及的不确定性和新闻文章。显示,而平的课程从低到中期的特征值范围。然而,有一个明确的积极影响乐金显示器时,不确定性指标达到一个很高的水平。同样,这强化了危机的行为市场化乐金显示器。不确定性变量的重要性也证实了Sopitpongstorn et al。gydF4y2Ba9gydF4y2Ba)找到一个显著的影响。在类似的意义上,Nazemi et al。gydF4y2Ba30.gydF4y2Ba)使用新闻文本预测市场乐金显示器和措施突显出其重要性。总而言之,最近的文献表明,不确定性变量应该用于包括各种各样的期望周围的经济学模型的框架。gydF4y2Ba

5。结论gydF4y2Ba

不确定性评估已经成为一个活跃的研究领域在统计和机器学习。然而,缺乏量化的不确定性,将机器学习应用于信贷风险。本文调查最近发表的方法称为深证据回归Amini et al。gydF4y2Ba42gydF4y2Ba)及其扩展Meinert et al。(gydF4y2Ba43gydF4y2Ba]。这种不确定性框架有几个优点。首先,它很容易实现,只需要改变的损失函数(深)神经网络和悦目的调整输出层。第二,调整网络的预测参数可以很容易地变成意味着预测,偶然的不确定性,和认知不确定性预测。几乎没有额外的计算负担来计算预测及其伴随的不确定性。第三,整个计算费用低得多像贝叶斯神经网络方法相比,整体方法和引导。此外,深证据回归属于一个小类的框架允许直接分析理清任意和认知的不确定性。与这些优点,这个框架也可能适合应用在金融机构陪可辩解的人工智能方法的使用量化的任意和认知的不确定性。此外,它可以包括其他变量,如公司特有的金融风险因素,或专注于非上市公司。进一步应用程序可能还包括预测其他资产的风险溢价定价或预测房地产的销售价格。 Moreover, in other areas where predictions are critical such as health care, the quantification of prediction uncertainty may allow a broader application of machine learning methods.

本文使用近30年的债券数据调查的适用性深证据回归估计市场乐金显示器的具有挑战性的任务。uncertainty-aware神经网络的性能与文学和早些时候,因此,我们没有看到一个大准确性和不确定性量化之间的权衡。本文文档一个了不起的新发现对任意的比例和认知的不确定性。我们的研究结果表明,偶然的不确定性的主要原因是整体乐金显示器估计的不确定性。因为这类型通常被称为不可约的错误,这就产生了猜测,乐金显示器估计是出了名的困难由于高不确定性的数据量。另一方面,认知不确定性,可以减少甚至设置为0有足够的数据只扮演一个次要角色。因此,更复杂的优势和先进的方法,如机器学习,可能是有限的。然而,这可能无法适用于所有乐金显示器数据集或如果我们观察不同部分或参数分布以外的意思。因此,我们不认为我们的结果应该广义乐金显示器的所有方面,但第一个重要步骤调查任意的关系和认知的不确定性。总的来说,理解这两个不确定性的因素可以得到更深的理解底层的关键市场乐金显示器的过程,因此当然是一个卓有成效的未来研究的路径。gydF4y2Ba

数据可用性声明gydF4y2Ba

数据分析在这项研究中受到以下许可证/限制:我们没有权限提供数据。请求访问这些数据集应该指向gydF4y2Bamaximilian.nagl@ur.degydF4y2Ba。gydF4y2Ba

作者的贡献gydF4y2Ba

MatN:概念、方法、软件、正式的分析,和原创作品。MaxN:概念化、方法论、数据管理、软件、正式的分析,和原创作品。博士:概念、方法、资源形式分析,writing-review和编辑。所有作者的文章和批准提交的版本。gydF4y2Ba

资金gydF4y2Ba

出版是资金支持的项目开放获取出版(DFG)。gydF4y2Ba

确认gydF4y2Ba

我们想感谢裁判的意见和建议,大大提高了文章。gydF4y2Ba

的利益冲突gydF4y2Ba

作者声明,这项研究是在没有进行任何商业或财务关系可能被视为一个潜在的利益冲突。gydF4y2Ba

出版商的注意gydF4y2Ba

本文表达的所有索赔仅代表作者,不一定代表的附属组织,或出版商、编辑和审稿人。任何产品,可以评估在这篇文章中,或声称,可能是由其制造商,不保证或认可的出版商。gydF4y2Ba

脚注gydF4y2Ba

引用gydF4y2Ba