美联储考虑正式要求公众反馈有关金融服务领域采用人工智能的信息

来源：CPDA数据分析师网　/　时间：2021-02-01

可解释性应该如何解释示范决策
例如向拒绝贷款申请的客户（即《平等信贷机会法案》中的不利行动通知要求）进行解释，模型风险管理，如何更新模型风险管理指南以反映AI / ML模型的额外复杂性；如何评估模型的稳健性，识别模型盲点，评估其概念上的稳健性，稳定性并持续对其进行监控，公平如何执行AI / ML模型的公平性评估，在所有这些领域中，学术界和研究界正在开展大量工作，并开始将其转变为软件工具，明确监管期望将有助于保护客户并为金融服务公司制定统一的标准。

可解释性应该如何解释示范决策
当银行和其他金融服务公司拒绝个人的信用申请时，他们必须向他们解释拒绝信用的原因，并提供指导，说明他们可以采取什么措施来获得良好的结果，对于复杂的机器学习和人工智能模型来说，很难产生这类解释，复杂的机器学习和人工智能模型是越来越多的模型，用于决定信用和其他高风险用例，大量研究解决了这些问题，并且围绕两类方法开始出现一定程度的融合，这两种方法也正在进入软件产品：

（1）特征重要性方法可帮助确定驱动模型决策的重要特征（或数据输入），例如确定因其高的债务收入比和较低的收入而被拒绝信贷，这些有时也称为原因码，这些方法的示例包括来自CMU的定量输入影响的研究。

（2）反事实解释为个人如何更改数据以从机器学习或人工智能模型中获得不同结果提供了指导（例如，为了获得批准，每年增加10,000美元的收入），这些有时称为动作代码，实例包括沃切特等人。

关于这两个主题的监督期望存在着重要的开放性问题
这些问题将有助于弄清楚-对原因和行动代码要求的详细说明，一个关键的考虑因素是解释的准确性，这意味着解释能正确地识别决策原因和改变决策的行动，这是一个重要的话题，已引起研究人员的关注，并在监管对话中值得关注。

模型风险管理模型风险管理是金融机构中功能强大且完善的功能
它提供了对模型的独立验证，以确保模型健壮，易于理解并受到仔细监控，美联储在2011年发布的SR-11-7指南为模型风险管理提供了经过深思熟虑的框架，将机器学习和人工智能模型引入信用，欺诈和行销等用例中，对有效和高效的模型风险模型提出了新的挑战。它提出了一个关键问题：应如何更新模型风险管理指南以反映AI / ML模型的额外复杂性？具体来说，模型开发和验证团队应如何评估模型的稳健性，确定模型的盲点，评估其概念的健全性，稳定性并持续对其进行监视，以确保及早发现并修复存在问题的模型；和模型在生产中表现良好，并在开始降级时进行调整，尽管在这些主题上进行了大量研究，并且各种方法正在进入软件产品。

机器学习模型可能会对历史上处于不利地位的群体表现出不公平的偏见

在金融服务领域这可能意味着，除非采取其他措施，否则如果在接受培训的模型的历史数据具有这种模式的情况下，在做出信贷决策时，该模型可能会系统地使男人胜于女人，这种观察提出了几个问题，您如何衡量群体之间的差异指标？您如何将这种差异归因于导致差异的功能或培训数据问题？如果存在模型，您如何减轻模型的公平性问题？这些都是已经进行了大量研究的问题。

CPDA企业内训

https://www.cpda.cn/trainning/

CPDA项目数据分析师为什么要更名？

https://www.chinacpda.com/question/4504.html

海南智企数据分析师事务所

https://www.chinacpda.com/shiwusuo/14202.html

王兴海老师高级经济师

https://www.chinacpda.com/shizi/9433.html

用数据改变人生，获得CPDA证书仅是一个开始

https://www.chinacpda.com/shouquanzhongxin/14854.html

大数据专业就业前景及就业方向如何？

https://www.chinacpda.com/wenti/11706.html