简化模型治理工作流分析和解释性
来源：CPDA数据分析师网 / 时间：2021-04-12
这不仅是企业的救星，而且是在各个行业的生产环境中采用这些技术的迫在眉睫的要求，作为供应商，如果您没有将其本地化到产品中，那么您就会遇到麻烦，如果您还没有考虑过如何以一种商业友好的方式来展示[模型]的内部工作，以满足企业对可解释性的需求，那么很难进行翻新。
数据沿袭与模型治理
可解释性问题在金融或保险等许多垂直领域极为重要，在这些领域中，有法规披露组织如何做出影响客户的决策，例如批准或拒绝提供信贷，可以通过阐明有关模型如何与生产数据和初始培训数据集一起发挥作用的数据沿袭来部分地了解此问题，这自然会告知他们在线操作的方式，一些专用的解决方案使公司，能够监视其模型并提供用于将其构建到平台中的训练数据集，有了这个元数据，系统就固有地知道了建立模型的假设以及使模型生效的不同方案，当将针对加利福尼亚州客户群的数据制作的模型部署到客户群时，此类智能平台可以发出警报，工作流分析概念还通过提供“自定义模型的执行情况和准确性”的洞察力来影响这一概念，不良的结果会促使组织将生产输出追溯到初始培训数据以进行调整。
培训在生产
工作流分析产生了常见问题的答案，例如在医疗保健中处理了多少文档，以及它们的准确性以及AI系统花费在处理这些文档上的总时间，由于出处从生产到培训设置，结果不理想的用户可以将这些信息追溯到产生它们的模型中，从而完全内省并修复了仪表板中的机器学习模型，将这种具有生产数据和用于构建数据的原始培训数据用于整理机器学习模型的能力描述为直接影响企业AI的趋势，以前企业无法以在线方式检测事物，某些事情会在业务方面发生，人们将不得不回溯它，例如损害控制，但是交互式仪表板的警报会监视风险，偏差和偏差的各个方面，从而使该过程具有先发制人作用，可以防止不良后果。因此解决方案使组织可以自由地“在您喜欢的任何框架或工具中开发模型，并让我们为生产担忧”，我们还将提供连接生产和开发环境的治理功能，以便您可以集中查看仪表板中正在发生的事情。
异常检测
在这个领域强大的解决方案实际上支配机器学习模型与机器学习模型，引用了经过训练的异常检测模型，用户可以在平台中利用该模型来对系统正在计算的不同指标进行连续分析，还可以查看生产数据和培训数据的日志并检测任何类型的异常，这种能力使组织能够辨别出为什么特定的认知计算，本来意味着要以某种方式运行的，而距本周的两周才证明了该模型的行为如此，例如基于客户细分的营销模型可能会受到特定活动或客户属性变化的影响，在这种情况下，异常检测模型将通知用户其基本AI模型的行为变化，以便他们可以采取行动。
可解释性
通过将工作流分析与以可解释性为中心的特定指标配对，组织可以使用来地理解特定的认知计算模型如何影响生产结果，例如利用工作流分析来评估寻求快速生成报价的保险经纪人的生产率可帮助您确定通过此项自动化投资所产生的ROI，它还可以帮助您随着时间的推移来衡量和确定您是否在提高服务质量，有关自定义模型的方式（依赖于由单个用户进行培训的迁移学习）执行方式的详细指标，可以深入了解模型可交付结果的可解释性问题，这些指标超越了警报，以对特定模型的细粒度感知能力自然补充了工作流结果，并且我将如何理解它们的预测，并可能修改或更新这些预测，显然两者联系在一起，因为一组更有效的模型将导致更高的准确性，从而带来更好的业务成果。
人为干预
通过直接处理的用例说明了将工作流分析与模型指标结合起来的优点，该案例确定了模型是否具有足够高的置信度得分，可以在无需人工干预的情况下处理下游结果，例如医护人员基于深度学习模型为患者配备工作流时，可能希望通过工作流分析来评估其在特定领域的绩效，如果这些度量标准向您建议某些领域信心不足且无法直截了当，那么您希望能够回到模型中，并专注于这些领域以及如何改进训练数据方法来改善这些领域。
尽管人们始终可以使用描述的技术类似的技术来监视模型的特定结果
但是自动化的目标始终是在保持模型预测的准确性和后续行动的正确性的同时，程度地减少人为干预，有效监视两者以促进数据治理，可解释性和生产中认知计算模型的工作流分析，因此它不断降低了人类在机器学习过程中的参与程度，这可能始于导致“等待人为行动”的警报，但是当足够多的人为活动进入系统时，我们就会知道，对于这种类型的警报，人的行为是这样的，借助AI随着未来出现新的警报，我们提供了一种建议性的方法，这就是我们认为您应该做的，而且一旦置信度足够高，这些模型就可以终在没有人工干预的情况下做出这些动作。