为了使AI成功，“计算机说没有”需要消亡

 
在小笨拙的终端的帮助和支持下，“英国人说不出话来”是小英国模仿最糟糕的客户服务示例的草图。经历过类似的遭遇后，我们冷酷地笑了起来。
但是，随着越来越多的服务变得自动化，“计算机说不”可能意味着被拒绝工作，抵押甚至医疗保健而没有任何解释。没有笑的事。
所有数据科学家(包括我本人)都有责任确保用于训练AI / ML模型的数据集准确，完整且无偏见。除此之外，我们还必须确保算法得出决策所用的因素对受影响的人透明，这一点也非常重要。
接下来会发生什么?
随着越来越多的政府，医疗保健和司法系统实现自动化，我预计，随着消费者对支持自动决策的算法的谨慎态度，我们将看到向可解释的AI的转变。我们已经看到了一个例子，这是一个由游说团体Foxglove提出的对英国政府的签证申请算法的挑战，该游说团体致力于推动技术领域的道德规范。
我预见到组织将引入AI治理，即标准化的透明级别，它将概述因素和管道，以显示AI算法如何得出决策或预测。随着自动化成为常态，笼罩着AI的组织可能会失去向透明性提供客户的客户。
但是，消费者可能不要求产品推荐系统提供与医学诊断系统相同的透明度，也不能要求驱动自动驾驶车辆实时决策的逻辑。
企业如何应对2020年对可解释的AI的需求
分析师Nick McQuire总结了CCS Insight的《 2019年IT决策者工作场所技术调查》的发现后说：“如今，人工智能系统确保数据安全性和隐私的能力以及系统工作和培训方式的透明性已成为人们关注的焦点。投资机器学习技术时有两个最重要的要求。”
对于某些应用程序，例如医学诊断，我相信能够解释算法背后的逻辑的能力将是与众不同的。对于其他垂直行业，差异化因素将是应用程序的运行时间，使用新数据对数据集进行微调和重新学习的频率，以及最终的成功指标，如准确性，正确率和错误率。
我们如何在AI模型中建立透明度?
数据集中的偏差和方差是反映现实应用程序的常见挑战。例如，在非洲国家，汽车保险公司因其政策/保费自动化的应用而受到挑战，这些国家的道路基础设施存在差异，可能会导致良好的驾驶员因路面不良而受到惩罚。这符合分类偏差的范围，对于数据科学家而言，这是与设计相关的挑战。
为了克服数据模型中的偏差，第一条建议是使用机器学习算法或统计学习方法进行学习，而不是深度学习。通常，机器学习方法是特征提取器，并且在数据集较小或存在类别偏差时非常适合使用。而深度学习算法需要分类统一的更大数据集。
第二条建议是增加数据集，以便人为地创建类别以获得统一的数据集。但是，从经验来看，扩充仅适用于某些类型的用例-如果设计不当，可能会对学习过程产生负面影响。
干净的数据有助于信任和透明度
我预见到需要自动数据清理，数据分析和预测分析，才能使企业用户和消费者信任提供给AI模型的数据。
使用AI来掌握或清除数据需要主题专家来验证预测决策。我认为，为预测结果提供透明性的最佳方法是显示AI管道以及有助于达到预测最终状态的影响数据点或数据属性。这可以以图形或图像的形式显示为视觉关键绩效指标。
深度学习认为算法不一定提供真实性，而是解释精度级别，其中每一层都提取输入数据的抽象，因此深度学习算法中的每一层都有其自身的功能，这些功能会使最终的预测决策产生偏差。算法旨在“称量”数据点，并提供一种灵活的功能(如果您愿意)，可以适应较新的数据点。所得的预测是从组合和分解不同数据点得出的可能性。
具有干净，最新，相关，高质量的数据更有可能生成有效的预测。
在不放弃IP的情况下解释AI
我们在AI领域中观察到的是，组织正在将大量的时间和金钱投入到使AI更加易于其消费者群中的不同角色使用。随着我们继续增加AI的粘性和投资回报率，我们将开始对AI提出的自动化和主动建议(即规范分析)有更多的了解。随后将介绍可解释的AI，从而为如何得出预测性决策提供一定程度的透明性。
组织可以采用一些策略来显示一定程度的透明性，以达到预期的最终状态而不暴露其知识产权。大多数消费者不一定需要了解AI算法的设计(这是组织的知识产权)，而是对如何得出预测性决策有基本的了解(例如链接分析)。
我认为，对消费者来说，首先了解哪些输入参数会影响预测的决定会更有益，其次，是什么数据点或属性的组合对预测的决定产生更大的可能性?
人工智能需要人类的指导
如今，“黑匣子逻辑”有可能成为组织在使用AI和机器学习来自动化流程的过程中面临的主要挑战之一。
自动化对任何组织都是有益的，但我认为，鉴于AI模型的当前成熟度，AI需要手动操作，并且必须始终将主题置于等式的中心。我的建议是使用AI提出建议和建议，并让一名主题专家验证AI算法的结果。
这种策略的好处是，该算法可以访问更大的数据集，从而巩固了其知识库，随着时间的推移，该知识库将尝试模仿主题专家的响应，从而获得更高的准确性。