谷歌研究人员发布审计框架以缩小AI问责制差距

 
与Google和AI合作伙伴关系相关的研究人员创建了一个框架，以帮助公司及其工程团队在部署AI系统之前对其进行审核。该框架旨在为启动AI的企业增加一层质量保证，将其转化为AI伦理原则中通常所奉行的实践价值，并解决了作者认为当今AI中存在的问责制缺口。
这项工作的标题是“弥合AI问责制差距：定义内部算法审计的端到端框架”，是少数优秀的AI伦理学研究论文之一，已被接受作为《公平，问责制和透明度》(FAT)的一部分发表。 )会议，本周将在西班牙巴塞罗那举行。
该论文写道：“拟议的审计框架旨在通过嵌入一个可靠的流程来确保审计完整性，从而弥补大型人工智能系统在开发和部署责任方面的不足。” “至少，内部审核流程应能对系统的潜在影响进行批判性思考，并作为对道德意识的内部教育和培训，除了在每个步骤中留下我们所谓的文档“透明性追踪”开发周期。”
该框架还旨在识别风险并将其降低到最低程度，并勾勒出未来可以如何做的事情或发射后如何应对失败。该方法还意在超越一些公司今天进行的基于风险的评估，询问“如果…怎么办”，但往往没有纳入社会或道德挑战。
该框架名为“范围界定，制图，工件收集，测试和反思(SMACTR)”，旨在鼓励公司在部署AI模型供客户使用之前执行审核。对于像Google这样的公司而言，这种模式可能会影响数十亿用户的生活。
SMACTR审核产生了许多文档，其中包括超出是或否答案的清单。设计历史文件以记录设计输入和输出，以及模型卡以确保将AI部署用于其预期目的;故障模式和影响分析(FMEA)，以结合工程师和产品设计师的已知问题和经验。
SMACTR中的每个字母都旨在充当审核过程的一个阶段：
范围界定阶段是风险评估过程和审核员进行社会影响评估以及对系统用例进行道德审查的阶段。
映射阶段用于创建内部利益相关者的地图，并确定关键协作者以执行审核。
Artifact Collection阶段用于创建审核清单，数据表或模型卡，其中记录了模型的构建方式，开发过程中的假设及其预期用途。
测试阶段使用对抗训练等方法评估绩效，并创建道德风险分析图，以识别故障的可能性和严重程度或风险级别。
反思阶段是审核和工程团队评估内部设计建议或制定缓解计划的阶段。
算法审计框架借鉴了许多其他对安全至关重要的领域，例如航空航天和医疗保健，对保护生命安全至关重要，这些领域现在作为设计过程的一部分进行审计。
工业界采取行动使审计成为应对一系列失败和丑闻或提高标准以满足政府法规的标准方法。该框架采用了FMEA等其他行业中发现的工具，以及诸如“除非保持持续的警惕，否则复杂的系统趋向于不安全的状况”之类的课程。但是，它也承认AI会遇到独特的问题。
九名研究人员在SMACTR框架上进行了合作，包括Google员工Andrew Smart，Margaret Mitchell和Timnit Gebru，以及前AI伙伴关系研究员和现任AI Now Institute研究员Deborah Raji。
米切尔(Mitchell)和格布鲁(Gebru)合作开发了模型卡，谷歌云现在将这种方法用于其某些AI模型。 Gebru还致力于数据集的数据表，并与Algorithmic Justice League的Joy Buolamwini分别进行了合作，共同对微软和亚马逊等公司出售的主要面部识别软件服务进行的审计，结果发现深色皮肤的人(尤其是有色女性)的表现不佳。
SMACTR文件还尝试承认一些缺陷，例如审计的某些部分依赖于或容易受到人为判断的事实。它敦促审计师要注意自己的偏见和公司的观点，以免使审计过程仅仅是声誉管理的行为。作者认为，随着AI模型的规模和跨多个设备的分布的增加，这种方法可能越来越有价值。
该论文写道：“人工智能有可能造福整个社会。” “但是，目前存在不公平的风险分布，以致那些已经面临结构脆弱性或偏见的人承受了许多这类系统的代价和伤害。公平，正义与道德要求对那些承担这些风险的人们给予应有的重视，并且构建和部署人工智能系统的组织还应内部化并积极应对这些社会风险，并认真承担责任，以确保系统遵守已宣布的道德原则。