HLEG政策建议：欧洲应该禁止人工智能进行大规模监视和社会信用评分

 
一个独立的专家组负责向欧洲委员会提供建议，以告知其对人工智能的监管反应 – 支持欧盟立法者确保人工智能发展“以人为本”的既定目标 – 已公布其政策和投资建议。
这符合早期的“值得信赖的人工智能”道德准则，由专家组高级专家组(HLEG)于4月提出，当时委员会还要求参与者测试规则草案。
AI HLEG的完整政策建议包含一份非常详细的50页文档 – 可以从该网页下载。该小组成立于2018年6月，由行业AI专家，公民社会代表，政治顾问和政策制定者，学者和法律专家组成。
该文件包括使用人工智能进行大规模监视和对欧盟公民进行评分的警告，例如中国的社会信用体系，该组织呼吁彻底禁止“人工智能大规模评分个人”。它还敦促各国政府承诺不为国家安全目的对人口进行全面监视。 (所以也许英国已经投票决定退出欧盟，考虑到它在2016年底通过成为法律的国家监管权力。)
“虽然通过建立一个基于人工智能系统的普遍监视系统，政府可能会强烈诱惑’保障社会’，但如果推到极端水平，这将是极其危险的，”HLEG写道。 “各国政府应承诺不对个人进行大规模监视，只部署和采购值得信赖的人工智能系统，旨在尊重法律和基本权利，符合道德原则和社会技术稳健。”
该组织还呼吁对个人和社会进行商业监督，以“反击” – 表明欧盟对滥用人工智能技术的效力和潜力的回应应包括确保在线人员跟踪“严格符合隐私等基本权利” “，包括(该组指定)何时涉及”免费“服务(尽管需要考虑如何影响商业模式)。
上周，英国数据保护监管机构针对在线行为广告行业发布了一个更具体的镜头 – 警告说，adtech大规模处理网络用户用于定位广告的个人数据并不符合欧盟隐私标准。该行业被告知其权利侵权行为必须改变，即使信息专员办公室尚未打算放下锤子。但改革警告很明确。
随着欧盟政策制定者致力于为人工智能制定一个尊重权利的监管框架，寻求引领未来十年以及该地区尖端科技发展，对数字实践和商业模式的广泛关注和审查似乎将会推动在此之前，清理有问题的数字实践，这些实践在没有或非常轻微的触摸调节下已经扩散。
HLEG还呼吁支持开发保护个人数据的机制，并要求个人“控制并通过其数据授权” – 他们认为这将解决“值得信赖的AI的要求的某些方面”。
他们写道：“应开发工具以提供GDPR的技术实施，并通过设计技术方法开发隐私保护/隐私，以解释标准，人工智能系统个人数据处理的因果关系(如联邦机器学习)。”
“支持匿名化和加密技术的技术开发，并基于个人数据控制开发安全数据交换标准。促进公众对个人数据管理的教育，包括个人对基于AI个人数据的决策过程的认识和授权。创建技术解决方案，为个人提供信息和控制数据的使用方式，例如研究，同意管理和跨越欧洲边界的透明度，以及由此产生的任何改进和成果，并制定安全标准基于个人数据控制的数据交换。“
HLEG报告中包含的许多政策建议中，与人类互动的人工智能系统应包括强制性自我识别。这意味着没有鬼鬼祟祟的谷歌双工人类语音模仿机器人。在这种情况下，机器人必须预先自我介绍 – 从而使人类呼叫者有机会脱离接触。
HLEG进一步建议欧盟政策制定者不要让人工智能系统或机器人具有法人资格，并写道：“我们认为这与人道主义，责任和责任原则基本不一致，并构成严重的道德风险。”