Facebook现在主动检测到80%的仇恨言论

 
Facebook今天发布了最新的社区标准执行报告，该报告于2018年4月发布了第一份。与以前的版本一样，Menlo Park公司在第二和第三财政季度跟踪了多项政策(共10项)的指标，重点是关于进入Facebook的违禁内容的流行程度以及成功删除的内容数量。
Facebook首次详细介绍了如何对自杀和自伤内容采取行动，并提供了有关受管制商品内容(即枪支和毒品的非法销售)的普遍性指标。此外，它还分享了有关如何在Instagram上执行其政策的数据，特别是在儿童裸体，儿童性剥削，受管制的商品，自杀和自伤以及恐怖主义宣传方面。
Facebook诚信副总裁盖伊·罗森(Guy Rosen)在博客中写道：“我们将继续完善用于衡量行动的流程，并建立一个强大的系统以确保我们提供的指标准确无误。”
关于自我伤害和自我伤害的内容，Facebook说，它已经进行了技术改进，以查找和删除更多的违法内容。结果，该网络在2019年第二季度减少了200万条自我伤害和自我想象的内容，其中主动检测到的这一比例为96.1%。在第三季度，这一数字达到了250万件，其中有97.3%被主动发现。在Instagram上，2019年第二季度删除了835,000条内容，其中主动检测到77.8%，并且在2019年第三季度删除了大约845,000条内容，其中主动检测到79.1%。
Facebook声称，在2019年第三季度Facebook或Instagram上每10,000次观看，包含不超过四处违反其自杀，自伤和受管制商品政策的内容。
关于恐怖主义宣传，Facebook扩大了此版本的社区报告，包括针对所有恐怖组织采取的行动与仅针对基地组织，ISIS及其附属机构采取的行动。它在Facebook上检测和删除内容的比率为98.5%，在Instagram上为92.2%，这与已知的不良演员的“改变策略”有关。
与此相关的是，由于媒体匹配系统的改进，Facebook表示在六个月内(3月15日至9月)删除了超过450万条与基督城恐怖袭击有关的内容。在任何用户举报之前，它主动识别了其中的97%。
另外，Facebook表示，对其内部儿童裸露和剥削数据库的改进使它能够更好地检测和删除在Facebook和Instagram上共享的内容实例。在2019年第三季度，它删除了约1,160万条内容，比2019年第一季度时删除了约580万条内容有所增加。在过去的四个季度中，它主动检测出已删除的99%以上的儿童裸露和剥削内容。在2019年第二季度的Instagram上，它删除了大约51.2万条内容，并主动检测出其中的92.5%。第三季度，它从Instagram删除了754,000条内容，其中主动检测到94.6%。
Facebook表示，其检测系统的“持续投资”和执法技术的“先进性”使它可以在涉及管制商品的最新进展基础上发展。在2019年第三季度，它删除了大约440万件药品销售内容，其中有97.6%是主动检测到的-与2019年第一季度相比有所增加，当时它删除了大约841,000件药品销售内容(其中有84.4%是主动检测到的)。同样在2019年第三季度，它删除了约230万件枪支销售内容，其中主动检测出93.8%，这比2019年第一季度有所增加，当时它删除了约609,000件枪支销售内容(其中主动检测出69.9%)。
Facebook表示，在2019年第三季度的Instagram上，它删除了约150万条毒品销售内容，并主动检测了其中的95.3%。在同一季度，它清除了约58,600件枪支销售内容，其中主动检测出91.3%。
Facebook还表示，它在仇恨语音内容检测和消除方面取得了进展，这在一定程度上要归功于改进的文本和图像匹配技术(用于识别已被移除为仇恨语音的图像和相同文本字符串)以及经过数千次培训的机器学习分类器数以百万计的数据样本。从2019年第二季度开始，当内容与其审核小组先前删除的文本或图像相同或接近相同或“非常匹配”违反政策的攻击时，它将开始自动删除一些帖子。 Facebook指出，它仅在部分实例中执行此操作，并且在所有其他情况下，将主动检测到的内容发送给其审阅团队做出最终决定。
Facebook表示，随着其检测系统的不断发展，其对仇恨言论的主动检测率已从上次报告的68%上升至80%，这与发现和删除的内容所占比例增加(410万件在2019年第一季度增加到2019年第三季度的700万)。
CTO Mike Schroepfer在博客中写道：“自我监督[机器学习技术]有助于改善语言模型，并使我们能够构建能够同时理解多种语言概念的分类器。” “我们的XLM方法……使我们能够更好地理解跨语言的仇恨言论等概念……[并且我们使用]整体后完整性嵌入(WPIE)，这是针对完整性问题的预先训练的内容通用表示形式，[通过理解跨模式，违反形式的内容而起作用类型，甚至时间。我们的最新版本针对更多违规行为进行了培训，培训数据大大增加。”
Facebook的AI发挥作用的另一个领域是重复帐户。在该公司在旧金山举行的F8年度开发者大会上，施罗普费尔表示，在一个季度内，Facebook删除了超过10亿个垃圾邮件帐户，超过7亿个虚假帐户以及数以千万计的包含裸露和暴力内容。他说，人工智能是所有这些类别报告的主要来源。
为此，Facebook表示，它在4月至9月期间删除了超过32亿个虚假帐户，而去年同期则删除了超过15亿个。