卡内基梅隆大学的研究人员提出了可以在网上发表正面评论的AI

 
卡内基梅隆大学语言技术学院的研究人员说，他们已经开发出一种系统，可以利用机器学习来分析在线评论，并挑选出那些捍卫或同情那些被剥夺权利的人的评论。尽管尚未商业化，但他们已在实验中使用它搜索了近一百万条YouTube评论，重点关注罗兴亚难民危机和2019年2月在克什米尔发生的普尔瓦玛恐怖袭击。他们希望这将成为未来系统的基础，从而减少在发布者网站，社交媒体和其他地方整理评论所需的手动工作。
减少滥用网络行为绝非易事，特别是考虑到某些社交圈的毒性程度。追踪和打击反犹太主义的非营利组织“反诽谤联盟”的一项调查中，有超过五分之一的受访者表示遭受了暴力威胁。几乎五分之一的人表示受到性骚扰或缠扰，并遭受持续性骚扰，而超过20%的人则表示骚扰是其性别认同，种族，种族，性取向，宗教，职业或残障的结果。
正如研究人员所解释的那样，对AI语言模型的改进(可以从许多示例中学习来预测给定句子中可能出现的单词)，使得分析如此大量的文本成为可能。这项研究的成果是使这些模型能够消化源自南亚的短文本的技术，这种文本难以解释，因为它们经常包含拼写和语法错误，并结合了不同的语言和书写系统。
具体来说，研究人员获得了嵌入(单词的数字表示形式)，这些嵌入揭示了新颖的语言分组或簇。语言模型会创建这些语言，以便以相同的方式表示具有相似含义的单词，从而可以计算单词在评论或帖子中与其他单词的接近度。
该团队报告说，在实验中，他们的方法比市售解决方案效果更好或更好。 YouTube评论的随机抽样显示，约有10%的人为阳性，而AI算法的这一比例为88%。
博士后研究论文Ashiqur R. KhudaBukhsh说：“即使有很多令人讨厌的内容，我们仍然可以找到正面的评论。”他将在下个月在纽约市举行的人工智能促进协会年会上与合著者Shriphani Palakodety和Jaime Carbonell共同介绍他的发现。
这项研究是在Jigsaw发布的数据集之后发布的。Jigsaw是Google母公司Alphabet旗下的组织，旨在解决网络欺凌，审查，虚假信息和当今其他数字问题。该数据集包含数十万条带有毒性和身份标签的评论和注释。它旨在帮助衡量AI评论分类系统中的偏差，这是Jigsaw和其他公司以前使用模板语句中的综合数据进行测量的结果。
在相关的发展中，佐治亚理工学院和电子邮件营销初创公司Mailchimp的研究人员最近提出了RECAST，这是一种交互式工具，用于通过可视化预测解释并为检测到的有毒语音提供替代措词来检查毒性检测模型。他们计划在不久的将来发布一个开源浏览器扩展。