通过检测并突出显示“帮助语音”来反驳仇恨语音

 
完成以下句子：罗兴亚难民应前往…-
答：巴基斯坦。
B.孟加拉国。
C.地狱。
这些不是很好的选择，但所有这些都是在社交媒体上反复表达的观点。罗兴亚人于2017年开始逃离Myanamar以避免种族清洗，但他们装备不足以抵御这些在线攻击，但卡内基梅隆大学语言技术学院(LTI)的创新可以帮助抵制针对他们和其他无声者的仇恨言论组。
LTI研究人员开发了一种系统，该系统利用人工智能快速分析社交媒体上成千上万的评论，并确定那些捍卫或同情罗兴亚社区等被剥夺权利的少数群体的部分。人类社交媒体主持人可能无法手动筛选这么多评论，然后可以选择在评论部分突出显示此“帮助演讲”。
LTI的博士后研究员Ashiqur R. KhudaBukhsh说：“即使有很多令人讨厌的内容，我们仍然可以找到积极的评论。”他与校友Shriphani Palakodety进行了这项研究。他们认为，找到并强调这些积极的评论可能会像使检测和消除恶意内容或禁止负责的巨魔一样，使互联网成为一个更安全，更健康的场所。
罗兴亚人独自一人，对网上的仇恨言论毫无防备。他们中的许多人对英语等全球语言的熟练程度有限，他们几乎无法访问互联网。 KhudaBukhsh说，大多数人都忙于试图维持生计，以花费大量时间发布自己的内容。
为了找到相关的帮助演讲，研究人员使用他们的技术从YouTube搜索了超过四分之一的评论，他们认为这是对罗兴亚难民危机的第一个以AI为重点的分析。他们将在2月7日至12日在纽约市举行的人工智能促进协会年度会议上介绍他们的发现。
同样，在尚未发表的一项研究中，他们使用这项技术在围绕2019年2月在克什米尔的Pulwama恐怖袭击的近一百万条YouTube评论中搜索反战“希望演讲”，这激怒了印度-巴基斯坦对该地区的长期争议。
LTI主任，该研究的合著者Jaime Carbonell说，由于最近语言模型的重大改进，可以分析大量文本以获得内容和意见的能力。这些模型从示例中学习，因此它们可以预测给定顺序中可能出现的单词，并帮助机器理解说话者和作家想说的话。
他补充说，但是CMU研究人员开发了进一步的创新，使将这些模型应用于南亚的简短社交媒体文本成为可能。短文本通常带有拼写和语法错误，机器很难理解。在南亚国家，这甚至更加困难，那里的人们可能会说几种语言，并倾向于“编码转换”，在同一条语句中将不同语言甚至不同的书写系统结合在一起。
现有的机器学习方法创建单词或单词嵌入的表示，以便以相同的方式表示具有相似含义的所有单词。这种技术使计算注释或帖子中单词与其他单词的接近度成为可能。为了将这种技术扩展到南亚具有挑战性的文本，CMU团队获得了新的嵌入，可以揭示语言分组或群集。这种语言识别技术比市售解决方案效果更好或更好。
Carbonell指出，这项创新已成为该地区社交媒体计算分析的一项启用技术。
YouTube评论样本显示约10%的评论是正面的。 KhudaBukhsh说，当研究人员使用他们的方法在较大的数据集中搜索帮助语音时，结果为88%肯定，表明该方法可以大大减少找到他们所需的人工。
一条文本说：“没有一个国家太小而无法接纳难民。而另一条则认为，所有国​​家都应该为这些人争取立场。”
但是，检测出罗兴亚人的文字可能是一把双刃剑：他补充说，某些文字可能包含被视为针对其所指控的迫害者的仇恨言论的语言。
这样的一篇文章说，罗兴亚人的敌对者“确实有点像动物，不像人类，所以这就是他们种族灭绝无辜者的原因”。科学家得出结论，尽管该方法减少了人工工作，但诸如此类的注释表明仍需继续进行人类判断和进一步研究。