垃圾邮件的未来令人恐惧

 
人工智能，深度假货和其他技术可能会使发现垃圾邮件更加困难，但垃圾邮件攻击者正在使用相同的工具来保持收件箱的清洁
垃圾邮件很容易被发现。自动化系统可以捕获其中的绝大多数信息，尽管每天发送数以亿计的躲猫猫邮件，但奇怪的邮件仍会通过网络流到您的垃圾电子邮件中，希望它能被忽略。
这要归功于电子邮件公司(Google，Microsoft和其他公司)的认真努力，但是随着垃圾邮件制造者转向AI以及Deepfake，社交机器人和其他智能技术，他们的工作将变得越来越艰巨。 USC计算机科学系研究助理教授，最近发表的有关AI和垃圾邮件主题的论文作者Emilio Ferrara说：“欺骗是大多数现代垃圾邮件尝试的目标。” “人工智能正在提供越来越强大的工具来自动生成包括文本和视频在内的欺骗性内容。尽管无法预测全部含义，但人们可以推测，随着技术能力的增强，滥用及其后果将变得更加严重。”
使用AI垃圾邮件
第一角色意味着自动化系统更难发现垃圾邮件。英国人工智能安全初创公司Darktrace的威胁搜寻主管Max Heinemeyer说：“我们已经进入了一个我们不再信任自己的收件箱的时代。”价值超过10亿美元的英国AI安全创业公司。 “在我们的整个客户群中，我们看到攻击者使用人工智能来增强其欺骗电子邮件的产生的早期迹象-生成的通信对于普通人而言与真正的通信几乎没有区别。”
人工智能的兴起来自几种不同的途径，所有这些都可能被垃圾邮件制造者滥用。神经网络可以读取文本，理解图像的上下文并编写可信的消息(而无需人工干预)，因此垃圾邮件发送者可以构建更真实，个性化的消息，从而更加难以从合法邮件中过滤掉它们。而且，如果电子邮件提供商无法发现垃圾邮件，可以公平地说很多人也将被赶上来，从而增加了网络钓鱼攻击的风险以及通常填充垃圾邮件的狡猾产品的大规模营销。
Heinemeyer说：“这只需要相对简单的序列到序列机器学习，就可以将其安装在受感染的设备上，以监视受感染受害者的电子邮件和对话。” “经过一段时间的监视，AI可以根据网络地址簿中的特定联系人量身定制网络钓鱼消息，以模仿受害者的消息风格，以说服他们单击恶意链接。”
除了邮件阻塞了我们的电子邮件收件箱之外，还有其他类型的垃圾邮件。垃圾邮件发送者还转向了消息传递应用程序，搜索结果和社交媒体，其中的漫游器会推广指向虚假评论的链接，并销售出售可疑产品的网站，无论是冒牌太阳镜还是防脱丸。那些可以由人类编写，但是如果这些机器人是自动化的，那将更加有利可图，而且最有说服力的机器人会使用AI对人类做出反应。喜力说：“网络罪犯是创新者，他们一直在寻找新的方法来更快地接触更多受害者，最终赚更多钱。” “当今的垃圾邮件运动大约有50名网络罪犯，每天发送约50,000封电子邮件，成功率约为20%。有了AI，图中只有两个攻击者才能创建可以生成200万封电子邮件的代码。每天的成功率达到85%，使他们的攻击获利明显更高。”
AI还使构建所谓的“ deepfake”，数字化更改或生成的逼真的图像和视频变得更加容易。有时，内容可能是完全虚假的人，对于伪造的社交帐户的化身很方便，但是相同的想法也可以应用于文本或图片，从而专门为您量身定制垃圾邮件。费拉拉说：“例如，它可以用于通过使用有关其朋友的信息(图片，视频)来针对个人生成个性化垃圾邮件，以针对他们生成针对性的伪造品或数字化身。”如果垃圾邮件来自Twitter提要，并且带有化身看起来像您的朋友或冒充来自您电子邮件帐户中联系人的电子邮件，您是否更有可能打开垃圾邮件?
垃圾邮件在客户高峰期激增，有助于破坏技术体系。在本白皮书中了解如何确保您的应用程序不会出现性能下降的情况。
用AI打击垃圾邮件
当然，科技行业的白帽子也可以使用AI-而且，拥有数千名软件工程师的Google在神经网络和机器学习方面比普通的垃圾邮件发送者要好得多。费拉拉说：“这肯定是世界末日的情况，但是我们已经看到足够多的知识，如果没有对策，这些垃圾邮件技术就可能失控。”
Google长期以来一直使用神经网络来发现垃圾邮件，从而使自我报告的垃圾邮件检测率达到99.9%。但是，它将针对最近的几条垃圾邮件漏掉，同时减少被其网卡住的合法邮件的数量。该公司最近详细说明了如何通过其机器学习系统TensorFlow与垃圾邮件作斗争，使用它在Google分析以查看邮件是否为垃圾邮件的数千位数据中查找模式，并根据Google的了解对其进行个性化某人的电子邮件习惯。 Gmail安全产品经理Neil Kumaran在博客文章中解释说：“使用TensorFlow已帮助我们阻止了基于图像的邮件，具有隐藏嵌入式内容的电子邮件以及来自新创建域的邮件，这些邮件试图在合法流量中隐藏少量垃圾邮件。”今年早些时候。每天总共增加了1亿封邮件。
谷歌不是唯一的一个。今年6月，Twitter收购了初创公司Fabula AI，以帮助社交媒体服务使用人工智能对付垃圾邮件和滥用行为，Twitter于今年早些时候表示，虚假和垃圾邮件帐户占其活跃帐户的5%。去年，微软表示已使用基于AI的技术改进了过滤功能，通过扫描180亿个链接和附件来对其系统进行培训。
还有其他自动化的智能系统可以阻止垃圾邮件，包括新西兰安全公司Netsafe的Re：scam，这是一个聊天机器人，该聊天机器人使用AI来回复垃圾邮件发送者，以消耗他们的时间并提高成本。它是否减少垃圾邮件仍有待观察，但是聊天机器人和发送垃圾邮件的骗子之间的后续交流记录很有趣。
问题的严重性意味着自动化保护是赢得反垃圾邮件斗争的关键-对于我们人类来说，这是一个太大的问题，难以管理，使其成为使AI发挥作用的理想场所。垃圾邮件正在蔓延，并且变得越来越聪明–值得庆幸的是，我们拥有相同的工具来进行反击。 Heinemeyer说：“我们不能指望公众会花时间来成为网络安全方面的专家。此外，与其他AI相比，AI攻击将更加聪明和隐秘，无法与之抗衡。” “这是我们必须放弃对智能系统的控制而不是收回它的一个领域。”