据techxplore 7月29日报道，随着在线假新闻检测器和垃圾邮件过滤器变得越来越复杂，攻击者欺骗他们的方法也越来越复杂——包括通过“通用触发器”进行攻击。
图片来自：techxplore
在这种基于学习的方法中，攻击者使用一个短语或一组词来欺骗无限数量的输入。一次成功的攻击可能意味着更多假新闻出现在您的社交媒体提要中，或者更多垃圾邮件到达您的电子邮件收件箱。
宾夕法尼亚州立大学信息科学与技术学院的研究人员借用网络安全中常用的一种技术来防御这些通用的基于触发器的攻击，开发了一种机器学习框架，可以在99%的时间里主动防御自然语言处理应用程序中的相同类型的攻击。
该模型名为DARCY，使用一种称为“蜜罐”的网络安全概念来诱捕和捕获对自然语言处理应用程序的潜在攻击，如假新闻检测器和垃圾邮件过滤器。作为诱饵，蜜罐通过吸引攻击者使用黑客攻击的单词和短语来吸引他们。
（编译：李子茉）