垃圾广告在AI帮助下进化 有团伙利用OpenAI生成不重复的垃圾邮件成功避免被拦截

业界 来源:蓝点网 2025-04-13 17:11:10

但凡我们将邮箱暴露在网上那么接下来将是无穷无尽的垃圾邮件,垃圾邮件制造者通常都会以百万甚至千万级别的规模发送垃圾邮件,大部分垃圾邮件都会被用户侧的邮箱系统拦截。

诸如 Gmail 能够拦截这些垃圾邮箱是因为有规律可循,例如垃圾邮件通常内容相同并且在短时间内向 Gmail 端口发送大量邮件,谷歌利用这些数据可以判断这是垃圾邮件并进行拦截。

然而在人工智能时代垃圾邮件也在进化,网络安全公司 SentinelLabs 发现垃圾邮件制造商利用 OpenAI GPT 系列模型生成具有针对性的、不重复的垃圾邮件,由于内容不重复所以被拦截的概率相对来说要低得多。

这个垃圾邮件制造者使用 AkiraBot (用于自动化发送大量消息的框架应用) 向中小型网站发送搜索引擎优化 (SEO) 相关的营销内容,AkiraBot 使用基于 Python 的脚本轮换网站名称。

在实际操作中垃圾邮件制造者提前抓取收集大量中小型网站的名称和域名,然后将其整理为数据表单,接着利用 GPT-4o-mini API 生成营销邮件,其中提示词中网站名称和域名会自动轮换。

由于 AI 生成的内容总不是完全相同的,因此生成的垃圾邮件内容虽然差不多但都不是重复的,每条消息的正文开头都会指明网站名称,最终邮件没有一个是完全相同的。

借助这种操作垃圾邮件制造者成功发送 8 万封邮件没有被拦截,被拦截的则有 1.1 万封,这个效率要远远高于常规的垃圾邮件发送策略,这种策略通常发送百万封能成功的可能也就一万封。

发现这种情况后研究人员报告给 OpenAI,OpenAI 则是火速封杀了对应的 API 账户并表示这种行为违反了使用条款,不过这并没有太大意义,毕竟垃圾邮件制造者肯定也注册或购买了大量账号可以换着 API 继续用。

值得注意的是这场恶意利用持续四个月都没有被 OpenAI 发现,很难说这是 OpenAI 安全机制问题而是故意为之,毕竟大家都知道肯定有不少账号当前都在利用这些 API 从事某些违规的行为。

延伸阅读
  • 小米发布AI眼镜

    北京商报讯(记者 刘四红)6月26日,小米重磅发布“面向下一代的个人智能设备”——小米AI眼镜。全新小米AI眼镜具备可支付功能,内置支付宝“看一下支付”,方便用户在双手忙碌或不便使用手机时,通过眼镜扫

  • 7月起老年人坐火车打折?AI造假

    本文转自【互联网联合辟谣平台】;最近,有网民询问,网传“7月1日起老年人坐火车有新规定,买票打折”等信息是真的吗?经核查,传言不实。进一步溯源发现,相关信息大概率为自媒体利用AI软件生成,依旧是“博眼

  • OpenAI宣布将o3模型调用价格下调80% 每百万输出从40美元降低至8美元

    2025 年 4 月 OpenAI 发布推理模型 o3,该模型在多种基准测试中都取得最佳成绩,模型还支持使用外部工具例如网页浏览和使用 Python 解释器等。尽管该模型在性能上表现不俗但 API 调

关注公众号:拾黑(shiheibook)了解更多

友情链接:

关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站:https://www.yaorank.com/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接