GhostGPT：助力网路犯罪的生成式 AI 工具

文章重点

• GhostGPT 是一款针对网路犯罪提供的生成式 AI 工具，旨在协助编写恶意程式和钓鱼邮件。
• 该工具以其「无监控政策」和 Telegram 机器人便捷存取等特点吸引了网路犯罪分子。
• 研究指出，该工具主要用于商业邮件诈骗（BEC），并在网路犯罪论坛上广受欢迎。
• AI 助力的网路犯罪活动日益增加，传统的安全措施难以检测这些钓鱼邮件。

近日，Abnormal Security 在中报导，有一款名为 GhostGPT 的生成式 AI工具正被网路犯罪分子用来撰写恶意程式码和钓鱼邮件。这款工具被宣传为「无监控的 AI」，研究人员指出它可能是一个已被破解的 ChatGPT版本或一个开源的生成式 AI 模型。

GhostGPT 拥有多项特性，特别吸引了网路犯罪分子，包括「严格的无日志政策」，确保对话不会被记录，以及可通过 Telegram 机器人方便存取。

“尽管宣传材料提及‘网路安全’作为可能的用途，但考虑到它在网路犯罪论坛上的可用性及对企业邮件妥协（BEC）诈骗的关注，这样的说法难以令人信服，” Abnormal 的博客中如是指出。“这样的声明显得像是在逃避法律责任——在网路犯罪世界中并不罕见。”

研究人员测试了 GhostGPT 的能力，要求它撰写一封来自 Docusign的钓鱼邮件，该聊天机器人随即提供了一个引导收件人点击链接以查看文件的电子邮件范本。

此外，GhostGPT 也可用于编程，博客中提到它与恶意程式创建和漏洞开发相关的行销。随著恶意程式编写者越来越多地利用 AI 编码协助工具，如 GhostGPT 这样的工具缺乏其他大型语言模型（LLM）的通常限制，可以节省犯罪分子用于破解主流工具如 ChatGPT 的时间。

根据 Abnormal Security 的报导，GhostGPT在网路犯罪论坛上的广告已获得不错的反响，点击量达到了数千次。此前的报告也指出，在这些论坛上“黑暗 AI”的人气正在上升，甚至有专门的版块专注于破解技术和恶意聊天机器人。

“攻击者现在使用类似 GhostGPT 的工具创建看起来完全合法的恶意邮件。因为这些消息常常能够逃过传统的过滤器，依赖 AI 的安全解决方案成为检测和阻止它们的唯一有效方式，”研究人员如是写道。

自2023年中以来，恶意 LLM 的宣传活动就已开始，例如，它们因降低不熟练攻击者进行更复杂攻击的门槛而受到关注。

攻击者还利用合法工具如 ChatGPT 来增强他们的网路犯罪活动，OpenAI去年对和展开了干预。

在最近的勒索病毒活动中观察到了 AI 助力编程的迹象，尤其是[FunkSec 黑客团伙](https://www.scworld.com/news/f