随着技术的进步，人工智能已经渗透到我们生活的各个方面。从智能家居到自动驾驶汽车，AI正在为我们创造一个更加便捷、高效的未来。但是，与所有技术一样，AI也有其暗黑面。最近，云安全厂商Netrich发现了一个名为FraudGPT的新型AI网络犯罪工具，它揭示了AI技术在错误的手中可能带来的威胁。
FraudGPT：新型网络犯罪工具
FraudGPT是一个专为攻击性活动设计的AI对话机器人。与其他大型语言模型如OpenAI的GPT-3不同，FraudGPT被设计用来创建破解工具、钓鱼邮件，甚至编写恶意攻击软件。这意味着，任何拥有FraudGPT的人都可以轻易地发起网络攻击，而无需深入了解相关的技术细节。
自7月22日以来，FraudGPT已经在暗网市场和Telegram频道中流通。暗网上已有超过3000条确认的订阅信息及评论，显示出这种工具的受欢迎程度。而订阅费用为200美元/月或1700美元/年，这也表明了其在黑市中的价值。
FraudGPT的能力
FraudGPT被描述为迄今为止最顶级的“AI工具”。它不仅可以编写欺骗性短信、钓鱼邮件和钓鱼网站代码，还可以提供关于易受攻击的网站的建议，甚至识别未经Visa验证的银行ID。这使得FraudGPT成为网络犯罪分子的强大工具，可以用来发起各种网络攻击。
随着技术的进步，人工智能已经渗透到我们生活的各个方面。但是，与所有技术一样，AI也有其暗黑面。最近，云安全厂商Netrich发现了一个名为FraudGPT的新型AI网络犯罪工具，它揭示了AI技术在错误的手中可能带来的威胁。
FraudGPT的高级模拟能力
FraudGPT不仅可以模拟人类对话，允许黑客与用户互动并提取敏感信息或执行有害操作，而且还可以用于伪造文件、发票和付款请求，从而促成金融诈骗。
网络钓鱼：FraudGPT的主要武器
FraudGPT可以生成真实的钓鱼邮件、短信或网站，欺骗用户泄露敏感信息。这种能力使得网络犯罪分子可以轻易地发起网络攻击，而无需深入了解相关的技术细节。
FraudGPT在暗网的销售
FraudGPT的订阅费用为200美元/月或1700美元/年，这也表明了其在黑市中的价值。暗网上已有超过3000条确认的订阅信息及评论，显示出这种工具的受欢迎程度。
AI驱动的网络钓鱼
AI驱动的网络钓鱼涉及使用像ChatGPT这样的工具创建高度令人信服的电子邮件和消息，模仿受信任的来源，如银行。这种方法的成功率远高于传统的网络钓鱼方法。
GPT-4：电子邮件欺诈的新威胁
GPT-4具有使电子邮件欺诈变得更加危险的潜力。凭借其生成逼真、类似于人类的语言的能力，它可以被用来创建高度令人信服的欺诈邮件，从而欺骗更多的受害者。
FraudGPT的多功能性
除了前面提到的功能，FraudGPT还可以帮助威胁行为者执行其他多种恶意行为，例如：编写恶意代码、创建无法检测的恶意软件、找到非VBV bins、创建钓鱼页面、构建黑客工具、寻找黑客团队、网站和市场、编写诈骼页面和信件、寻找泄露和漏洞等。
JPMorgan Chase的AI防诈骗策略
据报道，JPMorgan Chase正在使用先进的人工智能技术来检测商业电子邮件欺诈。支付消息网络是该银行的重点关注领域。
FraudGPT vs ChatGPT
Netenrich的威胁研究团队发现了一个名为"FraudGPT"的新潜在AI工具。这是一个专门针对攻击性活动的AI机器人，与OpenAI的ChatGPT形成鲜明对比。
ChatGPT在防诈骗中的应用
ChatGPT是一个先进的聊天机器人，可以帮助企业和组织预防欺诈。它能够分析大量的数据，从而识别和阻止欺诈活动。
ChatGPT主题的诈骗攻击增加
尽管OpenAI为用户提供了ChatGPT的免费版本，但骗子仍然引导受害者前往欺诈性的网站，并声称他们需要为这些服务付费。
发布者：Canadiankingpin
虽然FraudGPT的存在已经被确认，但发布它的人仍然是个谜。这个人使用的昵称是Canadiankingpin，他不仅发布了FraudGPT，还在暗网上提供其他欺诈服务，如销售电子邮件线索和信用卡CVV码。Canadiankingpin的身份和动机仍然是一个未解之谜。
AI的风险
FraudGPT的出现再次提醒我们，技术的进步总是伴随着风险。AI技术在正确的手中可以创造奇迹，但在错误的手中，它也可以成为一种破坏性的工具。OpenAI、谷歌等公司都在努力为大模型设计更多的限制措施，但目前仍然没有人能够完全避免类似问题的发生。
结论
随着技术的发展，我们必须更加警惕其潜在的风险。FraudGPT只是众多可能的威胁之一。为了确保我们的网络安全，我们必须不断地学习、适应并采取措施来应对这些新的挑战。
