#ChatGPT官方App上线美国苹果商店# ChatGPT 插件简直是安全噩梦！
这个仓库介绍了针对ChatGPT插件的间接注入攻击，基于LangChain编写脚本。使用间接注入攻击，利用语言模型（LLMs）中的提示注入攻击接口，可以导致漏洞攻击，如遥控聊天 LLM、泄露用户数据、持久性攻击，向其他 LLMs 注入代码等。这种攻击可以通过依赖于上下文的机制，绕过自动化测试。此外，该攻击还可自动处理信息和数据，可对大型科技公司和政府监视基础设施造成威胁。因此，需要更深入地研究这种攻击在实践中的泛化性和可预防性。
仓库地址：
github.com
这个仓库介绍了针对ChatGPT插件的间接注入攻击，基于LangChain编写脚本。使用间接注入攻击，利用语言模型（LLMs）中的提示注入攻击接口，可以导致漏洞攻击，如遥控聊天 LLM、泄露用户数据、持久性攻击，向其他 LLMs 注入代码等。这种攻击可以通过依赖于上下文的机制，绕过自动化测试。此外，该攻击还可自动处理信息和数据，可对大型科技公司和政府监视基础设施造成威胁。因此，需要更深入地研究这种攻击在实践中的泛化性和可预防性。
仓库地址：
github.com
展开
评论
点赞
