来自 UC Berkeley 的 Sizhe Chen 提出了一种名为 StruQ 的系统，通过使用结构化查询来防御提示注入攻击(Prompt Injections)。StruQ 将提示和用户数据分离，通过前端编码和特殊训练的 LLM 来提高安全性。实验结果显示，StruQ 在抵御多种提示注入攻击方面表现出色，同时对模型的实用性影响甚微。
论文地址：
arxiv.org
开源：github.com
论文地址：
arxiv.org开源：
github.com
展开
评论
点赞
- 第一次用trae IDE，感觉真的是比cursor体验好太多了，有人有同感吗？0 赞 · 15 评论
- 兄弟们分享个AI产品的落地教程，有需要落地AI产品的可以参考一下。tcnw1vf2a5i7.feishu.cn4 赞 · 2 评论
- 最新感悟：大模型时代知道如何使用不同的AI工具获取正确答案的能力是区别人与人差距的关键。比如最近我在帮公司做一些财务上的智能分析工作，但是我并不会财务会计知识，虽然我也学过一些但总体是不熟的，我去问大模型就发现Gemini和deepseek给的答案就好一些，由此我联想到未来agent越来越多，你知道用哪个agent更好而别人不知道，你用AI更熟悉而别人不熟，这将带来根本性的差距。0 赞 · 7 评论