获得徽章 0
每个做 LLM Agent 的都踩过这个坑：你 prompt 里写"绝对别删用户数据"，
下一轮它就给你来个 `DROP TABLE users`。
写再细的 prompt 也没用 —— 模型把规则当上下文读，不当约束执行。
做了个开源代理放在 app 和 LLM 之间，用一个 `RULES.md` 文件在运行时
强制规则，违规直接拦或下一轮纠正。改一行 base_url 就能接，
Anthropic / OpenAI / Gemini 都支持。
#AI# #LLM# #开源项目#
下一轮它就给你来个 `DROP TABLE users`。
写再细的 prompt 也没用 —— 模型把规则当上下文读，不当约束执行。
做了个开源代理放在 app 和 LLM 之间，用一个 `RULES.md` 文件在运行时
强制规则，违规直接拦或下一轮纠正。改一行 base_url 就能接，
Anthropic / OpenAI / Gemini 都支持。
#AI# #LLM# #开源项目#
展开
评论
1