最近在用 AI 写一个生成式的产品，就是 输入需求 => 生成数据 => 解析数据入库 => 渲染数据 这样一个流程，但如果选用的生成模型智能化比较高的话就没什么问题，一旦用一些低成本的模型，比如 Qwen/Minimax2/glm-flash 等，在解析数据入库时经常碰到解析失败，数据结构和预期不一致，然后陷入了无尽的让 AI 调试 prompt 的环节，调整了各种 example，各种 system prompt，最后在这些低智能模型下仍然连 60% 的成功率都达不成，直到今天我才突然意识到——其实，写错了，不是不能改。于是我就换了个思路，如果生成的结果不符合预期，就把不符合预期数据结构的结果再次给模型纠正，虽然多耗了资源，但是成功率直接高达 95% 了（剩下 5 % 失败是因为我限制了纠正次数，超过纠正次数上限还不行就还是失败）
展开
评论
2