AI
2篇文章 · 0订阅
  • LLM生成Json结构化数据的几种方案
    个人目前认为最好的方式依然是`TypeScript约束Prompt + Yaml格式输出`，适用于90%的结构化输出场景。 如果不缺钱，使用接口提供的Json Mode也是一种很好的选择。
    ChatGPT OpenAI
  • 从 OpenAI API 流式传输 JSON 的二三事
    在我们的业务场景当中，会向 OpenAI API 请求结构化的数据返回。 在流式返回的过程中，可能会包含需要向用户展示的一些内容，但此时JSON 的数据格式可能是不完整的。
    后端 前端