OpenAI API 结构化输出功能介绍
为了提高模型输出 JSON 数据的可靠性，OpenAI 推出了结构化输出功能。该功能允许开发者提供 JSON Schema，确保模型生成的输出严格符合预期格式。
主要优势：
- 可靠性提升： 新模型
gpt-4o-2024-08-06在结构化输出评估中获得了 100% 的准确率，远超之前版本的 40%。 - 简化开发流程： 开发者无需再依赖第三方工具或复杂的提示工程来规范模型输出。
- 安全性保障： 结构化输出功能遵循 OpenAI 现有的安全策略，并允许模型拒绝不安全请求。
使用方法：
- 函数调用： 在函数定义中设置
strict: true启用结构化输出。例如：
{
"tools": [
{
"type": "function",
"function": {
"name": "query",
"strict": true,
"parameters": {
// ... JSON Schema 定义 ...
}
}
}
]
}
- 响应格式参数： 使用
response_format参数的json_schema选项提供 JSON Schema。例如：
{
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "math_response",
"strict": true,
"schema": {
// ... JSON Schema 定义 ...
}
}
}
}
其他特性：
- 原生 SDK 支持： Python 和 Node SDK 已更新，支持使用 Pydantic 或 Zod 对象定义 Schema，并自动处理类型转换、反序列化和拒绝响应。
- 拒绝响应识别： API 响应中新增
refusal字符串值，用于指示模型是否拒绝了请求。
应用场景：
- 根据用户意图动态生成用户界面。
- 分离最终答案与推理过程或附加评论。
- 从非结构化数据中提取结构化数据。
技术实现：
- 约束解码： 将 JSON Schema 转换为上下文无关语法 (CFG)，并在模型采样过程中动态限制可生成的 token，确保输出符合语法规则。
- 模型训练：
gpt-4o-2024-08-06经过专门训练，能够理解复杂的 Schema 并生成符合要求的输出。
局限性：
- 仅支持 JSON Schema 的一个子集。
- 首次使用新 Schema 时会产生额外的延迟。
- 模型可能会拒绝不安全请求或在生成完成前达到
max_tokens限制。
结构化输出功能是 OpenAI API 的一项重要改进，它显著提高了模型输出的可靠性和易用性，为开发者构建更强大的 AI 应用提供了便利。
闪迪推出容量惊人的 4TB microSD 卡和 8 TB SD 卡
存储卡制造商一直在努力提高 SD 和 microSD 卡的存储容量，闪迪也不例外。近日，西部数据在加州圣克拉拉举行的未来存储大会上宣布，将推出容量惊人的 4TB microSD 卡和 8TB SD 卡，创下全球首例。
这两款存储卡都将归于闪迪品牌旗下，主要面向智能手机、游戏设备、无人机、相机和笔记本电脑等设备。然而，为了追求更大的容量，这两款卡都只支持 UHS-I 速度等级，这意味着它们的传输速度可能无法满足专业摄影师和 摄像师的需求。
尽管速度方面有所妥协，但 8TB SD 卡和 4TB microSD 卡的容量仍然令人瞩目。此外，西部数据还展示了首款 16TB 便携式固态硬盘 SanDisk Desk Drive，旨在满足日益增长的内容创作和消费需求。
来源:
petapixel.com/2024/08/08/…
更多内容请查阅 : blog-240814
关注微信官方公众号 : oh my x
获取开源软件和 x-cmd 最新用法
