OpenAI API 结构化输出功能介绍

为了提高模型输出 JSON 数据的可靠性，OpenAI 推出了结构化输出功能。该功能允许开发者提供 JSON Schema，确保模型生成的输出严格符合预期格式。

主要优势：

• 可靠性提升： 新模型 gpt-4o-2024-08-06 在结构化输出评估中获得了 100% 的准确率，远超之前版本的 40%。
• 简化开发流程： 开发者无需再依赖第三方工具或复杂的提示工程来规范模型输出。
• 安全性保障： 结构化输出功能遵循 OpenAI 现有的安全策略，并允许模型拒绝不安全请求。

使用方法：

1. 函数调用： 在函数定义中设置 strict: true 启用结构化输出。例如：

{"tools": [{"type": "function","function": {"name": "query","strict": true,"parameters": {// ... JSON Schema 定义 ...}}}]
}

2. 响应格式参数： 使用 response_format 参数的 json_schema 选项提供 JSON Schema。例如：

{"response_format": {"type": "json_schema","json_schema": {"name": "math_response","strict": true,"schema": {// ... JSON Schema 定义 ...}}}
}

其他特性：

• 原生 SDK 支持： Python 和 Node SDK 已更新，支持使用 Pydantic 或 Zod 对象定义 Schema，并自动处理类型转换、反序列化和拒绝响应。
• 拒绝响应识别： API 响应中新增 refusal 字符串值，用于指示模型是否拒绝了请求。

应用场景：

• 根据用户意图动态生成用户界面。
• 分离最终答案与推理过程或附加评论。
• 从非结构化数据中提取结构化数据。

技术实现：

• 约束解码： 将 JSON Schema 转换为上下文无关语法 (CFG)，并在模型采样过程中动态限制可生成的 token，确保输出符合语法规则。
• 模型训练： gpt-4o-2024-08-06 经过专门训练，能够理解复杂的 Schema 并生成符合要求的输出。

局限性：

• 仅支持 JSON Schema 的一个子集。
• 首次使用新 Schema 时会产生额外的延迟。
• 模型可能会拒绝不安全请求或在生成完成前达到 max_tokens 限制。

结构化输出功能是 OpenAI API 的一项重要改进，它显著提高了模型输出的可靠性和易用性，为开发者构建更强大的 AI 应用提供了便利。

来源:

https://openai.com/index/introducing-structured-outputs-in-the-api/

闪迪推出容量惊人的 4TB microSD 卡和 8 TB SD 卡

存储卡制造商一直在努力提高 SD 和 microSD 卡的存储容量，闪迪也不例外。近日，西部数据在加州圣克拉拉举行的未来存储大会上宣布，将推出容量惊人的 4TB microSD 卡和 8TB SD 卡，创下全球首例。

这两款存储卡都将归于闪迪品牌旗下，主要面向智能手机、游戏设备、无人机、相机和笔记本电脑等设备。然而，为了追求更大的容量，这两款卡都只支持 UHS-I 速度等级，这意味着它们的传输速度可能无法满足专业摄影师和 摄像师的需求。

尽管速度方面有所妥协，但 8TB SD 卡和 4TB microSD 卡的容量仍然令人瞩目。此外，西部数据还展示了首款 16TB 便携式固态硬盘 SanDisk Desk Drive，旨在满足日益增长的内容创作和消费需求。

来源:

https://petapixel.com/2024/08/08/sandisk-is-the-first-to-cram-4tb-into-a-microsd-and-8tb-into-an-sd-card/

更多内容请查阅 : blog-240814

---

关注微信官方公众号 : oh my x

获取开源软件和 x-cmd 最新用法