ChatGPT输出可以更加可控了,OpenAI昨天发布了一款工具,该工具将以用户指定的精确格式返回查询结果。
OpenAI 首席执行官Sam Altman表示,这是使用 AI 技术的开发人员提出最多的请求。
1.OpenAI 今年的重点:DevTools
自 2022 年 11 月首次亮相以来,ChatGPT 服务已被无数应用程序开发人员用于代理驱动和其他应用程序。但是,虽然 ChatGPT 使用大量非结构化数据来提供其结果(通过 API 驱动的函数调用),但应用程序开发人员更希望将这些结果作为结构化数据提供,以便各自的应用程序可以更好地解析它们。
去年,OpenAI 扩展了其 API,以包含以JSON形式提供的结果。本周三,该公司更进一步,推出了一项名为“结构化输出”的新 API 功能,该功能将以开发人员在查询中指定的任何JSON 模式提供结果。
OpenAI技术人员Michelle Pokrass在周二发布的一篇博客文章中写道:“开发人员长期以来一直在通过开源工具、提示和反复重试请求来解决 LLM 的局限性,以确保模型输出符合与其系统互操作所需的格式。 ”
“结构化输出通过约束 OpenAI 模型以匹配开发人员提供的模式并训练我们的模型以更好地理解复杂模式来解决此问题。”
2.结构化输出如何提高 LLM质量
结构化输出与普通用户提示生成的输出不同,因为它们在所能提供的信息方面受到限制,这种技术称为“约束采样”或“约束解码”。
Pokrass 解释说:“为了强制有效输出,我们将模型限制为仅根据提供的模式有效的标记,而不是所有可用的
标签:输出,结构化,开发人员,应用程序,OpenAI,开发者,ChatGPT,福音 From: https://blog.csdn.net/leyang0910/article/details/141028159