• 2024-09-14一些不错的LLM 结构化输出库
    结构化输出对于LLM是一个比较重要的功能,以下是一个开源不错的工具,可以方便使用简单说明outlines以及instructor是很不错的工具对于基于api的推荐使用instructor,kor以及langchain集成比较好guardrails也算是一个不错的工具提供了结构化输出的能力,但是核心是数据的校验能力参考
  • 2024-07-28通过instructor 对于LLM 进行结构化输出
    很多时候我们是需要对于LLM生成的内容进行结构化输出的,比如我们希望利用LLM的能力,对于用户发布的内容进行情感分析,或者对于文档内容提取关键信息并转换为结构化的内容,instructor是一个很不错的选择(支持多种语言的),以下演示下基于python的参考使用大模型部署为了方便使用了