首页 > 其他分享 >一些不错的LLM 结构化输出库

一些不错的LLM 结构化输出库

时间:2024-09-14 15:51:20浏览次数:9  
标签:输出 结构化 github 不错 LLM instructor com

结构化输出对于LLM 是一个比较重要的功能,以下是一个开源不错的工具,可以方便使用

简单说明

outlines以及instructor 是很不错的工具对于基于api 的推荐使用instructor,kor 以及langchain 集成比较好
guardrails 也算是一个不错的工具提供了结构化输出的能力,但是核心是数据的校验能力

参考资料

https://github.com/eyurtsev/korhttps://github.com/tanchongmin/strictjson

https://github.com/noamgat/lm-format-enforcer/tree/main

https://github.com/jxnl/instructor/

https://github.com/outlines-dev/outlines

https://github.com/guardrails-ai/guardrails

https://github.com/1rgs/jsonformer

标签:输出,结构化,github,不错,LLM,instructor,com
From: https://blog.51cto.com/rongfengliang/12017535

相关文章

  • ubuntu20.04 ssh远程开启vnc,并显示hdmi输出界面
    要通过SSH远程连接到Ubuntu20.04电脑的桌面,并显示当前屏幕的内容,可以使用x11vnc工具。以下是详细的步骤:安装x11vnc:首先,确保你已经通过SSH连接到目标电脑,并运行以下命令来安装x11vnc:sudoaptupdatesudoaptinstallx11vnc设置VNC密码(可选):为了安全起见,你可以设......
  • 大语言模型(LLM)入门学习路线图
    Github项目上有一个大语言模型学习路线笔记,它全面涵盖了大语言模型的所需的基础知识学习,LLM前沿算法和架构,以及如何将大语言模型进行工程化实践。这份资料是初学者或有一定基础的开发/算法人员入门活深入大型语言模型学习的优秀参考。这份资料重点介绍了我们应该掌握哪些核......
  • C#窗体应用中打开控制输出内容
    窗体程序中打开控制台输出内容namespaceWinForms中打开控制台{publicpartialclassForm1:Form{/////////////以下控制台调用相关代码///////////////////////////[System.Runtime.InteropServices.DllImport("kernel32.dll",SetLastErr......
  • GitHub狂飙3万star的LLM公开资料
    先用一张图片说明这篇blog多火热!本篇大型语言模型(LLM)课程分为三个部分:......
  • pandas-ai 基于LLM进行数据分析的python 框架
    pandas-ai基于LLM进行数据分析的python框架包含的特性基于自然语言的数据查询数据可视化数据清理特征生成数据链接(支持链接多种不同的数据源)说明对于基于数据分析的场景pandas-ai是一个值得尝试的工具,同时官方也微调了一个BambooLLM的模型(基于mistral)目前也已经在huggingface......
  • litellm proxy ui 的处理
    litellmproxyui关于static的处理是基于了fastapi的StaticFiles,使用了绝对路径配置的,以下是一个简单说明参考代码litellm/proxy/proxy_server.pycurrent_dir=os.path.dirname(os.path.abspath(__file__))ui_path=os.path.join(current_dir,"_experimental","out")app.m......
  • MemLong: 基于记忆增强检索的长文本LLM生成方法
    本文将介绍MemLong,这是一种创新的长文本语言模型生成方法。MemLong通过整合外部检索器来增强模型处理长上下文的能力,从而显著提升了大型语言模型(LLM)在长文本处理任务中的表现。核心概念MemLong的设计理念主要包括以下几点:高效扩展LLM上下文窗口的轻量级方法。利用不可训练的......
  • C++一元多项式解析、计算、输出(数据结构作业),可直接运行
    //Copyright(c)[email protected]#include<bits/stdc++.h>classPolynomial{private:std::unordered_map<int,int>data_;voidzero_value_optimization(){for(autoiter=data_.begin();iter!=data_.end();){......
  • VS2022中文字符输出为乱码的解决
    一、问题vs2022输出中文时,出现乱码现象二、解决方案 把文件的字符编码格式改为utf-8格式选择工具,点击自定义选择命令,点击添加命令 选择文件,点击高级保存选项,然后点击确定 点击高级保存选项 选择utf-8编码格式,然后点击确定 三、问题解决 ......
  • [独家原创]基于(开普勒)KOA-Transformer-LSTM多特征分类预测【24年新算法】 (多输入单
    [独家原创]基于(开普勒)KOA-Transformer-LSTM多特征分类预测【24年新算法】(多输入单输出)Matlab代码你先用你就是创新!!!(鳑鲏鱼)KOA优化的超参数为:隐藏层节点数、正则化系数、初始化学习率1.程序已经调试好,无需更改代码替换数据集即可运行!!!数据格式为excel!2.Transformer作为......