首页 > 数据库 >【虹科分享】用Redis为LangChain定制AI代理——OpenGPTs

【虹科分享】用Redis为LangChain定制AI代理——OpenGPTs

时间:2024-01-11 14:03:50浏览次数:29  
标签:AI Redis 代理 LangChain OpenGPTs LLM

penAI最近推出了OpenAI GPTs——一个构建定制化AI代理的无代码“应用商店”,随后LangChain开发了类似的开源工具OpenGPTs。 OpenGPTs是一款低代码的开源框架,专用于构建定制化的人工智能代理。因为Redis具有高速和稳定性的优点,所以LangChain选择了Redis来作为OpenGPTs的默认向量数据库。 如何利用OpenGPTs和Redis构建一个智能AI代理?

LangChain创始人Harrison Chase表示:“我们在OpenGPTs中使用Redis存储所有长期内容,包括将其用作用于检索的向量存储和用于存储消息与代理配置的数据库。Redis将所有这些功能集成在一个数据库中,这非常有吸引力。”

一、OpenGPTs简介

通过几个配置步骤,我们可以用OpenGPTs构建一个精通Redis的机器人,名为“RedisGuru”。以下是我们选择的LLM、系统消息和工具的示例,包括DuckDuckGo搜索、维基百科搜索,以及通过Kay.ai访问的公共新闻稿。 image.png 配置并部署RedisGuru后,可以测试代理如何运行: image.png 此外,我们还可以查询有关Redis数据结构的问题。可以看到,RedisGuru记住了我的名字: image.png 我们构建的这个RedisGuru代理只是一个应用示例。你也可以构建各类应用,比如电子邮件文案编辑器、智能研究助理、代码审查员等。

二、Redis在OpenGPTs中的作用

在这个OpenGPTs演示的背后,Redis提供了一个强大且高性能的数据层,是 OpenGPTs 技术栈不可或缺的一部分。 Redis可以持久化用户聊天会话(线程)、代理配置和嵌入式文档块,并用于向量数据库检索。

  • 用户聊天会话:为了在对话中维持“状态”,Redis为OpenGPTs提供了用户与AI代理间的持久聊天线程。这些聊天会话也被输入到LLM中,以提供当前对话状态的上下文信息。
  • 代理配置:为了支持多租户代理架构,Redis为OpenGPTs提供了一个远程的、低延迟的存储层。当应用程序启动时,它从Redis读取指定的代理设置,然后开始处理请求。
  • 向量数据库用于RAG:为了让对话基于实际情况,OpenGPTs允许我们上传“知识”源,以便LLM将其与生成的答案结合。通过一种称为检索增强生成(RAG)的过程,OpenGPTs将上传的文档存储在Redis中,并提供实时向量搜索,以检索与LLM相关的上下文。

这些功能是Redis平台的一部分,通过我们的LangChain + Redis集成融入到应用程序中。 Redis与LangChain的OpenGPTs集成带来了更高的灵活性、可扩展性以及实时处理和搜索能力。处理多样化数据结构的能力是Redis成为OpenGPTs记忆功能的首选解决方案。

三、在本地使用OpenGPTs

如果想亲自体验OpenGPTs,你可以在项目的README文件中找到更详细的指南。以下是一个快速概述: (https://github.com/langchain-ai/opengpts/blob/main/README.md) 1.安装后端依赖:克隆项目仓库,然后导航到后端目录并安装必要的Python依赖项。

cd backend
pip install -r requirements.txt

2.连接Redis和OpenAI:OpenGPTs使用Redis作为LLM的记忆库,使用OpenAI进行LLM的生成和嵌入。设置环境变量REDIS_URL和OPENAI_API_KEY,以连接到您的Redis实例和OpenAI账户。

export OPENAI_API_KEY=your-openai-api-key
export REDIS_URL=redis://your-redis-url

3.启动后端服务器:在本地机器上运行LangChain服务器,提供应用程序服务。

langchain serve --port=8100

4.启动前端:在前端目录中,使用yarn启动开发服务器。

cd frontend
yarn
yarn dev

5.在浏览器中打开http://localhost:5173/,与您的本地OpenGPTs部署进行交互。

四、在云端使用OpenGPTs

如果希望在没有本地设置的情况下使用OpenGPTs,可以尝试在谷歌云上部署。另外,你还可以访问由LangChain、LangServe和Redis支持的托管预览部署。这种部署展示了OpenGPTs的可定制性和易用性。

五、Redis与LangChain赋能创新

Redis企业版作为一款企业级的低延迟向量数据库,在支持生成性AI项目方面具有独特优势。其不仅提供向量搜索,还提供多功能数据结构,能有效满足LLMs的应用状态需求。这个强大的平台提供了优异的可扩展性和性能,Redis借此成为生成式AI领域的重要工具。

标签:AI,Redis,代理,LangChain,OpenGPTs,LLM
From: https://blog.51cto.com/u_14928887/9198185

相关文章

  • win下php7.2安装xdebug和php-redis
    先通过phpinfo()查看自己的php信息确定版本为:7.2-nts-vc15-x861、安装xdebughttps://xdebug.org/download.php下载对应的版本dll文件将dll文件复制到php文件夹的ext文件夹内修改php.ini,添加zend_extension=php_xdebug-2.7.0beta1-7.2-vc15-nts.dll重启apache,再次查看phpinfo()2、安......
  • [转帖]从Linux源码看TIME_WAIT状态的持续时间
    https://zhuanlan.zhihu.com/p/286537295 从Linux源码看TIME_WAIT状态的持续时间前言笔者一直以为在Linux下TIME_WAIT状态的Socket持续状态是60s左右。线上实际却存在TIME_WAIT超过100s的Socket。由于这牵涉到最近出现的一个复杂Bug的分析。所以,笔者就去Linux源码里面,......
  • AI模型的自我追溯能力测试
    AI模型的自我追溯能力测试通常是指评估模型在生成输出时,是否能够提供关于其决策过程的详细信息。这种能力对于理解模型的行为、解释其预测结果以及提高模型的透明度和可解释性至关重要。以下是一些建议的方法来测试AI模型的自我追溯能力:特征重要性分析:通过计算模型在训练过程......
  • 无涯教程-Redis - CONFIG SET 命令函数
    RedisCONFIGSet命令用于在运行时重新配置服务器,而无需重新启动Redis。CONFIGSET-语法以下是RedisCONFIGSet命令的基本语法。redis127.0.0.1:6379>CONFIGSetparametervalueCONFIGSET-示例redis127.0.0.1:6379>CONFIGGet"requirePass"""redis12......
  • 广义物联网与AI大模型迷你版的应用与代码
    广义物联网(IoT)是指通过互联网连接各种物理设备,实现设备之间的信息交换和通信。AI大模型迷你版是指一个简化版的人工智能模型,用于处理和分析数据。在广义物联网与AI大模型迷你版的应用中,我们可以将物联网设备收集到的数据输入到AI大模型中进行分析和预测。以下是一个简单的示例,使用......
  • 无涯教程-Redis - CONFIG REWRITE 命令函数
    RedisCONFIGREWRITE命令重写服务器启动时使用的redis.conf文件,并应用最小的更改以反映服务器当前使用的配置。CONFIGREWRITE-语法以下是RedisCONFIGREWRITE命令的基本语法。redis127.0.0.1:6379>CONFIGREWRITEparameter参考链接https://www.learnfk.com/redi......
  • 无涯教程-Redis - COMMAND INFO 命令函数
    RedisCOMMANDINFO返回有关多个Redis命令的详细信息。COMMANDINFO-返回值返回命令详细信息的嵌套列表。COMMANDINFO-语法以下是RedisCOMMANDINFO命令的基本语法。redis127.0.0.1:6379>COMMANDINFOcommand-name[command-name...]COMMANDINFO-示例re......
  • 安谋科技“周易”NPU与飞桨完成II级兼容性测试,助力实现多样化AI部署
    近日,安谋科技(中国)有限公司(以下简称“安谋科技”)“周易”NPU系列IP与飞桨已完成II级兼容性测试,测试结果显示,双方兼容性表现良好,整体运行稳定。这是安谋科技加入“硬件生态共创计划”后的阶段性成果。产品兼容性证明本次II级兼容性测试完成了对计算机视觉、智能文本处理、人像分割三......
  • 最新消息:OpenAI GPT Store 正式上线,GPTs 应用商店来了!
    原文链接https://openaigptguide.com/gpt-store-and-chatgpt-team/OpenAI推出的两款新产品和服务:GPTStore和ChatGPTTeam,提供了许多全新的解决方案和功能,旨在帮助用户更轻松地使用和构建GPT工具,同时也增加了公司的收入来源。GPTStore是一个全新的在线平台,允许用户创建和分享自......
  • 智能AI一键养号,助力账号增加浏览轨迹的全新体验
    我想分享一下我对亚马逊鲲鹏系统的智能AI一键养号功能的使用体验。这一创新性的功能让账号的养号过程变得更加轻松、灵活且有效。首先,我对软件的AI功能页面印象深刻。通过勾选不同的姓名、职业、性别等选项,我可以生成各种不同的AI角色。这些角色使得账号在养号过程中能够随机搜索、......