首页 > 其他分享 >AgentLite 一个轻量级LLM Agent框架

AgentLite 一个轻量级LLM Agent框架

时间:2024-09-25 22:14:12浏览次数:11  
标签:LLM 框架 AI 代理 Agent PromptGen AgentLite 轻量级

一些初步的想法

  1. AI 代理的核心架构开始趋于稳定,开发人员似乎更关注实践上。
  2. AI 代理将扩展其功能,特别是在视觉探索、网页浏览和移动操作系统集成等领域。
  3. Salesforce 似乎正在大力推动其在 AI 代理研究方面的进步,特别是关注大型动作模型及其开发框架。
  4. 比较开发框架本质上是具有挑战性的,因为它在很大程度上取决于特定的用例、组织内部的专业知识以及相关技术团队的偏好。
  5. 微软 (Autogen 和 Bot Framework Composer)这样的公司,就是将开发框架的开源作为一种吸引开发者到他们云平台的方式——一种低调但有效的营销形式。
  6. 知识就是力量。对现有框架和最佳实践的深刻理解对于驾驭这一不断变化的格局至关重要。

介绍

Salesforce 对 AI 代理做出了明确的承诺。这始于他们对一系列大型动作模型的研究和开源,现在继续发布 AgentLite,这是一个旨在构建 AI 代理的开源框架。

该研究进一步强调了 AgentLite 与其他代理构建库的特性的比较。

该研究指出,与许多现有的工具不同,AgentLite 在其代理创建过程中可能是复杂或僵化的,它简化了任务,为研究人员开发新的代理推理类型和架构提供了灵活性和定制性。

LangChain 批评

该研究还指出,LangChain 是一个流行的库,用于开发使用大型语言模型(llm)的应用程序,提供内置工具来创建各种代理类型。

但对于想要设计新型智能体推理和架构的研究人员来说,它往往过于复杂。由于代理创建的高开销,修改 LangChain 以满足特定的研究需求可能很困难。

虽然 Autogen 已经成功地构建了 LLM 代理,但它的代理接口有固定的推理类型,这使得它很难适应其他研究任务。此外,它的架构仅限于多智能体对话和代码执行,可能不适合所有的新场景或基准测试。

AgentLite 个人代理

在 AgentLite 中,个人代理作为基础代理类,建立在四个核心模块上:

  1. PromptGen
  2. Actions
  3. LLM
  4. Memory

PromptGen

PromptGen 负责构造代理发送给 LLM 以生成操作的提示。

这些提示由几个组件组成,例如代理的角色描述指令约束动作和相关示例。

AgentLite 包括组合这些元素的默认方法,但也为开发人员为特定任务创建自定义提示提供了灵活性。

Actions

Actions表示代理可以自主执行的任务。

AgentLite 包含一个 BaseAction 类,开发人员可以扩展它来定义自定义操作,从而允许代理无缝地执行各种自动化任务。

这种模块化设计确保了研究人员可以轻松地构建、定制和扩展他们的代理以满足特定需求。

LLM

框架包括一个 BaseLLM 包装器类,它接受一个输入字符串,并返回 LLM 生成的相应输出。

Memory

Memory模块存储代理过去的动作和观察。

在执行过程中,代理检索其动作观察历史,然后将其输入 PromptGen 模块,以帮助生成下一个动作。

所有动作及其产生的观察结果都立即保存在memory中,允许代理在正在进行的任务期间引用其先前的决策。

标签:LLM,框架,AI,代理,Agent,PromptGen,AgentLite,轻量级
From: https://www.cnblogs.com/little-horse/p/18432362

相关文章

  • 社区来稿丨一个真正意义上的实时多模态智能体框架,TEN Framework 为构建下一代 AI Agen
    本文由RTE开发者社区成员通过社区网站投稿提供,如果你也有与实时互动(Real-TimeEngagement,RTE)相关的项目分享,欢迎访问网站rtecommunity.dev发布,优秀项目将会在公众号发布分享。   自从OpenAI展示了GPT-4o的实时对话能力后,感觉电影《Her》中的场景瞬间成了现实。受......
  • LLM大模型: 生成式模型的数学原理和prompt融入image
     1、(1)上文介绍了DDPM生成图片的原理和代码测试结果,训练时给样本图片加上gaussiannoise,预测时也是预测gaussiannoise;这里为啥要用gaussiandistribution?为啥不用其他的分布?高斯分布相对比较简单,只有两个参数:均值和方差,容易控制;为啥一张随机生成的gaussionnoise经过很......
  • SimpleAIAgent:使用免费的glm-4-flash即可开始构建简单的AI Agent应用FI
    合集-C#(80)1.使用C#将几个Excel文件合并去重分类2023-11-152.C#使用SqlSugar操作MySQL数据库实现简单的增删改查2023-11-163.C#中的类和继承2023-11-174.C#中的virtual和override关键字2023-11-175.C#中的属性2023-11-206.C#winform中使用SQLite数据库2023-11-237.C#简化工作之......
  • 大语言模型(LLM)入门学习路线图
    Github项目上有一个大语言模型学习路线笔记,它全面涵盖了大语言模型的所需的基础知识学习,LLM前沿算法和架构,以及如何将大语言模型进行工程化实践。这份资料是初学者或有一定基础的开发/算法人员入门活深入大型语言模型学习的优秀参考。这份资料重点介绍了我们应该掌握哪些核......
  • AI推介-大语言模型LLMs论文速览(arXiv方向):2024.08.25-2024.08.31
    文章目录~1.LongRecipe:RecipeforEfficientLongContextGeneralizationinLargeLanguageModels2.GenAI-poweredMulti-AgentParadigmforSmartUrbanMobility:OpportunitiesandChallengesforIntegratingLargeLanguageModels(LLMs)andRetrieval-Augm......
  • SimpleAIAgent:使用免费的glm-4-flash即可开始构建简单的AI Agent应用
    SimpleAIAgent是基于C#SemanticKernel与WPF构建的一款AIAgent探索应用。主要用于使用国产大语言模型或开源大语言模型构建AIAgent应用的探索学习,希望能够帮助到感兴趣的朋友。接下来我想分享一下我的AIAgent应用实践。翻译文本并将文本存入文件第一个例子是翻译文本,并将......
  • CS34 HomeAgent: A Sandbox for Simulating Smart
    Projectnumber:CS34ProjectSource:SchoolofComputerScienceProjectTitle:HomeAgent:ASandboxforSimulatingSmartHomeInteractionandAutomationUsingLargeLanguageModelsProjectDescriptionandScope:ThisprojectinvolvesupgradingtheHomeAgen......
  • 深入理解LLM的可观测性
    特定的ChatLanguageModel和StreamingChatLanguageModel实现(请参见“可观测性”列)允许配置ChatModelListener,用于监听以下事件:对LLM的请求LLM的响应错误这些事件包含的属性包括OpenTelemetry生成AI语义约定中的描述,例如:请求:模型温度(Temperature)TopP最大......
  • 要大爆发的AI Agent是什么?(软件测试人员需要掌握)
    什么是AIAgent?AIAgent是一种软件程序,可以与环境交互,收集数据,并使用数据执行自主任务以实现预定目标。即人类设定目标,AIAgent 独立选择实现这些目标所需的最佳行动。简单来说,AIAgent是一个能够感知环境、做出决策并采取行动以达成特定目标的自主实体。它基于预设的目......
  • MemLong: 基于记忆增强检索的长文本LLM生成方法
    本文将介绍MemLong,这是一种创新的长文本语言模型生成方法。MemLong通过整合外部检索器来增强模型处理长上下文的能力,从而显著提升了大型语言模型(LLM)在长文本处理任务中的表现。核心概念MemLong的设计理念主要包括以下几点:高效扩展LLM上下文窗口的轻量级方法。利用不可训练的外部记......