生成式 AI：Chat 与 Agent 的发展博弈

生成式 AI 的发展方向，是 Chat 还是 Agent？

随着生成式AI技术的不断进步，关于其未来发展方向的讨论也愈发激烈。究竟生成式AI的未来是在对话系统（Chat）中展现智慧，还是在自主代理（Agent）中体现能力？这一问题引发了广泛的讨论和探索。你怎么看待生成式AI的未来发展方向？

什么是AI Agent (LLM Agent)

AI Agent 的定义

AI Agent是一种超越简单文本生成的人工智能系统。它使用大型语言模型（LLM）作为其核心计算引擎，使其能够进行对话、执行任务、推理并展现一定程度的自主性。简而言之，Agent是一个具有复杂推理能力、记忆和执行任务手段的系统。

AI Agent 的主要组成部分：

在LLM赋能的自主agent系统中(LLM Agent)，LLM充当agent大脑的角色，并与若干关键组件协作 。

规划（planning）

• • 子目标分解：agent将大任务拆分为更小的可管理的子目标，使得可以有效处理复杂任务。
• • 反思与完善：agent对历史动作可以自我批评和自我反思，从错误中学习并在后续步骤里完善，从而改善最终结果的质量。

记忆（Memory）

• 短期记忆：上下文学习即是利用模型的短期记忆学习。
• 长期记忆：为agent提供保留和召回长期信息的能力，通常利用外部向量存储和检索实现。

工具使用（tool use）

• 对模型权重丢失的信息，agent学习调用外部API获取额外信息，包括当前信息、代码执行能力、专有信息源的访问等等。

行动（Action）

• 行动模块是智能体实际执行决定或响应的部分。面对不同的任务，智能体系统有一个完整的行动策略集，在决策时可以选择需要执行的行动，比如广为熟知的记忆检索、推理、学习、编程等。

AI Agent的意义

人机协同模式

基于大模型的Agent不仅可以让每个人都有增强能力的专属智能助理，还将改变人机协同的模式，带来更为广泛的人机融合。生成式AI的智能革命演化至今，从人机协同呈现了三种模式：

（1）嵌入（embedding）模式。用户通过与AI进行语言交流，使用提示词来设定目标，然后AI协助用户完成这些目标，比如普通用户向生成式AI输入提示词创作小说、音乐作品、3D内容等。在这种模式下，AI的作用相当于执行命令的工具，而人类担任决策者和指挥者的角色。

（2）副驾驶（Copilot）模式。在这种模式下，人类和AI更像是合作伙伴，共同参与到工作流程中，各自发挥作用。AI介入到工作流程中，从提供建议到协助完成流程的各个阶段。例如，在软件开发中，AI可以为程序员编写代码、检测错误或优化性能提供帮助。人类和AI在这个过程中共同工作，互补彼此的能力。AI更像是一个知识丰富的合作伙伴，而非单纯的工具。

实际上，2021年微软在GitHub首次引入了Copilot（副驾驶）的概念。GitHub Copilot是一个辅助开发人员编写代码的AI服务。2023年5月，微软在大模型的加持下，Copilot迎来全面升级，推出Dynamics 365 Copilot、Microsoft 365 Copilot和Power Platform Copilot等，并提出“Copilot是一种全新的工作方式”的理念。工作如此，生活也同样需要“Copilot”，“出门问问”创始人李志飞认为大模型的最好工作，是做人类的“Copilot”。

（3）智能体（Agent）模式。人类设定目标和提供必要的资源（例如计算能力），然后AI独立地承担大部分工作，最后人类监督进程以及评估最终结果。这种模式下，AI充分体现了智能体的互动性、自主性和适应性特征，接近于独立的行动者，而人类则更多地扮演监督者和评估者的角色。

人类与AI协同的三种方式

从前文对智能体记忆、规划、行动和使用工具四个主要模块的功能分析来看，智能体模式相较于嵌入模式、副驾驶模式无疑更为高效，或将成为未来人机协同的主要模式。

基于Agent的人机协同模式，每个普通个体都有可能成为超级个体。超级个体是拥有自己的AI团队与自动化任务工作流，基于Agent与其他超级个体建立更为智能化与自动化的协作关系。现在业内不乏一人公司、超级个体的积极探索。

AI Agent与软件开发

AI Agent将使软件架构的范式从面向过程迁移到面向目标。现有的软件（包括APP）通过一系列预定义的指令、逻辑、规则和启发式算法将流程固定下来，以满足软件运行结果符合用户的预期，即用户按照指令逻辑一步一步操作达成目标。这样一种面向过程的软件架构具有高可靠性、确定性。但是，这种面向目标的架构只能应用于垂直领域，而无法普遍应用到所有领域，因此标准化和定制化之间如何平衡也成为SaaS行业面对的难题之一。

软件架构范式迁移

AI Agent范式将原本由人类主导的功能开发，逐渐迁移为以AI为主要驱动力。以大模型为技术基础设施，Agent为核心产品形态，把传统软件预定义的指令、逻辑、规则和启发式算法的任务层级演变成目标导向的智能体自主生成。这样一来，原本的架构只能解决有限范围的任务，未来的架构则可以解决无限域的任务。未来的软件生态，不仅是最上层与所有人交互的媒介是Agent，整个产业的发展，无论是底层技术，商业模式，中间组件，甚至是人们的生活习惯和行为都会围绕Agent来改变，这就是Agent-Centric时代的开启。

RPA范式（Robotic Process Automation）与APA范式（Agentic Process Automation）的比较

常见LLM Agent框架或者应用

AutoGPT

https://github.com/Significant-Gravitas/AutoGPT

可以说是LLM Agent的鼻祖了。Auto-GPT是一个实验性的开源应用程序，展示了GPT-4语言模型的能力。这个程序由GPT-4驱动，将LLM“思想”连接在一起，以自主地实现您设置的任何目标。作为GPT-4完全自主运行的最早示例之一，Auto-GPT突破了人工智能的极限，将AI进程推向了新高度 -- 自主人工智能。

AutoGen

https://github.com/microsoft/autogen

微软发布的AutoGen agent是可定制的、可对话的，并能以各种模式运行，这些模式采用 LLM、人类输入和工具的组合。使用 AutoGen，开发人员还可以灵活定义agent交互行为。自然语言和计算机代码都可用于为不同的应用编程灵活的对话模式。AutoGen 可作为一个通用框架，构建具有不同复杂性和 LLM 能力的各种应用。实证研究证明了该框架在许多样本应用中的有效性，应用领域包括数学、编码、问答、运筹学、在线决策、娱乐等。

ChatDev

https://github.com/OpenBMB/ChatDev

清华大学 NLP 实验室联合面壁智能等科研机构研发的一个大模型驱动的全流程自动化软件开发框架。ChatDev (Chat-powered Software Development)。ChatDev 拟作一个由多智能体协作运营的虚拟软件公司，在人类“用户”指定一个具体的任务需求后，不同角色的智能体将进行交互式协同，以生产一个完整软件（包括源代码、环境依赖说明书、用户手册等）。这一技术为软件开发自动化提供了新的可能性，支持快捷高效且经济实惠的软件制作，未来将有效地将部分人力从传统软件开发的繁重劳动中解放出来。

XAgent

https://github.com/OpenBMB/XAgent

XAgent是面壁智能联合清华大学 NLP 实验室共同研发开源的基于LLM的自主智能体，可以自动解决各种任务。 它被设计为一个通用的智能体，可以应用于各种任务，终极目标是创建一个可以解决任何给定任务的超级智能体。换句话说，打造的是超级无敌的多边形战士，不是单独为某个任务设计的特定智能体。

GPT-engineer

https://github.com/gpt-engineer-org/gpt-engineer

HuggingGPT

HuggingGPT也是一个老牌的AI Agent项目了，主要思路为利用LLM的框架（例如。ChatGPT）来连接机器学习社区中的各种AI模型（例如huggingface）来解决人工智能任务。

网址：https://huggingface.co/spaces/microsoft/HuggingGPT

AI Agent的展望与挑战

展望

AI Agent是人工智能成为基础设施的重要推动力。回顾技术发展史，技术的尽头是成为基础设施，比如电力成为像空气一样不易被人们察觉，但是又必不可少的基础设施，还如云计算等。当然这个要经历以下三个阶段：

• 创新与发展阶段–新技术被发明并开始应用；
• 普及与应用阶段–随着技术成熟，它开始被广泛应用于各个领域，对社会和经济产生深远影响；
• 基础设施阶段–当技术变得普及到几乎无处不在，它就转变成了一种基础设施，已经成为人们日常生活中不可或缺的一部分。

几乎所有的人都认同，人工智能会成为未来社会的基础设施。而智能体正在促使人工智能基础设施化。这不仅得益于低成本的Agent软件生产优势，而且因为Agent能够适应不同的任务和环境，并能够学习和优化其性能，使得它可以被应用于广泛的领域，进而成为各个行业和社会活动的基础支撑。

人工智能智能体应用一览图

Agent下一步可能会朝着两个方向同时迭代。

一是与人协助的智能体，通过执行各种任务来协助人类，侧重工具属性；

二是拟人化方向的迭代，能够自主决策，具有长期记忆，具备一定的类人格特征，侧重于类人或超人属性。

挑战

从技术优化迭代和实现上来看，AI Agent的发展也面临一些瓶颈。技术方面，LLM模型仍然不够强大，即使是最强大的GPT4在AI Agent应用时，仍然面临以下一些问题：

• 上下文长度有限：上下文容量有限，限制了历史信息、详细说明、API 调用上下文和响应的包含。系统的设计必须适应这种有限的通信带宽，而从过去的错误中学习的自我反思等机制将从长或无限的上下文窗口中受益匪浅。尽管向量存储和检索可以提供对更大知识库的访问，但它们的表示能力不如充分关注那么强大。
• 长期规划和任务分解的挑战：长期规划和有效探索解决方案空间仍然具有挑战性。LLM在遇到意外错误时很难调整计划，这使得它们与从试错中学习的人类相比不太稳健。
• 自然语言接口的可靠性：当前的Agent系统依赖自然语言作为LLM与外部组件（例如内存和工具）之间的接口。然而，模型输出的可靠性值得怀疑，因为LLM可能会出现格式错误，并且偶尔会表现出叛逆行为（例如拒绝遵循指示）。因此，大部分Agent演示代码都专注于解析模型输出。

其次，太烧钱了，尤其是多智能体。斯坦福的虚拟小镇一个Agent一天需要消耗20美金价格的token数，因为其需要记忆和行动的思考量非常大。这一价格是比很多人类工作者更高的，需要后续Agent框架和LLM推理侧的双重优化。

还有就是现阶段在很多场景，使用AI Agent对比Copilot模式的最终效果，还看不到非常大的提升，或者说能覆盖增加成本的提升。大部分AI Agent技术还都是研究阶段。

最后，这些发展趋势预示着AI Agent可能面临诸如安全性与隐私性、伦理与责任、经济和社会就业影响等多方面的挑战。别的不说，对很多人的个人职业生涯的长期影响。

近年来，生成式人工智能（AI）不仅在技术界引起了广泛关注，更成为了推动多个行业革新的关键力量。这种技术之所以备受瞩目，不仅在于其独特的创造性和高效性，还在于它对未来商业模式和社会结构可能产生的深远影响。在这篇文章中，我们将全面介绍生成式AI的概念、定义、应用以及潜在风险，并对比Chat和Agent两种形式，分析它们在未来的发展前景中谁更具优势。

生成式AI

生成式AI，即AI-Generated Content，指的是利用人工智能技术自动生成内容，这些内容可以是文本、图像、音视频等多种形式。生成式AI与其他内容生产模式（如职业生产内容OGC、专业生产内容PGC和用户生产内容UGC）相比，具有更高的自动化程度和创新性。

在国内，生成式AI技术的迅猛发展已经催生了一系列备受瞩目的产品和应用。例如，盘古、文心一言、千问、混元以及Kimi等聊天机器人应用，它们通过模拟人类的对话方式，为用户提供了前所未有的交互体验。这些应用不仅在智能问答和日常对话中表现出色，更在特定领域展现了其独特的优势，如文心一言在古诗词创作方面的精湛技艺，以及Kimi在处理长文本方面的技术突破。

除此之外，国内外还涌现出了众多以生成音乐、视频和图片为主的创新产品，如Midjourney和Stable Diffusion等，它们利用先进的算法生成令人惊叹的视觉艺术作品。通义舞王和suna等产品则在舞蹈和音乐创作领域展现了AI的无限潜力。

尽管国内的生成式AI产品在某些方面已经能够与国际上的GPT技术相媲美，但我们也必须认识到，国外的GPT技术是在多年的深入研究和大量数据积累的基础上发展起来的。国内的AI技术虽然起步较晚，但发展速度迅猛，已经在多个细分领域展现出了强大的竞争力和创新能力。随着技术的不断进步和市场的日益成熟，我们有理由相信，国内的生成式AI产品将在未来的竞争中占据更加重要的地位，并在全球AI领域中发挥更加关键的作用。

生成式AI技术虽然在多个领域展现出了其强大的能力和广泛的应用前景，但与此同时，我们也不得不正视它所面临的一些挑战和局限性。首先，能源消耗问题是生成式AI技术的一个重要缺点。这些模型通常需要大量的计算资源来进行训练和运行，这不仅涉及到庞大的电力需求，还关系到能源的可持续性和环境影响。即便是在业界领先的OpenAI等机构，也面临着高昂的运营成本和资源投入，这在一定程度上限制了技术的普及和应用。

其次，生成式AI模型的体积问题也不容忽视。当前的AI模型往往拥有数十亿甚至数百亿的参数，这使得模型的存储和运算要求变得极为苛刻。这种对大规模数据和计算力的依赖，不仅增加了模型部署的复杂性，也限制了其在资源受限环境下的应用可能性。此外，为了实现全方位的性能提升，模型的规模和复杂度不断增加，这进一步加剧了能源消耗和存储需求的问题。这两个缺点在本质上是相互关联的。

AIGC与Agent的区别

AIGC通常指的是基于规则或机器学习模型的系统，能够与用户进行交互式对话。Chat的主要目的是提供信息、解答疑问或进行娱乐对话。它通常不具备长期记忆和复杂的个性化特征。

在开发和使用生成式AI模型的过程中，尤其是通过API进行封装和应用时，我们经常会面临上下文管理的挑战。这里的上下文限制并不仅仅是指代token数量的消耗，而是更深层次地涉及到模型对于长对话记忆的能力。尽管一些国内的AI产品，如Kimi，已经在处理长文本对话方面取得了显著进展，但要让这些chat模型像人类一样记住并理解整个对话历史仍然是一个巨大的挑战。

这是因为，目前的chat模型大多是基于短期记忆设计的，它们主要依赖于最近的对话片段来生成回应。这些模型在底层训练时，并没有接触到需要长期记忆和复杂上下文管理的数据集，因此它们在处理跨越长时间跨度的对话时，往往无法像人类那样保持连贯性和一致性。这意味着，无论chat模型在技术上如何进步，它们在处理长对话记忆方面仍然存在局限性。

Agent则更为复杂，它不仅能够进行交互对话，还具备一定的个性化特征、长期记忆和情感表达能力。Agent的设计初衷是通过模拟一个具有独立个性和情感的完整个体，来与用户在多种不同的情境中进行深入的互动和交流，从而建立起更加丰富和有意义的情感联系。在当前众多的Agent产品中，coze无疑是其中的佼佼者，它通过先进的技术和创新的设计理念，成功地吸引了大量用户的关注和喜爱。同时，我也投身于这一领域，尝试开发了自己的bot应用，以期探索和实现更加智能化和个性化的用户体验。

在这个过程中，我深刻地认识到，尽管大型的AI模型宛如一个强大的大脑，提供了丰富的知识和处理能力，但Agent则更进一步，它不仅具备智能，还拥有模拟人类行为和情感的能力。Agent可以通过集成各种专门的插件和工具，来解决那些即使是最强大的AI模型也难以应对的问题。这种方法不仅极大地扩展了Agent的功能范围，还显著降低了能源消耗，并且在很大程度上减少了模型训练的时间和成本。

在当前的人工智能应用市场中，基于知识库的对话系统无疑是最为广泛部署和使用的解决方案之一。这类系统的核心机制通常涉及使用向量数据库来存储和检索知识，进而利用大型语言模型（LLM）对检索到的信息进行深入分析和对话生成。虽然语言模型的质量和效能直接影响着对话的准确性和流畅性，但这种基于知识库的方法已经在很大程度上解决了长期记忆的问题。得益于向量数据库的高效存储能力，系统能够维护大量信息，并保持快速响应。

此外，为了进一步提升AI系统的功能性和用户体验，各种插件的开发和集成成为了关键环节。在国内，许多领先的大型语言模型都已经建立了自己的插件商店，使得开发者可以轻松地为AI系统添加新的功能和服务。以coze为例，它提供了一套完整的插件开发、发布和上架流程，极大地扩展了AI系统的能力范围。其中，最初引起广泛关注的插件之一就是代码执行器，它使得AI不仅能够理解代码，还能实际执行编程任务。

除了单一功能的插件，更为复杂的应用场景往往需要通过工作流开发来实现。通过将不同的功能和插件进行组合，可以创建出更加人性化和前沿化的对话流程。这样的工作流不仅能够提高机器人回答的质量和相关性，还能够根据用户的特定需求进行定制化，使得AI系统在各种复杂情境下都能提供恰当、及时且富有创意的响应。

生成式AI的应用与风险

生成式AI的应用范围非常广泛，从自动写作、艺术创作到虚拟助手和游戏角色设计等。它能够极大地提高内容生产的效率，降低成本，并为用户提供个性化的体验。

然而，生成式AI也带来了一些风险，包括信息的真实性、版权问题、以及可能的伦理和社会影响。至今各个国家也没有对AI发布相应的版权法律法规。因为这也是一个比较难缠的问题，我们就不多说了。但是AI确实影响了我们大部分生活。我简单说说风险：

• 信息真实性：生成式AI可能会产生虚假或误导性的内容，尤其是在新闻和社交媒体上，这可能导致信息的误传和信任危机。
• 版权问题：AI生成的内容可能涉及版权争议，尤其是当AI学习并模仿特定作者或艺术家的风格时，版权归属可能变得模糊。
• 伦理与隐私：生成式AI可能会无意中泄露敏感信息，尤其是在处理个人数据时，需要确保遵守隐私保护法规和伦理标准。
• 工作替代：在某些领域，生成式AI可能会替代人类的工作，引发就业问题和职业转型的挑战。
• 社会影响：生成式AI可能会加剧社会分化，特别是在教育资源和经济机会分配不均的情况下，技术的发展可能不惠及所有人。
• 技术滥用：生成式AI技术可能被用于制造虚假证据、网络钓鱼和其他恶意活动，对社会秩序和个人安全构成威胁。

总结

Chat的优势在于其简单、易于实现和部署。它适用于提供快速响应和标准化服务的场景，如客户支持和常见问题解答。然而，Chat的局限性在于缺乏深度个性化和长期记忆，这限制了它在建立深度用户关系方面的潜力。

Agent则提供了更为丰富和复杂的交互体验。它可以模拟真实人物的行为和情感，为用户提供更为沉浸式的体验。Agent的挑战在于其开发和维护的复杂性，以及对大量数据和计算资源的需求。

随着时间的推移，将生成式人工智能无缝融入现有产品已经成为一种普遍的趋势。这意味着人工智能不再仅仅是独立存在的应用，而是与其他产品和服务紧密结合，为用户提供更加智能化和个性化的体验。举例来说，各种小助手等等层出不穷，为用户提供帮助。这只是冰山一角，还有更多类似的应用。

尽管生成式AI在实际应用中面临着一系列挑战和局限性，但这并不足以否定其广阔的发展前景。实际上，AI生成内容（AIGC）与智能代理（Agent）之间的关系更像是一种互为补充的伙伴关系，而非相互排斥的竞争关系。AIGC的高效内容生产能力和大规模数据处理能力使其成为资金雄厚的大公司的理想选择，这些公司通常拥有足够的资源来投资于复杂的AI系统，并从中获得商业价值。相比之下，智能代理（Agent）以其灵活性和个性化服务的特点，更受到资源有限的小型公司的青睐，它们可以利用Agent的定制化交互和易于集成的特性来提升用户体验和服务质量。

在AI技术的发展过程中，不存在万能的解决方案，即所谓的“银弹”。每个组织都需要根据自身的具体情况，包括技术能力、资金状况、市场需求等因素，来选择最适合自己的技术路径和实施方案。关键在于能否准确识别自身的优势和劣势，并在此基础上做出明智的决策。只要所选择的发展策略能够为组织带来价值，无论是采用AIGC还是Agent，或是两者的结合，都是值得探索和实施的。

一、生成式 AI 在对话系统（Chat）和自主代理（Agent）的发展现状、主要技术和应用场景

在当今的科技领域，生成式 AI 正以惊人的速度发展，并在对话系统（Chat）和自主代理（Agent）两个方向展现出独特的魅力。

对话系统（Chat）： 发展现状：如今的对话系统变得越来越智能和自然。像 ChatGPT 这样的大型语言模型，能够与用户进行流畅、多样的交流。 主要技术：基于深度学习的神经网络，如 Transformer 架构，通过大量的文本数据进行训练，以学习语言的模式和规律。 应用场景：在线客服、智能助手、语言学习、心理咨询等。例如，用户在购物平台咨询商品信息时，智能客服能够迅速回答常见问题。 

自主代理（Agent）： 发展现状：自主代理在处理复杂任务和环境方面取得了一定进展。它们能够根据设定的目标和环境信息自主决策和行动。 主要技术：包括强化学习、规划算法等，使代理能够从环境中获取反馈并不断优化自身行为。 应用场景：自动驾驶、物流配送优化、游戏中的智能角色等。比如在自动驾驶中，车辆作为自主代理能够感知周围环境并做出安全的驾驶决策。

二、生成式 AI 在 Chat 和 Agent 两个方向上的技术差异、优势和劣势，以及各自面临的技术挑战

技术差异： Chat 更侧重于语言理解和生成能力，旨在准确理解用户输入并提供有意义的回复。而 Agent 则需要综合感知、决策和行动的能力，不仅要理解语言，还要与环境进行交互并执行任务。

优势和劣势： Chat 的优势在于能够提供即时的语言交流服务，具有较高的语言表达能力。但其劣势在于可能缺乏对实际环境的感知和操作能力。 Agent 的优势在于能够在复杂环境中自主行动和决策，但在语言理解和表达的细腻程度上可能不如 Chat。 **

技术挑战： 对于 Chat 来说，面临的挑战包括处理多语言、多领域的知识，理解语义的细微差别，以及避免生成不准确或不合适的回答。 对于 Agent 来说，挑战在于如何提高对复杂环境的适应性和鲁棒性，以及在有限的资源和时间内做出最优决策。 

三、生成式 AI 未来的发展趋势，Chat 和 Agent 两个方向哪个更有前景，以及可能带来的社会和经济影响*

从未来发展趋势来看，Chat 和 Agent 都有着广阔的前景，但侧重点可能会有所不同。 Chat 有望在人机交互、智能客服、内容创作等领域发挥更大作用，进一步提升用户体验，为人们的生活和工作带来更多便利。例如，未来的智能写作助手能够根据用户的需求和风格生成高质量的文章。 Agent 则可能在自动化生产、物流运输、智能城市等领域产生深远影响，提高效率和安全性。比如，物流配送中的自主代理能够优化路线和资源分配，降低成本。 在社会和经济方面，生成式 AI 的发展可能会带来一些变革。一方面，它可能导致部分工作的自动化，从而引发就业结构的调整。另一方面，也将创造新的就业机会，如 AI 开发、维护和监管等。同时，生成式 AI 还有可能加剧数字鸿沟，使得技术拥有者和缺乏者之间的差距进一步扩大。但总体而言，其带来的正面影响可能大于负面影响，关键在于如何合理引导和规范其发展，以实现最大的社会效益。