首页 > 其他分享 >书生大模型实战营3期 - 进阶岛 - 2 - Lagent 自定义你的 Agent 智能体

书生大模型实战营3期 - 进阶岛 - 2 - Lagent 自定义你的 Agent 智能体

时间:2024-08-19 11:26:12浏览次数:16  
标签:ratio 进阶 自定义 image Agent aspect Lagent lagent self

文章目录

闯关任务

任务描述:Lagent 自定义你的 Agent 智能体
任务文档:Lagent 自定义你的 Agent 智能体

完成结果

  • 使用 Lagent 自定义一个智能体,并使用 Lagent Web Demo 成功部署与调用,记录复现过程并截图。

环境准备/安装:

# 创建环境
conda create -n agent_camp3 python=3.10 -y
# 激活环境
conda activate agent_camp3
# 安装 torch
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y
# 安装其他依赖包
pip install termcolor==2.4.0
pip install lmdeploy==0.5.2

通过源码安装的方式安装 Lagent:

# 创建目录以存放代码
mkdir -p /root/agent_camp3
cd /root/agent_camp3
git clone https://github.com/InternLM/lagent.git
cd lagent && git checkout 81e7ace && pip install -e . && cd ..

Lagent Web Demo 的使用方式:
(1) 使用 LMDeploy 部署 InternLM2.5-7B-Chat,并启动一个 API Server;

lmdeploy serve api_server /share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat --model-name internlm2_5-7b-chat

请添加图片描述

(2)在另一个窗口中启动 Lagent 的 Web Demo;

streamlit run examples/internlm2_agent_web_demo.py

请添加图片描述

(3)在等待两个 server 都完全启动(如上图所示)后,我们在 本地 的 PowerShell 中输入如下指令来进行端口映射;

ssh -CNg -L 8501:127.0.0.1:8501 -L 23333:127.0.0.1:23333 [email protected] -p <你的 SSH 端口号>

请添加图片描述

(4)接下来,在本地浏览器中打开 localhost:8501,并修改模型名称一栏为 internlm2_5-7b-chat,修改模型 ip一栏为127.0.0.1:23333;
然后,我们在插件选择一栏选择 ArxivSearch,并输入指令“帮我搜索一下 MindSearch 论文”。
请添加图片描述

基于 Lagent 自定义智能体:
(1)首先创建工具文件;

cd /root/agent_camp3/lagent
touch lagent/actions/magicmaker.py

具体代码实现如下:

import json
import requests

from lagent.actions.base_action import BaseAction, tool_api
from lagent.actions.parser import BaseParser, JsonParser
from lagent.schema import ActionReturn, ActionStatusCode


class MagicMaker(BaseAction):
    styles_option = [
        'dongman',  # 动漫
        'guofeng',  # 国风
        'xieshi',   # 写实
        'youhua',   # 油画
        'manghe',   # 盲盒
    ]
    aspect_ratio_options = [
        '16:9', '4:3', '3:2', '1:1',
        '2:3', '3:4', '9:16'
    ]

    def __init__(self,
                 style='guofeng',
                 aspect_ratio='4:3'):
        super().__init__()
        if style in self.styles_option:
            self.style = style
        else:
            raise ValueError(f'The style must be one of {self.styles_option}')
        
        if aspect_ratio in self.aspect_ratio_options:
            self.aspect_ratio = aspect_ratio
        else:
            raise ValueError(f'The aspect ratio must be one of {aspect_ratio}')
    
    @tool_api
    def generate_image(self, keywords: str) -> dict:
        """Run magicmaker and get the generated image according to the keywords.

        Args:
            keywords (:class:`str`): the keywords to generate image

        Returns:
            :class:`dict`: the generated image
                * image (str): path to the generated image
        """
        try:
            response = requests.post(
                url='https://magicmaker.openxlab.org.cn/gw/edit-anything/api/v1/bff/sd/generate',
                data=json.dumps({
                    "official": True,
                    "prompt": keywords,
                    "style": self.style,
                    "poseT": False,
                    "aspectRatio": self.aspect_ratio
                }),
                headers={'content-type': 'application/json'}
            )
        except Exception as exc:
            return ActionReturn(
                errmsg=f'MagicMaker exception: {exc}',
                state=ActionStatusCode.HTTP_ERROR)
        image_url = response.json()['data']['imgUrl']
        return {'image': image_url}

(2)修改lagent/examples/internlm2_agent_web_demo.py 来适配我们的自定义工具。

from lagent.actions import ActionExecutor, ArxivSearch, IPythonInterpreter
from lagent.actions.magicmaker import MagicMaker
from lagent.agents.internlm2_agent import INTERPRETER_CN, META_CN, PLUGIN_CN, Internlm2Agent, Internlm2Protocol

...
        action_list = [
            ArxivSearch(),
             MagicMaker(),
        ]

(3)启动 Web Demo,同时启用这两个工具,然后输入“请帮我生成一幅山水画”;(注:需使用之前的Lagent Web Demo使用方式)
请添加图片描述
请添加图片描述
然后,再试一下“帮我搜索一下 MindSearch 论文”。
请添加图片描述

标签:ratio,进阶,自定义,image,Agent,aspect,Lagent,lagent,self
From: https://blog.csdn.net/wocsdn111/article/details/141219932

相关文章

  • sonarqube添加一条自定义规则,扫描文件中出现的username和password,方法一
    下载源码与使用详情参考:Sonarqube自定义规则,部署SonarSource/sonar-java源码中示例规则:docs/java-custom-rules-example-yxchun-博客园(cnblogs.com)假设你已经有了sonarqube-java源码,并且已经把sonarqube部署到电脑上1、在check里面创建文件 MyTxtBlockCheck.javap......
  • SonarQube使用新增的自定义规则,进行maven项目扫描
    1、将新加规则添加到QualityProfiles中 2、创建, 写完名称回车  3、暂时将原先的规则禁用掉  点击apply; 499条规则被更改 4、添加我们新增的自定义规则  应用  规则已经添加;将我们创建的规则设置为默认扫描规则 5、进行项目扫描1)创建......
  • 医学GraphRAG:通过知识图谱检索增强实现医疗行业AI Agent应用
    近年来,伴随着人工智能的迅速发展,AI大模型凭借其卓越的数据处理能力和深度学习能力,正在成为医疗健康领域变革的关键动力,将大模型应用与具体的医疗场景,已经成为推动医疗行业智慧化升级的重要课题。然而,这些大模型在应用于像医学这样需要专业知识的领域时,仍然面临局限性,主要有两个......
  • Sonarqube 自定义规则,部署SonarSource / sonar-java源码中示例规则:docs/java-custom-r
    自定义规则,可以参考sonar-java/docs/CUSTOM_RULES_101.mdat8.0.0.36314·SonarSource/sonar-java·GitHub1、下载一份sonarqube源码,配置好本地的环境,JDK17和mavendocs/java-custom-rules-example示例项目中会有写好的规则;我们可以先尝试将这些写好的规则添加到Sonarqube......
  • C#开发的应用升级管理器LUAgent客户端 - 开源研究系列文章 - 个人小作品
          以前就想开发应用的升级更新的程序,也想过把升级工具单独弄成类库模块化。后来就想到要开发服务端和客户端独立出来,只要配置好就能够对任何应用进行升级更新操作。笔者将这个命名为:LUAgent,即LzhdimUpdateAgent,升级更新代理,上次发布了服务端工具:https://www.cnb......
  • 【TCP/IP】自定义应用层协议,常见端口号
    互联网中,主流的是TCP/IP五层协议5G/4G上网,是有自己的协议栈,要比TCP/IP更复杂(能够把TCP/IP的一部分内容给包含进去了)应用层可以代表我们所编写的应用程序,只要应用程序里面用到了网络通信,就可以认为这个代码就是属于应用层的代码日常开发中最常用到的一层:使用大佬......
  • Springboot集成RabbitMQ从入门到进阶教学
    RabbitMQ基本信息RabbitMQ是什么1.基础概念消息代理(MessageBroker):RabbitMQ作为一个中间人,负责接收、存储和转发消息,确保消息从生产者发送到消费者。AMQP协议:高级消息队列协议(AdvancedMessageQueuingProtocol)是一种消息传递协议,旨在为消息的中间传递提供标准化......
  • Java巅峰之路---进阶篇---面向对象(一)
    static关键字介绍static表示静态,是java中的一个修饰符,可以修饰成员方法,成员变量。其中,被static修饰的成员变量,叫做静态变量;被static修饰的成员方法,叫做静态方法。静态变量调用方式:类名调用(推荐)、对象调用特点:●被该类所有对象共享●不属于对象,属于类●随着类的加载......
  • 模板——从初级到进阶
    目录前言:一、非类型模板参数二、模板的特化     2.1函数模板特化    2.2类模板特化            2.2.1全特化        2.2.2偏特化三、模板分离编译    3.1什么是分离编译    3.2 模......
  • 离线算法 莫队算法进阶
    前算是把之前的坑填一填吧。这篇文章主要包含带修莫队,二维莫队等莫队算法的进阶应用,观看前请确保您已经熟练掌握了基本的莫队算法,不会的可以戳这里。带修莫队众所周知,普通莫队是不支持修改的,因为我们为了得到更优的时间复杂度,需要将每次询问离线下来,打乱顺序。不过我们也......