首页 > 其他分享 >教育问答工具V1.0—使用手册

教育问答工具V1.0—使用手册

时间:2024-09-04 14:52:32浏览次数:11  
标签:千问 Spring 模型 Alibaba V1.0 实例 使用手册 问答 Cloud

背景信息

阿里云微服务Spring Cloud Alibaba

Spring Cloud Alibaba是阿里巴巴提供的微服务开发一站式解决方案,是阿里巴巴开源中间件与Spring Cloud体系的融合。以下是对Spring Cloud Alibaba的详细介绍:

定义:Spring Cloud Alibaba是阿里巴巴结合自身丰富的微服务实践而推出的微服务开发的一站式解决方案,是Spring Cloud第二代实现的主要组成部分。

起源:Spring Cloud Alibaba于2018年7月正式开源,并进入Spring Cloud孵化器中孵化;2019年7月,Spring Cloud官方宣布Spring Cloud Alibaba毕业,并将仓库迁移到Alibaba Github OSS下。


阿里云第八代Intel CPU实例

阿里云八代实例(g8i)采用Intel® Xeon® Emerald Rapids或者Intel® Xeon® Sapphire Rapids,该实例支持使用新的AMX(Advanced Matrix Extensions)指令来加速AI任务。相比于上一代实例,八代实例在Intel® AMX的加持下,推理和训练性能大幅提升。

阿里云通义千问VL-Max-0809

通义千问VL-Max-0809(qwen-vl-max-0809),即通义千问大规模视觉语言模型增强版。大幅提升细节识别能力和文字识别能力,支持超百万像素分辨率和任意长宽比规格的图像。在广泛的视觉任务上提供卓越的性能,本次更新上下文支持32k,增强图像理解和视觉推理能力,可以更好地识别图片中的多语言文字和手写体的文字,并集成视觉agent能力,本模型为2024年8月9日的快照版本,期维护到下个快照版本发布时间(待定)后一个月。


环境部署

服务器配置

实例:ecs.c8i.4xlarge(32 GiB内存)。


镜像:Alibaba Cloud Linux 3.210 4 LTS 64位。


公网IP:选中分配公网IPv4地址,带宽计费模式选择按使用流量,带宽峰值设置为100 Mbps。以加快模型下载速度。


系统盘:Qwen-7B-Chat模型数据下载、转换和运行过程中需要占用60 GiB的存储空间,为了保证模型顺利运行,建议系统盘设置为100 GiB。


安全组规则:在ECS实例安全组的入方向添加安全组规则并放行22端口和7860端口(22端口用于访问SSH服务,7860端口用于访问WebUI和API接口)

教育问答工具V1.0—使用手册_微服务


模型准备

开通百炼大模型平台,选择通义千问大模型

教育问答工具V1.0—使用手册_微服务_02


环境准备

安装JAVA环境,添加依赖: 在项目的pom.xml文件中,加入Spring Cloud Alibaba依赖,确保版本为2023.0.1.0或以上(根据实际最新版本调整),并引入AI相关组件:

教育问答工具V1.0—使用手册_API_03

配置API-Key: 在application.yml或application.properties中配置刚才获取的API-KEY:

教育问答工具V1.0—使用手册_微服务_04

1. 编写服务实现类: 创建一个服务类,如TongYiSimpleServiceImpl,使用@Service注解标记,并通过构造器注入ChatClient和StreamingChatClient。编写同步和异步调用通义千问的方法,如completion和streamCompletion。

教育问答工具V1.0—使用手册_Cloud_05

工具使用

远程连接ECS实例。(xshell或者阿里云在线远程连接)

连接后安装下载JAVA环境,将打包好的代码运行,下面是在IDEA中运行的步骤

启动类直接运行

教育问答工具V1.0—使用手册_Cloud_06

开始问答

输入关于教育方向的问题

教育问答工具V1.0—使用手册_Cloud_07



标签:千问,Spring,模型,Alibaba,V1.0,实例,使用手册,问答,Cloud
From: https://blog.51cto.com/u_15125209/11917974

相关文章

  • 体验通义灵码 @workspace:轻松分析项目结构,结合代码仓库理解工程、查询问答等
    国际市场研究机构Gartner发布业界首个AI代码助手魔力象限,阿里云进入挑战者象限。通义灵码在产品功能和市场应用等方面表现位列国际前列,在国内同类产品中排名第一。在关键能力评分中,通义灵码在代码生成、代码解释、代码调试等多项能力领先,其中代码解释能力位列全球第二。这也......
  • 【Python学习笔记】第1章 问答环节
    人们为什么使用Python软件质量:可读性、可维护性开发者生产效率:代码更少程序的可移植性:同样的代码在不同的操作系统中都可以运行标准库的支持:内置可移植的功能模块组件构成:轻松地与应用程序的其他部分通信享受乐趣:略软件质量追求代码简洁,可读性模块化、面向......
  • 利用LangChain构建MySQL数据库问答代理
    引言随着自然语言处理技术的飞速发展,尤其是大型语言模型(LLM)的应用日益广泛,人们对于如何更高效地与这些模型交互产生了浓厚的兴趣。LangChain是一个旨在简化与语言模型集成的开源框架,它使得开发者能够轻松地构建出强大的应用程序。本文将介绍如何使用LangChain结合MySQL数据......
  • 《黑神话:悟空》V1.0四十二项风灵月影修改器资源下载-3DM风灵月影游戏修改器使用功能汇
    在《黑神话:悟空》中,V1.0四十二项游戏修改器的使用方法需要仔细了解。这里为您详细说明,玩家首先要确保修改器与游戏版本匹配,然后按照特定的步骤启动和设置。注意相关参数的调整,谨慎操作以达到预期效果。下载和安装技巧安全下载:下载风灵月影修改器时,一定要确保文件的来源是可......
  • zabbix“专家坐诊”第254期问答
    问题一Q:老师,我重启zabbix-server服务,恢复正常了,然后过了一两分钟再刷新,有报这个错了。我看zabbix-server日志里没什么有用的信息。A:selinux关闭一下Q:是关闭状态A:看看server自监控有没有报错提示,看看有没有什么指标是超过触发器的Q:没有报错,看起来内存用的有点高A:图显示不出来,看看......
  • zabbix“专家坐诊”第254期问答
    问题一Q:老师,我重启zabbix-server服务,恢复正常了,然后过了一两分钟再刷新,有报这个错了。我看zabbix-server日志里没什么有用的信息。A:selinux关闭一下Q:是关闭状态A:看看server自监控有没有报错提示,看看有没有什么指标是超过触发器的Q:没有报错,看起来内存用的有点高A:图显示不......
  • 51. redis基础命令使用手册
    redis基础命令使用手册安装常用命令启动客户端示例Redis使用认证密码登录修改配置文件重启Redis登录验证在命令行客户端配置密码(redis重启前有效)在Redis集群中使用认证密码数据库选择默认有16个数据库选择数据库查看当前数据库数据结构stringslists集合有序集合哈希友情链接安装m......
  • 亲测好用,ChatGPT 3.5/4.0新手使用手册~ 【2024年9月 更新】
    都知道ChatGPT很强大,聊聊天、写论文、搞翻译、写代码、写文案、审合同等等,无所不能~那么到底怎么使用呢?其实很简单了,国内AI产品发展也很快,很多都很好用了~我一直在用,建议收藏下来~  有最先进、最新的GPT模型,还有很多其他效率工具都是在各自领域,绝对领先地位的产品~①......
  • 亲测好用,ChatGPT 3.5/4.0新手使用手册~ 【2024年9月 更新】
    都知道ChatGPT很强大,聊聊天、写论文、搞翻译、写代码、写文案、审合同等等,无所不能~那么到底怎么使用呢?其实很简单了,国内AI产品发展也很快,很多都很好用了~我一直在用,建议收藏下来~  有最先进、最新的GPT模型,还有很多其他效率工具都是在各自领域,绝对领先地位的产品~①......
  • 吐血整理 ChatGPT 3.5/4.0 新手使用手册~ 【2024.09.03 更新】
     以前我也是通过官网使用,但是经常被封号,就非常不方便,后来有朋友推荐国内工具,用了一阵之后,发现:稳定方便,用着也挺好的。最新的GPT-4o、4omini,可搭配使用~1、 最新模型科普:现在人工智能很强大,聊聊天、写论文、搞翻译、写代码、写文案、审合同、情感陪伴等,真是无所不能~......