首页 > 其他分享 >课程题目生成工具V1.0

课程题目生成工具V1.0

时间:2024-09-12 17:24:36浏览次数:12  
标签:题目 7B 实例 Qwen -- mnt openanolis V1.0 课程

服务器

本工具使用阿里云八代实例(g8i)+xFasterTransformer+Qwen-7B-Chat模型搭建而成

课程题目生成工具V1.0_阿里云

通义千问-7B(Qwen-7B-Chat)

本工具基于通义千问-7B进行开发,通义千问-7B(Qwen-7B)是阿里云研发的通义千问大模型系列的70亿参数规模模型。Qwen-7B是基于Transformer的大语言模型,在超大规模的预训练数据上进行训练得到。预训练数据类型多样,覆盖广泛,包括大量网络文本、专业书籍、代码等。同时,在Qwen-7B 的基础上,使用对齐机制打造了基于大语言模型的AI助手Qwen-7B-Chat。

阿里云第八代Intel CPU实例

阿里云八代实例(g8i)采用Intel® Xeon® Emerald Rapids或者Intel® Xeon® Sapphire Rapids,该实例支持使用新的AMX(Advanced Matrix Extensions)指令来加速AI任务。相比于上一代实例,八代实例在Intel® AMX的加持下,推理和训练性能大幅提升。

安装xft

主要是用docker镜像安装xft

sudo docker pull registry.openanolis.cn/openanolis/xfastertransformer:1.7.3-23
sudo docker run -it --name xFT -h xFT --privileged --shm-size=16g --network host -v /mnt:/mnt -w /mnt/xFasterTransformer registry.openanolis.cn/openanolis/xfastertransformer:1.7.3-23

当出现类似如下信息时,表示已获取并成功运行xFasterTransformer容器。

课程题目生成工具V1.0_qwen_02


下载模型

git clone https://www.modelscope.cn/qwen/Qwen-7B-Chat.git /mnt/data/qwen-7b-chat

课程题目生成工具V1.0_AIGC_03

启动模型服务

1、在容器中,依次执行以下命令,安装WebUI相关依赖软件。

cd /root/xFasterTransformer/examples/web_demo
pip install -r requirements.txt

课程题目生成工具V1.0_AIGC_04

2、执行以下命令,启动WebUI。

OMP_NUM_THREADS=$(($(lscpu | grep "^CPU(s):" | awk '{print $NF}') / 2)) GRADIO_SERVER_NAME="0.0.0.0" numactl -C $(seq -s, 0 2 $(($(lscpu | grep "^CPU(s):" | awk '{print $NF}') - 2))) -m 0 python Qwen.py -t /mnt/data/qwen-7b-chat -m /mnt/data/qwen-7b-chat-xft -d bf16

当出现如下信息时,表示WebUI服务启动成功。

课程题目生成工具V1.0_AIGC_05


工具使用

启动工具

命令行启动或者编辑器运行(具体运行看项目的readme.md文件)

课程题目生成工具V1.0_阿里云_06

上传课程文件

上传课程的教材文件


开始生成

上传完文件后,点击生成题目,题目内容会逐步显示在文本区域中,根据进度条查看是否运行完成。

课程题目生成工具V1.0_AIGC_07


生成完成

生成完成以后可以复制使用,目前统一了输出格式为json格式,可以自己在代码中调整适合自己的输出格式,保证生成出来的题目可以直接导入到题库中使用。

课程题目生成工具V1.0_qwen_08

标签:题目,7B,实例,Qwen,--,mnt,openanolis,V1.0,课程
From: https://blog.51cto.com/u_17015519/11992248

相关文章

  • 机器学习 - 课程笔记
    线性回归代价函数J,也被称为平方误差函数,用来描述假设函数值与真实值的误差大小。其中乘1/2是用于减少平均误差,并且后面求导会有一个2,可以消掉。线性回归的代价函数常用平方误差函数。假设函数的参数是x,代价函数的参数是θ。梯度下降法要得到最小化代价函数的Θ0和Θ1参数,在......
  • 《数字图像处理(面向新工科的电工电子信息基础课程系列教材)》Chapter 1课件2024
    每一轮备课都有新的感悟。禹晶、肖创柏、廖庆敏《数字图像处理(面向新工科的电工电子信息基础课程系列教材)》禹晶、肖创柏、廖庆敏《数字图像处理》资源二维码......
  • 批量归一化(李沐老师课程)
    训练时候存在的问题为什么要做批量归一化批量归一化(BatchNormalization,BN)是一种用于加速深度学习模型训练的技术。它通过标准化每层网络的输入(通常是前一层网络的输出),使得网络中的每一层都能接收到具有相同分布的输入数据。这有助于解决训练过程中出现的一些问题,以下是......
  • 密码算法设计与分析 - 课程笔记
    基本概念安全威胁安全威胁被动攻击消息内容获取业务流分析主动攻击中断(可用性)篡改(完整性)伪造(真实性)人为威胁被动攻击被动攻击即窃听,是对系统的保密性进行攻击,如搭线窃听、非法拷贝等,以获取他人的信息。被动攻击分类:消息内容获取:直接对消息内容进行窃听,......
  • 计算机网络 - 课程笔记
    基本概念以太网帧格式类型:0800是ipv4,86DD是ipv6,0806是ARP帧,8100是IEEE802.1Q帧ip报文格式首部长度单位是4字节。标志中:第一位未使用,值为0;第二位称为DF(不分片),值为1时不允许分片;第三位称为MF(更多分片),值为1时表示有更多分片需要发送。协议:6是tcp协议、17(0x11)是udp协议、1......
  • 算法 - 课程笔记
    调度问题插入排序分治法分治法是将原问题划分为多个规模较小的子问题,这些子问题可以独立求解,将子问题的解进行综合得到原问题的解。算法设计一般使用递归算法,算法分析一般使用递归表达式。归并排序归并排序,就是分组再合并,将一个数组等分为左右两个子数组,然后再使用......
  • 网络与系统安全 - 课程笔记
    对称与非对称密码的优缺点对称密码优点:加解密速度快易于硬件实现密钥相对较短,易于传输缺点:密钥分配问题,密钥分发困难,需要安全信道密钥管理问题,密钥量大,多人使用时,每两个用户都需要生成一个对称密钥没有签名功能,存在身份认证问题,接收方可能伪造信息非对称密码优点:......
  • 种草分享|动态朋友圈|瀑布流|uniapp​ V1.0.7
    种草分享评论点赞消息提醒系统,发布动态,分享种草生活,可以收藏关注点赞,消息提醒,同时支持H5/小程序/app多端。V1.0.7修复前端显示问题修复一处三方登录变量赋值问题。......
  • 知识库文档系统​V1.0.4
    可用于企业工作流程的文档管理,结构化记录沉淀高价值信息,形成完整的知识体系,能够轻松提升知识的流转和传播效率,更好地成就组织和个人。为部门、团队或项目搭建知识库,所有成员在同一平台创作和管理知识,轻松凝聚团队智慧,有效降低企业的知识流转成本,让信息在企业内自由流动。V1.0.4完善......
  • 沃德会务会议系统​V1.0.0
    会议管理微信小程序,对会议流程、开支、数量、标准、供应商提供一种标准化的管理方法。以达到量化成本节约,风险缓解和服务质量提升的目的。适用于大型论坛、峰会、学术会议、政府大会、合作伙伴大会、经销商大会、产业大会、行业大会、发布会、招商会、培训会等会议场景。支持自定......