- 2024-11-07玩转HF/魔搭/魔乐社区
1.1HF平台1.1.1注册HuggingFace平台(需要魔法上网)HuggingFace最初专注于开发聊天机器人服务。尽管他们的聊天机器人项目并未取得预期的成功,但他们在GitHub上开源的Transformers库却意外地在机器学习领域引起了巨大轰动。如今,HuggingFace已经发展成为一个拥有超过100,0
- 2024-10-04书生浦语大模型全链条的开源体系介绍
书生浦语大模型是一个全链条的开源体系,支持长达20万汉字的输入,是全球大模型产品中支持的最长上下文输入长度。模型具备超长上下文、推理数学代码、对话和创作体验、工具调用等能力。书生浦语大模型致力于大模型研究与开发工具链的开源组织。为所有AI开发者提供高效、易用的开源
- 2024-09-27【基础岛·第6关】OpenCompass 评测 InternLM-1.8B 实践
目录1.概览2.环境配置2.1创建开发机和conda环境2.2安装——面向GPU的环境安装3.数据准备3.1评测数据集3.2InternLM和ceval相关的配置文件4.启动测评4.1使用命令行配置参数法进行评测4.2使用配置文件修改参数法进行评测1.概览在OpenCompass中评估一个模型通常包括
- 2024-09-23L1- 书生大模型全链路开源体系 关卡
一、总结要点-
- 2024-09-14opencompass评测InternLM1.8B
1配置opencompass环境gitclone-b0.2.4https://github.com/open-compass/opencompasspipinstall-e.-ihttps://mirrors.163.com/pypi/simple/pipinstall-rrequirements.txt-ihttps://mirrors.163.com/pypi/simple/pipinstallprotobuf-ihttps://mirrors.163.c
- 2024-09-06InternLM 大模型实战营笔记-7
基础岛第5关XTuner微调个人小助手认知目的:用internlm2-chat-1_8b模型,通过QLoRA的方式来微调一个自己的小助手1.微调前的模型对话进行端口映射,XXXXX是自己开发机的端口ssh-CNg-L8501:127.0.0.1:
[email protected]激活环境,运行Stream
- 2024-09-03闯关地图-进阶岛
第1关在CompassArena中选择双模型对话,与InternLM2.5及另外任意其他模型对话,收集5个InternLM2.5输出结果不如其他模型的对话案例,以及InternLM2.5的5个GoodCase,并写成一篇飞书文档提交到:https://aicarrier.feishu.cn/share/base/form/shrcnZ4bQ4YmhEtMtnKxZUcf1vd作业
- 2024-08-16Llamaindex RAG实践
任务要求:基于LlamaIndex构建自己的RAG知识库,寻找一个问题A在使用LlamaIndex之前InternLM2-Chat-1.8B模型不会回答,借助LlamaIndex后InternLM2-Chat-1.8B模型具备回答A的能力,截图保存。1.直接询问,不是预期结果2.结合RAG询问,得到符合资料的回答3.运行,使用端口转
- 2024-07-13使用 lmdeploy 部署 internlm/internlm2_5-7b-chat
使用lmdeploy部署internlm/internlm2_5-7b-chat0.引言1.lmdeploy性能2.lmdeploy支持的模型3.快速开始0.引言LMDeploy由MMDeploy和MMRazor团队联合开发,是涵盖了LLM任务的全套轻量化、部署和服务解决方案。这个强大的工具箱提供以下核心功能:高效的
- 2024-06-06InternLM2大模型
InternLM2实战营第二期-笔记第一节课《书生·浦语大模型全链路开源体系》官网地址:书生·浦语官网课程录播视频链接地址:书生·浦语大模型全链路开源开放体系_bilibili2024.06.05训练营链接:书生·浦语大模型实战营第二期初夏专场InternLM大模型地址:InternLM大模型一
- 2024-05-27课程及 InternLM2 技术报告笔记
系列文章目录文章目录系列文章目录课程及InternLM2技术报告笔记课程及InternLM2技术报告笔记大模型成为发展通用人工智能的重要途径书生·浦语大模型开源历程书生·浦语2.0(InternLM2)的体系回归语言建模的本质书生·浦语2.0(InternLM2)的主要亮点
- 2024-05-25[技术报告]InternLM2 Technical Report
摘要像ChatGPT和GPT-4这样的大型语言模型(llm)的进化引发了人们对人工通用智能(AGI)出现的讨论。然而,在开源模型中复制这种进步一直是一个挑战。本文介绍了InternLM2,这是一个开源的大语言模型,通过创新的预训练和优化技术,在6个维度和30个基准的综合评估、长上下文建模和开放式主
- 2024-05-24书生·浦语大模型全链路开源体系笔记
大模型成为发展通用人工智能的重要途径专用模型专用模型:针对特定任务,一个模型解决一个问题。通用大模型:一个模型应对多种任务、多种模态。书生·浦语大模型开源历程书生·浦语2.0(InternLM2)的体系面向不同的使用需求,每个规格包含三个模型版本。7B:为轻量级的研
- 2024-04-19NL2SQL实践系列(2):2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
SQL实践系列(2):更多模型使用以及工业级案例NL2SQL基础系列(1):业界顶尖排行榜、权威测评数据集及LLM大模型(SpidervsBIRD)全面对比优劣分析[Text2SQL、Text2DSL]NL2SQL基础系列(2):主流大模型与微调方法精选集,Text2SQL经典算法技术回顾七年发展脉络梳理NL2SQL进阶系列(1):DB-GPT-H
- 2024-04-01轻松分钟玩转书生·浦语大模型趣味 Demo
一、基础作业:使用InternLM2-Chat-1.8B模型生成300字的小故事:使用猪猪模型部署并访问:二、进阶作业:完成Lagent工具调用数据分析Demo部署:熟悉huggingface下载功能,使用huggingface_hubpython包,下载InternLM2-Chat-7B的config.json文件到本地:
- 2024-03-31书生浦语LLM全链路开源体系笔记
书生浦语LLM全链路开源体系LLM介绍大模型LLM成为发展通用人工智能的重要途径。专用模型:针对特定人物,一个模型解决一个问题;通用大模型:一个模型应对多种任务、多种模态。书生浦语LLM发展历程及LM2InternLM->InternLM-7B开源+全链路开源工具体系->书生万卷1.0多模
- 2024-03-30InternLM2 Demo初体验-书生浦语大模型实战营学习笔记2
本文包括第二期实战营的第2课内容。本来是想给官方教程做做补充的,没想到官方教程的质量还是相当高的,跟着一步一步做基本上没啥坑。所以这篇笔记主要是拆解一下InternStudio封装的一些东西,防止在本地复现时出现各种问题。搭建环境首先是搭建环境这里,官方教程说:进入开发机后,在`t
- 2024-03-30[InternLM训练营第二期笔记]1. 书生·浦语大模型全链路开源开放体系
由于想学习一下LLM相关的知识,真好看到上海AILab举行的InternLM训练营,可以提高对于LLM的动手能力。每次课堂都要求笔记,因此我就想在我的CSDN上更新一下,希望和感兴趣的同学共同学习~本次笔记是第一节课,介绍课。课程视频:BilibiliInternLM2Technicalreport:arxiv1.
- 2024-02-26课程4-笔记-书生浦语大模型实战营-4
1、XTuner安装#如果你是在InternStudio平台,则从本地clone一个已有pytorch2.0.1的环境:/root/share/install_conda_env_internlm_base.shxtuner0.1.9#如果你是在其他平台:condacreate--namextuner0.1.9python=3.10-y#激活环境condaactivatextuner0.1.9#进入家目
- 2024-01-20国产AI新篇章:书生·浦语2.0带来200K超长上下文解决方案
总览:大模型技术的快速演进自2023年7月6日“书生·浦语”(InternLM)在世界人工智能大会上正式开源以来,其在社区和业界的影响力日益扩大。在过去半年中,大模型技术体系经历了快速的演进,特别是100K级别的长上下文、代码解释、智能体等新技术的不断迭代。伴随技术水平的不断提升,大模型在应