• 2024-11-20【书生浦语大模型实战营四期】基础岛 第6关 OpenCompass 评测书生大模型实践
    基础任务评测API模型创建用于评测conda环境condacreate-nopencompasspython=3.10condaactivateopencompasscd/rootgitclone-b0.3.3https://github.com/open-compass/opencompasscdopencompasspipinstall-e.填写APIKEYexportINTERNLM_API_
  • 2024-11-17书生大模型实战营L0G2000作业
    任务一classSolution(object):defcanConstruct(self,ransomNote,magazine):""":typeransomNote:str:typemagazine:str:rtype:bool"""iflen(ransomNote)>len(magazine
  • 2024-11-16书生·共学大模型实战营第4期 L1G4000任务提交
    基于LlamaIndex构建自己的RAG知识库,寻找一个问题A在使用LlamaIndex之前浦语API不会回答,借助LlamaIndex后浦语API具备回答A的能力我们选择了一个名为wereader的Github小众项目,这是一个Chrome/Firefox扩展,主要用于微信读书做笔记,对常使用Markdown做笔记的读者比较有帮助。可以发现
  • 2024-11-16书生·共学大模型训练营第4期 L1G200任务提交
    MindSearch搜索引擎示例书生·浦语对话模型调用示例书生·万象开源视觉语言模型调用实例进阶任务:MindSearch话题挑战https://www.zhihu.com/people/zhang-shu-yang-92-96
  • 2024-11-14书生实战营第四期-基础岛第六关-OpenCompass 评测书生大模型实践
    基础任务一、使用OpenCompass评测浦语API 1、创建用于评测conda环境condacreate-nopencompasspython=3.10condaactivateopencompasscd/rootgitclone-b0.3.3https://github.com/open-compass/opencompasscdopencompasspipinstall-e.pipinstall
  • 2024-11-12书生大模型实战营第四期 L1G6000 OpenCompass 评测书生大模型实践
    评测书生大模型实践文章目录评测书生大模型实践前言评测API模型前言OpenCompass提供了API模式评测和本地直接评测两种方式。其中API模式评测针对那些以API服务形式部署的模型,而本地直接评测则面向那些可以获取到模型权重文件的情况。参考:https://github.
  • 2024-11-11书生大模型实战营第4期——2.5 XTuner 微调个人小助手认知
    文章目录1学习内容及任务2环境配置和数据准备2.1创建虚拟环境2.2安装XTuner2.3验证安装XTuner3修改提供的数据3.1创建文件夹存放微调数据3.2创建修改脚本3.3执行脚本并查看数据4训练启动4.1复制模型4.2修改Config4.3启动微调4.4权重转换4.5模型合并5
  • 2024-11-10书生大模型实训营第4期基础岛第一关:书生大模型全链路开源体系介绍
    书生大模型实训营第4期基础岛第一关:书生大模型全链路开源体系介绍1.书生·浦语的开源之路1.1模型发展历程1.2核心技术思路1.2.1模型训练迭代技术1.2.2基于规划和搜索解决复杂问题1.3书生·浦语开源模型谱系2.书生·浦语全链路开源体系结构2.1数据开源:书生·万
  • 2024-11-08【书生实战营】L1G2000-玩转书生「多模态对话」与「AI搜索」产品
    MindSearch开源AI搜索引擎MindSearch:InternLM组织今年开源的AI搜索引擎(框架),基于多智能体技术将你提出的问题进行分析、拆解、网页搜索,最终给出有参考依据的高可信度回答。问题提问:目前生成式AI在学术和工业界有什么最新进展?2.2024年诺贝尔物理学奖为何会颁发
  • 2024-10-25书生浦语全链路介绍
    模型性能天梯图推理能力:综合推理能力领先社区开源模型支持100万字上下文(短期记忆):相较于gpt4o是100倍的量级自主规划和搜索完成复杂任务:通过信息搜索和整合,针对复杂问题撰写专业回答,效率提升60倍核心技术思想在于:数据迭代反馈,仍然是数据质量驱动的模型性能,对于数据质量提
  • 2024-10-04书生浦语大模型全链条的开源体系介绍
    书生浦语大模型是一个全链条的开源体系,支持长达20万汉字的输入,是全球大模型产品中支持的最长上下文输入长度。模型具备超长上下文、推理数学代码、对话和创作体验、工具调用等能力。书生浦语大模型致力于大模型研究与开发工具链的开源组织。为所有AI开发者提供高效、易用的开源
  • 2024-10-04书生大模型实战:入门
    第1关Linux基础知识闯关任务完成SSH连接与端口映射并运行hello_world.py第2关Python基础知识闯关任务Python实现wordcount闯关任务Vscode连接InternStudiodebug笔记第3关Git介绍1.破冰活动:自我介绍PR链接:https://github.com/InternLM/Tutorial/pul
  • 2024-09-25【基础岛·第1关】书生大模型全链路开源体系
    目录过往一年历程1.核心技术2.大海捞针实验3、人机解决方式的差别全链路开源生态1数据2开源数据处理工具箱3预训练4微调xtuner5评测6部署7智能体8项目过往一年历程7b可以应对中小企业业务,但20b才有涌现现象1.核心技术2.大海捞针实验超长文本内容中的问答正确度3
  • 2024-09-23L1- 书生大模型全链路开源体系 关卡
    一、总结要点-
  • 2024-08-27书生大模型实战营3期 - 进阶岛 - 6 - MindSearch 快速部署
    文章目录闯关任务完成结果闯关任务任务描述:MindSearchCPU-only版部署任务文档:MindSearchCPU-only版部署完成结果按照教程,将MindSearch部署到HuggingFace,并提供截图。新建一个目录用于存放MindSearch的相关代码,并把MindSearch仓库clone下来:mkdir-
  • 2024-08-19书生大模型实战营3期 - 进阶岛 - 3 - LMDeploy 量化部署进阶实践
    文章目录闯关任务完成结果闯关任务任务描述:LMDeploy量化部署实践闯关任务任务文档:LMDeploy量化部署进阶实践完成结果使用结合W4A16量化与kvcache量化的internlm2_5-7b-chat模型封装本地API并与大模型进行一次对话,作业截图需包括显存占用情况与大模型回复,参考4
  • 2024-08-11【书生浦语大模型实战营学习笔记】第一课 浦语大模型全链路开源开放体系
    视频内容总结:视频是由汪周谦主讲,主题是介绍书生谱语大模型开源开放体系。内容主要包括以下几个方面: 1.**书生谱语大模型的发展历程**:-从2023年7月6日起,书生谱语大模型(Interlm)开始免费开源并商用,提供了全链条的开源工具体系。-2023年9月底,发布了适合中小企业和科研
  • 2024-07-30书生浦语夏令营——8G 显存玩转书生大模型 Demo
    书生浦语夏令营——8G显存玩转书生大模型Demo配置环境按照教程来即可condacreate-ndemopython=3.10-ycondaactivatedemocondainstallpytorch==2.1.2torchvision==0.16.2torchaudio==2.1.2pytorch-cuda=12.1-cpytorch-cnvidia-y#这里合并成一个命令pip
  • 2024-07-23从图像到万象,InternVL 2.0 书生·万象多模态大模型发布!
    从图像到万象,InternVL2.0书生·万象多模态大模型发布!OpenGVLab​目录收起代码开源/模型使用方法:76B大模型,司南评测优于GPT-4O8B端侧小模型,消费级单卡可部署试用Demo:正文开始!1.多模态大模型的开始,AGI的黎明三年演进,多模态先行者的实至名归之路2.更少资源、更高
  • 2024-04-16模型微调-书生浦语大模型实战营学习笔记&大语言模型5
    大语言模型-5.模型微调书生浦语大模型实战营学习笔记-4.模型微调本节对应的视频教程为B站链接。笔记对视频的理论部分进行了整理。大模型的训练过程模型视角这里原视频用的“分类”这个名字,我看到的时候还有点懵
  • 2024-04-10书生浦语大模型实战营第二期 第三次课笔记
    课程内容概述本节课介绍了RAG(RetrievalAugmentedGeneration)技术的基础知识。展示了如何使用茴香豆(Huixiangdou)搭建一个RAG智能助理。讲解了茴香豆的进阶用法,包括网络搜索、使用远程模型、搭建网页Demo等。1.RAG技术概述RAG技术结合了检索和生成,通过检索相关信息片段来增
  • 2024-04-10模型压缩与部署-书生浦语大模型实战营学习笔记&大语言模型7
    大语言模型-7.模型压缩与部署书生浦语大模型实战营学习笔记4-模型压缩与部署本文包括第二期实战营的第5课内容,介绍关于模型压缩的相关内容,主要包括、模型量化和模型部署的相关内容。模型部署定义:在软件工程中,部署通常指的是将开发完毕的软件投入使用的过程。在人工智能领域,模
  • 2024-04-02书生浦语第二期第二节课笔记(轻松玩转书生·浦语大模型趣味 Demo)
    以下内容是在InternStudio的开发机上运行的一、部署 InternLM2-Chat-1.8B 模型进行智能对话第一步:进入开发机后,在终端中输入以下环境命令配置进行环境配置studio-conda-ointernlm-base-tdemo#与studio-conda等效的配置方案#condacreate-ndemopython==3.10-
  • 2024-03-31书生浦语LLM全链路开源体系笔记
    书生浦语LLM全链路开源体系LLM介绍大模型LLM成为发展通用人工智能的重要途径。专用模型:针对特定人物,一个模型解决一个问题;通用大模型:一个模型应对多种任务、多种模态。书生浦语LLM发展历程及LM2InternLM->InternLM-7B开源+全链路开源工具体系->书生万卷1.0多模
  • 2024-02-26课程6-笔记-书生浦语大模型实战营-6
    大模型评测概述评测目的:了解模型能力,指导模型迭代,监控模型风险,把握模型应用大模型评测方法客观评测:问答题、多选题、判断题等主观评测:主观题(人类评价、模型评价)OpenCompass评测平台