首页 > 其他分享 >大模型学习练级的五个阶段,你到哪个阶段了?

大模型学习练级的五个阶段,你到哪个阶段了?

时间:2024-10-08 13:49:03浏览次数:3  
标签:AI 模型 练级 langchain 学习 五个 阶段 应用 数据

第一阶段 不知道概念

第一阶段,「不知道大模型是什么意思」,不知道langchain是什么,不知道llm是什么,不知道文心一言,不知道openAI,不知道prompt是什么?

这个阶段就是疯狂百度,像一只无头苍蝇,吸收各种概念,记住,只是概念,这个阶段会让自己开始接受AI大模型领域。

第二阶段 搭建模型走弯路

第二阶段,开始想着「怎么搭建大模型」,由于没有服务器,所以开始寻找怎么在本地搭建大模型。开始知道服务器上用GPU才能带的动大模型,本地如果要跑就要找CPU带动大模型。疯狂找!!

找啊找!!

内容非常杂,这期间出现国内大模型,国外大模型,国外的就需要科学上网。

这个阶段,依然不知道跑起一个大模型需要做什么工作,不知道需要选什么模型,不知道需要用什么大模型框架运行大模型。

其实一开始就找到了,需要用langchain来跑大模型,但是还需要用一个很坑很坑的东西:Anaconda,这玩意儿简直是个坑,这工具是为了给我们在windows上创建python环境,然后安装pytorch,下载几个G的大模型,然后安装依赖,搞了半天,搭起来了,但是对话的时候却报错了。

第三阶段 会用langchain调API,用上Agents和Tools

第三阶段,「回到langchain调用SDK或API,用上了Agents和Tools」,发现其实是在调API。

虽然在尝试搭建本地大模型的时候,搭建起了localAI+GPT4ALL,但是效果并不好,太慢了,而且不好拓展。

后来经过指点,打开langchain官网,开始了学习之路,用上了zhipuAI,还用了langchain的Tools和Agents,算是打开了新世界的大门吧。已经能够在控制台进行对话,并且能够运用工具,比如在本地新建一个文件,比如调用一个计算字符长度的工具,后来又加上Memory,实现上下文记忆功能,虽然说是langchain自带的Memory但是勉强能用。

基本上能达到下面的效果 :

prompt: 请帮我介绍一下电影《热辣滚烫》并写入文件中   ...生成文件成功   

本地就会生成一个文件 doc.txt,内容是《热辣滚烫》的电影介绍。

满满的成就感!!!

感受:

1、AI大模型的迭代非常快,因此不要在博客里找教程,真的走了不少弯路。

2、开头难,我们无非是大模型的使用者,不用畏惧,又不是让我们开发大模型,而是使用!!使用!!!

3、技术大部分都是国外的,可是我们的网络是封闭的,学习难度加大,信息不对等。

4、直接去官网学!!

第四阶段 在服务器上应用到实际业务

第四阶段,看到大神已经在整合各种大模型,并能够熟练训练成更加贴合自己的模型,整合到实际的业务场景中,并且实现多个模型进行同时回答,并且还有专门的校验模型,如果发现几个模型的答案不一致,给出提示,后续进行人工校正。

第五阶段 天花板

更大的大神,别人看不到的存在!

拓展

现在Java也已经有支持openAI的集成了,就是Spring-AI,不过目前只支持一些主流的大模型,比如openAI,对国内的大模型还不支持。另外还有Spring Cloud Alibaba AI正在发展中,大家可以关注一下。

大模型学习路线

大模型学习路线,大致是这样的:了解大模型的基本概念、选择合适的大模型、大模型的使用与部署、数据准备与预处理、模型推理与结果解析、实践应用与项目实战、持续学习与优化。

一、了解大模型的基本概念

大模型定义:明确大模型的定义和特性,了解大模型相较于传统模型的优势和挑战。

应用场景:研究大模型在不同领域的应用场景,如自然语言处理、计算机视觉、智能推荐等,为后续的实践应用提供指导。

二、选择合适的大模型

模型种类调研:了解目前主流的大模型种类,如BERT、GPT、ERNIE等,掌握它们的基本原理和适用场景。

需求分析:根据具体任务需求,分析所需模型的能力,如文本生成、语义理解、图像识别等。

模型对比与选择:对比不同大模型的性能、资源消耗、训练难度等因素,选择最适合当前任务的大模型。

三、大模型的使用与部署

模型下载与加载:从官方渠道或相关平台下载所需的大模型,并学习如何在代码中加载和使用这些模型。

API调用:了解并熟悉大模型提供的API接口,通过调用API实现模型的推理和预测功能。

模型部署:学习将大模型部署到实际环境中,如服务器、云平台等,以满足实际应用需求。

四、数据准备与预处理

数据集收集:根据任务需求收集合适的数据集,确保数据的质量和数量满足模型推理的要求。

数据预处理:学习并掌握数据预处理技术,如数据清洗、格式转换、特征提取等,以提高模型的推理效果。

五、模型推理与结果解析

模型推理:使用准备好的数据输入大模型进行推理,获取模型输出的结果。

结果解析:学习如何解析模型输出的结果,理解其含义和背后的逻辑,以便进行后续的应用和决策。

六、实践应用与项目实战

应用场景选择:结合兴趣和需求,选择具体的大模型应用场景进行实践,如文本分类、情感分析、图像识别等。

项目实战:将所学知识和技能应用于实际项目中,完成从数据准备、模型使用、推理结果解析到实际应用的全过程。通过实践,加深对大模型使用的理解和掌握。

七、持续学习与优化

跟踪最新技术:关注大模型领域的最新技术和研究成果,了解模型优化和性能提升的方法。

模型优化实践:尝试使用不同的优化策略和技术,如超参数调整、模型剪枝等,提高大模型的推理性能和效率。

经验总结与分享:总结在实际应用中遇到的问题和解决方案,与其他学习者分享经验和技巧,共同进步。

大模型现在正在风口上,一起学习进步吧!

在这里插入图片描述

大模型&AI产品经理如何学习

求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

因篇幅有限,仅展示部分资料,需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

标签:AI,模型,练级,langchain,学习,五个,阶段,应用,数据
From: https://blog.csdn.net/2401_85343303/article/details/142757700

相关文章

  • 订单交易平台三(登录界面整个实现过程)阶段一(只实现简单的登录功能)
    1.在视图函数account进行写代码逻辑(需要了解django中form组件的知识、md5码加密、脚本的编写)1.1登录界面后端的编写"""在account.py文件"""fromdjango.shortcutsimportrender,redirectfromwebimportmodelsfromutils.encryptimportmd5#1.定义类fromd......
  • 25赛季算法组第一阶段第二次培训(ubuntu安装与基本使用)
    25赛季算法组第一阶段第二次培训1.Ubuntu的介绍1.1.操作系统和操作系统的选择操作系统,英文名称OperatingSystem,简称OS,是计算机系统中必不可少的基础系统软件,它是应用程序运行以及用户操作必备的基础环境支撑,是计算机系统的核心。操作系统的作用是管理和控制计算机系统中的......
  • 28_分布式文档系统_阶段性总结以及什么是distributed document store
    1、阶段性总结1~8讲:快速入门了一下,最基本的原理,最基本的操作9~13讲:在入门之后,对ES的分布式的基本原理,进行了相对深入一些的剖析14~27讲:围绕着document这个东西,进行操作,进行讲解和分析2、什么是distributeddocumentstore到目前为止,你觉得你在学什么东西,给大家一个直观的感觉......
  • 【学术】过来人对研究生阶段的学习建议
    【学术】过来人对研究生阶段的学习建议不同阶段的学习模式高中—>本科—>研究生是不同的学习阶段,面对不同的生存学习环境,需要做出调整。诚然,一些科研能力强的研究生会产生一种如鱼得水的感觉——不仅适应良好,且成长很快。两大法则:硕博生和本科生最大的区别在于独立处理......
  • win10如何禁止指定程序运行,三分钟学会禁止指定程序运行的五个方法
    在Windows10系统中,禁止指定程序运行可以通过多种方法实现,以下是一些常用的方法:一、使用组策略编辑器(推荐Windows专业版及以上版本)打开组策略编辑器:按下“Win+R”组合键,打开“运行”对话框。输入“gpedit.msc”并按回车键,打开组策略编辑器。定位到相关策略:在组策......
  • Java Web核心技术阶段的学习要点
    JavaWeb核心技术阶段的学习要点涵盖了多个关键技术和概念,这些技术和概念对于开发动Web应用程序至关重要。以下是该阶段详细的学习要点:1.HTML/CSS/JSHTML:学习HTML的基本结构和标签,理解如何构建网页的骨架。CSS:掌握CSS的语法和选择器,学习如何使用CSS来美化网页,包括布局、颜......
  • Java进阶阶段的学习要点
    Java进阶阶段的学习要点相对更加深入和广泛,涵盖了Java语言的高级特性、框架、性能优化等多个方面。以下是根据搜索结果整理的详细学习要点:1.Java高级特性多线程与并发编程:深入理解Java并发包(`java.util.concurrent`)中的工具类,如`ExecutorService`、`Callable`、`Future`、`C......
  • Linux云计算 |【第四阶段】NOSQL-DAY2
    主要内容:Redis集群概述、部署Redis集群(配置manage管理集群主机、创建集群、访问集群、添加节点、移除节点)一、Redis集群概述1、集群概述所谓集群,就是通过添加服务器的数量,提供相同的服务,从而让服务器达到一个稳定、高效的状态;而单个Redis服务运行存在不稳定性,当Redis服务......
  • RabbitMq 入门应用 提升性能 : 算法多阶段并行 (Python)
    大问题:我们有一个算法,它可以被分为多个阶段进行(顺序不可颠倒),每个阶段的性能和资源要求不同(且不均衡程度比较高);假设我们现在可以堆资源(较多的CPU和内存),如何将算法各个步骤拆分并进行性能均衡和实现,使得算法性能最大化以满足生产要求?多进程:由于算法有严格的顺序要求,如果是......
  • 两阶段提交中的 redo log 和 binlog 关系
     MySQL的InnoDB存储引擎使用 两阶段提交 来协调 redolog 和 binlog 的写入顺序,确保事务的一致性。具体过程如下:准备阶段(PreparePhase):InnoDB将事务修改写入 redolog,但此时redolog处于 prepare 状态,表示事务的修改已经写入磁盘,但是还没有提交。同时,MySQL......