第一阶段 不知道概念
第一阶段,「不知道大模型是什么意思」,不知道langchain是什么,不知道llm是什么,不知道文心一言,不知道openAI,不知道prompt是什么?
这个阶段就是疯狂百度,像一只无头苍蝇,吸收各种概念,记住,只是概念,这个阶段会让自己开始接受AI大模型领域。
第二阶段 搭建模型走弯路
第二阶段,开始想着「怎么搭建大模型」,由于没有服务器,所以开始寻找怎么在本地搭建大模型。开始知道服务器上用GPU才能带的动大模型,本地如果要跑就要找CPU带动大模型。疯狂找!!
找啊找!!
内容非常杂,这期间出现国内大模型,国外大模型,国外的就需要科学上网。
这个阶段,依然不知道跑起一个大模型需要做什么工作,不知道需要选什么模型,不知道需要用什么大模型框架运行大模型。
其实一开始就找到了,需要用langchain来跑大模型,但是还需要用一个很坑很坑的东西:Anaconda,这玩意儿简直是个坑,这工具是为了给我们在windows上创建python环境,然后安装pytorch,下载几个G的大模型,然后安装依赖,搞了半天,搭起来了,但是对话的时候却报错了。
第三阶段 会用langchain调API,用上Agents和Tools
第三阶段,「回到langchain调用SDK或API,用上了Agents和Tools」,发现其实是在调API。
虽然在尝试搭建本地大模型的时候,搭建起了localAI+GPT4ALL,但是效果并不好,太慢了,而且不好拓展。
后来经过指点,打开langchain官网,开始了学习之路,用上了zhipuAI,还用了langchain的Tools和Agents,算是打开了新世界的大门吧。已经能够在控制台进行对话,并且能够运用工具,比如在本地新建一个文件,比如调用一个计算字符长度的工具,后来又加上Memory,实现上下文记忆功能,虽然说是langchain自带的Memory但是勉强能用。
基本上能达到下面的效果 :
prompt: 请帮我介绍一下电影《热辣滚烫》并写入文件中 ...生成文件成功
本地就会生成一个文件 doc.txt,内容是《热辣滚烫》的电影介绍。
满满的成就感!!!
感受:
1、AI大模型的迭代非常快,因此不要在博客里找教程,真的走了不少弯路。
2、开头难,我们无非是大模型的使用者,不用畏惧,又不是让我们开发大模型,而是使用!!使用!!!
3、技术大部分都是国外的,可是我们的网络是封闭的,学习难度加大,信息不对等。
4、直接去官网学!!
第四阶段 在服务器上应用到实际业务
第四阶段,看到大神已经在整合各种大模型,并能够熟练训练成更加贴合自己的模型,整合到实际的业务场景中,并且实现多个模型进行同时回答,并且还有专门的校验模型,如果发现几个模型的答案不一致,给出提示,后续进行人工校正。
第五阶段 天花板
更大的大神,别人看不到的存在!
拓展
现在Java也已经有支持openAI的集成了,就是Spring-AI,不过目前只支持一些主流的大模型,比如openAI,对国内的大模型还不支持。另外还有Spring Cloud Alibaba AI正在发展中,大家可以关注一下。
大模型学习路线
大模型学习路线,大致是这样的:了解大模型的基本概念、选择合适的大模型、大模型的使用与部署、数据准备与预处理、模型推理与结果解析、实践应用与项目实战、持续学习与优化。
一、了解大模型的基本概念
大模型定义:明确大模型的定义和特性,了解大模型相较于传统模型的优势和挑战。
应用场景:研究大模型在不同领域的应用场景,如自然语言处理、计算机视觉、智能推荐等,为后续的实践应用提供指导。
二、选择合适的大模型
模型种类调研:了解目前主流的大模型种类,如BERT、GPT、ERNIE等,掌握它们的基本原理和适用场景。
需求分析:根据具体任务需求,分析所需模型的能力,如文本生成、语义理解、图像识别等。
模型对比与选择:对比不同大模型的性能、资源消耗、训练难度等因素,选择最适合当前任务的大模型。
三、大模型的使用与部署
模型下载与加载:从官方渠道或相关平台下载所需的大模型,并学习如何在代码中加载和使用这些模型。
API调用:了解并熟悉大模型提供的API接口,通过调用API实现模型的推理和预测功能。
模型部署:学习将大模型部署到实际环境中,如服务器、云平台等,以满足实际应用需求。
四、数据准备与预处理
数据集收集:根据任务需求收集合适的数据集,确保数据的质量和数量满足模型推理的要求。
数据预处理:学习并掌握数据预处理技术,如数据清洗、格式转换、特征提取等,以提高模型的推理效果。
五、模型推理与结果解析
模型推理:使用准备好的数据输入大模型进行推理,获取模型输出的结果。
结果解析:学习如何解析模型输出的结果,理解其含义和背后的逻辑,以便进行后续的应用和决策。
六、实践应用与项目实战
应用场景选择:结合兴趣和需求,选择具体的大模型应用场景进行实践,如文本分类、情感分析、图像识别等。
项目实战:将所学知识和技能应用于实际项目中,完成从数据准备、模型使用、推理结果解析到实际应用的全过程。通过实践,加深对大模型使用的理解和掌握。
七、持续学习与优化
跟踪最新技术:关注大模型领域的最新技术和研究成果,了解模型优化和性能提升的方法。
模型优化实践:尝试使用不同的优化策略和技术,如超参数调整、模型剪枝等,提高大模型的推理性能和效率。
经验总结与分享:总结在实际应用中遇到的问题和解决方案,与其他学习者分享经验和技巧,共同进步。
大模型现在正在风口上,一起学习进步吧!
大模型&AI产品经理如何学习
求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。
1.学习路线图
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
2.视频教程
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
(都打包成一块的了,不能一一展开,总共300多集)
因篇幅有限,仅展示部分资料,需要点击下方图片前往获取
3.技术文档和电子书
这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
4.LLM面试题和面经合集
这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。