大模型这个概念我是从去年这时候才了解到的,在不知道大模型之前,我甚至以为chatGPT和大模型就是同一个东西,是可以划等号的。
直到国内的AI产品一茬又一茬的冒出来,我才在使用的过程中逐渐对大模型这个概念有了认识。
而大模型是一个广泛的概念,涵盖了所有参数众多、能够执行复杂任务的机器学习模型。
也就是说,所有的chatGPT都可以被视为大模型,但并非所有的大模型都是chatGPT。大模型可以用于各种不同的应用,而chatGPT专注于对话交互。
在过去的一年里,我一直都没停下来对大模型的瞎研究,对,就是瞎研究,因为没有经历系统的学习,全靠自己摸索,东一枪西一枪的打游击式学习。
实话说我个人的学习路线还是很乱的,不过没关系,回头整理的时候思路可清晰着呢,整理之后就不乱啦。
在这里,我就分享一下我的学习路线和心得,希望能为初学者或0基础的学习者提供一些指导和启发。
第一阶段:打好基础!
在第一个阶段中,我们的目标就定在数学和编程基础上,要为后面的机器学习和深度学习打底。
在学习内容上,也不是说要把所有的知识点都啃完,这么学的话,等学下一个技能的时候就全忘光啦。所以每个阶段我都区分了一些必要学和初步了解的知识点。
数学基础和编程技能方面:
第一阶段并不是要求你成为编程大神,而是要求你掌握python语言基础,其中语法,数据结构,控制流是这个阶段的必要性学习。
学习编程语言建议多看视频教学和官方文档,视频教程可以在很多平台挑选适合自己的,官方文档也很友好,可以切换中文版本。
机器学习与深度学习基础:
除了编程技能外,机器学习和深度学习才是学习大模型需要主攻的重点知识,这里就是正式踏入大模型世界的开始。
第一阶段中,就要开始对机器学习进行一个初步的理解。主要需要掌握以下两个方面:
- 机器学习基本概念(问题类型和评估指标)
这个阶段也需要对深度学习的基础基础进行一个概念性的了解,有助于衔接后续的学习。
书籍方面推荐“花书”,这本书对深度学习的基础知识和最新进展介绍的非常全面。
第二阶段:深化基础与技能
第二阶段的目标是深化第一阶段学到的知识,并开始接触机器学习和深度学习的实际应用,重点在于理解复杂概念并通过实践加以应用。
数学基础和编程技能方面:
在这个阶段,数学知识需要达到能够独立解决中等难度的数学问题,并理解其在机器学习中的应用。
编程技能的重点在于提升数据处理能力以及提高代码的效率和质量。
关于数据处理能力,重点就是熟练使用NumPy和Pandas两个库,
需要达到熟练掌握使用NumPy进行高效的数值计算,熟练使用Pandas进行复杂数据操作,包括数据清洗、转换、聚合等的程度。
机器学习与深度学习基础:
本阶段中对机器学习和深度学习的知识学习需要达到能够解释算法原理、实现简单算法,并评估模型性能的程度,同时要求大家要开始对大模型进行一个初步的认知。
针对机器学习和深度学习的阶段,大家可以多看官方文档,和一些专业课的在线课程。
文档方面建议收藏TensorFlow和PyTorch,可以进入了解阶段,后续需要深入学习。
要认识大模型,我建议大家从了解大模型的实际应用、算法原型和未来趋势开始入手,听听大模型领域大佬对如今大模型的理解和看法,让自己对大模型有一个全面的概念理解,知道它的作用之处和发展方向,这样才能够明确自己学习大模型的目标。
第三阶段:应用实践
在这一阶段中,我建议大家开始将前面学习到的基础知识用起来,应用到实际的机器学习和深度学习的项目中。
本阶段中学习重点集中在机器学习与深度学习中,必要性知识点如下:
需要掌握的技能包括数据预处理、模型选择、训练、评估和部署。
深度学习框架是这个阶段必须掌握的内容,也就是对TensorFlow或PyTorch等框架进行深入学习,主攻框架中的一些高级特性,如自定义层、损失函数、优化器等。
理论方面在以下几个方面要着重学习
- 模型优化:在模型剪枝,量化还有知识蒸馏方面深入研究,以助于提高模型的效率和性能。
- 模型和集成:这里要掌握模型的保存,加载和转换,要学会如何将模型部署到服务器,移动端或者浏览
- 并行计算和分布式训练:这里要了解如何在多GPU或分布式环境中训练大型模型。
- 强化学习基础:这部分要了解强化学习的基本框架,包括策略学习、价值函数学习等。
操作能力方面在以下几个方面要着重练习
- 模型调优和评估:锻炼自己使用交叉验证,超参数调优等技术优化模型性能。
- 代码编写和项目管理:代码方面要达到熟练的将代码分解成可重用的模块和函数,保证代码的可维护性和可读性,能够理解和分析开源项目的代码结构和逻辑,掌握如何使用向量化操作代替循环,以及利用GPU加速计算。项目管理方面要熟练掌握代码的版本控制,推荐学习Git,熟记代码管理的几个指令,如拉取,提交,推送,建立分支和合并分支等几个基础指令。
学习git的相关指令操作,可以在CSDN博客中搜寻一些基本指令操作的保姆级教程。
掌握了这个阶段的必要知识和必备技能之后,我建议大家提前了解一下多模态这个概念,这是一个在大模型学习中非常重要的一个知识点。
第四阶段:高级进阶阶段
对我这个非本专业人士来说,学到这个阶段已经是1+的阶段了,后续就是要让自己技能不断进化。
本阶段中想要完成高级进阶,必要性学习的内容也不少。
我的计划中列出了几个我觉得必须要掌握的方向,如下
- 高级机器学习算法:其中集成学习,图神经网络等为主要攻克点。
- 深度学习研究:要时刻关注最新的深度学习研究咨询,像Transformer、BERT、GPT等都值得实时关注。
- 模型可解释性和伦理:要深入学习模型可解释性的方法,推荐大家去看一下CSND技术博客上关于机器学习6种模型可解释性方法汇总的技术文章。同时要关注以下AI伦理方面和隐私保护的重要性。
- 多模态学习:这里主要是去学习如何结合不同类型数据(如文本、图像、声音)的深度学习模型。
我觉得学习这种还在完善进步中的知识技能,还是需要多看论文,多加入一些AI相关的社区参与讨论,我一般就是看看GitHub,毕竟比较大众,国外的一些论坛我实在是看不太懂。
不论如何,我觉得初学者最需要具备的能力就是耐心,一定要耐心的从基础概念的学习到复杂模型的应用,再到实际项目的实施和优化,最终才能达到能够独立进行研究和创新的水平。
如何学习AI大模型?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。