我精选50个大模型高频面试题，分享给大家
- 简述GPT和BERT的区别
- 讲一下GPT系列模型是如何演进的？
- 为什么现在的大模型大多是decoder-only的架构？
- 讲一下生成式语言模型的工作机理
- 哪些因素会导致LLM的偏见？
- LLM中的因果语言建模与掩码语言建模有什么区别？
- 如何减轻LLM中的幻觉现象？
- 解释ChatGPT的零样本和少样本学习的概念
- 你了解大型语言模型中的哪些分词技术？
- 如何评估大语言模型（LLMs）的性能？
- 如何缓解LLMs重复读问题？
- 请简述Transformer基本原理
- 为什么Transformer的架构需要多头注意力机制？
- transformers需要位置编码吗？
- transformer中，同一个词可以有不同的注意力权重吗？
- Wordpiece与BPE之间的区别是什么？
- 有哪些常见的优化LLMs输出的技术？
- GPT-3拥有的1750亿参数，是怎么算出来的？
- 温度系数和top-p，top-k参数有什么区别？
- 为什么transformer块使用LayerNorm而不是BatchNorm？
- 介绍一下postlayernorm和prelayernorm的区别
- 什么是思维链（CoT）提示？
- 你觉得什么样的任务或领域适合用思维链提示？
- 你了解ReAct吗，它有什么优点？
- 解释一下langchainAgent的概念
- langchain有哪些替代方案？
- langchaintoken计数有什么问题？如何解决？
- LLM预训练阶段有哪几个关键步骤？
- RLHF模型为什么会表现比SFT更好？
- 参数高效的微调（PEFT）有哪些方法？
- LORA微调相比于微调适配器或前缀微调有什么优势？
- 有了解过什么是稀疏微调吗？
- 训练后量化（PTQ）和量化感知训练（QAT）与什么区别？
- LLMs中，量化权重和量化激活的区别是什么？
- AWQ量化的步骤是什么？
- 介绍一下GPipe推理框架
- 矩阵乘法如何做张量并行？
- 请简述下PPO算法流程，它跟TRPO的区别是什么？
- 什么是检索增强生成（RAG）？
- 自前主流的中文向量模型有哪些？
- 为什么LLM的知识更新很困难？
- RAG和微调的区别是什么？
- 大模型一般评测方法及基准是什么？
- 什么是KVCache技米，它真体是如何实现的？
- DeepSpeed推理对算子融合做了哪些优化？
- 简述一下FlashAttention的原理
- MHA，GQA，MQA三种注意力机制的区别是什么？
- 请介绍一下微软的ZeRO优化器
- PagedAttention的原理是什么，解决了LLM中的什么问题？
- 什么是投机采样技术，请举例说明？
如何学习AI大模型？
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；
第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
