今天我们来总结以下大型语言模型面试中常问的问题
1、哪种技术有助于减轻基于提示的学习中的偏见?
A.微调 Fine-tuning
B.数据增强 Data augmentation
C.提示校准 Prompt calibration
D.梯度裁剪 Gradient clipping
答案:C
提示校准包括调整提示，尽量减少产生的输出中的偏差。微调修改模型本身，而数据增强扩展训练数据。梯度裁剪防止在训练期间爆炸梯度。
2、是否需要为所有基于文本的LLM用例提供矢量存储?
答案：不需要
向量存储用于存储单词或句子的向量表示。这些向量表示捕获单词或句子的语义，并用于各种NLP任务。
并非所有基于文本的LLM用例都需要矢量存储。有些任务，如情感分析和翻译，不需要RAG也就不需要矢量存储。
最常见的不需要矢量存储的：
1、情感分析：这项任务包括确定一段文本中表达的情感(积极、消极、中性)。它通常基于文本本身而不需要额外的上下文。
2、这项任务包括将文本从一种语言翻译成另一种语言。上下文通常由句子本身和它所属的更广泛的文档提供，而不是单独的向量存储。
3、以下哪一项不是专门用于将大型语言模型(llm)与人类价值观和偏好对齐的技术?
A.RLHF
B.Direct Preference Optimization
C.Data Augmentation
答案:C
数据增强Data Augmentation是一种通用的机器学习技术，它涉及使用现有数据的变化或修改来扩展训练数据。虽然它可以通过影响模型的学习模式间接影响LLM一致性，但它并不是专门为人类价值一致性而设计的。
A)从人类反馈中强化学习(RLHF)是一种技术，其中人类反馈用于改进LLM的奖励函数，引导其产生与人类偏好一致的输出。
B)直接偏好优化(DPO)是另一种基于人类偏好直接比较不同LLM输出以指导学习过程的技术。
4、在RLHF中，如何描述“reward hacking”?
A.优化所期望的行为
B.利用奖励函数漏洞
答案：B
reward hacking是指在RLHF中，agent发现奖励函数中存在意想不到的漏洞或偏差，从而在没有实际遵循预期行为的情况下获得高奖励的情况，也就是说，在奖励函数设计不有漏洞的情况下才会出现reward hacking的问题。
虽然优化期望行为是RLHF的预期结果，但它并不代表reward hacking。选项A描述了一个成功的训练过程。在reward hacking中，代理偏离期望的行为，找到一种意想不到的方式（或者漏洞）来最大化奖励。
5、对任务的模型进行微调(创造性写作)，哪个因素显著影响模型适应目标任务的能力?
A.微调数据集的大小
B.预训练的模型架构和大小
答案:B
预训练模型的体系结构作为微调的基础。像大型模型(例如GPT-3)中使用的复杂而通用的架构允许更大程度地适应不同的任务。微调数据集的大小发挥了作用，但它是次要的。一个架构良好的预训练模型可以从相对较小的数据集中学习，并有效地推广到目标任务。
虽然微调数据集的大小可以提高性能，但它并不是最关键的因素。即使是庞大的数据集也无法弥补预训练模型架构的局限性。设计良好的预训练模型可以从较小的数据集中提取相关模式，并且优于具有较大数据集的不太复杂的模型。
6、transformer 结构中的自注意力机制在模型主要起到了什么作用?
A.衡量单词的重要性
B.预测下一个单词
C.自动总结
答案:A
transformer 的自注意力机制会对句子中单词的相对重要性进行总结。根据当前正在处理的单词动态调整关注点。相似度得分高的单词贡献更显著，这样会对单词重要性和句子结构的理解更丰富。这为各种严重依赖上下文感知分析的NLP任务提供了支持。
7、在大型语言模型(llm)中使用子词算法(如BPE或WordPiece)的优点是什么?
A.限制词汇量
B.减少训练数据量
C.提高计算效率
答案:A
llm处理大量的文本，如果考虑每一个单词，就会导致一个非常大的词表。像字节对编码(BPE)和WordPiece这样的子词算法将单词分解成更小的有意义的单位(子词)，然后用作词汇表。这大大减少了词汇量，同时仍然捕获了大多数单词的含义，使模型更有效地训练和使用。
子词算法不直接减少训练数据量。数据大小保持不变。虽然限制词汇表大小可以提高计算效率，但这并不是子词算法的主要目的。它们的主要优点在于用较小的单位集有效地表示较大的词汇表。
8、与Softmax相比，Adaptive Softmax如何提高大型语言模型的速度?
A.稀疏单词表示
B.Zipf定律
C.预训练嵌入
答案:B
标准Softmax需要对每个单词进行昂贵的计算，Softmax为词表中的每个单词进行大量矩阵计算，导致数十亿次操作，而Adaptive Softmax利用Zipf定律(常用词频繁，罕见词不频繁)按频率对单词进行分组。经常出现的单词在较小的组中得到精确的计算，而罕见的单词被分组在一起以获得更有效的计算。这大大降低了训练大型语言模型的成本。
虽然稀疏表示可以改善内存使用，但它们并不能直接解决Softmax在大型词汇表中的计算瓶颈。预训练嵌入增强了模型性能，但没有解决Softmax计算复杂性的核心问题。
9、可以调整哪些推理配置参数来增加或减少模型输出层中的随机性?
A.最大新令牌数
B. Top-k
C.Temperature
答案:C
在文本生成过程中，大型语言模型(llm)依赖于softmax层来为潜在的下一个单词分配概率。温度Temperature是影响这些概率分布随机性的关键参数。
当温度设置为低时，softmax层根据当前上下文为具有最高可能性的单个单词分配显着更高的概率。更高的温度“软化”了概率分布，使其他不太可能出现的单词更具竞争力。
最大新令牌数仅定义LLM在单个序列中可以生成的最大单词数。top -k采样限制softmax层只考虑下一个预测最可能的前k个单词。
10、当模型不能在单个GPU加载时，什么技术可以跨GPU扩展模型训练?
A. DDP
B. FSDP
答案:B
FSDP(Fully Sharded Data Parallel)是一种技术，当模型太大而无法容纳在单个芯片的内存时，它允许跨GPU缩放模型训练。FSDP可以将模型参数，梯度和优化器进行分片操作，并且将状态跨gpu传递，实现高效的训练。
DDP(分布式数据并行)是一种跨多个GPU并行分发数据和处理批量的技术，但它要求模型适合单个GPU，或者更直接的说法是DDP要求单个GPU可以容纳下模型的所有参数。
https://avoid.overfit.cn/post/5cbf407986584cfab3efd5ee3801b697
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
标签：10,面试题,训练,AI,模型,单词,LLM,学习
From： https://blog.csdn.net/python1234567_/article/details/140081237