首页 > 编程语言 >上海人工智能实验室大模型算法岗(实习)面经分享

上海人工智能实验室大模型算法岗(实习)面经分享

时间:2024-03-31 17:31:31浏览次数:30  
标签:方式 人工智能 模型 面经 通俗易懂 面试 算法 讲解 实习

节前,我们星球组织了一场算法岗技术&面试讨论会,邀请了一些互联网大厂朋友、参加社招和校招面试的同学,针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。


汇总合集:《大模型面试宝典》(2024版) 发布!


今天分享的这位同学来自我们星球成员,面经汇总如下,喜欢记得收藏、关注、点赞,喜欢面试、技术交流,文末加入我们。


大家好,我是来自华东师范大学,专业为计算机系,面了上海人工智能实验室大模型算法岗(实习)

问的很细很深,狠狠拷打了80分钟,这个组做 LLM pretrain 的,我主要会 rl,nlp 缺乏点,面完感觉不是特别好。

  • 自我介绍
  • 项目
  • 微调模型训练数据来源?
  • LORA的理解
  • Ptuning和全量微调对比
  • RLHF全流程
  • 写出RLHF的优化目标公式
  • 目标公式中衰减因子的作用,取大取小有什么影响?
  • RLHF的目标公式可以加入什么其他的项?
  • 熵正则项是如何加入的?
  • KL散度理解?
  • RLHF中PPO算比率相对什么来算?
  • 其中对数概率的作用?
  • 马尔科夫决策过程的定义,有哪些参数变量需要考虑?
  • Reward model 训练的loss是什么?
  • 模型为什么会胡言乱语?根源在哪?可以考虑如何解决?
  • 模型微调会性能下降为什么还需要这一步?
  • 文本数据处理到进入模型的整个过程?
  • 分词和向量化的过程?
  • 模型微调过程中的调参?
  • 1.8b和7b使用中的区别?选择?
  • Recall,Precision的计算
  • 训练数据量级?
  • 如何把控数据质量?
  • 场景题,在处理数据的时候面对有违规的语料(如黄暴内容)如何平衡Recall,Precision指标
  • 对大模型整个发展趋势如何理解?
  • 你认为LLM的数据质量的关键在于什么?
  • 算法题一,easy 考察正则表达式
  • 算法题二,dp ,medium
  • 算法题三,栈,easy

技术交流

前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~

我们建了算法岗AIGC面试与技术交流群, 想要进交流群、需要源码&资料、提升技术的同学,可以直接加微信号:mlc2040。加的时候备注一下:研究方向 +学校/公司+CSDN,即可。然后就可以拉你进群了。

方式①、微信搜索公众号:机器学习社区,后台回复:技术交流
方式②、添加微信号:mlc2040,备注:技术交流+CSDN

用通俗易懂的方式讲解系列

标签:方式,人工智能,模型,面经,通俗易懂,面试,算法,讲解,实习
From: https://blog.csdn.net/m0_59596990/article/details/137175993

相关文章

  • JC3509人工智能机器学习
    人工智能2023-2024年人工智能理学学士请仔细阅读以下所有信息**评估I简报文件——单独评估(无团队合作)课程:JC3509–机器学习注意:这部分评估说明课程总分的30%。学习成果成功完成此部分后,学生将具备以下区域:•能够识别、准备和管理适当的数据集进行分析。•能够适当地呈现数据分析的......
  • Solo 开发者周刊 (第9期):Dawwin首位人工智能编程师或将改变未来?
    这里会整合Solo社区每周推广内容、产品模块或活动投稿,每周五发布。在这期周刊中,我们将深入探讨开源软件产品的开发旅程,分享来自一线独立开发者的经验和见解。本杂志开源,欢迎投稿。好文推荐Dawwin首位人工智能编程师,未来又会怎么样?Darwinai是一家快速发展的视觉质量检测公司,为......
  • 探索分布式人工智能:多节点合作引领智能革命
    引言:随着人工智能(AI)技术的不断发展,分布式人工智能作为一种新兴的技术模式正逐渐崭露头角。它通过多个节点之间的协作与通信,将数据和计算资源分散在多个地方,从而实现更加灵活、高效的智能计算。本文将深入探讨分布式人工智能的概念、技术原理以及在各个领域的应用,展望其在智能革命......
  • AI人工智能的创业方向:探索未来的可能性
    【一、内容概览】在过去的几年中,人工智能(AI)已经成为科技领域的一大热点,同时也成为了创业公司的热门方向。本文将探讨AI人工智能的创业方向,从多个角度分析其发展趋势和潜在机会,为创业者提供有深度的思考和逻辑性的指导。【二、市场分析】1.市场规模:随着技术的不断进步和应用......
  • 人工智能伦理与法律:大模型的责任归属与监管框架研究
    人工智能伦理与法律:大模型的责任归属与监管框架研究1.背景介绍随着人工智能技术的飞速发展,特别是大模型的广泛应用,人工智能伦理和法律问题日益凸显。大模型,如深度学习、自然语言处理等,在提供便利的同时,也带来了诸如数据隐私、算法偏见、责任归属等伦理和法律问题。本文旨......
  • 金工实习、C语言课设、数据结构课设-报告
    源代码丢失了只剩下报告,配图流程图齐全,可直接使用C语言课设报告:香水管理系统数据结构课设报告:西邮导航金工实习:车工学习、钳工学习、数控学习 文章头部下载三篇报告压缩包~......
  • 人工智能大模型的两大领域:语言与图片生成
    随着科技的飞速发展,人工智能(AI)技术已经深入到我们生活的方方面面。在AI的众多应用中,大模型技术无疑是近年来最引人注目的领域之一。从老程序员的角度来看,人工智能大模型主要可以分为两大类:语言类和图片生成类。这两类大模型不仅有着各自独特的技术特点,还在实际应用中发挥着不可......
  • 小红书Android实习面经
    一面(2023/10/1250min)Handler机制是什么?在没有message的时候为什么不会导致应用程序ANR?介绍一下四大组件?Activity启动模式?进程和线程的区别?进程是独立的执行单元,是系统资源分配的基本单元;线程是进程内执行单元,是任务调度的基本单元进程切换开销大,线程开销相对小你知道Android......
  • 【人工智能入门必看的最全Python编程实战(6)】
    ---------------------------------------------------------------------1.AIGC未来发展前景未完持续…1.1人工智能相关科研重要性拥有一篇人工智能科研论文及专利软著竞赛是保研考研留学深造以及找工作的关键门票!!!拥有一篇人工智能科研论文及专利软著竞赛是保研考研......
  • 人工智能导致的就业冲击:英国800万职业岗位岌岌可危
    背景公共政策研究所(IPPR)的一份报告揭示了人工智能对英国就业市场可能产生的影响。研究警告说,一个迫在眉睫的“工作末日”正威胁着全国超过八百万的职业生涯,除非政府迅速介入采取行动。报告确定了生成式人工智能采纳的两个关键阶段。第一波已经在进行中,占英国工人所执行任......