深度学习面试笔试之迁移学习(Transfer)、强化学习(Reinforcement) & 多任务

深度学习面试笔试之迁移学习Transfer、强化学习Reinforcement& 多任务

• 13.迁移学习(Transfer)
• • 1. 什么是迁移学习
  • 2. 为什么需要迁移学习？
  • 3. 迁移学习的基本问题有哪些？
  • 4.迁移学习有哪些常用概念？
  • • 基本定义
    • 按特征空间分类
    • 按迁移情景分类
    • 按迁移方法分类
  • 5. 迁移学习与传统机器学习有什么区别？
  • 6. 迁移学习的核心及度量准则？
  • 7. 迁移学习与其他概念的区别？
  • • 迁移学习与多任务学习关系：
    • 迁移学习与领域自适应：领域自适应：使两个特征分布不一致的domain一致。
    • 迁移学习与协方差漂移：协方差漂移：数据的条件概率分布发生变化。
  • 8. 什么情况下可以使用迁移学习？
  • 9. 什么是finetune？
  • • 为什么需要已经训练好的网络？
    • 为什么需要 finetune？
  • 10. 什么是深度网络自适应？
  • 11. GAN在迁移学习中的应用
  • • GAN的优缺点
    • • 优点
      • 缺点
    • 如何训练GAN网络?
• 14.强化学习(Reinforcement) & 多任务
• • 1. 什么是强化学习
  • 2. 强化学习模型
  • • 2.1 打折的未来奖励
    • 2.2 Q-Learning算法
    • 2.3 Deep Q Learning(DQN)
    • • 2.3.1 神经网络的作用
      • 2.3.2 神经网络计算Q值
  • 3. 强化学习和监督学习、无监督学习的区别
  • 4. 什么是多任务学习

13.迁移学习(Transfer)

1. 什么是迁移学习

迁移学习(Transfer Learning)是一种机器学习方法，就是把为任务 A 开发的模型作为初始点，重新使用在为任务 B 开发模型的过程中。迁移学习是通过从已学习的相关任务中转移知识来改进学习的新任务，虽然大多数机器学习算法都是为了解决单个任务而设计的，但是促进迁移学习的算法的开发是机器学习社区持续关注的话题。 迁移学习对人类来说很常见，例如，我们可能会发现学习识别苹果可能有助于识别梨，或者学习弹奏电子琴可能有助于学习钢琴。
找到目标问题的相似性，迁移学习任务就是从相似性出发，将旧领域(domain)学习过的模型应用在新领域上。

2. 为什么需要迁移学习？

• 大数据与少标注的矛盾：虽然有大量的数据，但往往都是没有标注的，无法训练机器学习模型。人工进行数据标定太耗时。
• 大数据与弱计算的矛盾：普通人无法拥有庞大的数据量与计算资源。因此需要借助于模型的迁移。
• 普适化模型与个性化需求的矛盾：即使是在同一个任务上，一个模型也往往难以满足每个人的个性化需求，比如特定的隐私设置。这就需要在不同人之间做模型