首页 > 其他分享 >Meta Learning概述

Meta Learning概述

时间:2023-10-17 20:34:05浏览次数:21  
标签:function Loss Set 定义 Meta 概述 Learning

Meta Learning概述(一)

回顾Machine Learning

  1. 定义一个function(神经网络等),该function上有很多参数,参数统一定义为θ,对于一个猫狗分类器来说,当猫狗的图片经过f(θ)时,函数会输出一个猫或狗的结果
  2. 定义一个Loss function,L(θ)
  3. 使用优化器,找到最优参数\(θ^*\),使得L(θ)最小

什么是Meta Learning

Step1:定义一个F,该F是为了学习一个function,对于猫狗分类器来说,当猫狗的图片经过f(θ)时,使得F(f(θ))可以正确预测猫狗类别。其中Φ被定义为learnable components

Step2:定义一个Loss function。在Meta Learning中,训练任务被分为了很多Task,每个Task中包含N-Way K-Shot的Support Set和Query Set,在每一轮的迭代中,一个Episode要学习到Support Set中的特征,同时用Query Set做验证来计算损失。每个Task会有一个损失,它们的和就是Loss function

Step3:使用一些方优化法找到Φ使得整个Loss function最小。

总结

  1. meta learning是为了学到一个function,学习一个学习算法。

  2. meta learning的训练过程中,用across-task training代表meta learning的整个训练过程,其包含一个Episode中的两个within-task(train和test)。如下图所示:

标签:function,Loss,Set,定义,Meta,概述,Learning
From: https://www.cnblogs.com/horolee/p/meta_learning_01.html

相关文章

  • HarmonyOS音视频开发概述
     在音视频开发指导中,将介绍各种涉及音频、视频播放或录制功能场景的开发方式,指导开发者如何使用系统提供的音视频API实现对应功能。比如使用TonePlayer实现简单的提示音,当设备接收到新消息时,会发出短促的“滴滴”声;使用AVPlayer实现音乐播放器,循环播放一首音乐。在每个功能中......
  • 《Deep Residual Learning for Image Recognition》阅读笔记
    论文标题《DeepResidualLearningforImageRecognition》撑起CV界半边天的论文Residual:主要思想,残差。作者何恺明,超级大佬。微软亚研院属实是人才辈出的地方。初读摘要提问题:更深层次的神经网络更难训练。提方案:提出了残差网络解决深层网络训练的问题。这也......
  • Sequence to Sequence Learning with Neural Networks
    SequencetoSequenceLearningwithNeuralNetworks关键词:LSTM,Seq2Seq......
  • 数字人论文:Audio-Driven Facial Animation by Joint End-to-End Learning of Pose an
    老规矩.直接第三章3.端到端网络结构给一个audio短窗口,也就是片段.我们预测窗口中间时刻的面部表情.我们把表情看做一个全端点的向量(后面我们会看这是什么的一种刻画面部)一旦我们网络训完,我们回各个时间点同时生成,并行.即使不需要过去的帧画面,依然生成很稳定的......
  • 【PRC】鲁棒跨域伪标记和对比学习的无监督域自适应NIR-VIS人脸识别 Robust Cross-Doma
    【该文章为杨学长的文章,膜拜】 探索跨领域数据中的内在关系并学习领域不变表示 由于需要在低光照条件下实现24h的人脸识别,近红外加可见光的(NIR-VIS)人脸识别受到了更多的关注。但是数据标注是一个难点。该文章提出了RobustcrossdomainPseudo-labelingandContrastivelear......
  • 论文阅读:CurveNet: Curvature-Based Multitask Learning Deep Networks for 3D Object
    CurveNet:Curvature-BasedMultitaskLearningDeepNetworksfor3DObjectRecognitionCurveNet:用于3D对象识别的基于曲率的多任务学习深度网络IEEE2021摘要:在计算机视觉领域,3D对象识别是许多实际应用中最重要的任务之一。三维卷积神经网络(CNN)已经在3D物体识别中展示了其......
  • Deep Learning —— 异步优化器 —— RMSpropAsync —— 异步RMSprop
       ============================================  代码地址:https://github.com/chainer/chainerrl/blob/master/chainerrl/optimizers/rmsprop_async.py defupdate_core_cpu(self,param):grad=param.gradifgradisNone:......
  • 乘风破浪,遇见未来元宇宙(Metaverse)之微软为元宇宙添砖加瓦,正式宣告完成收购动视暴雪(
    MicrosoftGaming首席执行官PhilSpencer博文https://news.xbox.com/en-us/2023/10/13/xbox-activision-blizzard/欢迎动视暴雪King的传奇团队加入Xbox团队我们热爱游戏。我们玩游戏、创造游戏,并亲身体会到游戏对我们每个人以及整个社区的重要意义。今天,我们正式欢迎动视......
  • Maven概述
    依赖管理依赖调节当多个手动创建的版本同时出现时,哪个依赖版本将会被使用。 (如果两个依赖版本在依赖树里的深度是一样的时候,第一个被声明的依赖将会被使用)。依赖管理可以直接指定手动创建的某个版本供使用。 依赖范围包含在构建过程每个阶段的依赖;......
  • [论文精读][基于点云的蛋白-配体亲和力]A Point Cloud-Based Deep Learning Strategy
    我需要的信息代码,论文不考虑共价键,每个点包括了六种原子信息,包括xyz坐标,范德华半径,原子重量以及来源(1是蛋白质,-1是配体)。原子坐标被标准化,其它参数也被标准化。对不足1024个原子的的复合体,补0到1024。增加考虑的原子从1024到2048,没有提升,增加原子信息通道,没有提升(见resul......