首页 > 其他分享 >自监督学习

自监督学习

时间:2024-12-31 10:02:27浏览次数:3  
标签:标签 模型 学习 监督 数据 标注

第一部分:基础含义

自监督模型(Self-Supervised Model)是一种介于有监督学习无监督学习之间的学习方法。它通过从数据本身生成伪标签,让模型在训练过程中无需依赖人工标注的数据。

简单来说:

  • 有监督学习依赖于人工标注的标签。
  • 无监督学习完全不需要标签。
  • 自监督学习通过设计某种预设任务(Pretext Task),从数据中自动生成伪标签,让模型在无标签数据上进行训练。

自监督学习在没有人工标注的情况下,通过数据间的结构或内在关系挖掘特征表示,最终可以用于下游任务(比如分类、检测、生成等)。

第二部分:自监督学习和无监督学习的关系详细分析

一般情况下,自监督学习和无监督学习都是无标签的情况,所以我们要对这两者进行一个好的区分。

  • 自监督学习:通过设计预设任务从无标签数据中生成伪标签,适用于深度学习模型的特征预训练,类似有监督学习的过程。
  • 无监督学习:完全不依赖标签,直接建模数据的结构或分布,更多用于聚类、降维或异常检测。

第三部分:自监督学习举例

[猫的图片] -> [遮挡部分的小块] -> [输入模型的图片]

总结

在这个例子中:

  • 自监督任务: 重建被遮挡的图片部分。
  • 伪标签: 遮挡的图片本身隐含了“原始内容”作为伪标签。
  • 模型学习内容: 学习到图片的语义特征(比如猫的形状、背景结构等)。

这种方法的核心就是:通过设计一个预设任务(预测遮挡块),让模型从数据中学习,而不需要依赖人工标注的标签。

标签:标签,模型,学习,监督,数据,标注
From: https://blog.csdn.net/weixin_74009895/article/details/144840977

相关文章

  • ov5640_lcd_display学习笔记
    最近学习了正点原子fpgaov5640摄像头显示例程,特此记录一下。系统框架与接口FPGA要操控的外围器件为ov5640摄像头、LCD和DDR3,接口方面也并不算复杂,用到的接口为sccb、dvp以及RGB888。sccb接口用来配置摄像头寄存器参数,并且iic兼容sccb,所以配置寄存器直接调用iic的驱动模块即......
  • 使用深度Q学习(DQN)训练飞机大战游戏智能体
    引言在强化学习领域,深度Q学习(DeepQ-Network,DQN)是一种非常流行的算法,它结合了Q学习和深度神经网络,能够处理高维状态空间的问题。本文将介绍如何使用DQN算法来训练一个飞机大战游戏的智能体,并附上完整的代码实现。  代码参考:https://download.csdn.net/download/weixin_74......
  • rabbitmq学习笔记
    RabbitMQ简介简介2006年,AMQP规范发布。2007年,Rabbit技术公司基于AMQP标准开发的RabbitMQ1.0发布AMQP​AMQP,即AdvancedMessageQueuingProtocol,一个提供统一消息服务的应用层标准高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议......
  • 强化学习算法环境报错:python报错 —— gym DuplicatedInput doesn't exist
    运行强化学习pcl算法,报错,原因是gym版本过高,gym停止维护版本为0.26版本,降低版本到0.18,运行成功。pcl算法的官方地址:https://github.com/tensorflow/models/blob/master/research/pcl_rl......
  • 8086汇编(16位汇编)学习笔记10.寄存器总结
    8086汇编(16位汇编)学习笔记10.寄存器总结-C/C++基础-断点社区-专业的老牌游戏安全技术交流社区-BpSend.net寄存器8086CPU有14个寄存器它们的名称为:AX、BX、CX、DX、SI、DI、SP、BP、 IP**、CS、DS、ES、**SS、PSW。8086CPU所有的寄存器都是16位的,可以存放两个字节。AX、......
  • 人形机器人 —— 具身智能大模型(强化学习)—— 灵初智能发布首个端到端具身模型Psi R0
    相关:https://ai-bot.cn/psi-r0/灵初智能发布首个基于强化学习(RL)的端到端具身模型PsiR0。该模型支持双灵巧手协同进行复杂操作,将多个技能串联混训,生成具有推理能力的智能体,从而完成并闭环长程灵巧操作任务。并且,PsiR0还可以实现跨物品、跨场景级别的泛化。......
  • 深度学习小白初学者入门干货!
    前言:主要内容阐述了深度学习中常见的实验问题与实验技巧,包括消融实验、对比实验的做法及相关指标,数据集的分配问题,深度学习改进实验的顺序,预训练权重对改进和精度的影响,YAML模型结构图的绘制,训练的可重现性,pytorch模块内结构图的绘制,创新性,模块加入结构的方法,判断模型收敛与......
  • MarkDown学习-2号
    在VSCode里使用MarkDown语言跟随该b站视频学会如何在VSCode里使用MarkDown进行编辑:你永远可以相信VSCode!又一个Typora!【Markdown】——up主:老官童鞋gogo文本效果(强调)粗体3种打法:左右各2个*左右各2个_选中后Ctrl+B(粗体的英文是bold)▲3相当于1的快捷键;▲个人的......
  • RL强化学习基础教程(李宏毅老师课程笔记)
    RL概述增强式学习(一)与机器学习一样都是三个步骤那RL可以講的技術啊,非常非常地多,它不是在一堂課裡面可以講得完的,我甚至覺得說,如果有人要把它開成一整個學期的課,可能也是有這麼多東西可以講,所以今天啊,這堂課的目的,並不是要告訴你有關RL的一切,而是讓大家有一個基本的認識,大概......
  • Python AI 教程之五: 强化学习
    强化学习强化学习:概述强化学习(RL)是机器学习的一个分支,专注于在特定情况下做出决策以最大化累积奖励。与依赖具有预定义答案的训练数据集的监督学习不同,强化学习涉及通过经验进行学习。在强化学习中,代理通过执行操作并通过奖励或惩罚获得反馈来学习在不确定、可能复杂的环......