首页 > 其他分享 >强到离谱,Transformer为何能闯入CV界秒杀CNN?

强到离谱,Transformer为何能闯入CV界秒杀CNN?

时间:2023-08-04 18:03:06浏览次数:34  
标签:NLP Transformer 论文 直播 MAE CNN CV

强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能

强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_02

Transformer 近年来已成为视觉领域的新晋霸主,这个来自 NLP 领域的模型架构为何能闯入CV界秒杀CNN?


强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_02


自提出之日起,Transformer模型已经在CV、NLP以及其他更多领域中「大展拳脚」,实力冲击CNN。


Transformer为什么这么有实力?因为它在分类、检测等任务上展现了极其强劲的性能。而且骨干网络上的发展也推动了下游任务的发展,Swin Transformer更是成了屠榜般的存在,在工业界具有广阔的应用前景。所以引起了人工智能研究生的强烈兴趣。


但要想啃透CV Transformer 难度不小一方面,Transformer本是应用于NLP的论文,其中很多内容都形成了共识,在论文中并不会去详细介绍这些共识内容,例如QKV是什么,embedding是什么等,对于其他方向的人看到这些就很难理解。

另一方面,近小半年,Transformer+CV的论文就已经有40多篇。学术研究更新之快,与脱发速度成正比

强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_04

那么这些Transformer+CV的论文要怎么学习才能又好又快地吃透呢?


无非三个步骤:泛读、精读、代码复现。


这次我们请来了现处科研一线的——电子羊老师,推出【ViT】+【MAE】论文精讲直播,为期2天,彻底夯实 CV Transformer 基础。


直播嘉宾:

强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_05

—— 直播内容与安排 ——


1、4月22日20:00直播



1.论文研究背景、成果及意义

2.论文精读

3.论文总结

4.学习路径推荐



强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_06

强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_07

2、4月23日20:00直播



1.MAE简介

2.PreTrain FineTune

3.为什么分类任务如此重要?

4.MAE的主要方法

5.MAE实验结果




强到离谱,Transformer为何能闯入CV界秒杀CNN?_人工智能_08



标签:NLP,Transformer,论文,直播,MAE,CNN,CV
From: https://blog.51cto.com/u_15726357/6965759

相关文章

  • CVE-2021-22204 GitLab RCE之exiftool代码执行漏洞深入分析(二)
    文章写于2022-01-19,首发在天融信阿尔法实验室目标导读1前言2前置知识2.1JPEG文件格式2.2Perl模式匹配3exiftool源码调试到漏洞分析3.1环境搭建3.2漏洞简介3.3exiftool是如何解析嵌入的0xc51b标签3.4exiftool是如何调用parseAnt函数3.5parseAnt函数分......
  • 视频安防监控EasyCVR平台海康大华设备国标GB28181告警布防的报文说明
    TSINGSEE青犀视频监控综合管理平台EasyCVR基于云边端协同,可支持海量视频的轻量化接入与汇聚管理。平台既具备传统安防视频监控的能力,比如:视频监控直播、云端录像、云存储、录像检索与回看、告警上报、平台级联、云台控制、语音对讲等,也能接入AI智能分析的能力,包括人脸检测、车辆检......
  • 漏洞复现报告:CVE-2022-0847 Linux 内核漏洞
    1.1漏洞信息表漏洞名称Linuxkernel安全漏洞发布时间2022年3月7日漏洞编号CVE-2022-0847威胁类型其他危害级别高危影响版本LinuxKernel5.8-5.16.11、5.8-5.15.25、5.8-5.10.102漏洞描述产品介绍:Linuxkernel是美国Linux基金会的开源操作系统Linux所使用的内核。是一个一体化内核......
  • 漏洞复现报告:CVE-2021-44228 Log4j2远程代码执行漏洞
    Log4j2远程代码执行漏洞研究报告一、漏洞信息搜集1.1漏洞信息表漏洞名称Log4j2远程代码执行漏洞发布时间2021年12月10日漏洞编号CVE-2021-44228威胁类型远程代码执行危害级别高危影响版本ApacheLog4j22.0-2.15.0-rc1漏洞描述产品介绍:ApacheLog4j是一个Java日志框架,用于在应用......
  • 漏洞复现报告:CVE-2020-2883 Weblogic反序列化漏洞
    OracleWebLogicServer漏洞研究报告一、漏洞信息搜集1.1漏洞信息表漏洞名称OracleWebLogicServer反序列化漏洞发布时间2020年4月16日漏洞编号CVE-2020-2883威胁类型反序列化漏洞危害级别高危影响版本OracleWebLogicServer10.3.6.0.0、12.1.3.0.0、12.2.1.3.0、12.2.1.4.0版......
  • CVE-2021-22205 GitLab RCE之未授权访问深入分析(一)
    文章写于2021-11-29,首发在天融信阿尔法实验室前言安全研究员vakzz于4月7日在hackerone上提交了一个关于gitlab的RCE漏洞,在当时并没有提及是否需要登录gitlab进行授权利用,在10月25日该漏洞被国外安全公司通过日志分析发现未授权的在野利用,并发现了新的利用方式。根据官方漏洞通......
  • 视频融合平台视频汇聚平台LiteCVR路由器报跨域错误用户反馈案例分享
    LiteCVR视频融合云平台是基于云边端一体化架构为用户提供视频监控等相关功能服务的平台。具备很强的视频监控直播、录像、云存储、检索与回看、告警、集群、级联、共享等能力,为便于用户集成与调用、二次开发,平台向用户提供了丰富的API接口。我们近期正在整理以前到近期的用户反馈,今......
  • 漏洞复现报告:CVE-2019-2890 反序列化漏洞
    OracleWebLogicServer漏洞研究报告一、漏洞信息搜集1.1漏洞信息表漏洞名称OracleWebLogicServer反序列化漏洞发布时间2019年10月16日漏洞编号CVE-2019-2890威胁类型反序列化漏洞危害级别高危影响版本OracleWebLogicServer10.3.6.0.0、12.1.3.0.0、12.2.1.3.0、12.2.1.4.0......
  • 安防视频监控汇聚平台EasyCVR接入Ehome告警,公网快照不显示是什么原因?
    智能视频监控汇聚平台TSINGSEE青犀视频EasyCVR可拓展性强、视频能力灵活、部署轻快,可支持的主流标准协议有国标GB28181、RTSP/Onvif、RTMP等,以及支持厂家私有协议与SDK接入,包括海康Ehome、海大宇等设备的SDK等,视频监控管理平台TSINGSEE青犀EasyCVR能对外分发RTSP、RTMP、FLV、HLS、......
  • 视频监控汇聚平台EasyCVR视频页面WebRTC流地址播放不了是什么原因?
    开源EasyDarwin视频监控TSINGSEE青犀视频平台EasyCVR能在复杂的网络环境中,将分散的各类视频资源进行统一汇聚、整合、集中管理,在视频监控播放上,TSINGSEE青犀视频安防监控汇聚平台可支持1、4、9、16个画面窗口播放,可同时播放多路视频流,也能支持视频定时轮播。视频监控汇聚平台EasyCV......