首页 > 编程语言 >Vision Transformer源码阅读笔记

Vision Transformer源码阅读笔记

时间:2022-10-11 20:26:44浏览次数:48  
标签:Transformer 卷积 patch 源码 阅读 Vision

代码:

首先阅读文件vit_model.py

VIT模型中输入图片的大小是固定的,所以如果大小不对,就要报错

【函数中卷积核太大,能不能换成3x3的】
【每一个patch都是同一组卷积核卷积得到的,每个patch对应于原图的不同区域,区域之间不重叠,如果重叠,效果会不会更好?】

对代码进行说明

标签:Transformer,卷积,patch,源码,阅读,Vision
From: https://www.cnblogs.com/codingbigdog/p/16782232.html

相关文章

  • Netty 学习(十):ChannelPipeline源码说明
    Netty学习(十):ChannelPipeline源码说明作者:Grey原文地址:博客园:Netty学习(十):ChannelPipeline源码说明CSDN:Netty学习(十):ChannelPipeline源码说明ChannelPipeline可以看......
  • 阿里云openservices rocketmq消息队列消费消息底层源码分析
    mq消费源码依赖<dependency><groupId>com.aliyun.openservices</groupId><artifactId>ons-client</artifactId></dependency>阿里云rocke......
  • HashMap实现原理及源码分析
    哈希表(hashtable)也叫散列表,是一种非常重要的数据结构,应用场景及其丰富,许多缓存技术(比如memcached)的核心其实就是在内存中维护一张大的哈希表,而HashMap的实现原理也常常出现......
  • 源码角度了解Skywalking之服务端OAP对Trace的处理
    源码角度了解Skywalking之服务端OAP对Trace的处理从前几篇的文章我们知道Skywalking对Trace信息进行生成收集后,将TraceSegment对象转换为UpstreamSegment对象,通过GRPC发送......
  • 基于SSM+Vue汽车租赁管理系统Java车辆出租系统(源码调试+讲解+文档)
    ......
  • golang-set包的用法及源码解析
    Set是一种基本的数据结构,它具备确定性、互异性、无序性三个特点。因此,在开发过程中我们通常用它来判断一些数据的集合与另一个数据集合或者元素的包含关系。在大部分开发......
  • 3.0 Spring生命周期源码解析
    Spring最核心的功能之一就是创建对象(IOC)Bean的生命周期指:在spring中,一个Bean的生成和销毁的过程1.生成BeanDefinitionSpring启动先进行扫描,调用org.springframework.c......
  • Lua5.3源码解析
    2022-10-11,16点52 大概看了2个月不到的时间,坚持每天看lua设计与实现.pdf还有csdn上面lua的博客.然后自己debug研究.最后把细节加到注释里面.建议看这个项目时候......
  • 工厂方法在Spring源码中的运用
    我们都知道Spring中IOC是使用的工厂模式,但是对于实现细节就一知半解了,今天这篇文章就带大家解读Spring中是如何使用工厂模式的。在上篇文章中我们懂了什么是工厂模式,这篇文......
  • drf三大认证之频率类源码解析
    主要从SimpleRateThrottle的allow_request方法开始分析第一步1.查看SimpleRateThrottle的allow_requestifself.rateisNone:returnTrue#表示没......