首页 > 其他分享 >神经网络和Transformer基础

神经网络和Transformer基础

时间:2024-07-19 08:59:13浏览次数:14  
标签:Transformer 变换 矩阵 基础 神经网络 空间 数据 向量

一、矩阵乘法

  A * M = B。   其中,A表示原矩阵,是原空间的一组向量(数据点);  M表示空间变换规则; B表示转换后新空间的一组向量(数据点)

  举例: 比如 1*2的向量,和矩阵2*3进行相乘,结果是1*3。说明向量(数据点)还是1个,数据维度从2升成3,从2维平面向量(数据点),变换到了3维立体空间的向量(数据点)

      如何理解 

  • 空间变换(升/降): 表示将向量(数据点)进行空间变换到新的空间去,类似升维、降唯效果。 
  • 线性变换:点变换都是通过一次方程,变换后至少一些特性不变: 向量(数据点)数不变; 各向量间的长度比例不多(都等比拉升/压缩)等。

     

标签:Transformer,变换,矩阵,基础,神经网络,空间,数据,向量
From: https://www.cnblogs.com/johnchow/p/18310719

相关文章

  • 操作系统基础(一)
    目录一.定义计算机系统层次结构二.功能一:资源管理者处理机管理存储器管理文件管理设备管理三.功能目标二:实现用户接口(向上层提供服务)GUI图形化用户接口联机/脱机命令接口程序接口四.操作系统的特征并发性共享性虚拟异步五.操作系统发展与分类手工操作阶段批处理......
  • Java基础 韩顺平老师的 集合 的部分笔记
    498,集合介绍 499,集合体系图(两个图背下)  packagecom.hspedu.collection;importjava.util.ArrayList;importjava.util.HashMap;publicclassCollection01{publicstaticvoidmain(String[]args){//老韩解读//1,集合主要是两组(单列......
  • 0基础学python-17:文件读写
    目录前言文件读写三步走:        打开文件-->读写文件-->关闭文件一、打开文件1.文件位置绝对位置:相对位置:2.open()方法二、读写文件1.读取文件2.写入文件三、关闭文件1.close()2.with语句前言        读写文件是最常见的IO操作。Python内置......
  • 【视频讲解】神经网络、Lasso回归、线性回归、随机森林、ARIMA股票价格时间序列预测|
    全文链接:tecdat.cn/?p=37019分析师:HaopengLi随着我国股票市场规模的不断扩大、制度的不断完善,它在金融市场中也成为了越来越不可或缺的一部分。基于此,选择合适的模型对股票价格进行精准、可靠的预测变得愈加重要。因为股票市场容易受到经济、政策、心理等多种相关因素的影响......
  • 高速接口自用笔记:GT基础(二)
    FPGA中相同BANK的电压需要一致,以实现高效的性能。本章是对GT基础(一)的补充。大量搬运:公众号-数字站:https://mp.weixin.qq.com/s/Z8ti7DIMdWEh8ogM0SQU4ghttps://mp.weixin.qq.com/s/0YoA9jhBOheZFwtTDJ75aQ 老哥写的很好,推荐都去看。小知识点:1.通过原语BUFDGE得到的时钟,可......
  • Java基础-基本类型和包装类型
    基本类型Java有八种基本类型intfloatdoublelongbooleancharshortbyte基本类型如果是局部变量,那它们的位置会在虚拟机栈种。如果是成员变量它们会存放在堆中。包装类型相对应的Java也有八种包装类型IntFloatDoubleLongBooleanCharShortByte区别1.默认值:......
  • Java基础常见面试题总结(下)
    目录异常Exception和Error有什么区别?Throwable类常用方法有哪些?  try-catch-finally如何使用?finally代码块中的代码一定会执行吗? 异常使用有哪些需要注意的地方? 泛型什么是泛型?有什么作用?泛型的使用类型有哪几种?项目中哪里使用到了泛型?反射反射是什么? ......
  • Java基础-Java代码变成机器可执行代码过程
    1Javac编译因为JVM把Javac把Java代码编译成字节码,即把.java文件变成.class文件,JVM(Java虚拟机)可以理解字节码文件,将其转换为机器可以执行的代码,所以只要安装了JVM的平台,都可以运行Java程序。2JVMJavac编译后,Java文件就变成了字节码文件,JVM类加载器会去加载字节码文件,然后由解......
  • 一文讲懂图神经网络GNN(剧本杀版)
    1.图神经网络(GNN)简介图神经网络(GraphNeuralNetworks,GNN)是一类专门设计用于处理图结构数据的深度学习模型。它能够有效地捕捉和利用数据中的关系信息,使其在许多领域中展现出强大的潜力。为了便于各位看官易于理解GNN中节点、边和图的概念,小编这里构造一个虚拟的剧本杀......
  • Java基础第三弹
    文章目录Java基础知识全解第三弹一、面向对象编程1.1面向对象编程思想1.2类和对象关系1.2.1类1.2.2对象2.对象创建和使用3.构造方法4.方法的调用5.java的内存结构6.成员变量和局部变量7.方法的重载二、this、static关键字1.this2.static(静态的)三、包1.包的由来2......