首页 > 其他分享 >深度学习-卷积神经网络--什么是manifold embedding--66

深度学习-卷积神经网络--什么是manifold embedding--66

时间:2024-04-08 11:55:46浏览次数:22  
标签:流形 manifold 维空间 映射 -- 学习 66 数据 高维

目录

    参考: 流形假设(Manifold Hypothesis)

    在介绍 流形学习(Manifold learning) 之前,首先需要理解一个假设,就是流形假设(Manifold Hypothesis)。
    这个假设认为,高维数据很多都是低维流形嵌入(embedding)于高维空间当中,

    比如说三维空间里的各种平面或者曲面,虽然这些平面或者曲面处于三维空间中,但是平面或者曲面上的任意一点用两个坐标来表示就行,
    比如说经纬度。

    而流形学习的目标就是将高维空间当中的流形映射回低维空间当中去,且映射后的结果需要达到一定的要求,想象一下地球仪展开成平面世界地图的过程。

    线性:

    在大多数情况下,低维流形向高维空间当中的嵌入并不是以线性的方式嵌入的,下图就是一个非线性嵌入很直观的例子:

    在深度学习的场景下,我们的目标其实是通过损失函数来体现的。 也就是说,通过都损失函数进行设计,神经网络能拟合出符合我们目标的映射,将嵌入到高维空间 当中的低维流形映射回低维空间。 但是这种映射可以看作对数据的修改吗? 我个人觉得不是的, 数据一旦产生了, 不管你用不用它,它就在那儿,静静地呆在高维空间里面,通过损失函数迭代出来的 各层权重也没有对数据做出修改,所修改的仅仅是人作为一个观测者在高维空间中的观测者坐 标系而已,换句话说数据没变,变的是人观测数据的角度以及方式。

    流形学习是一种机器学习方法,旨在从高维数据中提取低维表示。
    它可以用于数据降维、可视化和特征提取等任务。
    流形是指具有局部欧几里得结构的空间,即可以用欧几里得距离来测量邻域内的点之间的距离。
    在流形学习中,我们假设数据分布在一个流形上,
    而不是在高维空间中随机分布。
    流形学习的目标是找到一个低维流形,使得在这个流形上的距离尽可能地保持原始数据的结构和信息。
    常见的流形学习方法包括主成分分析(PCA)、局部线性嵌入(LLE)、等距映射(Isomap)和t-SNE等。

    流形学习(manifold learning)是机器学习、模式识别中的一种方法,在维数约简方面具有广泛的应用。它的主要思想是将高维的数据映射到低维,使该低维的数据能够反映原高维数据的某些本质结构特征。流形学习的前提是有一种假设,即某些高维数据,实际是一种低维的流形结构嵌入在高维空间中。流形学习的目的是将其映射回低维空间中,揭示其本质。以下图为例[1],左边是一个三维数据的分布,右边是降低到二维后的结果。我们可以发现二维的数据更能直观地表示其流形结构。

    通过流形学习来实现降维的方法有很多,其基本思想也类似:假设数据在高维具有某种结构特征,希望降到低维后,仍能保持该结构。

    标签:流形,manifold,维空间,映射,--,学习,66,数据,高维
    From: https://www.cnblogs.com/cavalier-chen/p/18120827

    相关文章

    • EBS 采用API生成一揽子采购协议
      程序包头createorreplacepackagecux_ws_scs_op_pba_pubis/*===============================================*===============================================*PROGRAMNAME:*cux_ws_op_vendor_scs_pub*DESCRIPTION:*......
    • 蓝桥杯2023年A组-试题C-平方差
      0.题目1.题解1.1数学分析思路主要就是类似剪枝的思想,x必定满足某种条件,我们可以分奇偶情况进行讨论,最后在得出条件后使用暴力枚举.x=(y-z)(y+z)由于奇数±偶数=奇数,偶数±偶数=偶数,奇数±奇数=偶数;可以看出只要y,z的奇偶性质定了,则无论是加减奇......
    • Chromium 自定义缓存策略
      目录CefRequestHandler在什么位置实现我如何将本地资源作为该请求资源返回呢?我怎么缓存网络资源呢,比如图片和视频?CefResourceHandler如何实现缓存图片和视频,缓存时间无限长,设置缓存路径?demoMyResourceHandler在哪里设置?ChromiumEmbeddedFramework(CEF)是一个开源库,用于......
    • Jenkins pipeline 任务自动化构建方案
      背景当前开发环境项目发布需提交代码后手动执行构建操作,任务较多找任务较耗时,为提升持续集成效率,现将开发环境构建任务升级为自动触发构建任务 方案Jenkins系统安装插件 Generic Webhook Trigger操作一服务端项目流水线中添加 trigger 触发器,实现提交代码自动触发 Je......
    • 字符串的扩展
      字符串的扩展字符的Unicode表示法ES6加强了对Unicode的支持,允许采用\uxxxx形式表示一个字符,其中xxxx表示字符的Unicode码点。但是,这种表示法只限于码点在\u0000~\uFFFF之间的字符。超出这个范围的字符,必须用两个双字节的形式表示"\uD842\uDFB7"//"......
    • 字符串的新增方法
      字符串的新增方法String.fromCodePoint()ES5提供String.fromCharCode()方法,用于从Unicode码点返回对应字符,但是这个方法不能识别码点大于0xFFFF的字符String.fromCharCode(0x20BB7)//"ஷ"String.fromCharCode()不能识别大于0xFFFF的码点,所以0x20BB7就发生了溢出,最高......
    • 正则的扩展
      正则的扩展RegExp构造函数在ES5中,RegExp构造函数的参数有两种情况第一种情况是,参数是字符串,这时第二个参数表示正则表达式的修饰符(flag)varregex=newRegExp('xyz','i');//等价于varregex=/xyz/i;参数是一个正则表示式,这时会返回一个原有正则表达式的拷贝......
    • C#中?和??及?:的用法
      ?代表可空类型修饰符或表示结果待定。??代表空合并运算符:用于定义可空类型和引用类型的默认值。如果此运算符的左操作数不为null,则返回左操作数,如果为null则返回右操作数。例如:a??b当a为null时则返回b,当a不为null时则返回a本身。另:空合并运算符为右结合运算符,即操作时从右向......
    • 函数的扩展
      函数的扩展函数参数的默认值ES6允许为函数的参数设置默认值,即直接写在参数定义的后面。functionlog(x,y='World'){console.log(x,y);}log('Hello')//HelloWorldlog('Hello','China')//HelloChinalog('Hello','')//Hello......
    • keycloak~网站对接到Keycloak的步骤
      新网站对接到KC的部署kc的环境向kc申请自己的客户端kc的登录接口通过code换token接口刷新token接口kc的用户信息接口kc的jwttoken说明1.kc的环境测试环境:https://test-kc.xxx.com预发布环境:https://pre-kc.xxx.com生产环境:https://kc.xxx.com2.向kc申请自己的客......