- 2024-10-18【AI学习】Mamba学习(八):HiPPO通用框架定义和方法
在大概了解了《HiPPO通用框架介绍》后,继续看HiPPO通用框架的相关定义和方法。相关内容在论文《HiPPO:RecurrentMemorywithOptimalPolynomialProjections》的第二章描述。2TheHiPPOFramework:High-orderPolynomialProjectionOperators作者将投影作为学习记忆
- 2024-10-18【AI学习】Mamba学习(七):HiPPO通用框架介绍
HiPPO这篇论文《HiPPO:RecurrentMemorywithOptimalPolynomialProjections》,提出了一个通用框架。我们再重新看一下论文的摘要:从连续数据中学习的一个核心问题是,随着更多数据的处理,以增量方式表示累积历史。我们介绍了一个通用框架(HiPPO),用于通过投影到多项式基上对连
- 2024-06-12Efficiently Modeling Long Sequences with Structured State Spaces
目录概符号说明S4代码GuA.,GoelK.andReC.Efficientlymodelinglongsequenceswithstructuredstatespaces.NeurIPS,2022.概Mamba系列第三作.符号说明\(u(t)\in\mathbb{R}\),输入信号;\(x(t)\in\mathbb{R}^N\),中间状态;\(y(t)\in\mathbb{R}\),输
- 2024-06-05HiPPO: Recurrent Memory with Optimal Polynomial Projections
目录概Motivation代码GuA.,DaoT.,ErmonS.,RudraA.andReC.HiPPO:Recurrentmemorywithoptimalpolynomialprojections.NIPS,2021.概看下最近很火的Mamba的前身.本文其实主要介绍的是一个如何建模历史信息在正交基上的稀疏的变化情况.Motivation对于