微软和北京大学提出了一个通用学习框架TS2Vec,用于在任意语义级别中时间序列的表示学习。该模型在增强的上下文视图中以分层技术执行对比学习,从而为各个时间戳提供强大的上下文表示。
结果显示,与最先进的无监督时间序列表示学习相比,TS2Vec模型在性能上有显著改进。
http://arxiv.org/abs/2106.10466
https://arxiv.org/pdf/2106.10466.pdf
源代码:https://github.com/yuezhihan/ts2vec
paddlets的代码实现
https://paddlets.readthedocs.io/zh_CN/latest/source/modules/models/representation.html
一篇基于对比学习策略的时序数据表征学习研究工作。
时序表征/预训练
探索自监督学习技术,通过时序表征支持多样化下游任务,通过预训练解决小样本问题
从样本中随机采样两个重叠的子序列,并鼓励在重叠部分的上下文表示的一致性。
编码器包括三个主要的成分,包括输入映射层,时间戳屏蔽模块以及扩展卷积模块。
参考资料:
时间序列表征@TS2Vec: Towards Universal Representation of Time Series - daydaymoyu的文章 - 知乎
https://zhuanlan.zhihu.com/p/428617192