[IEEE TIV]基于transformer和深度学习的多层交通流预测模型

目录

• 简介
• 创新点
• • 基于transformer的特征提取
  • 基于CNN与MFNN模型相结合的预测

论文地址：论文

简介

利用交通数据准确预测未来某一时刻的交通流量，可以缓解交通拥堵等问题，对城市交通健康发展和经济发展具有重要作用。然而，目前的交通流量预测模型依赖于人的经验，只考虑了单一机器学习模型的优点。因此，文章提出了一种基于transformer和深度学习的多层交通流预测模型(MTDLTFP)。MTDLTFP模型首先借鉴了变压器模型的思想，该模型使用多个编码器和解码器对初始交通数据进行特征提取，在预测阶段采用深度学习技术，将隐藏特征分别输入到CNN和多层前馈神经网络(MFNN)中获得预测分数。CNN模型可以捕获隐藏特征之间的相关信息，MFNN可以捕获特征之间的非线性关系。最后使用一个线性模型将两个预测分数结合起来，这样可以使最终的预测值考虑到两个模型的共同优点。
图为MTDLTFP模型的框架。

图下显示了MTDLTFP模型使用结构化数据的隐藏特征来预测未来一段时间的交通流量。这些隐藏特征分别由几个CNN和MFNN模型计算得到预测值。

创新点

基于transformer的特征提取

为了解决以往的交通预测模型需要人工分析交通流数据并定义合理的隐藏特征的问题，MTDLTFP模型基于transformer模型，使用多个连接的编码器和解码器从交通流数据中提取隐藏特征。这种方法不仅减少了构建所需的时间，还构建了可以更有效地预测交通流量的隐藏特征。

基于CNN与MFNN模型相结合的预测

以前的交通流预测模型都是将h输入到随机森林模型或XGBoost模型中。虽然这些模型在计算速度和精度上都有更好的优势，但是每一种机器学习算法都有自己的优势，树模型过于容易出现过拟合，不能考虑到人工特征之间的相关性。为了能够利用h对未来时段的交通流进行预测，在预测阶段，采用新颖的CNN与MFNN模型相结合的方法，使预测值同时结合多个模型的优点。