编码机

如何利用Transformer建立时间序

发布时间:2025/1/13 12:50:02   
北京中科医院几级 https://disease.39.net/bjzkbdfyy/180725/6416611.html
我最近读了一篇非常有趣的论文,叫做DeepTransformerModelsforTimeSeriesForecasting:TheInfluenzaPrevalenceCase。我认为这可能是一个有趣的项目,他的实现是从头开始的,并且可以帮助你了解更多关于时间序列预测。预测的任务在时间序列预测中,目标是预测给定历史值的时间序列的未来值。时间序列预测任务的一些例子是:预测流感流行病例:时间序列预测的深度变形模型:流感流行病例能源生产预测:能源消耗预测使用堆叠非参数贝叶斯方法天气预报:MetNet:一个用于降水预报的神经天气模型例如,我们可以将一个城市的能源消耗指标存储几个月,然后训练一个模型,该模型将能够预测该城市未来的能源消耗。这可以用来估计能源需求,因此能源公司可以使用这个模型来估计任何给定时间需要生产的能源的最佳值。模型我们将使用的模型是一个编码器-解码器的Transformer,其中编码器部分将时间序列的历史作为输入,而解码器部分以自回归的方式预测未来的值。解码器使用注意力机制与编码器连接。通过这种方式,解码器可以学习在做出预测之前“

转载请注明:http://www.aideyishus.com/lkzp/7615.html
------分隔线----------------------------