今天給大家介紹一篇最近東南大學發表的長周期時間序列預測工作。這篇文章的側重點也是多尺度建模，但和以往工作側重對輸入進行多尺度處理不同，本文的核心是引入多尺度的預測，并對不同尺度預測結果進行變量粒度個性化的加權融合。

論文標題：A Multi-scale Representation Learning Framework for Long-Term Time Series Forecasting

下載地址：??https://arxiv.org/pdf/2505.08199??

1、研究背景

多元長周期時序預測是時間序列預測中比較有挑戰性一個問題，其中多尺度信息的利用是目前研究的一個重點。不同尺度下，時間序列體現出的規律性不同，通過多尺度信息的融合可以提升預測的效果。

之前多尺度的工作，基本都是在輸入維度上做的，對輸入序列進行不同尺度的融合，構建多尺度輸入。而本文則從輸入維度進行多尺度建模，進行不同尺度的預測，再進行不同尺度預測結果的分變量個性化的融合。

2.建模方法

本文的核心模型結構如下圖所示，對于輸入序列使用ReVIN、趨勢季節項分解、分Patch Embedding等方式進行處理。在模型結構方面，核心使用MLP、Linear進行趨勢項和季節項的建模，并進行不同尺度的預測。最終的預測結果，使用各個尺度的預測結果進行個性化的權重融合得到。

在輸入層面，首先對原始序列使用ReVIN進行歸一化。接下來，使用基礎的季節項、趨勢項分解，生成季節項序列和趨勢項序列。對于兩個序列，分別使用分patch的方法生成patch embedding，拼接上position embedding，輸入到后續模型中。其中季節項使用MLP網絡建模，趨勢項使用線性模型建模。

對于季節項和趨勢項兩路模型，均使用多尺度的預測方法。使用多個head，將編碼結果映射到多個尺度的預測結果上。這里每個head主要是映射到的維度不同，粗粒度的映射到的維度小，細粒度的映射出的維度大。具體每個尺度的計算邏輯如下，最后生成趨勢項、季節項多個尺度的預測結果。

為了將多個尺度的輸出結果進行融合，文中采用了一種從粗到細的層次融合方法。每一層的預測結果是當前尺度的預測和上一層累積預測結果映射后的求和。最終的預測結果由趨勢項和季節項各自的結果加和得到。

不同的變量可能需要進行不同尺度預測結果的個性化融合，文中采用一個Gate網絡實現。將序列的趨勢項、季節項進行pooling作為Gate網絡的輸入，生成每個變量使用各個尺度預測結果的打分。同時，由于各個尺度預測長度不同，使用插值的方法擴展到同一長度，然后基于上述產生的權重進行多尺度的加權求和。

在損失函數方面，一方面是整體的預測效果作為擬合目標，另一方面是不同尺度都通過相應的序列聚合生成對應尺度的label，每個尺度的預測有一個對應的擬合目標。

3.實驗效果

在和多個SOTA模型的效果對比中，本文的方法取得了預測準度上的提升。

同時，文中也對各個模塊進行了消融實驗：

本文轉載自???圓圓的算法筆記???，作者：Fareise