終于把 LSTM 算法搞懂了?。?/h1>
大家好，我是小寒
今天給大家分享一個超強的算法模型，LSTM。
LSTM（長短期記憶網絡，Long Short-Term Memory）是一種特殊的循環神經網絡（RNN）算法，專門設計用來解決傳統RNN在處理長序列數據時存在的梯度消失和梯度爆炸問題。
它通過引入細胞狀態和門控機制，使得模型能夠捕捉和保存長期依賴信息，從而有效地處理序列數據中的長期依賴關系。
LSTM 廣泛應用于自然語言處理、語音識別、時間序列預測等領域。
LSTM 的基本結構和原理
LSTM 的核心思想
傳統的 RNN 在處理長序列時，由于信息在時間步長上的反向傳播，導致靠近輸入端的梯度變得非常小或非常大，從而使得模型難以學習到長期依賴關系。
LSTM 的核心思想是通過引入門控機制來控制信息的流動，從而有效地“記住”重要的信息并“遺忘”不重要的信息，解決了長期依賴問題。
LSTM 單元內部包含一個細胞狀態 (cell state)，可以看作是信息流動的 “高速公路”，它直接穿過整個鏈條，只進行少量的線性交互。信息可以通過門控機制被添加到細胞狀態或從中移除。
基本結構
LSTM 單元主要由以下幾個部分組成。
- 細胞狀態：這是 LSTM 的核心，可以看作是網絡的 “記憶單元”。它能夠沿著時間鏈傳輸信息，并且只受到門控單元的少量線性交互。
- 遺忘門：決定細胞狀態中哪些信息需要被丟棄。
- 輸入門：決定當前輸入中哪些信息需要寫入細胞狀態。
- 輸出門：決定當前細胞狀態中哪些信息應該被輸出。
通過這三個門的控制，LSTM 能夠選擇性地保留和丟棄信息，從而有效捕捉長期依賴。
LSTM 的數學公式
假設在時刻 t，輸入為 xt，前一時刻隱藏狀態為 ht-1，前一時刻細胞狀態為 Ct-1。
LSTM 的計算過程如下
1.遺忘門
2.輸入門
輸入門決定了有多少新的信息要添加到細胞狀態中。它包含兩個部分：
這包括兩個部分
- 輸入門層
決定哪些值將被更新。
- 候選細胞狀態
產生新的候選信息向量，準備加入到細胞狀態中。
3.更新細胞狀態
細胞狀態結合遺忘門和輸入門的結果進行更新。
4.輸出門
輸出門決定了細胞狀態中有哪些信息將被 “輸出” 作為當前時間步的隱藏狀態 ht。
LSTM 的優勢
- 解決長期依賴問題：LSTM 能夠有效地捕獲和利用序列中遠距離的依賴關系，這是其最顯著的優勢。
- 更好的梯度流動：門控機制確保了梯度在反向傳播時能夠更好地流動，緩解了梯度消失問題。
- 適用于各種序列任務：在語音識別、自然語言處理（機器翻譯、文本生成、情感分析）、時間序列預測等領域表現出色。
案例分享
下面是一個使用 LSTM 算法預測英偉達（NVIDIA，股票代碼NVDA）股票價格的示例代碼。代碼會用 Python 和 TensorFlow/Keras 實現，流程包括數據獲取、預處理、模型構建、訓練和預測。
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.preprocessing import MinMaxScaler
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import LSTM, Dense
import yfinance as yf
# 1. 下載英偉達股票數據（近幾年）
ticker = 'NVDA'
data = yf.download(ticker, start='2017-01-01', end='2025-07-11')
print(data.head())
# 2. 只用收盤價進行預測
close_prices = data['Close'].values.reshape(-1, 1)
# 3. 數據歸一化，映射到[0,1]
scaler = MinMaxScaler(feature_range=(0, 1))
scaled_data = scaler.fit_transform(close_prices)
# 4. 創建訓練集，時間步長設為60天（過去60天預測第61天）
def create_dataset(dataset, time_step=60):
X, Y = [], []
for i in range(len(dataset) - time_step):
X.append(dataset[i:i+time_step, 0])
Y.append(dataset[i+time_step, 0])
return np.array(X), np.array(Y)
time_step = 60
X, y = create_dataset(scaled_data, time_step)
# 5. LSTM輸入需要3D張量：[樣本數, 時間步長, 特征數]
X = X.reshape(X.shape[0], X.shape[1], 1)
# 6. 構建LSTM模型
model = Sequential()
model.add(LSTM(units=50, return_sequences=True, input_shape=(time_step, 1)))
model.add(LSTM(units=50, return_sequences=False))
model.add(Dense(units=25))
model.add(Dense(units=1))
model.compile(optimizer='adam', loss='mean_squared_error')
# 7. 訓練模型
model.fit(X, y, batch_size=32, epochs=10)
# 8. 預測示例：用訓練數據后部分做預測演示
train_size = int(len(scaled_data) * 0.8)
test_data = scaled_data[train_size - time_step:]
X_test, y_test = create_dataset(test_data, time_step)
X_test = X_test.reshape(X_test.shape[0], X_test.shape[1], 1)
predictions = model.predict(X_test)
predictions = scaler.inverse_transform(predictions)
# 9. 可視化結果
actual_prices = scaler.inverse_transform(y_test.reshape(-1,1))
plt.figure(figsize=(12,6))
plt.plot(actual_prices, label='真實價格')
plt.plot(predictions, label='預測價格')
plt.title('英偉達股票價格預測')
plt.xlabel('時間')
plt.ylabel('價格')
plt.legend()
plt.show()
