深度學習的崛起幾乎完全依賴于反向傳播（Backpropagation, BP）算法。BP通過鏈式法則逐層計算梯度，使得數以百萬計的參數能夠在訓練過程中不斷調整。

然而，這一方法在實際應用中存在顯著局限,BP需要存儲大量中間激活值，導致顯存消耗極高，BP依賴的計算模式在類腦硬件或非傳統計算架構上難以實現，從生物學角度看，人腦的學習機制與BP存在根本差異，這使得BP在“類腦學習”的探索中顯得不夠自然。

在這樣的背景下，Geoffrey Hinton 在 2022 年提出了 Forward–Forward (FF) 算法。這一方法完全摒棄了反向傳播，而是通過兩次前向傳播來完成學習：一次輸入正樣本（圖像與正確標簽），一次輸入負樣本（圖像與錯誤標簽），并利用局部定義的“goodness函數”來更新權重。FF算法的提出不僅是對深度學習訓練方式的挑戰，更是對生物學啟發式學習的一次探索。

FF算法最初僅在全連接網絡中得到驗證，如何將其擴展到卷積神經網絡（CNN）這一圖像處理的核心架構，成為亟待解決的問題。

11 月 5 日，《自然》發表研究團隊首次系統性地將FF算法應用于CNN 的最新成果，并提出了兩種新的空間標簽策略，基于傅里葉波的標簽與基于形態學變換的標簽。這一創新使得卷積層能夠在全局范圍內捕捉標簽信息，避免了傳統 one-hot 標簽在局部嵌入時的缺陷。

研究由來自德國哥廷根的跨學科團隊完成，他們是Riccardo Scodellaro, Ajinkya Kulkarni, FraukeAlves& Matthias Schr?ter，成員橫跨Max Planck Institute for Multidisciplinary Sciences、University Medical Center G?ttingen以及 Max Planck Institute for Dynamics and Self-Organization。他們的研究方向涵蓋分子影像學、血液學與腫瘤學、放射學以及復雜系統物理學，體現了醫學影像、人工智能與復雜系統理論的交叉融合。這種跨學科背景為FF算法在CNN中的應用提供了堅實的理論與實踐支撐。

1.工作綜述

反向傳播雖然是深度學習的基石，但其局限性早已引發廣泛關注。BP的存儲開銷巨大，訓練大型模型時顯存需求往往是權重存儲的數倍。其次，BP在類腦硬件或非傳統計算架構上難以實現，限制了其在低能耗計算中的應用。BP與生物神經系統的學習機制差異明顯，使得其在“類腦學習”探索中缺乏生物學合理性。

為解決這些問題，研究者提出了多種替代方法。

• Hebbian學習與對比Hebbian學習：基于“神經元共同激活則連接增強”的局部學習規則，強調生物學動機。
• 平衡傳播（Equilibrium Propagation）：在能量模型框架下，通過網絡的自由態與約束態差異來驅動學習，連接了Hopfield網絡與梯度下降。
• 反饋對齊（Feedback Alignment）、PEPITA等局部學習規則：通過局部誤差信號或隨機投影來更新權重，避免了逐層反向傳播。
• 零階優化與能量模型：通過兩次前向傳播的差異來近似梯度，雖然效率較低，但在現代改進下已具備競爭力。

在這一廣闊的探索背景下，Hinton提出的 Forward–Forward算法 屬于局部學習規則的范疇。它通過正負樣本的 goodness 差異來驅動權重更新，避免了反向傳播的復雜性。早期應用主要集中在全連接網絡，隨后擴展到圖神經網絡、光學神經網絡以及類腦硬件實驗。然而在卷積神經網絡這一主流架構中，FF算法的應用仍是空白。本研究正是填補這一缺口的首次系統性嘗試。

2.研究創新點

在這項研究中，最具突破性的貢獻是提出了兩種全新的空間擴展標簽策略，它們直接回應了 Forward–Forward (FF) 算法在卷積神經網絡中面臨的核心難題。Hinton 在最初的設計中采用的是 one-hot 標簽嵌入，即將類別信息編碼在圖像左上角的幾個像素中。

然而這種方式在全連接網絡中尚可行，但在卷積神經網絡中卻存在天然缺陷，卷積核在不同空間位置滑動時，往往無法捕捉到局部嵌入的標簽信息，導致網絡難以利用標簽進行有效學習。

為了解決這一問題，研究團隊提出了兩種空間化的標簽嵌入方法，使得類別信息能夠在整張圖像中均勻分布，從而保證卷積層在任意位置都能感知到標簽信號。

第一種方法是傅里葉波標簽。研究者為每個類別生成一組獨特的灰度波紋，這些波紋由頻率、相位和方向的不同組合構成。通過將這種波紋圖像與原始數據進行像素級疊加，標簽信息被擴展到整個圖像空間。這樣一來，卷積核在任何位置都能捕捉到與類別相關的模式，從而避免了局部標簽缺失的問題。傅里葉波標簽的優勢在于其數學上的可控性和全局一致性，能夠為網絡提供一種穩定的類別信號。

第二種方法是形態學標簽。與傅里葉波的全局波紋不同，形態學標簽通過對原始圖像施加一組確定性的形態學變換來嵌入類別信息，例如膨脹、腐蝕、旋轉或其他幾何操作。每個類別對應一組獨特的變換組合，這些變換會改變圖像的結構特征，從而迫使網絡在學習過程中關注圖像的形態差異，而不是依賴簡單的標簽模式。形態學標簽的優勢在于它能有效避免“捷徑解”——即網絡僅僅依賴標簽的簡單模式來區分正負樣本，而忽視了圖像本身的復雜特征。

這兩種空間擴展標簽策略的提出，直接解決了 CNN 在 FF 框架下的關鍵問題：如何讓卷積核在全局范圍內感知類別信息。它們不僅保證了標簽信號的空間可達性，還通過不同的機制引導網絡學習更深層次的特征。傅里葉波標簽提供了全局一致的模式，而形態學標簽則強化了對圖像結構的關注。兩者結合，為 FF-CNN 的訓練提供了新的可能性。

從更宏觀的角度來看，這一創新點不僅是技術上的改進，更是理念上的突破。它體現了研究團隊在類腦學習與卷積架構結合上的深度思考：如果我們希望擺脫反向傳播的限制，就必須重新設計標簽與數據的交互方式，讓網絡在前向傳播中就能充分利用類別信息。這種思路為未來的類腦計算和低能耗硬件實現提供了重要啟示。

3.方法與實現

在針對 MNIST 數據集 的實驗中，研究團隊設計了一種由三層連續卷積結構組成的網絡架構。每一層均采用相同數量的濾波器矩陣，這一參數也是實驗中重點考察的超參數之一。值得注意的是，網絡中沒有引入最大池化層，因為在預實驗中發現池化操作會降低整體準確率。

數據流動過程可以概括為：輸入圖像與其正負標簽依次通過三層卷積，每層之后都進行 層歸一化（Layer Normalization） 和 ReLU 激活。在每一層中，正負樣本的激活差異被用于計算該層的 sigmoid 函數輸出，從而形成局部的判別信號。

圖1：空間擴展標簽存在于整個圖像中，而一個熱編碼僅限于左上角區域。對于FF訓練，我們需要兩個數據集，它們都為圖像添加標簽。第一行描述了陽性數據集的創建，其中示例圖像被正確標記。最下面一行顯示了陰性數據集的示例，其中圖像與從其他可能標簽中隨機選擇的假標簽相結合。我們展示了添加標簽的三種方法。（a）和（b）描述了Hinton使用的單熱編碼：圖像頂行的第一個像素用作指示符。在該示例中，設置為1的單個像素的列數對應于目標值。（c）和（d）描述了我們提出的基于傅里葉的技術。每個標簽對應于與輸入大小相同的圖像，但具有特征灰度值波。標簽通過逐像素相加的方式包含在圖像中。（e）和（f）顯示了我們提出的基于形態學的方法。每個標簽都與一組獨特的變換相關聯，這些變換會影響圖像形態，迫使網絡專注于圖像特征。

在數學定義上，優度（goodness） 被設定為該層所有激活值的平方和：

在損失函數設計上，研究者并未采用文獻中提出的對稱性方案，而是借鑒了其他工作提出的累積網絡損失，即通過將各層損失相加來增強層間協作。但與傳統做法不同的是，本文排除了第一層的損失。原因在于第一層的激活向量長度本身就能區分正負樣本，如果過度依賴這一信息，后續層將無法學習更復雜的特征。通過舍棄第一層的損失，網絡被迫依賴相對激活模式，從而在更深層次上提取有意義的特征。這一做法與 Hinton 在原始實現中的選擇保持一致。

在訓練細節上，團隊遵循了兩點關鍵實現。

• 層歸一化：對每個激活值進行歸一化，使后續層只能利用前一層的模式信息，而非整體范數。
• 學習率線性冷卻：在訓練周期中途調整學習率，公式如下：

其中，E 表示總訓練輪數，e 為當前輪數。

為了分析各層的貢獻，研究者定義了基于層的判別損失與準確率。Sigmoid 輸出被解釋為概率，當值大于 0.5 時，表示該層將圖像識別為正樣本。通過與真實標簽比較，可以得到判別準確率，并進一步計算二元交叉熵損失。

在推理階段，網絡提供了兩種方案：

• 線性分類器：除第一層外，每層的 HH 個神經元與一個包含 NN 個節點的分類層全連接，節點數等于類別數。權重通過交叉熵損失訓練，這是默認的推理方式。
• 優度評估：每張圖像與所有可能的標簽組合進行前向傳播，計算每個標簽的優度值，最終選擇優度最大的標簽作為預測結果：

其中，對于每個關聯的標簽m，其優度表示為

其中H是除第一層神經元之外的所有神經元的數量。

在CIFAR10 與 CIFAR100的實驗中，研究團隊采用了更深的網絡結構。具體而言，網絡擴展為六層卷積，并將層歸一化替換為 批歸一化（Batch Normalization），以提升訓練穩定性。這一設計參考了已有文獻中的優化方法，同時保持空間擴展標簽策略不變。

圖2：應用于MNIST數據集的FF訓練CNN的示意圖。正負樣本通過三個卷積層進行處理，每個卷積層都經過層歸一化和ReLU激活。在每一層，使用正樣本和負樣本的二元交叉熵計算優度函數。然后，可以通過線性分類器或通過評估所有標簽的優度得分來進行最終分類。

這種方法的獨特之處在于，它完全摒棄了反向傳播的鏈式梯度計算，而是通過局部 goodness 函數的優化來驅動學習。正負樣本的對比機制讓網絡在沒有反向傳播的情況下，依然能夠逐層提取有意義的特征。

從整體來看，方法與實現部分展示了 FF 算法在 CNN 中的完整落地：通過空間擴展標簽保證卷積核能捕捉類別信息，通過 goodness 函數定義訓練目標，再通過跨層累計損失與雙重推理方式實現分類。這一框架不僅在數學上自洽，也為未來在類腦硬件上的應用提供了可行路徑。

4.實驗結果與分析

.在實驗部分，研究團隊通過對MNIST、CIFAR10、CIFAR100三個經典數據集的系統測試，驗證了 Forward–Forward (FF) 算法在卷積神經網絡中的可行性與局限性。結果不僅展示了 FF 與傳統反向傳播（BP）的性能對比，也揭示了空間擴展標簽策略在復雜數據集上的關鍵作用。

在MNIST數據集上，FF-CNN 的表現幾乎與 BP-CNN 持平。采用三層卷積結構（每層 128 個 7×7 卷積核），FF-CNN在測試集上取得了 99.16% 的精度，而BP-CNN 的精度為 99.13%。這表明在簡單數據集上，FF 算法完全能夠替代 BP。然而，訓練動態上存在差異：FF 收斂速度較慢，需要更多迭代才能達到穩定精度，但其內存消耗顯著降低，約為 BP 的25–30%。這意味著在硬件受限的場景下，FF 算法具有明顯優勢。

圖3：FF訓練的CNN架構的最佳MNIST性能與相同架構的反向傳播訓練的CNN的結果相當。（a）在批量大小為50的200個迭代訓練后，根據每層濾波器的數量，為具有三個卷積層的CNN獲得的精度值。濾波器大小為7乘以7，學習率分別設置為FF的5x10-5和BP的10-3的最佳值。FF訓練的網絡使用來自集合1的標簽和35%的標簽強度K。BP和FF的報告值是從驗證數據中收集的。綠色數據點顯示了與FF訓練網絡相關的結果，并使用優度比較進行推理。在這種情況下，使用（b）中報告的相應混淆矩陣所示的測試數據，每層128個濾波器實現了99.16±0.02%的準確率。（c）顯示了為區分有助于訓練的每個隱藏層的正負訓練數據而計算的損失（紅線和藍線），以及訓練期間使用的組合損失（綠線）。（d）顯示相同隱藏層的辨別精度（紅線和藍線）以及訓練期間獲得的總精度（綠線）。

在更具挑戰性的CIFAR10數據集上，差異開始顯現。傳統 BP-CNN 的精度約為 85.4%，而 FF-CNN 的表現依賴于標簽策略：采用傅里葉波標簽時精度為 60.9%，而采用形態學標簽時提升至68.6%。這一結果凸顯了標簽設計的重要性。傅里葉波標簽提供了全局一致的信號，但在復雜圖像中容易被網絡當作“捷徑”，導致模型忽視圖像本身的細節。而形態學標簽通過改變圖像結構，迫使網絡關注真實的形態特征，從而有效避免了捷徑解，提升了分類性能。

在CIFAR100數據集上，研究團隊進一步驗證了空間擴展標簽的可擴展性。通過優化標簽集（從 2000 個候選模式中挑選出相關性最低的 100 個組合），FF-CNN 的精度穩定在 37–38%。雖然這一結果仍顯著低于 BP 的表現，但它證明了空間標簽策略能夠在百類任務中保持區分度，具備一定的擴展能力。

圖4：FF和BP訓練的CNN的CAM顯示了網絡在進行預測時認為哪些圖像區域是有益的（黃色）或有害的（粉紅色）。（a）-（d）顯示四個輸入圖像。（e）-（h）和（i）-（l）分別是基于FF和BP培訓的CAM。所有的例子都來自一個每層有16個卷積神經元的網絡，濾波器大小為5×5，在200個迭代周期內用50個批量進行訓練。FF學習率：5×10^-5，BP學習率：1×10^-3。

整體來看，實驗結果揭示了 FF-CNN 的雙重特性：在簡單數據集上，它能夠與 BP 相媲美，并且在硬件資源有限的場景下更具優勢；在復雜數據集上，性能依賴于標簽策略，形態學標簽展現出更強的魯棒性與合理性。盡管 FF 在精度上仍落后于 BP，但其訓練機制的生物學合理性與硬件友好性，使其成為未來類腦計算與低能耗 AI 的潛在候選方案。

這種結果也提示我們，FF 算法的真正價值或許并不在于直接替代 BP，而在于為深度學習提供一種新的思路：通過標簽與數據的空間交互，推動網絡在前向傳播中完成學習。這種理念在未來的 neuromorphic computing（類腦計算）平臺上，可能會展現出更大的優勢。

5.可解釋性與學習動態

在 Forward–Forward (FF) 算法擴展到卷積神經網絡的過程中，研究團隊特別強調了模型的可解釋性與訓練動態。這不僅是為了驗證 FF-CNN 是否真正學到了有意義的特征，更是為了理解其在復雜數據集上的表現差異。

首先，研究者利用Class Activation Maps (CAMs)對 FF-CNN 的學習過程進行了可視化分析。CAMs 是一種解釋性工具，可以揭示網絡在做出分類決策時關注的圖像區域。實驗結果顯示，FF-CNN 的不同卷積層往往學習到互補的特征。例如，在識別數字“7”時，某一層可能更關注水平線的內部結構，而另一層則聚焦于邊緣輪廓。這種分層互補的特征學習表明，盡管 FF 算法不依賴反向傳播，它依然能夠逐層構建出有意義的表示，并在整體上形成對圖像的全面理解。相比之下，傳統 BP-CNN 的特征分布更趨于集中，而 FF-CNN 的特征呈現出更強的多樣性和分工性。

圖5：選擇不同的空間標簽會影響學習過程。（a）和（b）顯示了在CIFAR10數據集上測試的FF訓練的CNN的隱藏層的二進制精度值（區分正負數據集的能力）。雖然第一層專注于更簡單和更粗糙的圖像特征，在兩種標記策略下表現相似，但深層受益于基于形態學的標記，但當標記是簡單的圖案時，它們會受到阻礙。給定相同的數據集圖像（c）和（f），與基于形態學的標記（d）和（g）相關的歸一化CAM產生的最大值主要局限于圖像邊界（e，h）。

其次，訓練穩定性成為 FF-CNN 的一個關鍵議題。研究發現，FF 算法對標簽設計極為敏感。若標簽過于簡單（如傅里葉波標簽），網絡可能會走向“捷徑解”，即僅依賴標簽模式而忽視圖像本身的復雜特征；而形態學標簽則能迫使網絡關注圖像結構，從而獲得更穩健的收斂路徑。這種敏感性意味著 FF-CNN 的訓練過程可能出現不同的收斂軌跡，類似于動力系統中的分岔現象：在相同的初始條件下，網絡可能因標簽設計或參數微小差異而收斂到完全不同的解。

這種分岔特性既是挑戰，也是機遇。一方面，它揭示了 FF 算法的非線性與復雜性，說明其學習動態比傳統 BP 更難以預測和控制；另一方面，它也為研究類腦學習提供了新的視角——生物神經系統的學習過程本身就充滿不確定性和多樣性，FF 算法的這種特性或許更接近真實的神經學習機制。

綜上，FF-CNN 的可解釋性分析表明，它能夠在不同層次上學習互補特征，而訓練動態的分岔現象則提醒我們，標簽設計與參數選擇在這一框架下至關重要。這不僅是技術上的挑戰，更是理解類腦學習與人工智能之間關系的重要窗口。

6.應用前景與挑戰

Forward–Forward (FF) 算法在卷積神經網絡中的擴展，展示了其獨特的應用潛力。首先，它的最大優勢在于 局部更新與低內存需求。與反向傳播需要存儲大量中間激活值不同，FF 算法只依賴局部的 goodness 函數進行權重更新，這使得訓練過程更加輕量化，尤其適合在顯存有限或硬件受限的環境中運行。

其次，FF 算法的機制天然契合 類腦硬件的實現。在 neuromorphic computing（類腦計算）平臺上，反向傳播往往難以實現，而 FF 的雙前向傳播與局部更新則更接近生物神經系統的學習方式。這意味著 FF-CNN 有望成為未來低能耗硬件和類腦芯片上的重要候選算法。

此外，FF 算法本身就是一種 生物學啟發的學習機制。它通過正負樣本的對比來驅動學習，類似于神經系統在強化與抑制之間的動態平衡。這種機制不僅為人工智能提供了新的訓練思路，也為理解人類大腦的學習過程提供了可能的模型。

然而，挑戰同樣顯而易見。首先，FF 的 推理計算開銷較大。在 goodness 比較模式下，每個輸入需要與所有可能的標簽組合進行前向傳播，這在多類別任務中會顯著增加計算量。其次，FF 算法的 理論收斂性尚未嚴格證明，其訓練動態存在分岔現象，意味著結果可能因標簽設計或參數微小差異而大幅不同。最后，在復雜數據集上，FF-CNN 的表現仍明顯落后于 BP-CNN，尤其是在 CIFAR10 和 CIFAR100 上，精度差距較大。這表明 FF 算法在實際應用中仍需進一步優化。

7.結論與展望

綜合來看，本文的研究證明了FF 算法在 CNN 中的可行性。通過空間擴展標簽策略，研究團隊解決了卷積核無法捕捉局部標簽信息的問題，使得 FF-CNN 能夠在圖像任務中實現有效訓練。這一創新不僅是技術上的突破，更是理念上的轉變：它強調在前向傳播中完成學習，而非依賴反向傳播的鏈式梯度。

展望未來，FF 算法的應用潛力主要集中在三個方向。首先是類腦硬件，在neuromorphic 芯片和低能耗計算平臺上，FF 的局部更新機制可能展現出更大的優勢。其次是無監督學習，FF 的正負樣本對比機制天然適合在缺乏標簽的場景中進行特征學習。再次是 對比學習，通過擴展正負樣本的構造方式，FF 有望與現代自監督學習方法結合，提升在復雜任務中的表現。

更深層的意義在于，FF 算法為深度學習提供了一條 生物學啟發的替代路徑。它不僅是對反向傳播的技術挑戰，更是推動人工智能與神經科學交叉發展的橋梁。隨著研究的深入，我們或許能夠在 FF 框架下找到更接近人腦學習機制的算法，從而為智能計算開辟新的方向。

這項研究提醒我們，深度學習的未來不止于更大的模型和更強的算力，還可能在于更接近生物本質的學習方式。Forward–Forward 算法正是這一探索的重要一步。（END）

參考資料：???https://www.nature.com/articles/s41598-025-26235-2??

本文轉載自??波動智能??，作者：FlerkenS