?ICLR 2024 | UTS提出全新聯邦推薦算法：從全面個性化過渡到加性個性化
這篇論文提出了一種新的聯邦推薦算法 FedRAP。FedRAP 在聯邦學習框架中同時針對用戶信息和項目信息實施雙邊個性化策略，以此來增強推薦系統在隱私保護和個性化推薦方面的表現。它通過逐步提高正則化權重，平滑地從全面個性化過渡到加性個性化。同時，FedRAP 還引入了對全局項目嵌入進行稀疏化處理的策略，有效降低了通信開銷。
論文標題：Federated Recommendation with Additive Personalization
論文鏈接：
??https://arxiv.org/abs/2301.09109??
代碼鏈接：
??https://github.com/mtics/FedRAP??
隨著對隱私保護需求的增加，聯邦學習環境下推薦系統的開發成為了構建下一代互聯網服務架構的新趨勢。但是，現有方法多是基于分布式推薦框架并附加隱私保護機制演化而來，這使得它們在聯邦推薦系統中很難充分發揮個性化的潛力。為了解決這一問題，本文提出了一種創新方法——聯邦推薦與加性個性化(FedRAP)，該方法通過分析用戶偏好和其對項目的個人理解來優化推薦效果。FedRAP 的核心在于加性個性化技術，它通過將個性化的項目嵌入與所有用戶共同形成的稀疏全局項目嵌入相結合。
此外，為了緩解不同客戶端間項目嵌入的差異性可能導致的性能問題，FedRAP 采用了逐步增加正則化權重的策略，并通過全局項目嵌入的稀疏化處理來減少通信負擔。在四個現實世界的推薦數據集上進行的實驗驗證了 FedRAP 方法的有效性。
背景和動機
近年來，推薦系統已經成為一個重要的工具，它能夠向用戶推薦他們可能感興趣的新內容，并且顯著地影響了我們的日常生活。這些系統一般都依賴中心服務器來收集并整合用戶的數據、活動記錄和偏好信息，以此來訓練出能夠做出精準推薦的模型。
然而，用戶數據往往含有敏感的隱私信息，一旦上傳至服務器就可能面臨嚴重的隱私和安全風險。近期，一些隱私保護法規(例如 GDPR)更是明確要求用戶數據應當存儲于本地設備，而非上傳至云端服務器。
針對上述問題，聯邦學習(FL)提供了一個潛在的解決方案。它通過在客戶端進行本地模型訓練，并將訓練后的本地模型在服務器端進行聚合，實現了數據的本地化和分布式全局模型訓練。FL 已在多個應用場景中取得顯著成效，比如谷歌鍵盤的查詢建議功能。然而，客戶端之間的數據異質性可能會大幅延緩 FL 的收斂速度，導致客戶端漂移或者個別客戶端的全局模型性能下降。
為了在保護用戶隱私的同時促進不同客戶端間的知識共享，學者們正在積極研究聯邦推薦系統(FRS)。FRS 能夠處理單個用戶的客戶端數據，以此來構建用戶的個人資料。在此情境下，用戶的資料和評分數據應當被保留在本地客戶端，而服務器則負責存儲項目信息。
聯邦推薦系統在保護用戶隱私的同時，還需要在通信成本和模型精度之間找到一個恰當的平衡點，以便提供最優化的推薦結果。然而，現有的方法往往忽略了用戶對相同項目的感知不同的問題，即：不同用戶可能對同一項目有不同的偏好，并關注于項目的不同特性。
為了解決現有聯邦推薦系統中的這些問題，本文提出了一種名為聯邦推薦與加性個性化(FedRAP)的新算法。FedRAP 通過將加性個性化技術應用于項目嵌入，并通過使全局項目嵌入變得稀疏來減少通信成本和延遲。
此外，FedRAP 還采用了一種逐漸變化的參數調整方法，以平衡全局知識共享和本地個性化之間的權衡。FedRAP 遵循水平聯邦學習的假設，即：不同客戶端擁有獨特的用戶和數據集，但共享相同的項目。具體而言，FedRAP 的主要貢獻包括：
- 雙邊個性化：FedRAP 為每個客戶端提供了私有的用戶嵌入，同時通過將與用戶相關的本地項目嵌入與在服務器上聚合更新的全局項目嵌入相加，實現了項目的加性個性化。
- 雙重正則化策略：一方面 FedRAP 鼓勵稀疏性以減少通信開銷，另一方面 FedRAP 確保本地和全局項目信息的多樣性以保證其互補性。
- 逐漸變化的正則化權重：為了應對早期訓練中加性個性化可能帶來的性能損失，FedRAP 采取逐步增加正則化權重的方法，來將完全個性化逐漸過渡到加性個性化。
因此，FedRAP 能夠利用客戶端本地存儲的部分評分數據，預測用戶對未評分項目的評分，同時兼顧項目的全局視角和用戶特定視角。在六個真實數據集上的實驗結果表明，FedRAP 在聯邦推薦領域顯著優于現有方法。
聯邦推薦與加性個性化(FedRAP)
為了便于理解和闡述，我們在此不展開討論具體的公式細節，更多深入的內容請參閱原始論文。
因此，FedRAP 具有如下所示的框架圖。
具體來講，FedRAP采用以下策略：
實驗
數據集：為了評估 FedRAP 的性能，本文在六個熱門的推薦系統數據集上進行了全面的實驗研究，這些數據集分別是：MovieLens-100K(簡稱 ML-100K)、MovieLens-1M(簡稱 ML-1M)、Amazon-Instant-Video(簡稱 Video)、LastFM-2K(簡稱 LastFM)、Ta Feng Grocery(簡稱 TaFeng)和 QB-article。
前四個數據集中包括的評分范圍是 1-5。鑒于本文的研究目標是對包含隱式反饋的數據進行推薦預測，本文將這些數據集中所有大于 0 的評分均設定為 1。而 TaFeng 和 QB-article 兩個數據集包含了基于用戶交互日志的隱式反饋信息。在每個數據集中，我們僅考慮了那些至少對 10 個項目做出評價的用戶。
基線：本文通過與中心化和聯邦學習設置中幾種先進方法的對比來驗證 FedRAP 的有效性，這包括 NCF、LightGCN、FedMF、FedNCF 和 PFedRec。具體的實驗細節，請參考原始論文。
評價指標：本研究采用了命中率(HR@K)和歸一化折扣累積增益(NDCG@K)作為評價指標，并將 K 設置為 10。所有的實驗都進行了五次重復，以確保結果的可靠性，并報告了實驗結果的平均值及其標準偏差。
3.1 主要結果
上圖的實驗結果顯示，在使用的六個數據集中，FedRAP 在絕大多數情況下都超過了其他方法，且在所有聯邦學習方法中表現最為突出。這種卓越表現可能歸因于 FedRAP 在用戶和項目信息上執行的雙邊個性化策略。
相比于 PFedRec，FedRAP 之所以展現更好的性能，是因為它在個性化項目信息的同時，能夠有效保留項目的共性信息，避免了潛在的信息丟失。而 CentRAP 在所有數據集中的表現略勝 FedRAP 一籌顯示了 FedRAP 在所采用的數據集中潛在的性能上限。
此外，我們還研究了 FedRAP 的收斂速度，通過比較 ML-100K 數據集上各方法(除了 CentRAP 外)在訓練過程中每次迭代的表現。下圖的結果展示了 FedRAP 的性能優勢，但同時也指出，由于 FedRAP 的復雜性高于 PFedRec，其達到收斂狀態需要更多的迭代次數。
3.2 項目信息的可視化
更多實驗結果請見原論文。
結論
本文提出了一種名為 FedRAP 的方法，通過同時實現用戶信息個性化和項目信息的加性個性化，做出了雙邊個性化的聯邦推薦。
FedRAP 通過逐漸增加正則化權重，實現了從完全個性化到項目信息加性個性化的課程，以減輕在訓練早期使用加性個性化引起的性能下降。此外，通過對全局項目嵌入施加稀疏性約束來移除無用的推薦信息，這也有助于減少通信成本。
由于客戶端在每次迭代中只上傳更新的全局項目嵌入到服務器，因此 FedRAP 避免了用戶信息的泄露。通過在 6 個廣泛使用的真實世界推薦數據集上進行的比較實驗和大量的消融研究，FedRAP 證明了其有效性。此外，由于 FedRAP 的簡單性，探索其在其他聯邦場景中的應用將是有趣的。
本文轉載自 ???PaperWeekly??，作者： 李志偉
