DeepMind新發布的AlphaFold 3是科技圈今天的絕對大熱門，成為了Hacker News等許多科技媒體的頭版頭條。

Hacker News熱榜上緊隨其后的則是今年2月發布的論文「一致性大語言模型」。

到底是什么樣的成果，竟然可以頂著AlphaFold 3的熱度出圈？

這篇論文不僅切中了大語言模型推理速度慢的痛點，而且實現了性能大幅度提升。

CLLM在多個下游任務上都取得了2-3倍的加速，且推理過程沒有引入額外成本。在GSM8K和Spider兩個任務中，相比今年1月剛發布的Medusa 2都有了明顯提升。

論文的兩位共同一作都是一年級博士生，分別是來自上海交通大學的寇思麒和來自加州大學圣地亞哥分校的胡嵐翔，他們的指導老師是交大的鄧志杰教授和UCSD的張昊教授，后者也是Vicuna/vLLM/Chatbot Arena等項目的作者。

目前這篇論文已經被ICML 2024會議接收，所用代碼已在GitHub上開源，可以在HuggingFace倉庫上看到模型多個版本的權重。

??https://huggingface.co/cllm??

??https://github.com/hao-ai-lab/Consistency_LLM??

LLM苦推理速度久矣

以GPT和Llama家族為代表的大語言模型雖然可以出色地完成人類語言任務，但代價也是巨大的。

除了參數量大，推理速度慢、token吞吐量低也是經常被人詬病的問題，尤其是對于上下文信息較多的任務，因此大語言模型的部署和在現實中的應用十分受限。

Reddit上經常有開發者詢問減少LLM推理時間的方法，有人曾經發帖，在64G GPU內存、4塊英偉達T4芯片上用langchain部署7B的Llama 2模型后，需要10秒鐘回答較小的查詢，較大的查詢則需要3分鐘。

為了提高推理速度和token吞吐量，研究者們想了很多方法，比如去年很流行的vLLM推理框架，就是通過改進注意力算法來提高語言模型的效率。

CLLM的思路則放在了解碼上，使用更適合并行的Jacobi算法替代傳統的自回歸方法。

Jacobi解碼算法

自回歸解碼算法在運行時，每次只能基于已知序列生成1個token，這種基于時間序列的算法對GPT之類的大模型非常不友好，要想實現并行化的推理，就必須修改模型架構或者添加額外的構件。

這篇研究則提出，使用Jacobi解碼算法取代傳統的自回歸，每一次解碼可以同時生成序列后n個token。

Jacobi解碼源自用于求解非線性方程的Jacobi和Gauss-Seidel定點迭代，并被證明與使用貪婪解碼的自回歸生成相同。

給定一個初始序列時，首先生成n個隨機token作為起始點，之后將這n個token的優化問題看作n個非線性方程組，里面含有的n個變量可以基于Jacobi迭代并行求解。

每一次Jacobi迭代可以預測出一個或多個正確的token，進行多輪迭代直至收斂，就完成了n個token的預測，迭代的過程形成Jacobi軌跡。

本篇文章所用Jacobi算法的靈感追溯至2021年的一篇論文，用求解非線性方程組加速神經網絡計算。

論文地址：https://arxiv.org/pdf/2002.03629

以及張昊組的另一篇論文lookahead decoding：

論文地址：https://arxiv.org/pdf/2402.02057

一致性語言模型

使用Jacobi算法解碼時，大語言模型的推理過程可以被歸納為——一致地將雅可比軌跡 ?? 上的任何點 ?? 映射到固定點 ??? ，而這個訓練目標和一致性模型非常相似。

「一致性模型」最初由ICML 2023的一篇論文提出，作者是四位大名鼎鼎的OpenAI研究科學家：Ilya Sutskever、宋飏、Mark Chen以及DALLE3的作者之一Prafulla Dhariwal。

論文地址：https://arxiv.org/pdf/2303.01469

因此，這項研究提出在目標語言模型的基礎上，聯合兩種損失函數來調整CLLM——一致性損失（consistency loss）保證同時預測多個token，自回歸損失防止CLLM偏離目標語言模型，保證生成質量的同時提升效率。

實驗結果也比較理想，CLLM方法確實可以在接近目標模型生成效果的同時，大幅加快生成速度，從原有的約40 token/s提升至超過120 token/s。

除了推理性能的提升，這種解碼方法也在更抽象的層次上提升了LLM的能力。

由于不再是逐個生成token而是同時預測序列后面的n個token，CLLM似乎理解了一個重要的語言概念——詞語搭配。

它會更頻繁地生成固定的詞組和術語，比如「與...交談」，或者編程語言中「if...else...」這樣的常用語法結構，這似乎也更符合人類使用語言的習慣。

本文轉自 新智元 ，作者：新智元

原文鏈接:??https://mp.weixin.qq.com/s/jOmh6g8X67WjXL0iLitD9Q??