譯者 | 李睿
審校 | 重樓
DeepSeek V3.1的發布并沒有舉辦大張旗鼓的新聞發布會，也沒有鋪天蓋地的宣傳活動。它在Hugging Face平臺上悄然發布，在短短數小時內就吸引了眾人的目光。該模型擁有6850億個參數，上下文窗口可擴展至128k個令牌，這不僅僅是增量更新，而是開源人工智能領域的一個重要里程碑。本文將深入探討DeepSeek V3.1的關鍵特性和能力，并提供一份操作指南。
DeepSeek V3.1到底是什么？
DeepSeek V3.1是DeepSeek V3系列的最新成員。與之前的6710億參數版本相比，V3.1不僅規模更大，而且更加靈活。該模型支持多種精度格式（BF16、FP8、F32），因此可以根據目前擁有的計算資源對其進行調整。
然而，V3.1的魅力遠不止于龐大的規模。它將對話能力、推理能力和代碼生成能力集成在一個統一模型或混合模型之中，這無疑是一個重大突破！早期版本的模型往往在某一方面表現出色，但在其他方面則表現平平。而V3.1則實現了各方面能力的無縫集成。
如何訪問DeepSeek V3.1
用戶訪問DeepSeek V3.1，有以下幾種不同的方式：
- 官方網絡應用程序：訪問deepseek.com并使用瀏覽器聊天。V3.1已經是默認版本，所以用戶無需進行任何配置。
- API訪問：開發人員可以通過官方API調用deepseek-chat（通用）或deepseek-reasoner（推理模式）端點。該界面與OpenAI兼容，因此如果用戶使用過OpenAI的軟件開發工具包（SDK），那么工作流程是一致的。
- Hugging Face平臺：V3.1的原始權重在開放許可下發布。用戶可以從DeepSeek的“Hugging Face”頁面下載，并在擁有相應硬件的情況下在本地運行。
如果只是想與DeepSeek V3.1進行對話，那么使用瀏覽器訪問網站是最快捷的途徑。如果用戶想進行微調、基準測試或將其集成到自己的工具中，那么可以選擇API或Hugging Face權重。
DeepSeek V3.1和DeepSeek V3有什么不同？
與早期版本的DeepSeek V3相比，DeepSeek V3.1帶來了一系列重要的升級：
- 具有思維模式的混合模型：增加了一個可切換的推理層，加強了解決問題的能力，同時避免混合模型常見的性能下降問題。
- 原生搜索詞元支持：改進了檢索和搜索任務，盡管社區測試顯示該功能激活頻率極高。官方文檔中仍期待出現適當的切換選項。
- 更強的編程能力：基準測試表明，V3.1在開源權重編碼模型中名列前茅，證實了其在軟件相關任務中的優勢。
- 上下文長度不變：128k令牌窗口與V3-Base相同，因此仍然可以獲得小說長度的上下文容量。
綜上所述，這些更新使V3.1不僅是規模方面有擴展，而且功能方面有改進。
為何它備受關注
以下是DeepSeek V3.1的一些突出特性：
- 上下文窗口：128k令牌。其長度相當于一部長篇小說，或者是一份完整的研究報告。
- 精度靈活性：根據硬件和性能需求，可在BF16、FP8或F32格式下運行。
- 混合設計：該模型可以在不破壞上下文的情況下聊天、推理和編碼。
- 基準測試結果：在Aider編碼基準的測試得分為71.6%，略高于Claude Opus 4。
- 效率：運行相同的測試，一些競爭對手的成本是其成本的60～70倍。
- 開源：這可能是唯一一個在更新迭代上能夠與閉源版本并駕齊驅的開源模型。
實際應用
現在將使用網頁界面測試DeepSeek V3.1的功能：
1.長文檔摘要
E.M. Forster所著的《看得見風景的房間》（A Room with A View）小說被用作以下提示的輸入。這本書的長度超過6萬字。可以在Gutenberg找到這本書的內容。
提示：“用結構化的提綱總結要點。”
回應：
2.逐步推理
提示：“逐步推理
逐步地解決這個難題。在這里顯示所有的計算過程和中間時間。保持單位一致。不要跳過任何步驟。在思考模塊結束時快速檢查結果。
一列火車于08:00從A站出發，駛向B站。A站與B站之間的距離為410公里。
火車A：
- 勻速行駛速度：80公里/小時
- 計劃停靠站：10分鐘到達C站，距離A站150公里
- 軌道施工區域：從距離A站220公里的標記處到240公里的標記處，在這20公里區間內限速為40公里/小時
- 在施工區外，以80公里/小時速度行駛（為簡潔起見，部分內容省略；完整版本見以下視頻）回答格式（僅限思考塊外使用）
- 相遇時間：[HH:MM]，[到A的距離，單位km，十進制]
- 相遇前行駛時間：列車A[分鐘]，列車B[分鐘]
- 最終到達時間：列車A在[HH:MM]，列車B在[HH:MM]，最先到達站：[A或B]
僅在思考塊外包含最終結果和簡要說明。所有詳細推理過程保留在思考塊內。”
回應：
3.代碼生成
提示：“編寫一個Python腳本，用于讀取CSV文件并輸出JSON格式，每個部分都有注釋。”
回應：
4.搜索樣式查詢
提示：“< | search_begin | >
美國《獨立宣言》是哪一年發表的？
< | search_end | >”
回應：
5.混合搜索查詢
提示：“簡要總結一下小說《無人生還》（And Then There Were None）的主要情節。”
現在，<|search_begin|>提供一個鏈接，可以從哪里購買那本書。< | search_end | >。最后，請思考一下，如果這個故事設定在現代印度，這些主題將如何轉變？< /認為>”
回應：
觀察結果
以下是在測試該模型時發現的一些問題：
- 如果輸入長度超過限制，輸入的部分將被用作輸入（如第一個任務所示）。
- 如果任務較為簡單，則模型可能會給出過于冗長的響應（如第二個任務所示）。
- 用于探測搜索和推理能力的令牌不可靠。有時模型不會調用它們，或者會繼續執行默認的提示處理流程。
- 令牌＜search_begin＞和＜search_end＞是模型詞匯表的一部分。
- 它們作為提示或觸發器來指導模型應該如何處理提示。但是由于它們是文本空間中的令牌，因此模型通常會在其輸出中逐字逐句地回顯它們。
與消失在后臺的API“開關”不同，這些標簽更像是嵌入文本流的控制指令。這就是有時會在最后的回復中看到它們的原因。
基準測試：DeepSeek V3.1與競爭對手的比較
社區測試已經顯示，DeepSeek V3.1在開源編程任務排行榜上名列前茅。它不僅得分很高，而且成本只是Claude或GPT-4等模型的一小部分。
以下是基準測試對比：
基準測試圖對DeepSeek V3.1、Claude Opus 4和GPT-4的三個關鍵指標進行比較：
- Aider（編碼基準測試）
- SVGBench（編程任務）
- MMLU（廣泛知識和推理）
這些課程涵蓋了實際的編碼能力、結構化推理和通用的學術知識。
結語
DeepSeek V3.1是那種能夠改變對話的版本。其開源，參數規模龐大，并且不將用戶拒之門外。用戶可以現在就可以下載、運行并試用它。
對于開發人員來說，這是一個突破長上下文摘要、推理鏈和代碼生成限制的機會，而無需完全依賴于閉源API。對于更廣泛的人工智能生態系統來說，這證明高端能力不再局限于少數專有的實驗室。用戶不再局限于為特定用例選擇正確的工具。人工智能模型現在可以自行完成這一任務，或者可以通過定義語法來建議使用。這極大地拓寬了模型不同能力被用于解決復雜查詢的范圍。
這次發布不僅僅是另一個版本的更新，這預示著開源模型的發展方向：更大、更智能，并且更加經濟實惠。
常見問題解答
Q1：DeepSeek V3.1與早期模型相比有何突出之處？
A：DeepSeek V3.1引入了混合推理模式、原生搜索令牌支持和改進的編碼基準。雖然它的參數數量略高于V3，但真正的區別在于它的靈活性和更精細的性能。它將聊天、推理和編碼無縫集成，同時保持128k的上下文窗口。
Q2：人們如何訪問和使用DeepSeek V3.1 ？
A：可以通過官方DeepSeek網站在瀏覽器中試用DeepSeek V3.1，也可以通過API（deepseek-chat或deepseek-reasoner）或從Hugging Face下載開放權重來使用。網頁應用最適合進行隨意測試，而API和Hugging Face則適用于高級用例。
Q3：DeepSeek V3.1中的上下文窗口有什么特別之處？
A：DeepSeek V3.1支持龐大的128,000個令牌上下文窗口，相當于數百頁的文本。這使得它適用于整本書長度的文檔或大型數據集。其上下文長度與V3相同，但對于摘要和推理任務來說，這仍然是最實用的優勢之一。
Q4：像<think>或<|search_begin|>這樣的特殊令牌是如何工作的？
A：這些令牌充當引導模型行為的觸發器。<think>鼓勵逐步推理，而<search_begin>和<search_end>則激活類似搜索的檢索。它們經常出現在輸出中，因為它們是模型詞匯表的一部分，但可以指示模型不顯示它們。
Q5：與競爭對手相比，DeepSeek V3.1在基準測試中的表現如何？
A：社區測試表示，DeepSeek V3.1在開源代碼基準測試中表現最佳，超過了Claude Opus 4，接近GPT-4的推理水平。其主要優勢是效率——以更低的成本提供相當或更好的結果，這對開發人員和研究人員極具吸引力。
原文標題：DeepSeek V3.1: Quiet Release, Big Statement，作者：Vasu Deo Sankrityayan
