精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

阿里發布國內首個“混合推理模型”Qwen3 并開源:支持兩種思考模式,預訓練約 36 萬億個 token、119 種語言和方言

人工智能
據阿里云介紹,其旗艦模型 Qwen3-235B-A22B 在代碼、數學、通用能力等基準測試中,與 DeepSeek-R1、o1、o3-mini、Grok-3 和 Gemini-2.5-Pro 等頂級模型相比,表現出極具競爭力的結果。

IT之家 4 月 29 日消息,今日凌晨,阿里巴巴發布了新一代通義千問 Qwen3 模型,一舉登頂全球最強開源模型。

Models 

Layers

Heads 

(Q / KV)

Tie Embedding

Context Length

Qwen3-0.6B

28

16 / 8

Yes

32K

Qwen3-1.7B 

28

16 / 8

Yes

32K

Qwen3-4B

36

32 / 8

Yes

32K

Qwen3-8B 

36

32 / 8

No

128K

Qwen3-14B 

40

40 / 8

No

128K

Qwen3-32B

64

64 / 8

No

128K

Models 

Layers

Heads 

(Q / KV)

Experts (Total/ Activated)

Context Length

Qwen3-30B-A3B

48

32 / 4

128 / 8

128K

Qwen3-235B-A22B

94

64 / 4

128 / 8

128K

這是國內首個“混合推理模型”,將“快思考”與“慢思考”集成進同一個模型,大大節省算力消耗。

經過后訓練的模型,例如 Qwen3-30B-A3B,以及它們的預訓練基座模型(如 Qwen3-30B-A3B-Base)已在各大平臺上開放使用。同時,阿里云開源了兩個 MoE 模型的權重:

  • Qwen3-235B-A22B,一個擁有 2350 多億總參數和 220 多億激活參數的大模型
  • Qwen3-30B-A3B,一個擁有約 300 億總參數和 30 億激活參數的小型 MoE 模型。

此外,六個 Dense 模型也已開源,包括 Qwen3-32B、Qwen3-14B、Qwen3-8B、Qwen3-4B、Qwen3-1.7B 和 Qwen3-0.6B,均在 Apache 2.0 許可下開源。

據阿里云介紹,其旗艦模型 Qwen3-235B-A22B 在代碼、數學、通用能力等基準測試中,與 DeepSeek-R1、o1、o3-mini、Grok-3 和 Gemini-2.5-Pro 等頂級模型相比,表現出極具競爭力的結果。

此外,小型 MoE 模型 Qwen3-30B-A3B 的激活參數數量是 QwQ-32B 的 10%,表現更勝一籌,甚至像 Qwen3-4B 這樣的小模型也能匹敵 Qwen2.5-72B-Instruct 的性能。

核心亮點

多種思考模式

Qwen3 模型支持兩種思考模式:

  • 思考模式:在這種模式下,模型會逐步推理,經過深思熟慮后給出最終答案。這種方法非常適合需要深入思考的復雜問題。
  • 非思考模式:在此模式中,模型提供快速、近乎即時的響應,適用于那些對速度要求高于深度的簡單問題。

這種靈活性使用戶能夠根據具體任務控制模型進行“思考”的程度。例如,復雜的問題可以通過擴展推理步驟來解決,而簡單的問題則可以直接快速作答,無需延遲。

至關重要的是,這兩種模式的結合大大增強了模型實現穩定且高效的“思考預算”控制能力。如上文所述,Qwen3 展現出可擴展且平滑的性能提升,這與分配的計算推理預算直接相關。這樣的設計讓用戶能夠更輕松地為不同任務配置特定的預算,在成本效益和推理質量之間實現更優的平衡。

多語言

Qwen3 模型支持 119 種語言和方言,例如簡體中文、繁體中文、粵語等。這一廣泛的多語言能力為國際應用開辟了新的可能性,讓全球用戶都能受益于這些模型的強大功能。

預訓練

在預訓練方面,Qwen3 的數據集相比 Qwen2.5 有了顯著擴展。Qwen2.5 是在 18 萬億個 token 上進行預訓練的,而 Qwen3 使用的數據量幾乎是其兩倍,達到了約 36 萬億個 token,涵蓋了 119 種語言和方言

為了構建這個龐大的數據集,阿里云不僅從網絡上收集數據,還從 PDF 文檔中提取信息,通過 Qwen2.5-VL 從這些文檔中提取文本,并用 Qwen2.5 改進提取內容的質量。

為了增加數學和代碼數據的數量,阿里云還利用 Qwen2.5-Math 和 Qwen2.5-Coder 這兩個數學和代碼領域的專家模型合成數據,合成了包括教科書、問答對以及代碼片段等多種形式的數據。

據阿里云介紹,Qwen3 預訓練過程分為三個階段。

  • 在第一階段(S1),模型在超過 30 萬億個 token 上進行了預訓練,上下文長度為 4K token。這一階段為模型提供了基本的語言技能和通用知識。
  • 在第二階段(S2),通過增加知識密集型數據(如 STEM、編程和推理任務)的比例來改進數據集,隨后模型又在額外的 5 萬億個 token 上進行了預訓練。
  • 最后階段,使用高質量的長上下文數據將上下文長度擴展到 32K token,確保模型能夠有效地處理更長的輸入。

由于模型架構的改進、訓練數據的增加以及更有效的訓練方法,Qwen3 Dense 基礎模型的整體性能與參數更多的 Qwen2.5 基礎模型相當。例如,Qwen3-1.7B / 4B / 8B / 14B / 32B-Base 分別與 Qwen2.5-3B / 7B / 14B / 32B / 72B-Base 表現相當。

特別是在 STEM、編碼和推理等領域,Qwen3 Dense 基礎模型的表現甚至超過了更大規模的 Qwen2.5 模型。對于 Qwen3 MoE 基礎模型,它們在僅使用 10% 激活參數的情況下達到了與 Qwen2.5 Dense 基礎模型相似的性能。這帶來了訓練和推理成本的顯著節省。

后訓練

為了開發能夠同時具備思考推理和快速響應能力的混合模型,阿里云實施了一個四階段的訓練流程,主要包括:

(1)長思維鏈冷啟動

(2)長思維鏈強化學習

(3)思維模式融合

(4)通用強化學習

在第一階段,阿里云使用多樣的長思維鏈數據對模型進行了微調,涵蓋了數學、代碼、邏輯推理和 STEM 問題等多種任務和領域。這一過程旨在為模型配備基本的推理能力。第二階段的重點是大規模強化學習,利用基于規則的獎勵來增強模型的探索和鉆研能力。

在第三階段,阿里云在一份包括長思維鏈數據和常用的指令微調數據的組合數據上對模型進行微調,將非思考模式整合到思考模型中。確保了推理和快速響應能力的無縫結合。

最后,在第四階段,阿里云在包括指令遵循、格式遵循和 Agent 能力等在內的 20 多個通用領域的任務上應用了強化學習,以進一步增強模型的通用能力并糾正不良行為。

高級用法

阿里云還為部署用戶提供了一種軟切換機制,允許用戶在 enable_thinking=True 時動態控制模型的行為。具體來說,您可以在用戶提示或系統消息中添加 /think 和 /no_think 來逐輪切換模型的思考模式。在多輪對話中,模型會遵循最近的指令。

IT之家提醒:大家可以在 Qwen Chat 網頁版 (chat.qwen.ai) 和通義 App 中試用 Qwen3。

責任編輯:姜華 來源: IT之家
相關推薦

2025-04-30 02:00:00

2025-04-29 08:14:14

2025-07-31 09:06:00

2025-05-06 00:35:33

2025-06-06 14:32:20

阿里開源Qwen3

2025-02-25 08:15:09

2025-04-30 09:11:15

2025-06-06 09:12:53

2025-04-29 07:39:45

2025-04-30 10:59:04

2025-05-14 13:22:08

Qwen3訓練小模型

2025-06-11 14:39:50

AILLMMistral

2023-11-06 11:26:55

模型開源

2024-12-26 07:10:00

2025-05-21 09:04:38

2025-05-28 02:40:00

AdaptThink推理模型AI

2025-07-22 10:43:25

2025-02-25 10:08:38

2025-06-09 09:41:25

2025-04-29 10:39:46

點贊
收藏

51CTO技術棧公眾號

午夜免费福利网站| 亚洲三区在线| 中文字幕在线观看视频网站| 日韩在线黄色| 欧美视频在线观看一区二区| 好色先生视频污| 色一情一乱一乱一区91av| 六月天综合网| 久久精品国产96久久久香蕉| 日本一区二区免费视频| 樱桃视频成人在线观看| 中文字幕制服丝袜成人av| 国产精品久久久久久久久久久久冷| 国产精品国产三级国产专区52| 区一区二视频| 亚洲精品久久久久中文字幕欢迎你 | 中文字幕av资源| 欧美成人首页| 国产亚洲人成网站在线观看| 九色91porny| 性欧美freehd18| 亚洲午夜久久久久久久久电影网 | 国产精品永久免费视频| 日本少妇激情舌吻| 999久久久国产精品| 亚洲精品国产福利| 韩国三级在线播放| 国产原创一区| 色综合久久综合网欧美综合网| 久久国产精品免费观看| aiai在线| 久久久天堂av| 精品国产免费一区二区三区 | 国产精品 欧美 日韩| 日韩免费高清| 亚洲欧洲美洲在线综合| 日本三级日本三级日本三级极| 日本免费成人| 欧美性xxxxx极品少妇| 亚洲自偷自拍熟女另类| 91www在线| 亚洲国产aⅴ天堂久久| 欧美日韩一级在线| 在线观看免费版| 欧美激情一区二区三区四区| 久久一区免费| 日韩一级在线播放| 成人福利视频网站| 国产成人精品福利一区二区三区| 国产熟女一区二区三区四区| 精品系列免费在线观看| 国产精品久久久久久久av大片| 中文字幕精品无码一区二区| 欧美日本一区二区高清播放视频| 久久人人爽人人爽人人片亚洲| 成人性视频免费看| 日本在线电影一区二区三区| 一区二区三区四区视频| 婷婷色一区二区三区| 九九免费精品视频在线观看| 亚洲人成电影网站色www| 非洲一级黄色片| 国产欧美日韩免费观看| 亚洲网站在线观看| 日本高清黄色片| 日韩在线看片| 蜜臀久久99精品久久久无需会员 | 日本电影在线观看网站| 国产精品久久久久国产精品日日| 一区二区三区视频在线播放| 久久综合之合合综合久久| 亚洲精品国产成人久久av盗摄 | 手机在线免费看av| 亚洲国产日韩a在线播放性色| 日本人体一区二区| 成人免费网站视频| 精品视频资源站| 日韩av.com| 亚洲日本视频在线| 日韩电影在线观看中文字幕| 美女100%无挡| 亚洲精品成人无限看| 欧美高跟鞋交xxxxhd| 日韩欧美三级视频| 美女精品一区二区| 91超碰rencao97精品| 午夜福利视频一区二区| 欧美激情一区二区三区在线| 狠狠干视频网站| 操人在线观看| 欧美日韩久久久久久| 男人添女人荫蒂国产| 激情小说一区| 日韩中文在线中文网在线观看 | 欧美日韩一区二区免费视频| 爱情岛论坛成人| 深夜福利一区| 亚洲色图综合久久| jizz亚洲少妇| 久久国产日韩| 97人人做人人人难人人做| 香港三日本三级少妇66| 国产精品久久久爽爽爽麻豆色哟哟| 黄色a级片免费看| 日本在线视频一区二区| 欧美成人三级电影在线| 91精品国自产在线| 99视频在线精品国自产拍免费观看| 国产精品美女免费看| 日本高清视频www| 国产精品久久三区| 欧美网站免费观看| 日本精品在线播放 | 91影院未满十八岁禁止入内| 青青操在线视频| 一区二区三区日本| 第四色婷婷基地| 奇米影视777在线欧美电影观看 | heyzo高清国产精品| 欧美性大战久久| jizz欧美性20| 极品少妇一区二区三区| 国产日韩欧美中文| 国产日本在线| 午夜激情久久久| 超碰人人cao| 四季av一区二区凹凸精品| 欧日韩在线观看| 黄色三级网站在线观看| 亚洲三级免费观看| 日韩中文字幕组| 欧美日韩破处| 国模吧一区二区三区| 国产探花精品一区二区| 国产精品成人免费在线| 天天色综合天天色| 国产成人黄色| 日本免费一区二区三区视频观看| 亚洲精品一区二区三区区别| 亚洲欧美一区二区久久| 污视频网址在线观看| 精品色999| 国产成人久久久精品一区| 色视频在线看| 欧美日韩视频免费播放| 欧美性xxxx图片| 一区二区三区国产在线| 精品国产一区二区三区免费| 欧美人与禽性xxxxx杂性| 日韩一二三四区| 亚洲熟女www一区二区三区| 久久国产精品一区二区| 一卡二卡3卡四卡高清精品视频| 日韩高清在线| 中文字幕亚洲一区二区三区五十路| 精品国产午夜福利| 国产欧美一区二区三区在线老狼| 久久久久久久久久久久久久国产| 伊人精品一区| 国产精品极品美女在线观看免费| 国产免费永久在线观看| 欧美日韩亚州综合| 午夜精品一区二区三区视频| 国产一区中文字幕| 日本a在线天堂| 欧美交a欧美精品喷水| 欧洲美女免费图片一区| 国产视频精选在线| 欧美喷潮久久久xxxxx| 东方av正在进入| 成熟亚洲日本毛茸茸凸凹| a级黄色一级片| 亚洲调教一区| 国产免费一区二区三区香蕉精| 黄色网址视频在线观看| 欧美xxxxxxxxx| 西西44rtwww国产精品| 国产欧美日本一区二区三区| 久久久久久久久久一区二区| 午夜视频一区| 欧美国产综合视频| 国产亚洲欧美日韩精品一区二区三区 | 性一交一黄一片| 亚洲国产日本| 日本不卡一区二区三区在线观看| 精品久久在线| 久久久久久久亚洲精品| 国产在线黄色| 91精品国产日韩91久久久久久| 久久免费视频精品| 久久九九久精品国产免费直播| 污污的网站免费| 国产精品theporn| 欧美综合77777色婷婷| 疯狂欧洲av久久成人av电影| 韩国精品美女www爽爽爽视频| 麻豆国产在线播放| 欧美大片在线观看一区二区| 久久精品久久久久久久| 亚洲精品成人少妇| 中日韩精品一区二区三区| 国产在线观看免费一区| 男人天堂网视频| 在线免费观看日本欧美爱情大片| 欧美日韩大片一区二区三区| 国内精品视频| 日韩免费中文字幕| 国产啊啊啊视频在线观看| 视频一区视频二区国产精品| 色一情一乱一乱一区91av| 8v天堂国产在线一区二区| 99re这里只有精品在线| 亚洲一区在线观看免费 | 天堂av一区二区三区| 欧美三级电影在线观看| 国产一区二区三区影院| 亚洲精品亚洲人成人网 | 亚洲制服丝袜一区| 成人性生交大片免费看无遮挡aⅴ| 高清国产一区二区| 视频免费1区二区三区| 日一区二区三区| 激情五月宗合网| 欧美freesex交免费视频| 亚洲激情一区二区三区| 日韩欧美美女在线观看| 国产精品久久九九| 午夜免费欧美电影| 91香蕉亚洲精品| 日韩毛片一区| 国产成人在线视频| 成人动漫一区| 9.1国产丝袜在线观看| 超碰97免费在线| 免费91在线视频| 国内精品不卡| 久久精品视频在线| 毛片在线看片| 精品国产一区二区三区久久久狼 | 在线观看毛片网站| 色婷婷久久久久swag精品| wwwxxx亚洲| 狠狠久久亚洲欧美专区| 激情五月色婷婷| 亚洲国产欧美在线| 欧美日韩大片在线观看| 亚洲免费观看高清完整版在线| 日韩免费av一区| 国产精品久久免费看| 国产精品视频在| 国产精品成人一区二区艾草| 国产wwwwxxxx| 国产精品第四页| 成人免费精品动漫网站| 亚洲少妇屁股交4| 黄色一级视频免费| 亚洲福利一二三区| 天天干天天干天天| 色婷婷综合久久久久中文一区二区| 亚洲精品男人的天堂| 在线中文字幕不卡| 岳乳丰满一区二区三区| 91精品国产综合久久精品| 亚洲国产精品国自产拍久久| 亚洲成人精品视频在线观看| 亚洲日本国产精品| 中文字幕欧美日韩在线| 男人天堂手机在线| 欧美黑人性猛交| 九九色在线视频| 5252色成人免费视频| 日韩在线免费| 91免费观看网站| www.豆豆成人网.com| 久久久精彩视频| 欧美影院三区| 日本一二三区视频在线| 99av国产精品欲麻豆| 国产精品亚洲二区在线观看| 久久精品国产精品青草| 少妇丰满尤物大尺度写真| 97国产精品videossex| 极品人妻videosss人妻| 亚洲欧美另类综合偷拍| 亚洲精品www久久久久久| 欧美在线一区二区三区| 99热这里只有精| 亚洲欧美中文日韩v在线观看| 亚洲图片88| 性欧美视频videos6一9| 成人黄色毛片| av免费观看久久| 国产欧美亚洲精品a| 久久久久久久久久伊人| 噜噜噜在线观看免费视频日韩| 亚洲精品成人在线播放| 97se亚洲国产综合自在线| 五月婷婷综合激情网| 欧美日韩精品在线播放| 91av久久久| 亚洲欧美国产精品va在线观看| 97超碰在线公开在线看免费| 欧美在线激情视频| 久久久久毛片免费观看| 欧美性大战久久久久| 国产精品www994| 五月婷婷六月丁香激情| 91香蕉国产在线观看软件| 亚洲天堂一级片| 在线国产亚洲欧美| 日本黄色免费视频| 毛片精品免费在线观看| 成人h在线观看| 久久大片网站| 国产精品大片| 五月天婷婷在线观看视频| 国产亚洲欧美一区在线观看| 欧美成人aaaaⅴ片在线看| 91精品欧美福利在线观看| 国产区视频在线| 欧洲日本亚洲国产区| 国内精品偷拍| 欧美一级黄色录像片| 欧美aaaaaa午夜精品| 精品久久久久久中文字幕人妻最新| 亚洲综合色噜噜狠狠| 91国偷自产中文字幕久久| 亚洲视频在线播放| 亚洲人成在线网站| 精品综合在线| 亚洲久久在线| 少妇被狂c下部羞羞漫画| 亚洲精品亚洲人成人网在线播放| 中文字幕有码无码人妻av蜜桃| 亚洲欧美日韩国产中文专区| 国产中文在线播放| 国产一区免费观看| 在线成人黄色| 日本在线不卡一区二区| 亚洲成人动漫在线观看| 亚洲国产精品久久人人爱潘金莲| 久久综合亚洲社区| 99tv成人影院| 女女同性女同一区二区三区按摩| 麻豆国产精品官网| 欧美xxxooo| 日韩亚洲欧美在线| 亚洲资源一区| 99视频网站| 黄色亚洲大片免费在线观看| 第一页在线视频| 亚洲国产日韩a在线播放| 欧美自拍偷拍第一页| 97久久久久久| 亚洲+小说+欧美+激情+另类| 日韩av在线综合| 国产日产精品1区| 中文字幕欧美人妻精品一区蜜臀| 丝袜美腿精品国产二区| 精品国产第一国产综合精品| 国产1区2区3区中文字幕| 国产成人av一区二区| 国产五月天婷婷| 日韩电影中文字幕| av久久网站| 国产盗摄视频在线观看| 粉嫩av一区二区三区在线播放 | 欧美天堂亚洲电影院在线观看| 极品白嫩少妇无套内谢| 亚洲成av人影院| 欧美一区二区视频| 91精品国产自产在线观看永久| 中文字幕一区二区av | 日韩精品免费一区二区三区竹菊| 无码精品a∨在线观看中文| 国产欧美精品区一区二区三区| 国产精品嫩草影院桃色| 欧美精品久久久久久久免费观看| 日韩免费电影在线观看| 污污网站在线观看视频| 亚洲一区二区视频在线| 日中文字幕在线| 国产一区二区在线免费| 最新日韩在线| 女人十八毛片嫩草av| 精品国产免费久久| 四虎4545www精品视频| 椎名由奈jux491在线播放| 成人av资源网站| 亚洲成熟少妇视频在线观看| 久久九九国产精品怡红院| 久久精品色播| 成年网站在线播放| 亚洲午夜激情av| av网页在线| 国产精品加勒比| 蜜桃av一区二区| 国产成人免费观看视频 | 国产99在线| 亚洲一区三区电影在线观看|