“AI 的未來是開放的，并且是由紅帽驅(qū)動的！”紅帽全球副總裁兼大中華區(qū)總裁曹衡康在 2025 紅帽媒體 Open 講活動上如是說。

面對大模型混戰(zhàn)、算力成本高、安全隱憂難解等行業(yè)痛點，紅帽以一套貫穿“算力-模型-數(shù)據(jù)-應(yīng)用”的全棧開源方案，試圖為企業(yè)打造一條可掌控、低成本、高兼容的 AI 落地路徑。其核心邏輯清晰而堅定，以開源的方法論解耦技術(shù)枷鎖，讓企業(yè)自由駕馭任意模型、任意加速器、任意云。

紅帽 AI 的“Any”哲學(xué)，重構(gòu)企業(yè) AI 自由版圖

我們經(jīng)常看到，紅帽在發(fā)布產(chǎn)品時，會多次出現(xiàn)“Any（任意）”這個詞。any cloud，any platform，any hardware，any model，any server，any cloud……而這正是紅帽打造產(chǎn)品的理念。

紅帽大中華區(qū)方案架構(gòu)部總經(jīng)理王慧慧介紹道，紅帽是一家開源公司，目標(biāo)是通過中間層來解耦硬件和應(yīng)用。通過打造中間層產(chǎn)品，讓客戶不用擔(dān)心底層硬件設(shè)備，業(yè)務(wù)運行在云端還是本地，使用大模型的品牌，以及開發(fā)應(yīng)用的語言，讓企業(yè)徹底擺脫技術(shù)選型的難題，真正實現(xiàn)“任意模型、任意加速器、任意云”的自由部署。

這一理念在 AI 領(lǐng)域涉及四個層面，從推理加速到數(shù)據(jù)工程，從全棧平臺到智能體生態(tài)，紅帽正以開源為基礎(chǔ)，重塑企業(yè)級 AI 的生產(chǎn)范式。

首先是推理層面，紅帽推出高效大模型推理解決方案。基于 vLLM 社區(qū)打造的企業(yè)級推理服務(wù)器，集成量化壓縮工具鏈，對 Qwen、DeepSeek 等主流開源模型實現(xiàn)性能躍升，并且首創(chuàng)llm-d引擎，支持超大規(guī)模推理。

其次是智能數(shù)據(jù)工程平臺。通過 InstructLab 實現(xiàn)多語言數(shù)據(jù)對齊，Doding 引擎處理非結(jié)構(gòu)化數(shù)據(jù)，OpenShift AI 集成 Kubeflow 分布式訓(xùn)練框架，讓私域數(shù)據(jù)真正賦能模型進化。

第三是全棧 AI 基礎(chǔ)平臺。全棧 AI 基礎(chǔ)平臺覆蓋數(shù)據(jù)合成、模型優(yōu)化和生產(chǎn)推理全流程。OpenShift AI 標(biāo)準(zhǔn)化模型庫和特征倉庫，以及MLOps 觀測體系（監(jiān)控/告警/溯源）的引入，讓企業(yè)從“試驗室原型”平滑過渡至“生產(chǎn)級負載”。

第四是智能體開發(fā)生態(tài)。以 Llama Stack 統(tǒng)一 API 層整合推理/RAG/工具調(diào)用能力，通過模型上下文協(xié)議（MCP）實現(xiàn)智能體互聯(lián)。企業(yè)無需綁定特定模型或平臺，即可構(gòu)建自主協(xié)作的 AI 智能體。

雙引擎破局 AI 推理“最后一公里”

當(dāng)業(yè)界困于模型訓(xùn)練的爭論時，紅帽已經(jīng)敏銳地捕捉到 AI 商業(yè)化的站在拐點的契機。王慧慧指出，過去產(chǎn)業(yè)界聚焦在模型訓(xùn)練階段，探討模型選擇與部署方式，這本質(zhì)上是技術(shù)準(zhǔn)備期，因為 AI 并沒有為企業(yè)帶來實際價值，或者是“真金白銀”的收入。

據(jù) Gartner 報告數(shù)據(jù)顯示，到 2028 年，80%以上的數(shù)據(jù)中心工作負載加速器將專門部署用于推理，而不是訓(xùn)練用途。可見，未來更多的計算資源都是集中在推理階段，這也是紅帽大力投入到推理方面的原因。

在推理層面，業(yè)界普遍遇到兩個問題，如何使用最小的硬件設(shè)備、最小的成本，完成最高性能推理。二是是否可以將推理的工作量分散到不同服務(wù)器上進行，而不是集中在單一一臺服務(wù)器上。

為此，紅帽以兩大技術(shù)利器破局，vLLM 推理服務(wù)器和 llm-d 分布式推理引擎。

vLLM 推理服務(wù)器向上無縫集成 Qwen、DeepSeek、Llama、Mistral 等主流開源模型，通過獨創(chuàng)的量化壓縮工具鏈實現(xiàn)性能指標(biāo)提升，向下兼容 NVIDIA、AMD、Google TPU、AWS Neuron 等加速器。值得注意的是，vLLM 推理服務(wù)器的架構(gòu)更加靈活，既可以運行在單臺服務(wù)器，又可以橫向擴展至多節(jié)點集群，并且跨越物理機、虛擬機、私有云及邊緣設(shè)備實現(xiàn)一致體驗。

王慧慧表示，紅帽的產(chǎn)品布局始終貫穿著“解耦”哲學(xué)。“從 Linux 到容器，從 vLLM 到 llm-d，我們幫助用戶規(guī)避復(fù)雜的硬件環(huán)境、開發(fā)技術(shù)和過載的模型選擇。”

這種理念延伸至交付模式：企業(yè)可獨立部署 vLLM 推理服務(wù)器，或者選擇 RHEL AI（操作系統(tǒng)+推理服務(wù)捆綁包），也可以嵌入 OpenShift AI 平臺，三種形態(tài)自由適配不同場景，既能獨立運行發(fā)揮專長，亦可組合實現(xiàn)“1+1>2”的協(xié)同效應(yīng)。

llm-d 分布式推理引擎，是基于 Kubernetes 容器架構(gòu)與 vLLM 分布式邏輯，它將推理任務(wù)智能拆解到多臺服務(wù)器協(xié)同處理，突破單機算力天花板，實現(xiàn)大規(guī)模推理。此外，企業(yè)可按需構(gòu)建 llm-d 分布式推理架構(gòu)，并支持私域劃分，可按照部門劃分專屬資源池，確保敏感數(shù)據(jù)不越界。這一創(chuàng)新吸引 AMD、Cisco、IBM、Hugging Face 等巨頭加入聯(lián)盟，共同推動分布式推理標(biāo)準(zhǔn)化。

在紅帽的藍圖中，推理不再是孤立的技術(shù)節(jié)點，而是連接模型價值與商業(yè)回報的樞紐。當(dāng)“任意模型、任意加速器、任意云”的兼容性成為現(xiàn)實，企業(yè)終于能擺脫技術(shù)枷鎖，專注讓 AI 真正服務(wù)于業(yè)務(wù)增長的核心命題。

以開放協(xié)議重構(gòu) AI 協(xié)作范式

在推理技術(shù)突破之后，紅帽正沿著“任意模型、任意加速器、任意云”的理念延伸至智能體領(lǐng)域，以開放協(xié)議重構(gòu)企業(yè) AI 協(xié)作的底層規(guī)則。

2025 年也被稱為是 AI 智能體元年。王慧慧坦言，智能體還是剛剛興起，還不能完全斷定智能體的未來發(fā)展方向。在紅帽看來，Llama Stack 工具鏈與模型上下文協(xié)議（MCP）會是未來熱門走向，也是目前較為領(lǐng)先的技術(shù)堆棧。

因此，紅帽 AI 平臺引入了 Llama Stack 工具鏈和 MCP 協(xié)議，使開發(fā)者擺脫模型與平臺的綁定，通過紅帽 AI 平臺打造屬于自己的智能體，讓開發(fā)人員無需關(guān)心模型選擇和數(shù)據(jù)平臺。

如今，各家模型廠商都在打造自己的智能體生態(tài)，那么紅帽的智能體開發(fā)生態(tài)又有哪些優(yōu)勢呢？紅帽大中華區(qū)首席架構(gòu)師張家駒介紹了三點優(yōu)勢。

首先，紅帽通過一套開源技術(shù)和堆棧貫穿虛擬化應(yīng)用、云原生架構(gòu)和智能體開發(fā)，徹底打破傳統(tǒng) IT 系統(tǒng)與智能體之間的割裂。其次，紅帽通過集成不同協(xié)議，支持開發(fā)者自由選擇模型，避免被技術(shù)綁架，當(dāng)前已經(jīng)集成 MCP 協(xié)議，A2A 協(xié)議也在快速推進中。第三，紅帽也在和低代碼開發(fā)平臺進行合作，企業(yè)可以在紅帽 AI 平臺上使用低代碼開發(fā)工具開發(fā)自己的企業(yè)級應(yīng)用。

通過協(xié)議開放、技術(shù)解耦與生態(tài)協(xié)同，紅帽為企業(yè) AI 應(yīng)用開辟了從工具到平臺、從單點應(yīng)用到生態(tài)網(wǎng)絡(luò)的進化路徑。

結(jié)語

“當(dāng)下企業(yè)若想開展企業(yè)級 AI 建設(shè)，找紅帽就對了。”曹衡康表示，紅帽以全棧解決方案、成本卓效、安全可控和開放生態(tài)四大優(yōu)勢，成為企業(yè)級 AI 建設(shè)的優(yōu)選伙伴。

當(dāng)業(yè)界仍在爭論大模型與小模型、公有云與私有部署時，紅帽已用開源之手推開一扇新門，沒有非此即彼的站隊，只有基于開放標(biāo)準(zhǔn)的自由組合。在這場 AI 重塑生產(chǎn)力的長征中，紅帽正以解耦為劍，以兼容為盾，成為企業(yè)穿越技術(shù)迷霧的引路者。