隨著生成式AI的爆火，大部分企業(yè)都在探索生成式AI在業(yè)務創(chuàng)新中的應用。眾所周知，隨著云計算的普及，以及5G網(wǎng)絡技術的應用，利用云計算獲取AI所需要的算力，已經(jīng)開始被用戶接受。

為了解決云AI時代面臨的網(wǎng)絡性能挑戰(zhàn)，NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 網(wǎng)絡平臺，該平臺是一個加速網(wǎng)絡平臺，致力于提高基于以太網(wǎng) AI 云的性能與效率。

NVIDIA Spectrum-X? 是基于網(wǎng)絡創(chuàng)新的新成果而構建 —— 將 NVIDIA Spectrum-4以太網(wǎng)交換機與 NVIDIA BlueField?-3 DPU緊密結合，取得了 1.7 倍的整體 AI 性能和能效提升，同時可在多租戶環(huán)境中提供一致、可預測的性能。Spectrum-X 還提供 NVIDIA 加速軟件和軟件開發(fā)套件（SDK），使開發(fā)人員能夠構建軟件定義的云原生AI應用。

這種端到端的功能交付，可以減少基于transformer的大規(guī)模生成式AI模型的運行時間，助力網(wǎng)絡工程師、AI數(shù)據(jù)科學家和云服務商及時取得更好的結果，并更快做出明智的決策。

全球頭部超大規(guī)模云服務商正在采用 NVIDIA Spectrum-X，包括領先的云創(chuàng)新企業(yè)。

作為 NVIDIA Spectrum-X 參考設計的藍圖和測試平臺，NVIDIA 正在構建一臺超大規(guī)模生成式 AI 超級計算機，命名為 Israel-1。它將被部署在 NVIDIA 以色列數(shù)據(jù)中心，由基于 NVIDIA HGX?平臺的戴爾 PowerEdge XE9680 服務器，BlueField-3 DPU 和 Spectrum-4 交換機等打造而成。

NVIDIA 網(wǎng)絡高級副總裁 Gilad Shainer 表示：“諸如生成式 AI 等革命性技術正在推動各家企業(yè)提升數(shù)據(jù)中心性能的極限，從而獲得更多競爭優(yōu)勢。作為新一代以太網(wǎng)絡，NVIDIA Spectrum-X 為新一代 AI 工作負載掃清障礙，將會徹底改變整個行業(yè)。”

NVIDIA Spectrum-X 網(wǎng)絡平臺具有高度的通用性，可用于各種 AI 應用。它采用完全標準的以太網(wǎng)，與現(xiàn)有以太網(wǎng)的堆棧實現(xiàn)互通。

該平臺起步于 Spectrum-4 ，這是全球首款專為 AI 網(wǎng)絡打造的 51Tb/s 以太網(wǎng)交換機。先進的 RoCE 擴展功能可以跨 Spectrum-4 交換機、BlueField-3 DPU 和  LinkX 光纖相互協(xié)同，共同構建了一個專為 AI 云優(yōu)化的端到端 400GbE 網(wǎng)絡。

NVIDIA Spectrum-X 通過性能隔離增強了多租戶環(huán)境，確保租戶的 AI 工作負載能以最佳性能持續(xù)運行。NVIDIA Spectrum-X 還提供了更好的 AI 性能可見性，它可以識別性能瓶頸，而且具有全自動網(wǎng)絡驗證功能。

驅動 Spectrum-X 的加速軟件包括Cumulus Linux、純 SONiC 和 NetQ 等性能強大的 NVIDIA SDK，共同助力該網(wǎng)絡平臺實現(xiàn)極致性能。另外，Spectrum-X 還包括 BlueField DPU 的核心軟件——NVIDIA DOCA? 軟件框架。

NVIDIA Spectrum-X 單臺交換機即可實現(xiàn)突破性的 256 個200Gb/s 端口的連接，使用兩層葉脊拓撲可以連接 16,000 個端口，以支持 AI 云的增長和擴展，同時保持極高的性能和極低的網(wǎng)絡延時。

結語

此次發(fā)布令人思考，這臺專為 AI 網(wǎng)絡打造的以太網(wǎng)交換機是否可以開啟5G/6G AI時代?讓我們拭目以待吧！