在全球科技創新日新月異的今天，亞馬遜云科技再次站在了技術變革的前沿。在 re:Invent 2024 大會上，亞馬遜云科技進一步拓寬了其基礎設施創新的邊界，從自研芯片到高性能服務器，從革命性的網絡架構到綠色數據中心的設計，亞馬遜云科技正在以其創新的技術實力，開啟了全棧云和 AI 服務的無限可能。

縱向擴展創新：提升計算性能，助力 AI 訓練突破極限

在云計算和 AI 領域，計算能力始終是推動技術進步的核心因素。隨著生成式 AI 和大模型的復雜度不斷增加，芯片性能的提升變得尤為關鍵。早在十年前，亞馬遜云科技便開始布局自研芯片，并在這一領域持續深耕。通過自研芯片的戰略，亞馬遜云科技不僅提升了計算能力，還在降低成本和提高效率方面取得了顯著進展。

在 re:Invent 2024 上，亞馬遜云科技發布了全新的 Amazon Trainium2 AI 訓練芯片。作為亞馬遜云科技自研的最新一代 AI 專用芯片，Trainium2 采用了最新的技術架構，專門為大規模訓練和實時推理需求進行了優化。

Trainium2 采用脈動陣列（Systolic Arrays）硬件架構，使得計算步驟之間能夠避免頻繁內存訪問，直接將結果從一個計算單元傳遞到下一個，從而減輕內存帶寬壓力，優化計算資源。這一架構特別適合 AI 中常見的矩陣和張量操作。除此之外，Trainium2 還提供了 Neuron 內核接口（NKI），允許開發者直接訪問硬件，編寫計算內核，最大化計算密集型任務的性能。

除了芯片創新，亞馬遜云科技在縱向擴展方面也取得了重要突破。傳統的云計算擴展通常依賴于水平擴展，但隨著 AI 模型和數據量的激增，單純擴展集群已無法有效解決訓練和推理的瓶頸。

因此，亞馬遜云科技突破單服務器性能，推出 Amazon EC2 Trn2 實例和Amazon EC2 Trn2 UltraServers 服務器。Amazon EC2 Trn2 實例配備 16 個 Trainium2 芯片，提供高達 20.8 Petaflops 的浮點算力，特別適用于大規模生成式 AI 訓練、超大語言模型（LLM）及其他計算密集型 AI 任務，從而大幅提升了訓練和推理的效率。

亞馬遜云科技全新推出 Amazon EC2 Trn2 UltraServers 服務器，配備 64 顆 Trainium2 芯片，采用 NeuronLink 超速互連技術，提供高達 83.2 Petaflops 的浮點算力，計算、內存和網絡能力是單一實例的四倍，能夠支持超大規模模型的訓練和部署。正如亞馬遜云科技高級副總裁Peter Desantis 所言，“如果你要構建一個萬億參數的 AI 模型，這就是你需要的服務器。”

Amazon EC2 Trn2 UltraServers 服務器

此外，亞馬遜云科技還發布了新一代 Amazon Trainium3 訓練芯片。Trainium3 是亞馬遜云科技首款采用 3 納米工藝制造的芯片，標志著在性能、能效和芯片密度方面的新突破。搭載 Trainium3 的 UltraServers 預計將比 Trn2 UltraServers 提供 4 倍的性能，幫助客戶加快模型的迭代速度，并在部署時提供卓越的實時性能。首批基于 Trainium3 的實例預計將在 2025 年末上線，將進一步推動 AI 訓練技術的進步。

橫向擴展創新：突破性網絡架構與路由協議，提升 AI 訓練效率

隨著 AI 集群規模的不斷擴大，數據傳輸和網絡效率變得愈發重要。正如 Peter Desantis 所言，“在 AI 集群的世界里，時間就是金錢。”為了應對大規模 AI 訓練的挑戰，亞馬遜云科技在橫向擴展方面進行了重要創新，推出了帶寬高達 10Pb/s、延遲低于 10ms 的 10p10u 網絡架構。

這一架構通過將 16 根光線電纜整合成單一連接器，在工廠完成復雜組裝，從而減少了 54% 的安裝時間。定制的光纖插頭和光纖電纜確保了網絡連接在機架到達數據中心前就已進行全面測試和驗證，避免了調試布線的時間浪費，同時保護接口免受灰塵侵入。這些創新不僅提高了集群間的數據傳輸速度，也顯著縮短了模型訓練所需的時間。過去 12 個月，亞馬遜云科技已安裝超過 300 萬條鏈路，使其成為擴展速度最快的網絡之一。

此外，亞馬遜云科技還推出了全新的 SIDR（Scalable，Intent Driven Routing）路由協議。傳統網絡協議在光鏈路發生故障時，恢復速度較慢，影響 AI 集群的高效運轉。SIDR 協議結合了集中控制和去中心化響應，能夠在故障發生時更迅速地恢復網絡。通過預先生成“網絡意圖”，中央控制器可以將其推送到各交換機，確保交換機在故障發生時能自主決策并快速恢復網絡。與傳統的 BGP 和 OSPF 協議相比，SIDR 能夠在不到 1 秒內恢復網絡，速度是傳統方法的 10 倍，大大提高了 AI 訓練的可靠性和實時性。

通過這一系列的創新，亞馬遜云科技有效解決了 AI 集群中網絡故障恢復慢和數據傳輸瓶頸的問題，顯著提升了 AI 訓練的效率與可靠性。無論在故障發生時的快速恢復，還是在確保高效運行方面，這些技術都為大規模 AI 計算提供了堅實的支持。

綠色創新：高效冷卻系統與低碳設計，推動云基礎設施可持續發展

在推動云計算和 AI 技術發展的同時，綠色可持續性已成為亞馬遜云科技基礎設施創新的重要考量。隨著數據處理能力和服務器功率密度的不斷提升，如何在滿足日益增長的計算需求的同時降低能源消耗和環境影響，已成為亞馬遜云科技面臨的關鍵挑戰。

為應對這一挑戰，亞馬遜云科技持續優化數據中心設施，推出了簡化的電氣分配和機械系統設計，提升了基礎設施的可用性，達到了 99.9999% 的高可靠性。這些改進不僅減少了電氣故障對機架的影響，還通過優化電力分配降低了故障發生的頻率。簡化的系統不僅降低了復雜度，還增強了系統的穩定性，從而確保了數據中心在運營過程中的高效可靠性。

此外，亞馬遜云科技還在冷卻系統、機架設計和控制系統方面進行了一系列創新。為滿足 AI 芯片對高密度計算的需求，亞馬遜云科技引入了液體冷卻系統，并在現有和新建數據中心中實施了“液體到芯片”的冷卻方案，將空氣冷卻和液體冷卻無縫集成，可以高效支持 AI 工作負載，同時降低運營成本。新型冷卻系統不僅適用于如 Amazon Trainium2 AI 芯片，還能支持傳統工作負載，確保不同應用場景下的最佳性能和效率。

為了進一步提升高密度 AI 工作負載的支持能力，亞馬遜云科技優化了數據中心的機架布局和電力傳輸系統，預計未來兩年內機架功率密度將提高 6 倍，顯著提升計算能力。同時，亞馬遜云科技還通過數據和生成式 AI 驅動的軟件，精確預測服務器的最佳部署方式，從而最大化電力使用效率。

在建筑設計方面，亞馬遜云科技采用了低碳鋼和低碳混凝土，將數據中心的碳排放降低了 35%。此外，亞馬遜云科技還在備用發電機中使用可再生柴油，這種生物降解且無毒的燃料能將溫室氣體排放量減少 90%，進一步推動了綠色計算和可持續發展的目標。

結語

Peter 表示，“持續的領先，來自于對硬件細節極致的追求。”通過在芯片、網絡架構、數據中心設計等多個維度的持續創新，亞馬遜云科技不僅提升了自身云計算基礎設施的技術水平，也推動了整個行業的發展。

這些創新不僅讓亞馬遜云科技在市場競爭中占據了技術領先地位，也為客戶提供了更強大、更靈活、更高效的服務支持，幫助各行各業加速數字化轉型。亞馬遜云科技的基礎設施創新，正不斷推動著云計算和 AI 領域的技術進步，改變著全球科技的格局。