4月7日，權威AI基準評測組織MLPerf公布了最新一期推理性能榜單。阿里云聯合平頭哥、達摩院等在數據中心、邊緣計算、物聯網領域斬獲多項第一，展現出阿里AI算力的強大競爭力。

北京時間4月7日，MLCommons發布最新MLPerf榜單

MLPerf由圖靈獎得主David Patterson于2018年發起，每年組織全球AI訓練和AI推理性能測試并發榜，已成為業界最主流標準之一。本次榜單重點更新了面向數據中心和邊緣計算的場景，以及最新的MLPerf Tiny 0.7測試榜單。

在當前激烈的數據中心和邊緣計算場景下，各廠商及機構基于硬件加速的成績差距并不大，競爭主要聚焦在模型軟硬協同優化方面。最終，阿里云磐久服務器脫穎而出，成為MLPerf有史以來首個獲得純CPU推理性能最高的ARM架構服務器，且在數據中心和邊緣側該類別的總體性能均為第一。

MLPerf 2.0 DatacenterCPU-Only推理性能數據對比

據悉，阿里云震旦異構加速平臺利用模型優化工具SinianML來進行用于AI任務的神經網絡架構搜索和壓縮，以及最佳算子實現。在保證達到基準測試精度目標同時，能得到遠高于標準ResNet50 v1.5的計算效率。此外在MLPerf Tiny場景，阿里云通過大規模深度算子融合和針對平頭哥玄鐵RISC-V微架構的極致優化，從而能夠大大提高CPU算力利用率，實現軟硬協同優化。

Tiny場景是MLPerf近年新增的性能測試分類。有別于Datacenter等大規模、高算力的情景，Tiny聚焦于低功耗、高性價比的IoT場景，考驗在日益廣泛的IoT智能應用場景下的軟硬件性能和優化能力。在此次公布的MLPerf Tiny 0.7性能數據榜單中，阿里云震旦異構計算加速平臺通過編譯和軟硬件一體化創新優化，結合達摩院在語音和視覺等機器智能的算法知識，基于平頭哥自研RISC-V玄鐵C906處理器在所有4項Benchmark的CPU性能數據均取得第一，在滿足模型精度要求的同時創造了RISC-V架構在該AI基準測試榜單上的最好成績。

MLPerf Tiny 0.7 推理性能數據對比

不難發現，MLPerf正將評測環境更多地向云廠商傾斜，后者已成為AI產業的主力軍。“高度集成的專業化AI芯片對應用場景限制很多，我們希望研發出更通用的軟硬協同加速平臺來發揮AI應用的價值，”阿里云異構計算首席科學家張偉豐博士表示。