【51CTO.com原創稿件】8月28日，華為云中國行2018走進天府之國成都。在活動現場，華為云一連發布兩款創新產品，讓華為云全棧服務能力再上一級臺階。據華為EBG中國區行業云拓展部部長胡維琦介紹，兩款新品分別是國內首家Istio服務網格產品和全球首家GPU共享型高性能AI容器。在會后，記者采訪了這兩款新品的技術專家，請專家更為詳細地介紹了產品的相關性能，以及對用戶的價值。

[[242697]]

　　GPU共享型高性能AI容器：讓AI用得起，用得好，用的放心

　　記者還記得，在2017年11月，華為云發布了裸金屬容器服務，集成了穩定性、靈活性、安全性、高性能多重功能。而此次發布的GPU共享型高性能AI容器，則是疊加在裸金屬服務器之上，增加了一些專門針對AI領域的技術，性能更高，算力更強。

　　華為容器技術專家告訴記者，之所以會研發推出GPU共享AI容器，最重要的出發點就是考慮到***程度滿足用戶需求。眾所周知，GPU成本昂貴，一般的企業如果想用AI技術去做人工智能應用，成本無疑是攔路虎之一。而華為云推出GPU共享AI容器，就能夠大幅度降低AI計算的成本，同時提升性能。

　　華為容器技術專家舉了一個例子：深度學習的模型訓練非常耗GPU資源，如果GPU性能沒有充分發揮，那訓練效率是非常低的，可能花很長時間才能訓練出一個模型。而如果使用AI容器，采用NUMA架構，加上高速的100GB的IB網卡，再配合高性能GPU，就可以獲得一個非常高的AI計算性能。“我們的口號就是能夠讓大家都能用得起，用得好，也用的放心。”

　　記者采訪得知，GPU共享型高性能AI容器的主要受眾群體就是做人工智能的企業，滿足他們在人工智能方面的開發需求，并提供一些典型的應用，例如深度學習訓練、深度學習推理、圖像人臉識別、文字識別等。記者了解到，這款新品在市場上其實已經有了一些實踐，在城市安防領域、智能交通領域都大有用武之地。

　　說易行難，GPU優化的門道原來這么多!

　　目前市場上常見的模式是，用戶把GPU掛載到某一個容器上，成為它的一個資源，然后就可以使用了。但在AI場景中，尤其是推理計算，并不需要用到整塊或多塊CPU，只需要使用其中一部分，因此華為做了兩點優化工作：一是把同一塊GPU掛給不同容器，并且與容器自身的CPU、Mem、網絡做配合;另一點是在調度方面做修改，通過K8S做資源的共享控制。如此一來，就能夠實現一塊GPU共享給多個容器。

　　“這個產品還是有一定技術門檻的，最關鍵的技術難度就在于對K8S的調度以及對OS內核的改動。” 華為容器技術專家表示，首先需要精通K8S的調度引擎，才能對調度引擎進行修改和優化，其次還需要對OS操作系統層面有非常深入的積累。總體而言，需要對K8S調度機制、操作系統、GPU驅動以及裸金屬NUMA架構、IB網卡等技術有一個綜合的理解和積累，并將其融合起來。“華為在這兩塊是有長期的深厚積累，而且華為的優勢在于技術的全面性，能夠將上述技術整合在一起，提供一個端到端的容器全棧解決方案。”

　　Istio服務網格：因客戶需求催生，共同走向成熟

　　本次華為發布另外一個新品是Istio服務網格產品，這款產品可以與CCE容器引擎深度整合，提供非侵入、智能流量治理的應用全生命周期管理方案，增強了華為云容器服務全棧能力。

　　服務網絡(Service Mesh)在美國已有兩年左右的發展時間，而在國內則是從2017年下半年才開始關注，的確是一個比較新的熱點，可能會有人質疑國內Service Mesh新產品的成熟度。對此華為容器技術專家表示，華為之所以會快速推出這個產品，主要是因為華為云的容器客戶在把應用大規模搬遷到容器上時會遇到了一些問題，例如如何做應用運行時的治理，包括限流、流控等，如何保障業務不被外部流量沖垮，而這些問題通過Istio服務網格可以得到非常好的解決。

　　“Istio服務網格最核心的理念是它完全基于業務屬性，能夠讓容器上的業務更穩定。” 華為容器技術專家表示，華為云的很多客戶已經在嘗試使用Istio，自己也已經在安裝Istio，而客戶經常會因為Istio的問題來詢問華為云，因此華為干脆就推出了Istio服務，更好地服務用戶。“我相信隨著應用的擴大和深入，華為云會和客戶一起催動Istio慢慢成熟。”

　　華為Istio不僅好用，而且安全

　　在華為容器技術專家看來，Istio服務的優勢是十分明顯的，首先它對應用的代碼是無侵入式的，不需要修改代碼，使用起來很方便;其次它能夠實現應用服務之間的流量治理限流，治理功能比較全面;***，它與K8S的整合性比較好，能夠提供端到端的灰度發布流程。對于華為云Istio而言，華為云力求做到讓客戶直接啟用，不再需要繁瑣的安裝部署、監控運維。當談及Istio安全性時，華為容器技術專家認為，安全性的確是需要重點考慮的因素，目前Istio也在著力解決，華為會持續深入研究這個領域的技術并落地到產品中。

　　目前Istio與華為云上的容器全棧服務，包括CCE云容器引擎、CCI云容器實例，同時也與APM應用性能管理、AOM運維管理服務都可以無縫整合。

　　Istio服務網格和AI容器現已在華為云開放公測，公測期間用戶可以直接在CCE里啟用Istio，享受一站式體驗。感興趣的同學可以訪問以下地址申請試用噢：

　　https://www.huaweicloud.com/product/cce.html

　　HUAWEI CONNECT 2018作為華為自辦的面向ICT產業的全球性年度旗艦大會，將于2018年10月10日-12日在上海隆重舉行。本屆大會以“+智能，見未來”為主題，旨在搭建一個開放、合作、共享的平臺，與客戶伙伴一起共同探討如何把握新機遇創造智能未來。

　　欲了解更多詳情，請參閱：

　　https://www.huawei.com/cn/press-events/events/huaweiconnect2018

【51CTO原創稿件，合作站點轉載請注明原文作者和出處為51CTO.com】