
華為EBG中國區(qū)行業(yè)云拓展部部長胡維琦做現(xiàn)場發(fā)布
全球首發(fā)GPU共享型高性能AI容器
讓人工智能觸手可及
當下,人工智能已成為各行各業(yè)的熱點和趨勢,在實際應用中,企業(yè)在不斷追求各類AI計算場景下性能和成本的極致體驗。容器以其獨特的技術(shù)優(yōu)勢,已經(jīng)成為業(yè)界主流AI計算框架(如Tensorflow、Caffe)的核心引擎。華為云為了進一步解決企業(yè)在AI計算性能與成本上面臨的問題,為企業(yè)量身打造了AI容器產(chǎn)品。
華為云AI容器是全球首款支持共享GPU的高性能容器產(chǎn)品,在業(yè)界首家實現(xiàn)了多容器共享GPU資源,大幅降低了AI計算的成本,并在AI計算性能上比通用方案提升了3-5倍以上。

極致性能
裸金屬NUMA架構(gòu)與高速IB網(wǎng)卡,性能提升3-5倍
在典型的深度學習模型訓練場景下,需要傳輸和處理海量的數(shù)據(jù)。
華為云AI容器運行在高性能的裸金屬服務(wù)器上,并通過NUMA架構(gòu)和100G IB網(wǎng)卡實現(xiàn)高速、低延遲的大數(shù)據(jù)量傳輸,讓GPU充分發(fā)揮大規(guī)模并行計算的優(yōu)勢,從而大幅縮短訓練的時間。經(jīng)實踐驗證,深度學習訓練對比傳統(tǒng)GPU加速方式能夠進一步提升3-5倍。
高效計算
GPU資源多容器共享調(diào)度,計算成本大幅降低
華為云通過優(yōu)化K8S容器調(diào)度引擎,能夠為容器中的AI計算任務(wù)分配更細粒度的GPU資源,實現(xiàn)多個AI計算任務(wù)共享GPU,在部分AI計算如推理類場景中能夠?qū)崿F(xiàn)更高的資源利用率,從而大幅降低AI計算成本。
成熟應用
主流GPU型號全適配,并在華為云EI產(chǎn)品大規(guī)模使用
華為云AI容器已完成多款主流GPU的適配,包括 Nvidia Tesla P4/P100/V100等產(chǎn)品系列,客戶可根據(jù)不同應用場景靈活選取,以達到最高的性價比。
華為云AI容器支持Tensorflow、Caffe等主流深度學習框架,并在華為云EI的深度學習、推理平臺、人臉/圖像/文字識別等多個服務(wù)得到廣泛應用與驗證。
國內(nèi)首發(fā)公有云Istio服務(wù)網(wǎng)格
讓云原生應用治理更簡單
華為EBG中國區(qū)行業(yè)云拓展部部長胡維琦現(xiàn)場分享到:“在Cloud 2.0時代,容器技術(shù)解決了應用快速部署、上線、升級與彈性伸縮等運維效率問題,但應用運行時的灰度發(fā)布、流量治理與健康管理等方面仍存在諸多難點。Istio是云原生Cloud Native生態(tài)的重要一環(huán),通過提供完整的非侵入式的微服務(wù)治理解決方案,能夠很好地解決云原生應用的管理、網(wǎng)絡(luò)連接以及安全管理等應用網(wǎng)絡(luò)治理問題。”
華為云在云容器引擎CCE中深度集成了Istio最新版本,并在易用性、可靠性、可視化等方面進行了一系列增強。

一鍵啟動,與容器引擎無縫整合
無需用戶自行安裝,華為云容器引擎CCE已實現(xiàn)Istio的深度集成,只需在創(chuàng)建集群時做一次簡單勾選,即可在集群和應用中啟用完整的Istio服務(wù)網(wǎng)格,實現(xiàn)了開箱即用。
內(nèi)置多種灰度發(fā)布流程,確保應用平滑升級
應用上線后,運維面臨的一大挑戰(zhàn)是如何不中斷業(yè)務(wù)升級,華為云Istio服務(wù)網(wǎng)格內(nèi)置了金絲雀、A/B Testing等多種灰度發(fā)布策略,完美地解決了這一難題。用戶還可自定義配置,實現(xiàn)更多復雜流量策略。
圖形化應用拓撲,讓流量治理可視化
華為云Istio服務(wù)網(wǎng)格提供了可視化的流量監(jiān)控,異常響應、超長響應時延、流量狀態(tài)信息拓撲等一目了然;同時,結(jié)合華為云AOM/APM服務(wù),提供了詳細的微服務(wù)級流量監(jiān)控、異常響應流量報告以及調(diào)用鏈信息,實現(xiàn)更快速、更精準的問題定位。
智能路由與彈性流量管理,讓流量治理更輕松
華為云Istio服務(wù)網(wǎng)格支持根據(jù)微服務(wù)的流量協(xié)議,提供策略化、場景化的網(wǎng)絡(luò)連接、安全策略管理能力。支持基于應用拓撲對服務(wù)配置負載均衡、熔斷容錯等治理規(guī)則,并提供實時的、可視化的微服務(wù)流量管理。應用無需任何改造,即可進行動態(tài)的智能路由和彈性流量管理。
云容器引擎CCE(Cloud Container Engine)是華為云提供的企業(yè)級容器應用管理服務(wù),致力于為客戶提供高安全、高可靠、端到端的容器全棧解決方案,完全兼容Kubernetes社區(qū)原生應用和工具,大幅簡化了云上自動化容器運行環(huán)境搭建。
目前AI容器與Istio服務(wù)已在華為云的CCE容器服務(wù)中開展公測
掃描下方二維碼
申請試用
