了解華為云最新動態(tài)
7月22日,華為云Stack在中國信息通信研究院組織的《面向行業(yè)的大模型云服務(wù)運(yùn)維能力成熟度》評估中,首批通過大模型混合云部署形式最高等級Lv5引領(lǐng)級的檢驗(yàn),華為混合云副總裁、SRE部部長李金鋒出席授牌儀式。

圖1:華為云Stack獲得最高等級Lv5引領(lǐng)級檢驗(yàn)證書
為了進(jìn)一步推進(jìn)大模型在行業(yè)側(cè)的落地應(yīng)用,引領(lǐng)行業(yè)智能化升級,中國信息通信研究院聯(lián)合多家單位基于AI行業(yè)云相關(guān)標(biāo)準(zhǔn)與評估實(shí)踐,結(jié)合行業(yè)場景下大模型運(yùn)維需求,共同編制《面向行業(yè)的大模型云服務(wù)運(yùn)維能力成熟度》標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)旨在規(guī)范智算基礎(chǔ)設(shè)施、大模型、智能應(yīng)用運(yùn)維團(tuán)隊(duì)的服務(wù)范圍及能力,推進(jìn)大模型等AI需求基于云計(jì)算實(shí)現(xiàn)場景應(yīng)用。在第十二屆可信云大會上,中國信息通信研究院聯(lián)合多家編制單位正式發(fā)布該標(biāo)準(zhǔn)。
該標(biāo)準(zhǔn)從頂層設(shè)計(jì)、行業(yè)運(yùn)維實(shí)踐、應(yīng)用運(yùn)維管理、模型運(yùn)維管理、算力運(yùn)維管理、模型運(yùn)維平臺、模型運(yùn)維體系、模型故障管理、模型運(yùn)維安全九個方面對待評估項(xiàng)目進(jìn)行檢驗(yàn),評估結(jié)果分為探索級、實(shí)踐級、優(yōu)秀級、卓越級、引領(lǐng)級五個等級。

圖2:《面向行業(yè)的大模型云服務(wù)運(yùn)維能力成熟度》標(biāo)準(zhǔn)能力框圖
作為首批通過評估并取得最高級的解決方案,華為云Stack大模型混合云構(gòu)筑三橫四縱的運(yùn)維能力,幫助政企客戶建立更全面、智能、靈活的運(yùn)維體系,加速智能化轉(zhuǎn)型。
首先,圍繞基礎(chǔ)設(shè)施、大模型及AI應(yīng)用三個層級的運(yùn)維對象,實(shí)現(xiàn)大模型全棧端到端運(yùn)維服務(wù)和管理。
其次,構(gòu)建四大運(yùn)維架構(gòu),提供全場景,全流程運(yùn)維服務(wù)。
·模型運(yùn)維體系:在用云、管云階段提供咨詢頂設(shè)和運(yùn)維體系規(guī)劃能力,支撐企業(yè)戰(zhàn)略、組織、流程、平臺層面的高階規(guī)劃設(shè)計(jì)。
·模型運(yùn)維平臺:提供智算運(yùn)維門戶,算力全鏈路可觀測,AI資源能夠?qū)崿F(xiàn)精細(xì)化運(yùn)營管理,讓模型運(yùn)行情況可觀測,可管理。
·模型故障管理:提供AI訓(xùn)推作業(yè)、算力資源池、服務(wù)器、網(wǎng)絡(luò)設(shè)備故障診斷、日志分析、性能優(yōu)化等運(yùn)維管理能力,保障大模型運(yùn)維SLA達(dá)成。
·模型運(yùn)維安全:提供模型運(yùn)行環(huán)境安全、語料數(shù)據(jù)安全、訓(xùn)推業(yè)務(wù)安全以及安全合規(guī)運(yùn)營等運(yùn)維安全能力,保障大模型業(yè)務(wù)運(yùn)行安全、穩(wěn)定、合規(guī)。
面向大型政企行業(yè)客戶不同業(yè)務(wù)訴求,華為云Stack大模型混合云圍繞AI大模型運(yùn)維形成場景化解決方案,沉淀最佳實(shí)踐,提供可復(fù)制、可驗(yàn)證、可快速落地的咨詢規(guī)劃、故障恢復(fù)及安全合規(guī)等運(yùn)維運(yùn)營支持服務(wù),助力客戶智能化業(yè)務(wù)轉(zhuǎn)型成功。
依托ICT領(lǐng)域數(shù)十年沉淀的運(yùn)維服務(wù)體系和行業(yè)運(yùn)維經(jīng)驗(yàn),華為云Stack SRE團(tuán)隊(duì)通過構(gòu)建現(xiàn)代化運(yùn)維流程、智能化運(yùn)維平臺、數(shù)字化運(yùn)維資產(chǎn),使能客戶用好云、管好云,保障云平臺穩(wěn)定運(yùn)行,助力客戶業(yè)務(wù)成功。在大模型混合云運(yùn)維方面,團(tuán)隊(duì)圍繞“保障平臺行穩(wěn)致遠(yuǎn),讓AI和數(shù)據(jù)持續(xù)釋放價值”為客戶提供全流程運(yùn)維保障服務(wù),實(shí)現(xiàn)業(yè)務(wù)價值。
目前,華為云Stack大模型混合云運(yùn)維服務(wù)已經(jīng)支持了包括政務(wù)、金融、能源、電力等數(shù)十個不同行業(yè)落地大模型應(yīng)用的先行先試,助力客戶引領(lǐng)驅(qū)動行業(yè)智能化的創(chuàng)新發(fā)展。
在本次可信云大會上,華為云“ModelArts”“盤古大模型”“大模型混合云專業(yè)技術(shù)服務(wù)”入選《大模型工程化交付服務(wù)商能力圖譜》。湘潭鋼鐵基于華為云Stack打造的 “湘潭鋼鐵廢鋼定級”入選《大模型全棧工程化交付技術(shù)服務(wù)案例集報告》。

圖3:華為云Stack大模型混合云產(chǎn)品能力和專業(yè)技術(shù)服務(wù)以及客戶項(xiàng)目交付案例分別入選能力圖譜和案例集報告