了解華為云最新動(dòng)態(tài)
4月24日，DeepSeek-V4模型正式發(fā)布并開源，華為云首發(fā)適配。DeepSeek-V4 擁有百萬Token超長(zhǎng)上下文，在 Agent 能力、世界知識(shí)和推理性能上均實(shí)現(xiàn)國(guó)內(nèi)與開源領(lǐng)域的領(lǐng)先。其中，DeepSeek-V4-Flash模型參數(shù)下降至284B，推理成本進(jìn)一步降低，模型參數(shù)和激活更小，V4-Flash 能夠提供更加快捷、經(jīng)濟(jì)的 API 服務(wù)，實(shí)現(xiàn)百萬上下文普惠。當(dāng)前，華為云MaaS模型即服務(wù)平臺(tái)已為開發(fā)者提供免部署、一鍵調(diào)用DeepSeek-V4 -Flash API的Tokens服務(wù)。
在此次新模型適配過程中，華為云在系統(tǒng)層、算子層和集群層的關(guān)鍵能力上協(xié)同，分別從調(diào)度效率、計(jì)算效率和數(shù)據(jù)流轉(zhuǎn)效率三個(gè)維度保障新模型快速適配與高性能落地。
針對(duì)DeepSeek-V4，華為云首發(fā)適配模型分層注意力壓縮機(jī)制，實(shí)現(xiàn)V4注意力機(jī)制下 KVCache的高效分配管理，提供TopK、SWA、CFA等10+昇騰高性能融合算子，搭配框架異步調(diào)度、MTP多步投機(jī)等框架優(yōu)化，支持原生1M長(zhǎng)上下文的高性能推理。
華為云以高效的AI基礎(chǔ)設(shè)施為核心打造“硅基黑土地”，開放接納自研和第三方主流大模型和眾多智能體，為企業(yè)解難題，提升生產(chǎn)效率。