6月20日华为开发者大会2025上，新一代昇腾AI云服务为何全面上线？

在当前AI技术迅猛发展的时代，大模型算力需求呈爆炸式增长，传统计算架构难堪重任，而华为云新一代昇腾AI云服务犹如一颗璀璨新星横空出世，带来诸多惊喜！但它究竟能掀起多大的风浪？且听我一一道来。

传统架构瓶颈显现

时代发展如疾风骤雨，AI技术对算力的渴望近乎疯狂。传统计算架构好似老旧马车，在追求AI代际跃迁的高速赛道上举步维艰。大模型训练和推理像头胃口奇大的巨兽，不断吞噬算力，传统架构面对这般巨量的需求束手无策、有心无力。就如同一个人只有小水管，却要往大水槽快速注水一样，根本满足不了需求。

面对这样的窘状，市场急需新的突破，就在这时，华为云新一代昇腾AI云服务闪亮登场。

昇腾AI云特点揭秘

华为云新一代昇腾AI云服务真是科技结晶中的珍品！它基于CloudMatrix384超节点，宛如搭建了一座气势恢宏的算力宫殿。它首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联，形成一台威力无穷的超级“AI服务器”，单卡推理吞吐量跃升到2300 Tokens/s。这就如同给跑车装上了涡轮发动机，速度大幅提升！超节点架构还能奇妙地支持混合专家MoE大模型的推理，“一卡一专家”的实现，让384个专家能并行推理，效率提升那是肉眼可见！

而且它还支持“一卡一算力任务”，可以巧妙灵活地分配资源，提升任务并行处理，减少等待时间，将算力有效使用率提升50%以上。更为神奇的是，超节点支持训推算力一体部署，像 “日推夜训”这样的操作让资源使用达到最优，就像一个精打细算的管家，把财物利用到极致。

多领域应用成果

在诸多领域昇腾AI云服务那是大放异彩！新浪与华为云深度合作，基于CloudMatrix384昇腾AI云服务，为“智慧小浪”构建统一推理平台，底层有昇腾AI算力的强大支撑，让新浪在智能服务领域稳健前行。硅基流动借助CloudMatrix384超节点为数百万用户高效地提供推理服务，让服务质量上一个大台阶！面壁智能更是借助超节点让小钢炮模型推理业务性能飙升2.7倍，实力不容小觑！科研领域，中科院借助超节点摆脱对国外高性能AI算力平台的依赖，打造出自己的科研大模型，这可是科研独立的一大步！互联网里360纳米AI搜索也开启超节点测试，要知道这搜索对AI算力需求极大，有了超节点那真是如虎添翼！

盘古大模型全面升级

会上还宣布盘古大模型5.5发布，这绝对是大新闻！自然语言理解NLP、计算机视觉CV、预测、多模态、科学计算五大基础模型都有全面升级。盘古大模型是基于昇腾云全栈软硬件训练出来的，这意味着基于昇腾架构可以打造世界一流大模型，让人好生激动！

在NLP大模型方面，新的718B深度思考模型实力强劲，它是由256个专家组成的MoE大模型，在知识推理、工具调用、数学等领域优势明显，领先很多！

训推系统领先优势

盘古大模型通过通算掩盖、全局动态均衡、分组混合专家MoGE等算法形成昇腾亲和高效训推系统，训练MFU和单卡推理吞吐在业界名列前茅。想想看，这计算能力与推理速度那得多快同时它还提出好多技术，让自己不弱于业界一流模型，具有强大竞争力，未来发展真不可限量！

迈向新时代的引领者

华为云新一代昇腾AI云服务凭借超节点独特架构、强劲计算能力，已然成为推动AI技术变革新驱动力，盘古大模型在昇腾云助力下不断成长进步。放眼未来，毫无疑问将会在数字浪潮中大展宏图！不知道大家对华为云这套技术发展趋势怎么看？