华为云CEO张平安：CloudMatrix384 AI Token服务全面上线，昇腾AI云服务创新升级

2025年9月19日

（图片来自网络）

在华为全联接大会2025（HC 2025）上，华为云计算CEO张平安带来了昇腾AI云服务的重磅升级与创新。他介绍，依托华为最新AI服务器规划，华为云CloudMatrix云上超节点规格将从384卡升级至未来8192卡，打造50~100万卡的超大集群，为智能时代提供更澎湃的AI算力。

为释放算力潜能，华为云首创弹性内存存储服务（EMS），打破传统AI算力与显存绑定限制，以内存替代昂贵的显存“以存补算”，大幅提升大模型多轮对话性能。

面对指数级增长的AI算力需求，华为云推出灵活的AI Token服务。张平安指出，Token服务可有效屏蔽复杂技术实现，是高效使用推理算力的方式。会上，华为云CloudMatrix 384 AI Token服务全面上线，以优质性能、良好服务、高质量保障，高效满足各行业“最终AI计算结果”需求。

华为云通过CloudMatrix 384超节点的创新架构，将资源全面池化，形成算力池、内存池、显存池等，将计算、存储、AI专家系统解耦，将串行任务转为分布式并行任务，大幅提升系统推理性能。在在线、近线、离线不同时延场景下，CloudMatrix 384平均单卡推理性能是中国特供H20的3~4倍。

此外，华为云在贵州、内蒙古、安徽部署大规模全液冷AI数据中心，将液冷年均PUE降低至1.1，提升散热、功耗、运维效率。企业可通过华为云全栈专属AI云服务，将模型和数据放在专属物理隔离资源池训练调优，端到端加密且自主掌握密钥，保障数据安全与效率。

昇腾AI云服务的升级，不仅带来极致性能的Token服务，更通过技术创新与多样化部署，为千行万业智能化升级注入动力，推动AI技术深度应用，目前客户数量从去年321家增长至今年1805家，AI总算力规模同比增长268%。