寒武纪亮出软件全家桶，软硬协同加速AI技术落地

寒武纪软件全家桶与软硬协同实践

寒武纪成立的初衷是为「人工智能的大爆发」提供底层算力支持，坚持软硬协同策略，构建从自研芯片架构到高性能软件平台的完整体系，实现计算架构、编译优化与算法调度的深度融合，让每一份算力都被充分释放。

寒武纪基础软件平台 Cambricon NeuWare，让用户与开发者能够跨越不同的寒武纪硬件和应用场景，降低上手难度，提升开发效率，快速迁移与部署AI应用。经过多年投入与积累，该平台日趋成熟，全面兼容社区最新PyTorch版本和Triton算子开发语言，支持用户模型和自定义算子快速迁移，在多项指标上都已达到业界领先水平，为大规模训练推理业务提供坚实底座。

大模型与搜广推训练推理验证

大模型技术正成为智能经济的核心驱动力，「搜广推」场景成为大模型落地最具价值的前沿阵地。寒武纪在大模型与搜广推的训练推理上完成大规模技术和产品验证。在搜广推训练方向，解决方案支撑多场景流式任务，精度与稳定性满足要求；持续性能优化方面，完成图匹配融合与XLA支持优化，获显著加速比。在大模型训练方向，重点支持DeepSeek、Qwen等多类模型，基于原生FP8支持系列网络训练，精度符合预期。在大模型推理方向，研究新型数据类型与注意力机制，紧跟先进模型演进，确保技术栈先进性。

驱动、编译与调试工具

寒武纪驱动支撑业务数月不停机，优化吞吐能力；通过细粒度并行技术、多路DSA异步调度等，实现业界领先Kernel吞吐能力，支持Kernel graph批量下发与类IBGDA接口，丰富设备切分场景。BANG C语言高效编写并行程序，支持丰富编译优化技术；Triton算子开发语言迭代，支持FP8/FP4，引入fast libentry优化主机端开销。系统和算子调试调优工具完善，支持core dump与CNPerf等多维度性能数据采集，CNPerf-GUI内置专家建议系统检测设备问题，支持多平台与超大日志处理。CNSantizer与CNAdvisor工具提升程序正确性与性能分析。

计算与通信库

寒武纪计算库扩展功能与性能优化，覆盖Embedding Table、矩阵乘、Attention等算子，支持社区与私有模型；打造维测平台保障软件质量。分布式通信库优化通信算法，提升大规模扩展性与集群通信可用性，通过RoCE网卡RDMA操作优化MoE类模型推理任务端到端吞吐。

集群与开源工具

集群工具（如CntrainKit-Accu、CntrainKit-Monitor、CNCE、CNAnalyzeInsight等）提供精度定位、监控调优、全景监控、故障分析等功能，提升大规模训练可用性与稳定性。开源与框架支持PyTorch 2.1 - 2.8版本，适配多关键功能，提供迁移与调试工具，快速跟进社区生态，助力模型高效验证。

经过近十年打磨，寒武纪构建软硬一体化产品体系，在大模型、搜广推等多场景验证，加速产业智能化转型，推动AI能力走进千行百业，逐步实现“让机器更好地理解和服务人类”的愿景。