2026年7月17日，由深圳河套学院联合华为、南京大学共同研发的昇腾算子公开评测平台——CANN-Bench正式上线，同步发布首个面向Ascend C算子代码的公开排行榜（Leaderboard）。这标志着深圳河套学院在人工智能系统领域实现了从“能写算子”到“可量化评测算子”的关键跨越，为人工智能人才培养与产学研协同创新注入了全新动力。

算子生态：连接模型与芯片的桥梁

算子是人工智能模型执行矩阵计算等任务的基本单元，其质量直接影响模型运行的正确性、性能与适配效率。算子生态既是串联上层模型与底层芯片的枢纽，也是人工智能国产化的重要基石。随着大语言模型（LLM）和AI Agent技术的飞速发展，Ascend C算子开发的门槛已大幅降低——从基础的Elementwise运算到复杂度极高的FlashAttention算子，AI均可自主生成完整代码，显著缩短算子研发周期。

然而，新挑战随之而来：

哪个模型写的算子更好？生成的代码更可靠？算子的稳定性与高效性究竟如何？

CANN-Bench正是为破解这些难题而生——它以公开Leaderboard为核心，在统一、可复现的评测标准下，对每位开发者或团队提交的代码执行50余项标准化评测任务，从编译正确性、精度通过率到性能表现等多维度量化评分，并公开展示排名。

图1：CANN-Bench平台 https://cannbench.com

亮点一：Leaderboard 榜单，让算子公平竞争

CANN-Bench首创“分层对标、横向比较、能力诊断”的立体化评价体系。开发者或团队可参与L1~L4不同难度任务的评测，所有结果在统一的标准下评分并公开展示。

• 按难度等级独立排名（L1/L2/L3/L4）：

从入门验证到极限挑战，各层次参与者皆可找到对标位置；

• 按模型/Agent名称灵活筛选：

快速定位关注对象，横向对比不同方案；

• 按编译、精度、性能三维度拆解展示：

查看总分之外，编译错误、精度不达标、性能短板一目了然。

图2：CANN-Bench平台Leaderboard榜单

亮点二：标准化评测流，从本地到云端一致可靠

CANN-Bench评测引擎与开源仓库完全同源，确保所有算子在同一标尺下客观比较，从三个维度进行严格审视：

（1）编译正确性

算子在Ascend 910C / 950PR芯片上须一次性编译通过。编译失败即判定该批次得分为零，并自动生成详细的编译错误日志，帮助开发者精准定位问题。

（2）精度通过率

采用业界领先的ULP（Unit in Last Place）误差分析体系，而非简单阈值判断。

• 正常值域：

正常值域：同时计算平均相对误差（MERE）和最大相对误差（MARE），对float16数据以1ULP为标准阈值、10ULP为最大阈值交叉验证，任何一项超标即判定不通过；

• 小值域：

当算子输出接近0时，启用专用小值域判定逻辑，避免传统相对误差的数值不稳定问题；

• 特殊值场景：

Inf、NaN等特殊浮点值以及量化数据场景下，自动切换为精确匹配或专用对比算法；

• 相消场景：

针对大数相减产生小数的经典精度陷阱，引入同精CPU参考对照机制进行精准判断。

图3：CANN-Bench平台精度标准与对比方案

（3）极致性能

以硬件理论极限为锚点，采用独创的HAP（Hardware-Anchored Performance）评分公式，将算子实测耗时与NPU理论性能上限对标，彻底杜绝“选慢基线刷加速比”的投机空间。

图4：CANN-Bench平台性能基准与对比方案

亮点三：真实算子测试，支持快速验证

CANN-Bench平台首发即内置全量基准评测集Official-Tasks与快速验证评测集 Micro-Official-Tasks，所有算子均源自真实业务场景，按实现难度科学划分为四个等级：

表1：算子难点等级

• 全量基准评测集：

覆盖超过50个真实算子，从单输入单输出的基础向量计算，到需要精细调度Cube/Vector单元的复杂Attention融合算子，可对任意AI模型或Agent进行全面能力扫描。

• 快速基准评测集：

从全量基准评测集中按维度抽样典型算子，满足开发者快速摸查验证需求。

图5：CANN-Bench平台基准评测集

CANN-Bench的创新不仅体现在构建评测基准、分析评测结果与分配算力资源等平台能力上，更在于提升了评测任务的代表性、流程的规范性和结果的可复现性，为平台后续扩展更多算子场景、完善社区共建机制提供了坚实基础。

全面开源，共建繁荣生态

CANN-Bench评测体系已全量开源，开发者可自由定制，亦可贡献新评测任务、拓展维度或优化评分算法。通过评测可以发现算子差异、性能瓶颈、调优成效，为算子的可信生成、高效优化与跨场景迁移提供客观依据。

但评测不是终点，而是通往可信生成、高效优化与跨架构迁移的必经路径。未来，平台将逐步构建覆盖算子开发、优化、迁移、复用全生命周期的技术支撑体系，沉淀可复用、可演进的算子资产库，向上服务大模型训练与推理的效率需求，向下释放国产芯片的算力潜能，赋能人工智能系统人才培养，为我国人工智能产业的自主创新与持续演进提供长远支撑。

加入我们，共创CANN生态

我们诚挚期待更多开发者、高校、科研机构与产业伙伴加入，共同推动CANN生态繁荣。

• CANN-Bench平台地址：

https://cannbench.com/

• CANN-Bench源码仓库地址：

https://gitcode.com/cann/cann-bench

• CANN-Bench文档详细介绍：

https://gitcode.com/cann/cann-bench/tree/master/docs

CANN-Bench不止是“评测算子”，

更是深挖Ascend NPU芯片极限性能的实力竞技场！

CANN-Bench联合研发组织：

深圳河套学院、华为算力平台先遣队&图灵业务部&2012实验室、南京大学