编者按

算子作为连接AI算法与计算芯片的核心环节，其效率与兼容性直接影响模型运行速度与部署难度。长期以来，算子开发面临门槛高、周期长等挑战，是制约国产算力生态发展的关键因素之一。深圳河套学院执行院长罗智泉带领团队自主研发KernelCAT智能工具，为算子开发与性能优化探索出新的技术路径。

近日，中央广播电视总台大湾区之声对深圳河套学院执行院长、深圳市大数据研究院院长罗智泉院士进行深度专访。罗智泉院士在访谈中系统阐述了KernelCAT的技术理念、应用前景，以及对国产AI计算生态建设的深层思考。他强调，国产AI生态要实现从“跟跑”到“领跑”，关键在于短期突破工具让用户愿意用，中期做优生态让用户用得好，长期靠人才培养和开放协作形成良性闭环。

现将专访内容整理刊发，以飨读者。

罗智泉，深圳河套学院执行院长、香港中文大学（深圳）副校长、深圳市大数据研究院院长，中国工程院外籍院士、加拿大皇家科学院院士，IAM会士和IEEE会士。

罗智泉的研究聚焦大数据分析的最优化方法、信号处理与数字通信中的复杂性与计算问题。他提出数据驱动的现实网络统计模拟技术，建立大规模4/5G异构网络参数最优化模型，突破了求解超大规模混合整数优化模型的算法瓶颈，从无到有建立了网络性能的数学模型和算法框架。他曾获IEEE信号处理学会最佳论文奖（2004、2009、2011、2015）、国际数学优化学会Paul Y. Tseng纪念奖（2018）、中国工业与应用数学学会王选应用数学奖（2022）、深圳市科技进步奖一等奖（2023）、ICCM华罗庚奖（2025）。

专访罗智泉院士：中国AI产业加速算力自主的进程,深圳河套学院,12分钟

为什么KernelCAT是国产AI生态的“关键助推器”？

大湾区之声：请您给我们介绍一下KernelCat的内核定位以及它的运行流程是怎样的呢？

罗智泉：KernelCat的内核定位，可以理解为AI计算生态里的“计算加速专家”。它主要瞄准AI模型落地时最头疼的三大底层问题：第一，大语言模型迁移到国产芯片后跑不起来；第二，跑起来但速度慢；第三，支持AI模型推理及训练的最小计算单元——Kernel的开发周期长。

KernelCat的目标是让原本需要专家花几周甚至几个月反复调试的工程工作，变成用自然语言提需求，然后由数学工具和AI工具自动搞定的一种智能服务。从技术层面看，我们希望推动三个转变：

一是把算子开发从依赖个人工程经验，转变为算子驱动的自动化流程；

二是把国产芯片的软件生态门槛，从高不可攀降到普通工程师能上手；

三是通过工具创新，帮助国产芯片真正释放性能，解决“有硬件、缺软件”的卡脖子问题。

简单说，KernelCat就是推动国产AI生态从“能用”迈向“好用”的关键助推器。

国产芯片迁移不再“劝退”，让开发者专注创新本身

大湾区之声：这样的功能覆盖哪些运行场景？又解决了哪些使用中的难点呢？

罗智泉：AI开发者现在最常遇到的问题就是硬件换了，模型跑不起来或者跑不好。KernelCat主要解决三类具体场景的问题：

第一类：模型迁移。比如在英伟达等国外算力平台上训练好的模型，要迁移到华为昇腾等国产芯片上时，经常会遇到环境配置复杂、依赖库报错、官方算子库不支持某些功能等问题。KernelCat能自动配置运行环境，补全缺失的依赖，甚至通过迁移或生成新的算子，让模型实现“一键适配”。

第二类：性能优化。模型搬迁到新硬件后，可能因算子效率低导致推理速度慢、功耗高。比如原本每秒跑1000次的模型，现在只能跑300次。KernelCat能够快速定位是哪个算子拖了后腿——可能是某个矩阵计算的参数没调好——然后自动进行优化，让模型跑得更快、更省电。

第三类：算子开发。这是最底层的活，传统上需要既懂算法、又懂芯片架构、还会编译优化的人才，没有几年经验根本做不了。而KernelCat通过大模型理解用户需求，比如工程师说“我要一个处理图像特征的算子”，它就能自动生成代码，把原本几周的开发时间压缩到几小时甚至几分钟。

这三类场景覆盖了从实验室到产业落地的关键环节，KernelCat的作用就是让开发者不再被底层工程拖后腿，把精力集中在模型创新本身。

让AI替人干苦活：延迟降22%、吞吐量升30%

大湾区之声：算子开发长期面临“三高”挑战——门槛高、成本高、周期长。KernelCat的破题思路是什么呢？

罗智泉：算子开发确实是AI行业的老大难问题。“三高”体现在：

门槛高，是因为开发者要同时懂算法、懂芯片架构、懂编译优化；

成本高，是因为每一款新芯片或新模型架构出现，都得重新开发；

周期长，是因为手工调试动辄几周，跟不上硬件迭代的节奏。

KernelCat的破题思路，简单说就是用AI的智能替代人工经验，把大模型的理解能力和运筹优化的数学求解能力结合起来。用户只需用自然语言说清楚需求，比如“我需要优化某某算子在昇腾芯片上的延迟问题”，KernelCat就能自动分析硬件约束、拆解算法逻辑，把问题转化为数学优化模型，然后通过算法快速找到最优解，最后在真实芯片上测试验证，输出可直接使用的算子代码。

典型案例：之前在某昇腾芯片上优化一个算子，传统方法要调十几二十个参数，每个参数有多种选择，工程师得反复试很久。而KernelCat十几轮迭代就找到了最优配置，延迟降低了22%，吞吐量提升了30%。

但要根本解决“三高”问题，光有工具还不够，还需要三方面的合力：

一是芯片厂商持续提升硬件性能；

二是行业内共建开放的算子库和工具链，避免重复造轮子；

三是高校和企业培养更多懂底层开发的人才，政策上也应给予资金、项目等方面的支持，让生态真正良性循环起来。

打出“组合拳”：越多人用，工具越好，形成闭环

大湾区之声：尽管潜力巨大，未来KernelCat会面临哪些压力呢？

罗智泉：国产AI生态要真正与国际主流的英伟达CUDA生态竞争，工具创新是“尖刀”，但更需要一套“组合拳”。

第一，硬件要跟上。芯片的性能——算力、能效、稳定性——需要持续提升，特别是要针对AI大模型的需求优化架构，比如更擅长处理大规模数据、支持混合精度运算等。

第二，软件工具要完善。除了算子开发工具，还得有配套的模型训练框架、推理引擎、调试工具，形成一站式的开发环境，让用户用得顺手。

第三，生态要活跃。得有足够多的开发者愿意用、愿意贡献代码。可以通过政策鼓励高校学生、企业工程师一起参与，形成“越多人用、工具越好”的正循环。

第四，政策要支持。算力主权是国家安全的重要组成部分。国家需要在AI战略层面统筹，把国产生态建设纳入科技规划，通过资金、税收等政策帮助早期生态度过“从零到一”的生存难关。

CUDA用了十几年才建成今天的生态，开发者已经习惯了。要让用户愿意迁移，关键是让他们发现：用国产芯片和工具也没问题，不仅性能跟得上，而且开发也很简单。KernelCat这类工具的价值，就是慢慢建立这种信任和信心。

国产AI生态如何从“跟跑”走向“领跑”？

大湾区之声：建设一个成熟的、可与国际CUDA抗衡的国产AI生态系统，还需要哪些必要条件？从您的角度出发，又有哪些建议？

罗智泉：要破英伟达这种先发优势形成的生态垄断，我觉得有几个方面的工作要做：

一是人才培养。高校和企业要培养一批既懂芯片、又懂算法的复合型人才。让学生从在校开始就用国产AI芯片和工具，把该踩的坑都踩一遍，把生态催熟、越做越好。

二是工具突破。像KernelCat这样的开发工具要更加智能、高效，把国产AI的使用门槛降到最低，让用户不用学复杂技术也能用好国产芯片。

三是生态开放。芯片厂商、工具开发者、应用企业——比如自动驾驶、智能制造公司——要一起合作、共享经验，别各搞一套，形成一个开放协作的生态。

四是政策扶持。在关键破局期，国家需要扶一把。比如支持国产芯片在国防、金融等关键领域先用起来，帮助生态度过早期的困难期。

所以我的建议是：短期把工具突破，让用户愿意用；中期把生态闭环做好，让用户用得好；长期靠人才培养和开放协作。只要上下游齐心协力，我相信国产AI生态完全有机会从“跟跑”变成“领跑”。

来源 | 中央广播电视总台大湾区之声《科创梦工场》