编者按
算子作为连接AI算法与计算芯片的核心环节，其效率与兼容性直接影响模型运行速度与部署难度。长期以来，算子开发面临门槛高、周期长等挑战，是制约国产算力生态发展的关键因素之一。深圳市大数据研究院孵化的智子芯元公司，自主研发KernelCAT智能工具，为算子开发与性能优化探索出新的技术路径。
近日，中央广播电视总台大湾区之声对深圳市大数据研究院院长罗智泉院士进行深度专访。罗智泉院士在访谈中系统阐述了KernelCAT的技术理念、应用前景，以及对国产AI计算生态建设的深层思考。他强调，国产AI生态要实现从“跟跑”到“领跑”，关键在于短期突破工具让用户愿意用，中期做优生态让用户用得好，长期靠人才培养和开放协作形成良性闭环。
现将专访内容整理刊发，以飨读者。
罗智泉，深圳市大数据研究院院长、香港中文大学（深圳）副校长、深圳河套学院执行院长，中国工程院外籍院士、加拿大皇家科学院院士，IAM会士和IEEE会士。
罗智泉的研究聚焦大数据分析的最优化方法、信号处理与数字通信中的复杂性与计算问题。他提出数据驱动的现实网络统计模拟技术，建立大规模4/5G异构网络参数最优化模型，突破了求解超大规模混合整数优化模型的算法瓶颈，从无到有建立了网络性能的数学模型和算法框架。他曾获IEEE信号处理学会最佳论文奖（2004、2009、2011、2015）、国际数学优化学会Paul Y. Tseng纪念奖（2018）、中国工业与应用数学学会王选应用数学奖（2022）、深圳市科技进步奖一等奖（2023）、ICCM华罗庚奖（2025）。
点击文末“阅读原文”，可跳转收听中央广播电视总台大湾区之声《科创梦工厂》完整节目。
▐ 为什么KernelCAT是国产AI生态的“关键助推器”？
大湾区之声：请您给我们介绍一下KernelCat的内核定位以及它的运行流程是怎样的呢？
罗智泉：KernelCat的内核定位，可以理解为AI计算生态里的“计算加速专家”。它主要瞄准AI模型落地时最头疼的三大底层问题：第一，大语言模型迁移到国产芯片后跑不起来；第二，跑起来但速度慢；第三，支持AI模型推理及训练的最小计算单元——Kernel的开发周期长。
KernelCat的目标是让原本需要专家花几周甚至几个月反复调试的工程工作，变成用自然语言提需求，然后由数学工具和AI工具自动搞定的一种智能服务。从技术层面看，我们希望推动三个转变：
一是把算子开发从依赖个人工程经验，转变为算子驱动的自动化流程；
二是把国产芯片的软件生态门槛，从高不可攀降到普通工程师能上手；
三是通过工具创新，帮助国产芯片真正释放性能，解决“有硬件、缺软件”的卡脖子问题。
简单说，KernelCat就是推动国产AI生态从“能用”迈向“好用”的关键助推器。
▐ 国产芯片迁移不再“劝退”，让开发者专注创新本身
大湾区之声：这样的功能覆盖哪些运行场景？又解决了哪些使用中的难点呢？
罗智泉：AI开发者现在最常遇到的问题就是硬件换了，模型跑不起来或者跑不好。KernelCat主要解决三类具体场景的问题：
第一类：模型迁移。 比如在英伟达等国外算力平台上训练好的模型，要迁移到华为昇腾等国产芯片上时，经常会遇到环境配置复杂、依赖库报错、官方算子库不支持某些功能等问题。KernelCat能自动配置运行环境，补全缺失的依赖，甚至通过迁移或生成新的算子，让模型实现“一键适配”。
第二类：性能优化。 模型搬迁到新硬件后，可能因算子效率低导致推理速度慢、功耗高。比如原本每秒跑1000次的模型，现在只能跑300次。KernelCat能够快速定位是哪个算子拖了后腿——可能是某个矩阵计算的参数没调好——然后自动进行优化，让模型跑得更快、更省电。
第三类：算子开发。 这是最底层的活，传统上需要既懂算法、又懂芯片架构、还会编译优化的人才，没有几年经验根本做不了。而KernelCat通过大模型理解用户需求，比如工程师说“我要一个处理图像特征的算子”，它就能自动生成代码，把原本几周的开发时间压缩到几小时甚至几分钟。
这三类场景覆盖了从实验室到产业落地的关键环节，KernelCat的作用就是让开发者不再被底层工程拖后腿，把精力集中在模型创新本身。
▐ 让AI替人干苦活：延迟降22%、吞吐量升30%
大湾区之声：算子开发长期面临“三高”挑战——门槛高、成本高、周期长。KernelCat的破题思路是什么呢？
罗智泉：算子开发确实是AI行业的老大难问题。“三高”体现在：
门槛高，是因为开发者要同时懂算法、懂芯片架构、懂编译优化；
成本高，是因为每一款新芯片或新模型架构出现，都得重新开发；
周期长，是因为手工调试动辄几周，跟不上硬件迭代的节奏。
KernelCat的破题思路，简单说就是用AI的智能替代人工经验，把大模型的理解能力和运筹优化的数学求解能力结合起来。用户只需用自然语言说清楚需求，比如“我需要优化某某算子在昇腾芯片上的延迟问题”，KernelCat就能自动分析硬件约束、拆解算法逻辑，把问题转化为数学优化模型，然后通过算法快速找到最优解，最后在真实芯片上测试验证，输出可直接使用的算子代码。
典型案例： 之前在某昇腾芯片上优化一个算子，传统方法要调十几二十个参数，每个参数有多种选择，工程师得反复试很久。而KernelCat十几轮迭代就找到了最优配置，延迟降低了22%，吞吐量提升了30%。
但要根本解决“三高”问题，光有工具还不够，还需要三方面的合力：
大湾区之声：尽管潜力巨大，未来KernelCat会面临哪些压力呢？
罗智泉：国产AI生态要真正与国际主流的英伟达CUDA生态竞争，工具创新是“尖刀”，但更需要一套“组合拳”。
第一，硬件要跟上。 芯片的性能——算力、能效、稳定性——需要持续提升，特别是要针对AI大模型的需求优化架构，比如更擅长处理大规模数据、支持混合精度运算等。
第二，软件工具要完善。 除了算子开发工具，还得有配套的模型训练框架、推理引擎、调试工具，形成一站式的开发环境，让用户用得顺手。
第三，生态要活跃。 得有足够多的开发者愿意用、愿意贡献代码。可以通过政策鼓励高校学生、企业工程师一起参与，形成“越多人用、工具越好”的正循环。
第四，政策要支持。 算力主权是国家安全的重要组成部分。国家需要在AI战略层面统筹，把国产生态建设纳入科技规划，通过资金、税收等政策帮助早期生态度过“从零到一”的生存难关。
CUDA用了十几年才建成今天的生态，开发者已经习惯了。要让用户愿意迁移，关键是让他们发现：用国产芯片和工具也没问题，不仅性能跟得上，而且开发也很简单。KernelCat这类工具的价值，就是慢慢建立这种信任和信心。
大湾区之声：建设一个成熟的、可与国际CUDA抗衡的国产AI生态系统，还需要哪些必要条件？从您的角度出发，又有哪些建议？
罗智泉：要破英伟达这种先发优势形成的生态垄断，我觉得有几个方面的工作要做：
一是人才培养。 高校和企业要培养一批既懂芯片、又懂算法的复合型人才。让学生从在校开始就用国产AI芯片和工具，把该踩的坑都踩一遍，把生态催熟、越做越好。
二是工具突破。 像KernelCat这样的开发工具要更加智能、高效，把国产AI的使用门槛降到最低，让用户不用学复杂技术也能用好国产芯片。
三是生态开放。 芯片厂商、工具开发者、应用企业——比如自动驾驶、智能制造公司——要一起合作、共享经验，别各搞一套，形成一个开放协作的生态。
四是政策扶持。 在关键破局期，国家需要扶一把。比如支持国产芯片在国防、金融等关键领域先用起来，帮助生态度过早期的困难期。
所以我的建议是：短期把工具突破，让用户愿意用；中期把生态闭环做好，让用户用得好；长期靠人才培养和开放协作。只要上下游齐心协力，我相信国产AI生态完全有机会从“跟跑”变成“领跑”。
10个月宝宝每天需要喝多少奶粉？
