平地惊雷!这是8月24日下午小米玄戒芯片技术沟通会给老冀的感觉。一方面,这次技术沟通会如此低调,根本就没做视频直播,只是在微博上发了几篇图文。另一方面,它却给业界带来了巨大的冲击:小米竟然一口气发布了3款高端AI芯片,款款领先。
不久之后,这3款芯片就将融入小米的核心产品之中。今年9月,玄戒O3将在小米的旗舰折叠新品小米18 Fold上首次亮相;明年,玄戒O100和D100也将商用,可能搭载到小米汽车、小米AI终端等产品当中。
去年5月发布并量产玄戒O1和T1,小米死磕芯片初战告捷;如今三芯齐发,正如小米创始人雷军所言,玄戒已经成为小米全生态的AI算力底座。
AI时代,小米为什么需要玄戒芯片作为算力底座?因为端侧AI正在加速普及,而业界尚未做好准备。
此前,AI已经大规模渗透到我们的工作和生活之中;不过,更多地还是采用云端AI的方式。例如,国内广受欢迎的豆包APP,日活已经突破了1.5亿。用户在提出一些高难度问题之后,已经习惯了等待几秒钟,以便其将问题转化成Token,交给云端处理之后再返回终端。
这并不是一种最符合用户期望的交互方式。如今,囿于成本、时延、隐私三大约束,以云端为唯一算力中枢的单点智能,正在走向端云分工、协同共生的分布式智能系统,端侧AI正在加速普及。
52%!这是知名研究机构CounterPoint预测的、全球AI手机2027年的渗透率。而另一家研究机构Gartner则预测,2027年全球AI PC的占比将达到79%-85%。
端侧AI不仅仅融入消费电子,也正在进入汽车等大件消费品。根据乘用车市场信息联席分会的估算,今年一季度,以NOA(导航辅助驾驶)为代表的高阶智能驾驶功能,在中国乘用车中的渗透率约为12%-16%,并且还在高速增长。
不过,端侧AI的普及之路并不顺利。还是以智能手机为例,苹果在今年6月WWDC26上就发布了新一代Apple Intelligence和Siri AI,但是直到现在仍然只定向推送了开发者测试版和公开Beta测试版;面向普通消费者的正式版,预计要到9月才能推送。
为什么端侧AI的落地这么难?因为业界面对的是效果、成本、速度构成的“不可能三角”:效果要足够好,不能让自然语言理解和多模态感知上机、上车后明显“降智”;成本要足够低,不能把高端芯片和额外NPU的成本粗暴转嫁给用户;速度要足够快,一旦系统承接了自然对话和实时联动,用户就不再会容忍延迟。
如今,业界一直都在尝试破解这个“不可能三角”。从苹果最近几年的进展,我们可以得出一个明显的答案:“芯模协同”。苹果的破解之道,就是一方面继续打磨只有30亿-200亿参数的AFM 3 Core系列端侧模型,另一方面加紧打造适配端侧模型的端侧芯片。去年9月,苹果发布了A19 Pro芯片,在每个GPU核心中引入了专用神经加速器,并针对机器学习矩阵乘法优化,端侧AI的计算能力大幅提升。
由此可见,定制的端侧芯片,已经成为端侧AI落地的关键。正是因为有了“为AI加速”的A19 Pro芯片,新一代Apple Intelligence和Siri AI才有可能搭载到iPhone等智能终端,虽然其NPU峰值算力可能只有35 TOPS(INT8精度),远逊于高通骁龙8 Elite Gen5和MediaTek天玑 9500(INT8 精度下峰值算力超过100 TOPS)。
端侧AI要成功部署到汽车上,同样需要定制的端侧芯片。特斯拉为了提升智驾能力,一直持续迭代升级自研的AI系列芯片。在国内,蔚来、小鹏、理想等也都推出了自研的智驾芯片,并与自己的端侧大模型一起部署在自家的汽车上。
因此,在目前这个端侧AI加速普及的关键时刻,做好端侧芯片已经成为破局的关键。
从今年发布的3款玄戒芯片来看,小米的端侧芯片正在走向成熟。
如何将端侧模型和智能体装进小米手机?小米这次发布了自主研发设计的第二款高端旗舰SoC——玄戒O3的NPU算力达到了200TOPS,远超目前行业主流旗舰。
更关键的则是,玄戒O3的主要核心内部均部署了 AI 硬件单元,可满足各场景轻度 AI 算法需求,避免频繁调用 NPU,以减少芯片内部跨模块通信造成的延迟与额外功耗。
除了NPU在硬件底层为大语言模型作出多项深度优化之外,玄戒O3还采用了移动端首款 SIMT 计算架构 Vector 单元,可带来领跑行业的 3.13 TFLOPS 向量算力,解决端侧大模型运行的硬件瓶颈。同时玄戒O3 NPU 还加大了近存投资,搭配与 Xiaomi MiMo共同推出的 5 值量化、以及硬件霍夫曼无损压缩。前面老冀也说了,端侧模型与端侧芯片的完美适配,才是部署端侧AI的王道。小米的完美适配,让玄戒O3 模型推理速度相比主流旗舰SoC快了45%之多。
在部署云端AI系统的时候,芯片之间、芯片与内存之间的通信速度,会影响训练和推理的速度。在端侧AI,同样也是如此。小米这次发布的玄戒O100是一款6nm端侧AI加速芯片,由于采用了内部计算单元与存储单元间超高密度的互联通路,实现了16 倍于主流手机的超高内存带宽——1.22TB/s,彻底解决了端侧大模型计算的带宽瓶颈。
小米的端侧大模型到底有多快?用小米玄戒O100 + O3芯片运行小米MiMo 3B端侧模型,推理速度最高可达 330 Token/s,而用苹果A19 Pro芯片(CoreAI引擎)运行Qwen3 0.6B端侧模型,推理速度仅为180 Token/s。要知道,本来是模型越大,推理速度越慢;借助刚发布的两款玄戒芯片,小米却倒反天罡。
有了不逊于苹果的端侧模型和端侧芯片,老冀认为,小米在智能手机、平板、PC等智能终端部署端侧AI的速度,将与苹果并驾齐驱。
小米还有一个苹果没有的智能终端,那就是智能汽车。小米这次发布的国内首个3nm 智驾高算力AI芯片——玄戒D100,它的内部包含20核高性能CPU与强大的16核高算力 NPU,非常适合在汽车上高效运行智驾算法。
除此之外,玄戒D100 还能够在本地为个人用户提供超高AI算力,单芯片最高支持 160GB 内存,最大可在本地部署超2000亿参数量的大模型,为专业开发者和极客群体提供本地 AI 推理能力。这不仅免除了高昂的云端 API 调用成本,更从物理层面彻底规避了隐私数据外泄的风险。玄戒D100 还可通过玄戒高速互联总线,让多芯片融合计算,提供更庞大的硬件算力,在本地处理复杂 AI 任务。
老冀认为,有了这3款针对不同智能终端和场景的AI芯片,在端侧AI的长跑比赛中,小米已经占据了领先位置。
从小米连发三芯,老冀也看到了AI时代竞争规则的巨变。
之前,在消费电子等诸多行业,大多数厂商都是“通用芯片+通用算法”的组装模式,产品体验受制于供应链,无法从底层优化产品逻辑,只能跟随行业潮流,陷入同质化内卷。如今,智能手机行业已经陷入了卷参数的漩涡而不能自拔。
如今,我们正在进入AI时代。AI变量的加入,让智能终端厂商可以不再只是卷硬件参数,而是通过掌控底层算力和算法,夺得更多的产品定义权。
老冀认为,掌握自研算力底座之后,小米拥有了从底层定义产品体验的能力。从芯片架构设计、算力调度、功耗控制,到大模型算法适配、场景功能开发,实现全栈自主可控。小米可以根据人车家全生态的场景需求,自主优化硬件架构、迭代AI算法、开发专属功能,打造差异化、不可复制的用户体验。
小米去年5月发布的玄戒O1和T1两款芯片,已经搭载于小米15S Pro、小米平板7 Ultra、小米平板7S Pro、小米Watch S4 eSIM 15周年纪念版、REDMI Watch 5 eSIM版这5款产品上面,累计实现了超过100万台的销量,这也充分说明了自研算力底座的威力。老冀相信,今年发布的3款玄戒芯片,其搭载的智能终端销量还将再上台阶。
这也是科技巨头争夺算力底座的核心原因:谁掌握了端侧算力,谁就能定义AI时代的产品形态。小米通过三芯布局,让手机、家居、汽车的AI体验不再是“被动适配”,而是“主动定义”,每一款终端产品的AI功能、交互逻辑、性能表现,都能基于自研芯片的优势深度定制,构建起独一无二的全场景AI体验壁垒。
老冀相信,小米在AI算力上的探索成果,肯定不止于过去这5款芯片。未来,小米还将发布更多针对特定AI场景的定制芯片,并在定制芯片的强力支持下,探索更多的AI产品形态,如人形机器人、AI一体机、自动驾驶汽车等,甚至创造出我们现在还没见过的产品形态。AI时代,小米正在完成从消费电子巨头到全球硬核科技引领者的终极跨越。