近日,小米的玄戒O100 AI加速芯片与苹果新款Mac mini及Mac Studio相继问世,二者皆将内存带宽推升至TB/s量级,标志着AI数据供给之争已正式拉开帷幕。
这一现象并非巧合,而是与2025年初英伟达RTX 5090的发布趋势高度一致——无论是桌面级SoC、端侧NPU,还是独立显卡,都在将内存带宽推向全新高度,旨在破解AI大模型在运行过程中面临的数据搬运难题。
所谓内存带宽,实质上就是计算核心与数据之间的传输通道宽度。在大语言模型的自回归生成阶段,每生成一个Token,系统都需要将内存中存储的数千亿参数权重完整读取一遍。
即便计算单元性能再强劲,多数时间也耗费在等待数据的抵达上。这种“内存制约”现象,已成为阻碍AI性能提升的核心瓶颈。
苹果Mac产品营销总监Laura Metz指出,M6系列将内存带宽提升了数倍之多,原因是运行AI Agent时,模型必须常驻于统一内存中并随时保持待命状态。
苹果M6系列的三档配置,恰好勾勒出AI硬件内存带宽的三级阶梯。标准版提供170GB/s,Pro版达到307GB/s,而顶配Ultra版则一举冲上1.2TB/s。
小米玄戒O100则采用晶圆级垂直堆叠工艺,将DRAM晶圆直接叠放在NPU上方,实现了1.22TB/s的带宽表现。
英伟达RTX 5090借助512-bit位宽配合GDDR7显存,带宽接近1.8TB/s。
三家厂商虽路径各异,但带宽齐齐冲向TB/s级别,指向同一个结论:数据向计算核心输送的速度,直接决定了AI硬件的实际性能上限。
这场竞赛使得内存带宽一跃成为比核心数量更值得关注的AI性能指标。谁能率先在数据搬运速度上取得领先,谁就能在下一个计算时代抢占先机。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,硕谷新闻聚合所有文章均包含本声明。























暂无评论内容