盒子能跑几路，先看内存喂不喂得饱

一台盒子里挤着四件事

收银一体机下面那台小盒子，通常同时干这些活：两三路摄像头的画面解码、商品检测与识别、小票打印服务、和后台的同步。忙的时候还有扫码枪、电子秤、会员查询挤进来。

采购时最常看的是「多少 TOPS」。这个数字描述的是算术单元每秒能做多少次乘加，但它不描述这些乘加能不能及时拿到数据。

模型跑一帧，权重要从内存读一遍，中间结果要写回内存再读出来。算术单元大部分时间在等。设备慢，往往慢在这条路上。

内存的三笔账，别混着算

容量决定装不装得下。 权重、中间激活、系统和其他进程都要占。同一颗芯片配 4 GB 和配 8 GB，能跑的东西完全不同。

带宽决定跑多快。 带宽是每秒能搬多少字节。它才是「每秒能出多少帧、每个字吐多快」的上限。容量够但带宽窄，表现是能启动、跑起来卡。

能耗决定跑多久。 搬运数据本身要电，而且往往比计算更费。无风扇设备的热预算本来就紧，内存子系统吃掉一大块，剩给 CPU/GPU 的就不多了，温度一上来就降频。

这三笔账是乘法关系，不是加法。一路 1080p、每秒 5 帧的检测，和四路同样的输入，不是「贵四倍」，而是带宽、内存、热量一起压上来。

行业在往哪个方向搬内存

内存厂这几年在做的，是把内存从「隔着总线放在板子上」改成「贴着甚至叠在处理器上方」。逻辑很直接：连线越短，同样的数据搬运要的电越少，单位时间能搬的越多。

据 Tom's Hardware 报道（2026-10-28），美光在路线图里放弃 4F² 存储单元，改为在 1ε 节点引入晶圆键合，之后用 High-NA EUV 和新材料继续缩小单元。同时它列出了两类垂直内存产品：

• vHBM：把内存堆栈直接叠在 AI 加速器上方，靠短连线换低延迟高带宽。代价是散热难、能叠的层数有限，所以定位为常规 HBM 的补充。
• vEIM（vertical edge inference memory）：封装思路相似，目标却不是最大带宽，而是功耗受限的边缘处理器——报道里点的是自动驾驶、机器人这类场景。第一代目标是 2 TB/s 带宽、每比特低于 1 pJ 的能耗。

两者的优化目标已经分叉：数据中心追带宽上限，端侧追每比特能耗。这个分叉对门店采购是有意义的信号——端侧设备的瓶颈正在被当作一个独立问题来解决，而不是把服务器方案缩小一圈。

读到这类新闻时的三个判断

一，分清路线图和现货。 报道里的产品有的在研，有的绑在尚未量产的制程节点上（文中提到 1δ 计划 2027 年下半年量产）。写进今年的选型清单之前，先问交付时间和供货形态。概念发布和能买到是两件事。

二，分清峰值和实测。 2 TB/s 是接口能力。实际帧率取决于访问模式、数据是否连续、算子有没有针对这种内存优化。同样的带宽，换个模型可能只跑出三成。

三，分清带宽和散热。 内存叠在处理器上方，热也叠在一起。无风扇盒子、封闭式收银台内部、夏季后厨旁边，这些位置的散热余量本来就薄。封装变了，机箱和导热设计要跟着变，不能只换主板。

采购时的问法

• 容量和带宽分开写进参数表。 只要了「8 GB」，供应商可以给你配一条窄带宽的内存。要写成「8 GB，带宽不低于 X GB/s」。
• 要实测帧率，不要理论算力。 让对方用你的四路视频、你的商品图集、你的高峰时段跑一遍，报 P95 单帧时延。
• 问满载时的降频行为。 连续跑两小时，芯片温度到多少、频率掉多少、帧率掉多少。这个数字比标称 TOPS 有用得多。
• 问内存和算力是不是共享。 有些方案里 CPU 和 NPU 抢同一块内存带宽。收银软件一忙，识别就抖。
• 问能不能降级。 内存紧张时能不能自动降分辨率、降帧率、减路数，而不是直接报错退出。

什么时候不值得追新

门店的业务逻辑通常不需要最新封装。如果现有设备在高峰时段 P95 时延达标、温度稳定、断网可用，那换硬件的理由应该是「业务长出了新需求」，而不是「有新内存技术了」。

反过来，如果一台设备在四路输入时帧率掉一半、夏天下午开始卡、重启能好一阵——那大概率是带宽和散热的问题，换更强的算术单元不一定解决。

一句话

盒子能跑几路，先看内存喂不喂得饱。采购时把容量、带宽、能耗三笔账分开问，比盯着 TOPS 一个数字可靠；看行业新闻时，先分清那是路线图还是现货。