两个数字摆上桌，先别比
方案对比桌上两份材料：A 标 6 TOPS，B 标 20 TOPS，B 的整机还更便宜。按数字直接下单的人，有一定概率买回来的是「口径不同的同一颗芯片」。
TOPS 本身不撒谎——每秒万亿次运算。出问题的是省略：不写精度、不写稀疏度、不写算的是哪个计算单元。这三个开关各拨一下，同一颗芯片的标称能差出一倍以上。
口径的变化只有三种。逐个拆开，每个配一句问供应商的话。
口径一：精度，INT8、INT4 还是 FP16
NPU 的运算阵列按位宽处理数据：INT8 一条通路过 8 个 bit，INT4 只过 4 个。位宽减半，每秒能过的运算量翻倍——常见设计里，INT4 峰值是 INT8 的两倍，FP16 反而只有 INT8 的一半上下。
于是同一颗 NPU，挑口径就是挑数字。宣传页只写「AI 算力 16 TOPS」而不写精度时，大概率用的是对厂商最有利的那一档。
端侧识别的默认口径是 INT8：主流工具链按它优化，量化方案也按它做。选型比价，一律先要 INT8 的数字。
问法：「这个 TOPS 是什么精度下的？请给 INT8 口径的数字，并写进规格书。」
口径二：稀疏还是稠密
结构化稀疏（典型如 2:4 稀疏——每四个权重里两个为零，硬件跳过零值计算）能让标称再翻一倍。电路确实支持，这个数字不算造假。
但吃红利有前提：模型的权重里真的按这个位置规律布满了零。常规训练出来的检测、分割模型，权重是稠密的，跑起来拿不到一分稀疏加速。
所以稀疏是「理论上限」，稠密才是业务模型摸得到的水平。规格表小字里的「with 2:4 sparsity」，说的就是这个开关。
问法：「这是稠密算力还是稀疏算力？我按稠密做预算。」
口径三：NPU 和 GPU 加在一起
SoC 里不止一个计算单元。有的厂商把 NPU、GPU（有时还有 DSP）的峰值加总，标一个「综合算力」。
一个模型不会同时跑满两个单元。识别推理的主体落在 NPU 上，GPU 只分到零头；想让两边同时满载，要把两个模型精心拆开调度，端侧识别没有这么干的。加总数字描述的是一个到不了的工况。
两个单元之间还要过内存总线搬数据。这一段不产生算力，只产生延迟和功耗。
问法：「综合算力怎么拆？NPU 单独多少、GPU 单独多少，各是什么精度？」
一颗芯片，从 8 标到 36
数字纯属示意，不指任何具体型号：
同一颗 SoC 的 NPU，INT8 稠密，8 TOPS。这是最接近真实业务的一条口径。
| 标法 | 数字 | 动了哪个开关 |
|---|---|---|
| INT8 稠密 | 8 TOPS | 基准 |
| INT4 口径 | 16 TOPS | 精度减半 |
| INT4 + 2:4 稀疏 | 32 TOPS | 稀疏翻倍 |
| 再加 GPU 的 FP16 峰值（示意 4 TOPS） | 「综合 36 TOPS」 | 单元加总 |
四个数字说的是同一颗芯片。宣传页印哪个，取决于市场部要打谁。
口径对齐之后，TOPS 也只是峰值
三种口径全问清，两个数字终于可比了——但可比的是峰值，不是帧率。内存带宽、算子支持、前后处理在 CPU 上的开销，都会让同样标称的芯片跑出明显不同的吞吐。
所以话术清单的收尾永远是同一句：「模型结构发你了，在这颗芯片上实测量级能到多少帧？给不了就借评估板，我们自己跑。」
TOPS 用来筛掉明显不够的；最终下单，看实测帧率。
问供应商的五句话
明天询价就能用：
- 标称的 X TOPS，是 INT8 还是 INT4 口径？
- 是稠密算力还是稀疏算力？
- NPU 和 GPU 各占多少，各是什么精度？
- 我们的模型结构发过去了，在这颗芯片上实测帧率什么量级？
- 能借一块评估板跑两周吗？
前三句对齐口径，后两句要实测。第一句都答不清楚的报价单，后面的数字不用看了。
这套判断管不到的地方
口径对齐解决「可比」，不解决「够不够」。同为 INT8 稠密 8 TOPS 的两颗芯片，一颗算子覆盖差、内存带宽小，跑同一个模型能落后另一颗一大截——TOPS 一样，帧率不一样。
另外口径会换。同一厂商不同产品页对同一颗芯片的标法都可能不同，引述规格要带页面链接和抓取日期，别引二手转述。
常见问题
TOPS 是什么意思？
每秒万亿次运算（Tera Operations Per Second）。关键不在「万亿」这个量级，在「一次运算」按什么精度数：INT8 下的一万亿次和 FP16 下的一万亿次，不是同一份算力。
同一颗芯片为什么能标出两个 TOPS 数字？
因为口径不同。INT4 峰值通常是 INT8 的两倍，稀疏标称还能再翻倍，几个计算单元加总又是第三个数。两个数字可能都没撒谎，只是不是同一把尺子量出来的。
INT8 和 INT4 的算力数字差多少？
常见设计里 INT4 峰值是 INT8 的两倍，原理是位宽减半、单位时间吞吐翻倍。但业务模型要吃到 INT4 的算力，得先把模型量化到 INT4 且精度可用，这个数字不是白捡的。
稀疏算力是什么意思？
指利用权重里的零值跳过计算的标称算力，典型如 2:4 结构化稀疏，标称可翻倍。前提是模型权重真的按硬件要求的位置分布为零，常规稠密训练的识别模型拿不到这份加速。
NPU 算力和 GPU 算力能加起来看吗？
不能。一个模型不会同时跑满两个单元，识别推理的主体只落在一个单元上，单元间搬数据还要过内存总线。看 NPU 单独的 INT8 稠密数字最有意义。
数据来源
本文讲的是 TOPS 标称的通用口径规则，不引用任何具体型号的官方参数；文中示例数字均为示意，不代表任何一颗实际芯片，型号级的数字请以各厂商官方页面和数据手册为准。