称重台上「看一眼说品相」，难在哪
卡住的地方不是「认不出」
散装区一直是收银线上最慢的一段。没有条码，收银员要在一屏几十个品名里找，找到还要按等级、按重量算价。
识别秤解决了前半段：把袋子放上去，摄像头认出是红富士还是黄元帅，直接带出品名。这段已经跑得比较顺。
真正难的是后半段。同一个品类里还有状态差异：新不新鲜、熟没熟、有没有磕碰、大小是否均匀。这些不是「类别」，是一段描述——收银员心里想的是「这袋有三个软的，得先卖」，屏幕上却没有这个选项。
判别模型的输出是一张固定的类别表。它能答「苹果」，答不了「这袋不太行」。要后者，只能用能生成文字的模型。
生成多出来的那一段
视觉语言模型分两段：先把图切成一堆 token 编码，再一个 token 一个 token 往外写字。
- 编码是一次性的，耗时跟图的大小和分辨率有关；
- 解码是串行的，说二十个字就是二十次前向。
所以它的延迟不能报一个数。要报两个：首字延迟和整句延迟。演示里通常只报第一个，因为那一个好看；顾客排的那条队，等的是第二个。
三笔账
显存。 图像 token 加上逐字增长的状态缓存。送一张高分辨率大图进去，token 数上去，峰值内存跟着上去，跟模型参数量关系不大。
时延。 这段要嵌进称重流程里。顾客放袋、等、看价、付款，中间多出两秒就会被感知。
并发。 一台秤一路，看着轻松。一家店四五台秤，再加上后台的巡检和抽检，就是乘法关系，不是加法。
量化的特殊之处：两个塔的耐受度不一样
这类模型不是一个均匀的网络。视觉那一半吃的是连续像素，量化误差直接落进特征图，细节先糊；语言那一半的权重分布相对规整，对低比特更耐受。
于是常见做法是分开压：视觉部分留高精度，语言部分往下压。对外统一说「模型已量化」，实际两个部分的位宽不同。这一层不问清楚，你没法判断它到底压掉了什么。
要问到具体位置：视觉编码器多少位、语言部分多少位、有没有分开的精度对比表。
什么时候不该上这套
如果只是把生鲜分成五个固定等级，每级差异肉眼可辨、规则写得出来——判别模型更快、更稳、更好验收，没有必要用生成。生成模型多花的每一分算力，都要用「规则写不出来」来换。
值得上的情形有那么几类：
- 判断要综合多个维度，规则写出来一长串还总有例外，比如「这筐菜还能不能上架」；
- 结论要给人看，而且要看懂理由——品控抽检要留记录，光给一个分数不够；
- 品名和实物要对得上，比如小票上写的是精品果、袋子里装的是散装果，这类「一致性」判断没有固定类别表。
验收怎么做
固定样本，先标好。 一百个样本，按等级分好，人工标过，每个等级都要有。别用商品图册里的图，用现场拍的。
看等级混淆表，不看总分。 总分九成可能意味着「大路货全对、难的那批全错」。要看错的那批错到了哪一级——把「还行」判成「精品」比判成「处理品」严重得多。
专门看它说不准的时候怎么答。 会不会硬给一个等级。要要求它能输出「不确定」，并且不确定的走人工。这一条比准确率重要。
拔网线跑一遍。 本地模型不该依赖网络。断网就退化成转圈，说明它其实在调远端。
连续跑一天，看显存曲线。 逐字生成会留下缓存，写得长了不释放，跑到下午就变慢。这条曲线在演示里永远看不到。
采购四问
- 视觉部分和语言部分分别是多少位，有没有分开的精度表？
- 单次输出有没有长度上限，超了是截断还是变成一句话？
- 每路并发常驻内存多少，四台秤同时问是什么数？
- 模型说不准的时候，兜底路径是什么——转人工、给默认等级，还是拒绝出结果？
四个问题里，第四个最能区分「做过现场」和「只做过 demo」的供应商。