标 签
端侧算力
4篇
2026-11-01
下一帧可以是算出来的,但不是发生过的
世界模型按「这一帧 + 这个动作」推出下一帧,小到能塞进一颗双核单片机。它在门店里真正有用的是造场景、做推演;一旦有人拿它当记录用,性质就变了。
2026-10-31
盒子能跑几路,先看内存喂不喂得饱
门店盒子跑不动,多数时候不是算力不够,而是内存喂不快。理解「搬运比计算贵」这件事,能帮你在看芯片参数、看内存新闻、看供应商报价时,问出对的问题。
2026-10-31
顾客等的那两秒,模型在猜什么
门店里的「答得快」有两种来源:一种是模型真的算得快,另一种是先猜再验。投机解码属于后者,它的收益取决于草稿猜得像不像、草稿自己快不快,以及当时有几路在同时用。
2026-10-29
把一段视频当输入,门店要多付哪些账
视频理解比逐帧识别贵得多,贵的不是「看」,而是把画面展开成 token 之后的显存、带宽和时延。省算力的位置有五个,位置选错,省下的算力落不到端到端速度上,还可能把关键证据一起省掉。