2026-11-22 34美元干翻18.89GB:量化编译器正在抢推理的定价权 开源量化编译器LookAtMyQuant按"每个权重块的伤害"分配比特预算,把264亿参数的Inkling-2-Mini从18.89GB压到5.38GB本地可跑,KL散度比主流Q4_K_M低12倍,全套配方成本仅约34美元GPU时长。... #模型量化 #推理成本 #本地部署 READ MORE →