OpenRouter 发布技术科普，解析 fp8 与 fp4 量化对质量和价格的影响

2026 年 11 月 11 日，OpenRouter 发布技术科普文章，讲解大模型量化对模型输出质量和价格的影响。文章介绍，当用户通过 API 调用开放权重模型时，可能有多家服务商以不同精度提供同一模型，常见的有 16 位 bf16、8 位 fp8 和 4 位 fp4。

文章解释，LLM 量化是通过以更少的位数存储模型权重来生成这些不同精度的版本，从而降低模型对内存和硬件的需求，但代价是会带来一定的精度损耗。文章还指出，这种精度差异可能同时影响模型给出的答案和调用价格。

目前 OpenRouter 的介绍停留在概念与机制说明层面：即量化能减少内存占用与硬件成本，但会带来精度损失，至于不同精度版本在实际质量与价格上的具体差别，材料中没有给出更多数据。