OpenRouter 釋出技術科普，解析 fp8 與 fp4 量化對質量和價格的影響

2026 年 11 月 11 日，OpenRouter 釋出技術科普文章，講解大模型量化對模型輸出質量和價格的影響。文章介紹，當用戶通過 API 呼叫開放權重模型時，可能有多家服務商以不同精度提供同一模型，常見的有 16 位 bf16、8 位 fp8 和 4 位 fp4。

文章解釋，LLM 量化是通過以更少的位數儲存模型權重來生成這些不同精度的版本，從而降低模型對記憶體和硬體的需求，但代價是會帶來一定的精度損耗。文章還指出，這種精度差異可能同時影響模型給出的答案和呼叫價格。

目前 OpenRouter 的介紹停留在概念與機制說明層面：即量化能減少記憶體佔用與硬體成本，但會帶來精度損失，至於不同精度版本在實際質量與價格上的具體差別，材料中沒有給出更多資料。