开发者在 macOS 上搭建集成本地路由的个人 AI 网关

2026 年 11 月 2 日，一位自称从事 B2B GTM 与战略营销的开发者在 V2EX 发帖，分享了他在 MacBook Pro 上搭建的个人 AI 网关。据帖文介绍，该网关于 2026 年年中动工，原因是当时他的调用环境「彻底失控」：手头有 DeepSeek、NVIDIA NIM、DashScope、Gemini 等十几个模型订阅和 API Key，各客户端和脚本直连模型、endpoint 写死在代码里，每月额度开支无法核算。

他将问题归结为「调用失控」而非模型本身，目标是做到三件事：所有客户端只配置一次的统一入口、按任务难度分流的智能路由、以及每次调用留痕的全程可审计。该网关现已接管本机全部 LLM 调用，覆盖 Cursor、Codex CLI、Claude Code 及他自己的 Agent 内容管线，其中由一个本地 4B 小模型承担语义路由：简单任务走廉价渠道，复杂请求再转顶级云端模型，渠道挂了可随时无感替换。

架构方面，网关以 8081 端口的决策网关为主体，是自研的 FastAPI 服务，并以 launchd 守护进程常驻，在请求真正到达模型之前执行出站安全守门、本地语义路由等五项处理。截至目前，该分享仅见于这一篇帖文，尚无更多后续进展报道。