開發者在 macOS 上搭建整合本地路由的個人 AI 閘道器

2026 年 11 月 2 日，一位自稱從事 B2B GTM 與戰略營銷的開發者在 V2EX 發帖，分享了他在 MacBook Pro 上搭建的個人 AI 閘道器。據帖文介紹，該網關於 2026 年年中動工，原因是當時他的呼叫環境「徹底失控」：手頭有 DeepSeek、NVIDIA NIM、DashScope、Gemini 等十幾個模型訂閱和 API Key，各客戶端和指令碼直連模型、endpoint 寫死在程式碼裡，每月額度開支無法核算。

他將問題歸結為「呼叫失控」而非模型本身，目標是做到三件事：所有客戶端只配置一次的統一入口、按任務難度分流的智慧路由、以及每次呼叫留痕的全程可審計。該閘道器現已接管本機全部 LLM 呼叫，覆蓋 Cursor、Codex CLI、Claude Code 及他自己的 Agent 內容管線，其中由一個本地 4B 小模型承擔語義路由：簡單任務走廉價渠道，複雜請求再轉頂級雲端模型，渠道掛了可隨時無感替換。

架構方面，閘道器以 8081 埠的決策閘道器為主體，是自研的 FastAPI 服務，並以 launchd 守護程序常駐，在請求真正到達模型之前執行出站安全守門、本地語義路由等五項處理。截至目前，該分享僅見於這一篇帖文，尚無更多後續進展報道。