Vandith BC 在《Show HN: Flux, a self-hosted LLM router with per-agent-run budgets》(页内 Published Sep 1, 2026;JSON-LD datePublished 2026-09-01 → 2026-09-01)写明:常见路由与成本控制按「单次请求」切;仪表盘只有可见性,硬表一到额度就掐。包装型调用难预判难度;Agent 会重试、生子 Agent,单请求看不到整段花费。Flux 把控制单位改成 run:同 run ID 的调用与子 Agent 共享预算,下一跳能花多少取决于本 run 已花多少。
自托管、OpenAI 兼容代理。包装调用选「够用且更便宜」的模型;Agent run 则按剩余预算收紧。启发式:0–70% 常规路由,70% 起偏便宜,90% 激进省,100% 硬停——作者自认非最优,求反馈。路由表来自公开基准:先过任务质量地板,再按成本排序,预算越紧越成本敏感。作者披露:7 条 live agentic-eval 相对纯 Sonnet 4.6 基线成本约降 80–90% 且评估分接近,但明确 n=7 不配小数精度、不是统计显著基准;更大 fixture 结果因与路由表同源视为循环不作证据。更有用的实测:父 Agent+两子 Agent 天气/空气质量任务,21 步真实 HTTP/Mistral,run ID 贯穿,总花费 $0.04416;过程中修过 tool-message 与跨厂商 tool-call 格式;强制 OpenAI 失败时一跳切 Claude,连续五次失败后断路器绕开。独立审计指出两处错排(如推理与代码评审排序与公开分不符)。开源 tryflux 可试路由侧。本场景据此输出「run 级预算路由」提纲。禁止把 80–90% 写成对你账单的承诺。