配额与熔断引擎
网关自己判断这一发付不付得起:按成员、按项目设美元额度,付不起就不发往厂商。
- 按成员与项目分额度
- 预扣按本次最坏成本算
- 单机档与团队档两套部署
- 账本随包落盘,随时可导出
唯一一块今天已经在跑的
死循环或一次超大请求先到厂商账单,团队事后才发现,中间没有兜底机制。
厂商按 key 计费,IDE 订阅和团队额度各算各的,月底拼不出同一个数字。
能自建,但配置、Redis 运维和模型价格表更新都落在你身上,账单异常时还要自己查。
隐私与内网边界是加分项,不是这一版的主卖点。
客户端把请求地址指向 QuotaFuse 网关,身份沿用网关发的密钥(Authorization: Bearer),原有代码几乎不改。
按人、按项目设美元额度,配上告警与风险规则。
付不起本次最坏成本就不发往厂商;发出去的那一发按实际产生量入账。
按本次最坏成本先算一遍这一发要花多少,并从额度里把它预扣下来。
看这一发算在谁头上、那一格额度还够不够。不够就不发往厂商。
发出去的那一发按实际产生量入账,没花掉的预扣退回去。
预扣按最坏情况算,所以额度消耗比实际账单保守。
client = OpenAI(api_key=os.environ["OPENAI_API_KEY"])
client = OpenAI(
api_key=os.environ["QUOTAFUSE_KEY"],
base_url=os.environ["QUOTAFUSE_BASE_URL"],
)
同一个客户端、同一行 api_key 的位置,改的只有地址那一行。变量名是示意;鉴权与路径以 API 文档页已定的那三条为准。
| 场景 | 之前 | 之后 |
|---|---|---|
| 跑飞的 Agent 一夜烧掉整月预算 | 死循环或一次超大请求先到厂商账单,团队事后才发现,中间没有兜底机制。 | 付不起本次最坏成本就不发往厂商;发出去的那一发按实际产生量入账。 |
| 企业 key 与 IDE 订阅对不上账 | 厂商按 key 计费,IDE 订阅和团队额度各算各的,月底拼不出同一个数字。 | 按人、按项目设美元额度,配上告警与风险规则。 |
| yaml、Redis、价目表都要自己养 | 能自建,但配置、Redis 运维和模型价格表更新都落在你身上,账单异常时还要自己查。 | 单价从哪来 —— 随包价目,官网上不挂厂商报价 |
网关自己判断这一发付不付得起:按成员、按项目设美元额度,付不起就不发往厂商。
唯一一块今天已经在跑的
剔除输入里的客套与重复铺垫,代码块保持完整。
还缺:一份可复现的前后对比读数 —— 拿到之前这里不写比例。
把超长的工具返回整理成可回溯的摘要,原文仍在你自己的实例里。
还缺:「原文留多久」这一格没定,留档与默认不记录正文是相反的两个要求。
识别死循环与重复读取,按规则提示或收紧额度。
还缺:识别判据没上量具,所以不写它能拦下什么。
桌面上那颗小球按你自己这把密钥的实时用量呼吸,不必打开面板。
还缺:小球上给不给「关停」那颗按钮还没拍板 —— 所以这一张只写看得见,不写关得掉。
花完之后什么时候重新有额度,写成一句人话,而不是一个冷冰冰的数。
还缺:接口契约里还没有「下一次重置在什么时候」那一格 —— 读不到就不画,所以这一张不放钟也不放表。
需要后五块?在候补名单里说明你的场景。
推荐 2–50 人 · 峰值 120 人 · 单实例自托管。
容量按「同时在途请求路数 ≤ 200 路」计,人数只是换算 —— 50 人可容每人多开到 4 路,120 人请按每人 1 路理解。
这个数字不是一项上限承诺,而是用于粗略容量规划的估算最大吞吐值;实际吞吐与延迟会随事件粒度、并发形态与机器差异大幅变化。
按项目组或部门拆,每个实例各有一套自己的额度与账本。
一份额度被切成几份(A 组没花完的钱不会自动给 B 组)、跨组报表要另拼、License 按套买。
换更强的机器是一项建议,不是最低支持清单。
数据与 ROI
左边是网关判定那一趟的顺序,右边你可以拿自己的规模按一遍。
* 以上为估算范围,实际节约效果请在客户端体验。这两个区间是按上面那两格当场算出来的,不来自你的实例,也不是账单;真实口径以你自己实例的账本为准。
每一格都按适用场景、交付形态、核心优势三样写齐 —— 这样才比得出来哪一格是你的。
装在自己的开发机上,不需要服务器,也不需要给谁开账号。
实例跑在你自己的机器上,额度与账本都在那一套实例里。
一次性交付,装完就走;后续照文档自己维护。
三种都不需要把流量交给第三方;具体档位与价格见定价页。
完整清单随隐私文档一起发布。
这一栏是按「默认不记录」交付的,不靠承诺,靠默认值。
默认不记录 Prompt 正文与模型返回内容;请求正文不落库、不缓存、不进日志。要求留档的走 Studio 显式开关 + 二次确认。
默认只监听内网;公网暴露必须走 Tunnel 且强制开启访问鉴权。
唯一的出站心跳只有 5 个字段:lic_id、deployment_id、seat_count、version、ts。完整公示随隐私文档一起发布。
SECURITY.md、SBOM 与镜像 digest 将在正式发布时随版本公示,本页面不把它们列为已交付项。
计费说明与供应商超发的处理原则随文档一起发布。
限流与重试相关的接口说明随 API 文档一起发布。
模型输出上限的参考表(厂商声明值与我们建议自配的天花板)正在按随包价目逐行核对,核对完再上表。
个人开发记录与本地工作流
团队额度与转发网关
含邮件工单 1 工作日响应
落地服务:一次性 $99–$199,帮现有网关、权限与 OA 系统完成对接。
1 / ≤10 / ≤25 指的是 License 授权席位数,不是可同时使用编码 Agent 的人数,也不参与容量口径的换算。
每人美元额度预设四档:$10 / $50 / $200 / 不限,默认 $50。
Solo 那一档的边界单独写在个人版那一页:它不可计费、不可拦截 —— 顶栏今天不再挂这一格,路径从这里进。