API Key 轮询与多供应商管理
API Key Rotation & Multi-Provider Management
管理多个 API Key 的轮询调度、多供应商路由和功能级模型绑定
子问题
1.多Key轮询负载均衡
2.供应商模型自动发现
3.功能级模型绑定
4.Key失效检测与切换
5.黑名单自愈策略(TTL vs 永久移除 vs 健康检查)
6.功能绑定格式的版本迁移与向后兼容
7.多实例部署下的Key分配协调
各项目的解法1 solutions
Signals
横向对比
| 维度 | moyin-creator |
|---|---|
| Key管理模式 | ApiKeyManager 类:逗号/换行分隔解析 + 随机起始 round-robin + 90秒 TTL 黑名单 |
| 路由粒度 | 功能级绑定:8 种 AIFeature 各自绑定 platform:model 数组 |
| 模型发现 | syncProviderModels 遍历每个 Key 调 /v1/models + pricing_new 公开接口,Set 去重合并 |
| 失效检测 | handleError 按 HTTP 状态码(429/401/503)自动黑名单 + 轮换,90秒自愈 |
| 多模型调度 | 双层 round-robin:功能级多模型轮询 + Key 级轮询,互不干扰 |
| 数据迁移 | Zustand persist v1→v9 九版本渐进迁移,自动处理格式升级 |
最佳实践
1.按功能域绑定模型而非全局配置
2.支持多Key逗号分隔自动轮询
3.随机起始索引避免多实例热点集中
4.全部Key黑名单时兜底返回第一个Key而非null
5.Error-driven Discovery从400错误自动学习模型限制