问题域/PD-476

API Key 轮询与多供应商管理

API Key Rotation & Multi-Provider Management

管理多个 API Key 的轮询调度、多供应商路由和功能级模型绑定

子问题

1.多Key轮询负载均衡

2.供应商模型自动发现

3.功能级模型绑定

4.Key失效检测与切换

5.黑名单自愈策略(TTL vs 永久移除 vs 健康检查)

6.功能绑定格式的版本迁移与向后兼容

7.多实例部署下的Key分配协调

各项目的解法1 solutions

Signals

横向对比

维度moyin-creator
Key管理模式ApiKeyManager 类:逗号/换行分隔解析 + 随机起始 round-robin + 90秒 TTL 黑名单
路由粒度功能级绑定:8 种 AIFeature 各自绑定 platform:model 数组
模型发现syncProviderModels 遍历每个 Key 调 /v1/models + pricing_new 公开接口,Set 去重合并
失效检测handleError 按 HTTP 状态码(429/401/503)自动黑名单 + 轮换,90秒自愈
多模型调度双层 round-robin:功能级多模型轮询 + Key 级轮询,互不干扰
数据迁移Zustand persist v1→v9 九版本渐进迁移,自动处理格式升级

最佳实践

1.按功能域绑定模型而非全局配置

2.支持多Key逗号分隔自动轮询

3.随机起始索引避免多实例热点集中

4.全部Key黑名单时兜底返回第一个Key而非null

5.Error-driven Discovery从400错误自动学习模型限制