错误处理
统一识别认证、限流、上游和网络错误,并为可恢复请求设计重试。
常见状态码
| 状态码 | 类型 | 建议 |
|---|---|---|
| 400 | 参数或请求格式错误 | 修复请求,不要直接重试 |
| 401 / 403 | 认证或权限错误 | 检查 API Key、模型权限和分组 |
| 429 | 频率或配额限制 | 读取重试信息并指数退避 |
| 500 / 502 / 503 | 服务或上游暂时不可用 | 有限次数重试并启用回退 |
重试策略
text
delay = min(base * 2 ** attempt + random_jitter, max_delay)
retry only for 429, 500, 502, 503 and transient network errors可观测性
- 记录请求 ID、模型、状态码和耗时
- 区分客户端错误与上游错误
- 监控成功率、首字延迟和重试次数
