OpenAI API 速率限制:如何修复 429 错误并保持应用运行
目录:
OpenAI API 速率限制限制了您的应用每分钟和每天可以发送的请求数和令牌数。
超过其中一个,或者您的账户达到信用额、支出或使用上限,API 将返回 429 错误而不是答案。
您的用户会看到失败,盲目重试通常会让情况变得更糟。
本指南展示了如何区分不同的 429 错误、OpenAI 的限制如何工作,以及如何使用 Python 重试代码修复它们。
它还涵盖当一个提供商的限制不足时该怎么办,例如通过OpenAI 兼容 API发送流量,该 API 会重试并为您故障转移到其他提供商。
您有哪个 429 错误
OpenAI 的错误代码页面列出了 429 的六个不同原因。
检查错误正文中的消息或代码字段,然后在下面找到它。
| 错误(消息或代码) | 含义 | 修复方法 |
|---|---|---|
| Rate limit reached for requests | 您发送请求的速度太快 | 减速并使用退避重试,遵循 Retry-After 标头 |
| slow_down | 您的请求速率上升过快 | 降低速率,然后逐渐增加 |
| credit_balance_exhausted | 您的组织没有预付额度 | 添加额度;重试无济于事 |
| organization_spend_limit_exceeded | 组织达到了自己的支出限制 | 提高或删除组织支出限制 |
| project_spend_limit_exceeded | 项目达到了其支出限制 | 在项目设置中提高或删除限制 |
| organization_usage_limit_exceeded | 您达到了 OpenAI 分配给您组织的使用限制 | 请求更高的限制或联系支持 |
前两个是真正的速率限制:等待它们会清除。
后四个是账户上限:重试无法修复它们,因此您的代码应该停止并改为提醒某人。
在 Python SDK 中,它们都会引发 RateLimitError。
OpenAI API 速率限制如何工作
OpenAI 以多种方式同时测量您的流量,超过其中任何一个都会返回 429:
-
RPM: 每分钟请求数
-
RPD: 每天请求数
-
TPM: 每分钟令牌数
-
TPD: 每天令牌数
-
IPM: 图像模型的每分钟图像数
即使您的 RPM 远低于限制,如果您的提示很长,您仍然可能在 TPM 上被阻止。
每个限制是按模型设置的,因此将作业移动到不同模型会给它一个单独的配额,除非两个模型共享一个限制(您组织的限制页面列出了共享限制)。
OpenAI 速率限制在组织和项目级别应用,不是按用户或按 API 密钥应用。项目中的每个密钥都从同一个池中获取,因此批处理作业可能会用尽您的面向客户的功能需要的容量。
创建更多密钥不会提高您的限制。
有两个细节让许多团队陷阱。
📌 首先,失败的请求计入您的每分钟限制,因此紧密的重试循环会使问题变得更糟。
📌 其次,OpenAI 从您的 max_tokens 值和其自身估计中较大的值估计请求的令牌使用,因此高 max_tokens 即使在实际响应很短时也会用完 TPM。
使用等级以及如何提高您的限制
您的限制取决于您的使用等级,该等级基于您在积分上花费的总额。在撰写本文时,OpenAI 的速率限制指南列出了这些等级:
| 等级 | 资格 | 每月使用限制 |
|---|---|---|
| Free | 位于允许的地理位置 | $100 |
| Build | 总额度购买 $5 | $500 |
| Launch | 总额度购买 $100 | $5,000 |
| Grow | 总额度购买 $500 | $200,000 |
一旦您的总购买额达到下一个阈值,您会自动上升。
您还可以在设置 > 组织 > 限制下选择升级等级。
您在该相同的"限制"页面上可以找到每个模型的确切 RPM 和 TPM。
OpenAI 不时更改等级和限制,因此请检查该页面而不是依赖博客文章中的数字。
阅读速率限制标头
每个响应都包含显示您还剩多少限制的标头:
| 标头 | 它告诉您什么 |
|---|---|
| x-ratelimit-limit-requests / x-ratelimit-limit-tokens | 您当前的请求和令牌限制 |
| x-ratelimit-remaining-requests / x-ratelimit-remaining-tokens | 您在当前窗口中剩余的数量 |
| x-ratelimit-reset-requests / x-ratelimit-reset-tokens | 窗口重置前的时间 |
| x-ratelimit-limit-project-tokens, -remaining-project-tokens, -reset-project-tokens | 相同,适用于您项目的令牌限制 |
| Retry-After | 重试前等待多长时间;将其视为最小值 |
在 Python 中,使用 with_raw_response 查看它们:
from openai import OpenAI
client = OpenAI()
raw = client.chat.completions.with_raw_response.create(
model="MODEL_ID",
messages=[{"role": "user", "content": "Hello"}],
)
print(raw.headers.get("x-ratelimit-remaining-requests"))
print(raw.headers.get("x-ratelimit-remaining-tokens"))
completion = raw.parse() # the normal response object
如何修复和防止 OpenAI 速率限制错误
这些修复适用于真正的速率限制,"Rate limit reached"和 slow_down 错误。对于信用、支出和使用限制错误,请更改上表中描述的账户设置。
第 1 步:使用指数退避和抖动重试
当请求被速率限制时,等待并重试,每次将等待时间加倍并添加一点随机性(抖动),以便许多客户不会在同一时刻重试。当 OpenAI 发送它时始终遵守 Retry-After,并限制尝试次数和总等待时间。
OpenAI SDK 已经自行重试某些错误。
如果您编写自己的循环,在客户端上设置 max_retries=0,以免两者堆积。
import random
import time
from openai import OpenAI, RateLimitError, InternalServerError
client = OpenAI(max_retries=0) # we handle retries ourselves
# 429s that retrying can't fix
ACCOUNT_CAPS = {
"credit_balance_exhausted",
"organization_spend_limit_exceeded",
"project_spend_limit_exceeded",
"organization_usage_limit_exceeded",
}
def create_with_backoff(max_attempts=6, max_wait=60, kwargs):
delay = 1.0
for attempt in range(1, max_attempts + 1):
try:
return client.chat.completions.create(kwargs)
except (RateLimitError, InternalServerError) as err:
if getattr(err, "code", None) in ACCOUNT_CAPS or attempt == max_attempts:
raise
retry_after = err.response.headers.get("retry-after")
wait = max(delay, float(retry_after)) if retry_after else delay
time.sleep(min(wait + random.uniform(0, wait 0.25), max_wait))
delay = 2
response = create_with_backoff(
model="MODEL_ID",
messages=[{"role": "user", "content": "Summarize this ticket in two lines."}],
)
InternalServerError 包括在内,因为 OpenAI 也要求您使用退避重试 503"模型暂时过载"错误。
第 2 步:将 max_tokens 设置接近您需要的内容
因为 OpenAI 计算您的 max_tokens 和其自身估计中的较大值以计入您的 TPM,在返回 300 个令牌的请求上设置 4,000 的 max_tokens 会浪费大部分该配额。
将其设置接近您的实际输出长度,您可以将更多请求适配到相同限制中。
第 3 步:批量工作或使用批处理 API
如果您达到请求限制但有令牌可用,将几个小任务合并为一个请求。
对于不需要立即获得答案的工作,例如过夜分类或批量嵌入,使用 OpenAI 的批处理 API。
批处理作业有自己的队列限制,不会用完您的同步速率限制。
第 4 步:在您一侧限制请求
重试在错误发生后对其做出反应。
客户端速率限制器可以防止它们:跟踪您在上一分钟内发送的请求和令牌数量,并在您接近限制时阻止新请求。
当多个工作者使用同一项目调用 API 时,共享队列或令牌桶限制器效果很好。
第 5 步:逐步提高流量
slow_down 错误意味着您的流量增长过快,例如当您一次将大功能打开时。
一旦您超过每分钟 100 万个输入令牌,OpenAI 要求您每 15 分钟的流量增加不超过 50%。
分阶段推出新的高容量功能。
在限制造成伤害之前监控它们
大多数团队从一个愤怒的用户那里了解到速率限制。一点点监控首先会警告您:
-
记录标头。 在每次调用时记录 x-ratelimit-remaining-requests 和 x-ratelimit-remaining-tokens,按模型和项目标记。
-
对余量发出警报。 当剩余容量定期下降到您的限制的设定份额以下时(例如 20%)发出警告,以便您可以提高等级或移动流量,然后请求失败。
-
跟踪 429 速率。 计算每个模型和项目的 429,并将账户上限错误与真正的速率限制分开,因为它们需要不同的人来修复。
-
也观看支出限制。 几个月前设置的项目支出限制可能会随着使用量增长而开始阻止流量。
当一个提供商不够时
退避处理短突发。它无法修复一直高于您限制的需求,并且在 OpenAI 本身过载或关闭时无法帮助。
此时您有三个选择:
-
提高您的限制。 升级等级,或向 OpenAI 请求更高的使用限制。
-
将工作从热路径移开。 将任何可以等待的内容发送到批处理 API。
-
在模型和提供商之间分散流量。 将一些请求发送到具有自己限制的另一个模型,并在一个提供商返回错误时故障转移到另一个提供商。LLM 路由器自动化了这一点。
第三个选项是 OpenAI 兼容网关有帮助的地方。ScriptRun 的 OpenAI 兼容 API 与您已经使用的 OpenAI SDK 一起工作,因此您只需更改基本 URL 和密钥。
它添加了带有退避的自动重试、请求级别幂等性,所以重试的调用不会被处理两次、在中断期间提供商之间的故障转移,以及按项目密钥、限制和配额,以便一个工作负载无法限制另一个。
您的代码继续调用一个端点,您不会被绑定到单个提供商的速率限制。
Azure OpenAI 速率限制呢
Azure OpenAI 有自己的配额系统。限制在 Azure 中为每个模型部署进行管理,而不是在 OpenAI 的仪表板中进行管理,您通过 Azure 提高它们。
本指南中的错误处理建议仍然适用:
💡 使用退避重试 429,遵守 Retry-After,并保持 max_tokens 现实。
OpenAI API 速率限制常见问题
我为什么在第一个请求上收到429错误?
这几乎总是一个账户上限,而不是速率限制。检查错误代码。credit_balance_exhausted 表示您的组织没有预付额度,这在新账户上很常见。请添加额度后重试。
我如何提高我的OpenAI API速率限制?
随着您的总信用购买额将您推入更高的使用层级,您的限额会自动提高。您也可以在"设置">"组织">"限额"下选择"升级层级"。交易量非常大的组织可以向 OpenAI 咨询更大的专用容量。
OpenAI的速率限制是否计算失败的请求?
是的。未成功的请求会计入您的每分钟限制中,因此立即重复重试会使问题恶化。请使用指数退避。
RPM和TPM有什么区别?
RPM 限制您每分钟发送的请求数。TPM 限制这些请求使用的令牌数,包括输入令牌和由 max_tokens 设置的输出限额。您可能会先达到其中任何一个:许多短请求会触及 RPM 限制,少数长请求会触及 TPM 限制。
批处理 API 是否有速率限制?
是的,但它们是分开的。批处理作业会根据每个模型等待的输入令牌数量计入队列限制,并且不会占用您的常规每分钟限制。 OpenAI 限制和错误代码最后于 2026 年 11 月 11 日检查,针对 OpenAI 的速率限制和错误代码页面。
相关文章
2026年最便宜的大模型API:每100万Token的实测价格
哪个大模型 API 最便宜?本文提供经过核实的 OpenAI、Claude、Gemini、DeepSeek、Qwen、Mistral 和 Groq 的价格,以及真实工作负载成本和隐藏费用。
AI智能体市场:2026年寻找、运行和销售AI智能体的10大最佳平台
什么是AI智能体市场,对10个顶级平台在试用成本和谁可以出售方面进行比较,并附上安全清单,以及如何在2026年上架您自己的智能体。
免费LLM API:2026年哪些提供商仍然免费(限制、密钥和注意事项)
2026年值得使用的每个免费LLM API,根据官方文档核实:免费层级对比积分、限制、数据条款、如何获取密钥和备用代码。
OpenAI兼容API:它是什么、谁支持它以及如何安全切换
一份OpenAI兼容API指南:15个提供商的基础URL、切换时会出现的问题、可复制粘贴的冒烟测试以及安全迁移检查清单。








