
速率限制不是决定“能不能做”,而是规定“单位时间内能做多少次”。一个账户可以被允许登录,但连续数百次尝试仍会被延迟或拒绝:权限回答资格,速率限制约束节奏。
它的重要性在于,许多系统承受得了持续请求,却承受不了瞬间洪峰。常见的令牌桶会按稳定速度补充令牌,每次操作消耗一个;桶的容量允许短暂突发,补充速度则限制长期平均频率。这样既不必把偶尔的集中使用一概禁止,也不让突发无限累积。
速率限制与背压也不同。背压是下游拥堵后把“慢下来”的信号传给上游;速率限制可以在拥堵发生前就设定边界。它也不等于总量配额:一天可用一千次是总量问题,一秒最多十次是速率问题。现实中的稳定往往不仅取决于允许什么,还取决于变化能以多快的速度进入系统。
https://docs.cloud.google.com/tasks/docs/configuring-queues
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。