Architecture Course Home / Архитектурные шаблоны / Шаблоны низшего порядка / Шаблоны обеспечения надежности
Rate Limiting pattern
Проблема
Спайки на апи нередкое явление, они могут быть связаны с: неожиданным ростом пользовательского трафика или атаками на вашу инфраструктуру DoS DDoS.
Такие спайки могут перегрузить ваш сервис или даже положить его.
Решение
Ограничение скорости может уменьшить трафик и потенциально повысить пропускную способность, уменьшая количество запросов, отправляемых сервису в течение определенного периода времени.
Сервис может регулироваться на основе различных метрик со временем, например:
- Количество запросов (например, 20 запросов в секунду).
- Объем данных (например, 2 ГиБ в минуту).
- Относительная стоимость операций (например, 20 000 единиц запросов в секунду).
Независимо от метрики, используемой для регулирования, реализация ограничения скорости будет включать управление числом и(или) размером операций, отправленных сервису в течение определенного периода времени.