Используйте джиттер

Если у вас высоконагруженная система и вы используете retry policy для доступа к внешним ресурсам, то в случае сбоя ваши запросы буду откладываться и повторяться через определенный промежуток времени. При этом, если множество запросов будет отложено и выполнена единовременно, вы можете перегрузить внешний ресурс.

Чтобы этого не происходило – используйте джиттер. Это стратегия, которая позволяет "размазать" повторные запросы по времени и отправить их не одновременной, а с определенной задержкой. Таким образом вы убережете внешние ресурсы от пиковых нагрузок.