INTEGRITY Документация

Least Outstanding Requests

Политика распределения Least Outstanding Requests позволяет направлять трафик на эндпоинты, у которых в данный момент наименьшее число необработанных запросов.

Эта политика направления трафика выбирает конечную точку с учётом весов конечных точек, а также количества запросов, обрабатываемых каждой конечной точкой в данный момент. Конечные точки с большим числом ожидающих запросов получают пропорционально меньший вес относительно остальных.

Политику распределения Least Outstanding Requests лучше всего использовать, если ваши эндпоинты легко перегружаются при всплеске одновременных запросов. Она поддерживает Adaptive Routing и привязка сессии.

Настройка через API

Пулы
{
  "origin_steering": {
    "policy": "least_outstanding_requests"
  }
}

См. Документация по API где приведены дополнительные сведения о настройке пула.

Ограничения

Политику распределения Least Outstanding Requests можно настроить для пулов, входящих в Балансировщики нагрузки в режиме DNS-only, но поддерживается только в форме без фактического действия. Когда логика steering конечных точек применяется к пулу в балансировщике нагрузки DNS-only, все счётчики незавершённых запросов конечных точек считаются равными нулю, то есть трафик распределяется исключительно на основе весов конечных точек.

Хотя это можно настроить, не рекомендуется привязывать пулы, использующие политику распределения Least Outstanding Requests, к балансировщикам нагрузки в режиме DNS-only, так как для них она поддерживается лишь частично.