INTEGRITY Документация

Переписывание запроса

Переписывание запроса представляет собой необязательный этап конвейера AI Search, который повышает качество поиска для последующих запросов. Оно применяется как к Поиск и Chat Completions запросы.

Зачем использовать переписывание запроса?

Формулировка вопроса пользователя может не совпадать со стилем ваших документов. Переписывание запроса устраняет это расхождение за счёт:

Это даёт более релевантные совпадения при поиске, что повышает точность результатов и сгенерированных ответов.

Как это работает

Переписывание запроса требует messages формат и не применяется при использовании query формат. Первое сообщение всегда используется без изменений. Для последующих запросов AI Search отправляет историю переписки, последнее сообщение пользователя и системный промпт для переписывания запроса настроенной LLM. Переписанный запрос затем векторизуется и используется для выполнения поиска.

Пример

Первое сообщение: What is Cloudflare Workers? (used as-is, no rewriting)

Последующее сообщение: How do I deploy one? Переписанный запрос: deploy Cloudflare Worker getting started

Уточняющий вопрос «Как мне его развернуть?» сам по себе звучит расплывчато. Переписывание запроса использует контекст беседы, чтобы понять, что «его» означает Cloudflare Worker. То, как будет переписан запрос, зависит от вашего системный промпт для переписывания запроса.

Особенности

Включение переписывания запроса добавляет дополнительный вызов LLM в конвейер обработки запроса, что может увеличить задержку.