← Обзор / ai-search / configuration
Модели
AI Search использует модели на нескольких этапах. Вы можете указать, какие модели использовать, или позволить AI Search автоматически подобрать оптимальные значения по умолчанию.
Использование моделей
AI Search использует модели Workers AI на следующих этапах:
- Преобразование изображений в Markdown (если изображения есть в источнике данных): преобразует содержимое изображений в Markdown с помощью моделей распознавания объектов и генерации описаний.
- Эмбеддинг: преобразует документы и запросы в векторные представления для семантического поиска.
- Переписывание запроса (необязательно): переформулирует запрос пользователя, чтобы повысить точность поиска.
- Реранкинг (необязательно): переупорядочивает найденные результаты по семантической релевантности с помощью модели cross-encoder.
- Генерация: формирует итоговый ответ на основе найденного контекста.
Поставщики моделей
Все экземпляры AI Search поддерживают модели от Workers AI. В AI Search можно использовать и других провайдеров (например, OpenAI или Anthropic), добавив их API ключи в AI Gateway и подключением этого шлюза к вашей AI Search.
Чтобы использовать AI Search с другими провайдерами моделей:
-
Добавьте ключи провайдера в AI Gateway.
-
Подключите шлюз к AI Search.
- При создании нового AI Search выберите AI Gateway с ключами ваших провайдеров.
- Для уже существующего AI Search перейдите в Настройки и переключитесь на шлюз, у которого ваши ключи указаны в Материалы.
-
Выберите модели
- Embedding-модель: изменить можно только при создании нового AI Search.
- Модель генерации: можно выбрать при создании нового AI Search и в любой момент изменить в Настройки.
AI Search поддерживает ограниченный набор моделей, отобранных для наилучшего результата. См. список поддерживаемые модели.
Smart default
Если вы выберете Smart Default в выборе модели, и AI Search сама выберет модель, рекомендованную Cloudflare, а затем будет автоматически обновлять её со временем. Вы можете в любой момент переключиться на явную настройку модели, перейдя в Настройки.
Переопределение модели генерации на уровне запроса
Хотя модель генерации можно задать глобально на уровне экземпляра AI Search, вы также можете переопределить её на уровне запроса в API AI Search. Это удобно, когда модель генерации нужно выбирать динамически в зависимости от контекста или предпочтений пользователя.
Устаревание модели
AI Search может прекратить поддержку определённой модели, чтобы вместо неё поддерживать более производительные модели с расширенными возможностями. Когда поддержка модели прекращается, мы заранее сообщаем об этом и указываем дату завершения поддержки, после которой модель станет недоступна. Поэтому приложениям, зависящим от AI Search, может периодически требоваться обновление, чтобы продолжать работать без сбоев.
Жизненный цикл модели
Модели AI Search следуют определённому жизненному циклу, что обеспечивает стабильность и предсказуемое прекращение поддержки:
- Продакшен: Модель активно поддерживается и рекомендуется к использованию. Она входит в Smart Defaults и регулярно получает обновления и обслуживание.
- Объявление и переход: Модель остаётся доступной, но помечена как устаревшая. Дата окончания поддержки публикуется в документации, примечаниях к выпуску и других официальных каналах. На этом этапе пользователям рекомендуется перейти на рекомендованную модель для замены.
- Автоматическое обновление (если применимо): Если выбрана опция Smart Default, AI Search автоматически переводит запросы на рекомендуемую замену.
- Окончание срока поддержки: Модель больше не доступна. Любой запрос к снятой с поддержки модели возвращает понятное сообщение об ошибке, а сама модель удаляется из документации и Smart Defaults.
Подробнее о моделях и их статусе жизненного цикла см. в поддерживаемые модели.
Рекомендации
- Регулярно проверяйте примечание к выпуску для обновлений.
- Планируйте миграцию с учётом объявленной даты окончания поддержки.
- Перейдите на рекомендуемые модели замены и протестируйте их до наступления даты окончания поддержки.