← Варианты использования / use-cases / ai

Создание и запуск AI-приложений

Для создания и развёртывания AI-приложения нужны вычислительные ресурсы для логики приложения, способ запуска инференса и шлюз для управления расходами между провайдерами. Cloudflare Workers размещает логику вашего приложения и отдаёт frontend. Workers AI выполняет инференс на edge-серверах с оплатой по факту использования. AI Gateway добавляет кэширование, ограничение частоты запросов и наблюдаемость для OpenAI, Anthropic и других провайдеров. Durable Objects координируют рабочие процессы с состоянием и многошаговые диалоги.

Решения

Workers

Создавайте и развёртывайте бессерверные приложения в глобальной сети Cloudflare. Узнать больше о Workers.

Потоковые ответы - Передавайте ответы AI потоково, токен за токеном, по мере генерации, не буферизуя весь ответ целиком
Full-stack развертывание - Обслуживайте frontend и backend из единого развёртывания, не управляя отдельной инфраструктурой

Workers AI

Запуск инференса в глобальной сети Cloudflare через привязку Workers с оплатой по факту использования. Узнать больше о Workers AI.

Глобальный инференс - Запускайте модели в ближайшей к пользователю точке присутствия Cloudflare, сокращая задержку
Оплата по факту использования - Не нужно резервировать GPU и платить за простой: вы платите только за обработанные токены

AI Gateway

Проксирование запросов к любому AI-провайдеру с кешированием, ограничением скорости запросов и единой аналитикой. Узнать больше об AI Gateway.

Гибкость выбора провайдера - Направляйте запросы к OpenAI, Anthropic, Workers AI или любому другому провайдеру через единую конечную точку
Единая наблюдаемость - Отслеживайте объём запросов, задержку, расходы и ошибки по всем провайдерам в одном месте

Durable Objects

Объекты с состоянием, обеспечивающие строго согласованное хранение данных и координацию. Узнать больше о Durable Objects.

Рабочие процессы с состоянием - координировать многоэтапные конвейеры ИИ и сохранять состояние диалога между запросами