← Případy užití / use-cases / ai
Vytvářejte a provozujte aplikace AI
Pro vytvoření a nasazení AI aplikace potřebujete výpočetní výkon pro logiku aplikace, způsob spouštění inference a bránu pro správu nákladů napříč poskytovateli. Cloudflare Workers hostuje logiku vaší aplikace a obsluhuje frontend. Workers AI spouští inferenci na edge síti s platbou podle skutečného využití. AI Gateway přidává cachování, rate limiting a observabilitu napříč OpenAI, Anthropic a dalšími poskytovateli. Durable Objects koordinují stavové pracovní postupy a vícekolové konverzace.
Řešení
Workers
Vytvářejte a nasazujte bezserverové aplikace na globální síti Cloudflare. Zjistěte více o Workers.
- Streamované odpovědi - Streamovat odpovědi AI token po tokenu tak, jak vznikají, bez nutnosti čekat na celou odpověď
- Full-stack nasazení - Poskytovat frontend i backend z jednoho nasazení bez nutnosti spravovat samostatnou infrastrukturu
Workers AI
Spouštějte inferenci na globální síti Cloudflare pomocí vazby Workers, s platbou za skutečné využití. Zjistěte více o Workers AI.
- Globální inference - Spouštět modely v lokalitě Cloudflare nejblíže uživateli a snížit tak latenci zpětné cesty
- Cena podle skutečného využití - Žádné rezervace GPU ani náklady za nečinnost, platíte pouze za zpracované tokeny
AI Gateway
Směrujte požadavky na libovolného poskytovatele AI s cachováním, omezováním četnosti požadavků a jednotnou analytikou. Zjistěte více o AI Gateway.
- Flexibilita poskytovatelů - Směrovat požadavky na OpenAI, Anthropic, Workers AI nebo jakéhokoli jiného poskytovatele přes jediný koncový bod
- Jednotná observabilita - Sledovat objem požadavků, latenci, náklady a chyby napříč všemi poskytovateli na jednom místě
Durable Objects
Stavové objekty se silně konzistentním úložištěm a koordinací. Zjistěte více o Durable Objects.
- Stavové pracovní postupy - Koordinuje vícekrokové AI pipeline a udržuje stav konverzace napříč požadavky