← Referenční architektury / reference-architecture / diagrams / ai
Platforma pro AI vibe coding
Úvod
Platforma pro programování řízená AI (někdy označovaná jako „vibe coding“ ↗ platforma) umožňuje uživatelům vytvářet aplikace popisem toho, co chtějí, v přirozeném jazyce. Tyto platformy umožňují komukoli vytvářet aplikace tím, že se postarají o vše od generování kódu přes testování a ladění až po nasazení projektu.
Budování infrastruktury pro takovou platformu přináší vlastní specifické výzvy. Kódu generovanému umělou inteligencí nelze ze své podstaty důvěřovat, a proto musí běžet v zabezpečeném sandboxu, který zabrání zneužití a zajistí izolaci mezi jednotlivými uživateli. Aby platforma podporovala rychlý, konverzační vývoj, musí nabízet téměř okamžitou zpětnou vazbu s živými náhledy a laděním v reálném čase. A konečně platforma potřebuje způsob, jak nasadit a hostovat tisíce až miliony aplikací, které její uživatelé vytvoří, aniž by to vedlo k nákladům spojeným s tradiční serverovou infrastrukturou.
Cloudflare má všechny komponenty potřebné k vybudování takové platformy: middleware pro připojení k AI modelům, zabezpečené sandboxy pro spouštění kódu i bezserverovou nasazovací platformu, která se škáluje na miliony aplikací.
Chcete-li okamžitě začít s referenční implementací platformy AI vibe coding, nasaďte počáteční šablona ↗ do vašeho účtu Cloudflare:
Základní komponenty architektury
Pro vytvoření kódovací platformy poháněné umělou inteligencí budete potřebovat tyto klíčové součásti:
- AI pro generování kódu: Propojte se s modely AI, které interpretují uživatelské prompty a automaticky generují kód.
- Zabezpečený spouštěcí sandbox: Poskytněte zabezpečené a izolované prostředí, kde mohou uživatelé okamžitě spouštět a testovat nedůvěryhodný kód generovaný AI.
- Škálovatelné nasazení aplikací : Nasazujte a hostujte aplikace generované AI ve velkém měřítku.
- Analytika a observabilita: Shromažďujte protokoly a metriky pro sledování využití AI, výkonu aplikací a nákladů na platformu.
Integrace AI a generování kódu
Připojení k poskytovatelům AI pro generování kódu
Prvním krokem je zpracování uživatelova promptu v přirozeném jazyce a jeho bezpečné směrování k modelu AI za účelem generování kódu.
Při používání různých poskytovatelů AI potřebujete přehled o nákladech, možnost ukládat odpovědi do cache pro snížení výdajů a funkce převzetí služeb při selhání pro zajištění spolehlivosti. AI Gateway slouží jako jednotné kontrolní místo mezi vaší platformou a poskytovateli AI, a umožňuje tak:
- A jednotný přístupový bod ke směrování požadavků mezi poskytovateli LLM, což umožňuje používat modely od řady poskytovatelů (OpenAI, Anthropic, Google a dalších)
- Ukládání do mezipaměti pro oblíbené odpovědi, takže když někdo požádá o „vytvoření aplikace se seznamem úkolů“, gateway může namísto dotazu na poskytovatele vrátit odpověď z mezipaměti (a ušetřit tak náklady na inferenci)
- Observabilita do požadavků, použitých tokenů a doby odezvy u všech poskytovatelů na jednom místě
- Sledování nákladů napříč poskytovateli AI
Jak zlepšit schopnost vaší AI vyvíjet na Cloudflare
Pokud vytváříte generátor kódu založený na AI a chcete, aby lépe znal nejlepší postupy pro vytváření aplikací na Cloudflare, doporučujeme použít dva nástroje:
- Cloudflare Workers Prompt: Strukturovaný prompt s příklady, které AI modely naučí pracovat s API Cloudflare, konfiguračními vzory a osvědčenými postupy. Zařaďte je do svého AI systému, abyste dosáhli kvalitnějšího generovaného kódu.
- MCP server pro dokumentaci Cloudflare ↗: Pokud váš nástroj AI podporuje Model Context Protocol (MCP), připojte jej k dokumentačnímu serveru MCP od Cloudflare a získejte tak aktuální informace o platformě Cloudflare.
Vývojové prostředí pro spouštění kódu generovaného AI
Obojí Sandboxy a Containers poskytují zabezpečená, izolovaná prostředí pro spouštění nedůvěryhodného kódu vygenerovaného AI. Nabízejí:
- Silné mechanismy izolace a sandboxingu aby škodlivý nebo chybný kód neovlivnil ostatní instance
- Krátké časy spuštění k umožnění rychlých iteračních cyklů se zpětnou vazbou v reálném čase
- Streamování výstupu v reálném čase protokolů a výsledků pro průběžné aktualizace stavu v reálném čase a ladění
- Preview URLs aby uživatelům umožnily testovat aplikace během vývoje
- Globální nasazení na edge v síti Cloudflare pro spouštění s nízkou latencí po celém světě
Sandboxy poskytují plně spravované řešení která funguje ihned po nasazení, přičemž předpřipravená API pro spouštění kódu, formátování výstupu a vývojářské nástroje, díky čemuž se ideálně hodí pro většinu případů použití spojených se spouštěním kódu AI.
Kontejnery poskytují plnou kontrolu nad běhovým prostředím prostřednictvím vlastních Docker images, což umožňuje spouštět libovolný jazyk nebo framework s až 4GB RAM a vyhrazeným vCPU. Tato varianta se nejlépe hodí, pokud potřebujete vlastní runtime prostředí nebo pracovní zátěže náročné na zdroje.
Nasazování aplikací do produkce
Při vytváření kódovací platformy poháněné umělou inteligencí potřebujete být schopni nasadit a hostovat tisíce až miliony aplikací, které platforma vygeneruje.
Workers for Platforms poskytuje tuto infrastrukturu tím, že umožňuje nasadit neomezené množství aplikací, přičemž každá aplikace běží ve vlastní izolované instanci Workeru, což zabraňuje tomu, aby jedna aplikace ovlivňovala ostatní.
Díky Workers for Platforms získáte:
- Izolace a multitenance : každá aplikace běží ve vlastním vyhrazeném Workeru, v zabezpečeném a izolovaném sandboxovém prostředí
- Řízení egress provozu a limity využití : Nakonfigurujte zásady brány firewall pro veškeré odchozí požadavky přes outbound worker a vlastní limity využití k prevenci zneužití
- Vyhrazené prostředky pro jednotlivé projekty: Ke každé aplikaci připojte úložiště KV nebo databázi, čímž získáte výkonnější funkce a zároveň zajistíte prostředky jsou přístupné pouze aplikaci, ke které jsou připojeny.
- Logování a observabilita napříč platformou pro získávání přehledů, sledování výkonu a řešení problémů v jednotlivých aplikacích
Závěr
Cloudflare poskytuje kompletní sadu služeb potřebných k budování platforem poháněných AI, které potřebují ve velkém měřítku spouštět, testovat a nasazovat nedůvěryhodný kód.
Cloudflare má šablonu platformy pro AI vibe coding, kterou si můžete nasadit, a získat tak kompletní ukázkový příklad, jenž pokrývá vše od generování kódu přes vývoj v sandboxu s náhledovým prostředím až po integraci s Workers for Platforms pro nasazování a hostování aplikací ve velkém měřítku.