← Referenční architektury / reference-architecture / diagrams / ai
Skladatelná architektura AI
Úvod
Trh AI prochází rychlým vývojem, který pohání rychlé tempo technologického pokroku. Vzhledem k tomu, jak často dochází k průlomovým objevům, je pro organizace usilující o udržení konkurenceschopnosti nezbytné držet krok s nejnovějšími inovacemi. Krátké iterační cykly a schopnost rychle reagovat se v tomto prostředí staly nepostradatelnými a umožňují firmám rychle přijímat a využívat nejnovější pokroky v oblasti AI technologií.
V tomto dynamickém prostředí se koncept modularity, přenositelnosti dat a standardních API ukazuje jako klíčový faktor pro orientaci v ekosystému AI:
- Composability označuje schopnost sestavovat různé komponenty AI do řešení na míru, což organizacím umožňuje kombinovat různé technologie podle svých konkrétních potřeb.
- Přenositelnost dat hraje klíčovou roli při výměně dat mezi různými systémy a platformami umělé inteligence, protože zajišťuje interoperabilitu a brání vzniku datových sil.
- Standardní API pro interoperabilitu tvoří klíčový prvek propojení různorodých komponent AI a zajišťují plynulou komunikaci a spolupráci mezi odlišnými systémy.
Význam skladatelnosti (composability), přenositelnosti dat a standardních API vynikne zejména při omezování závislosti na jednom dodavateli a při zachování flexibility. Díky těmto principům se organizace mohou vyhnout závislosti na jediném dodavateli a místo toho zvolit přístup „best in class“, tedy vybrat pro své specifické potřeby nejvhodnější řešení. Tyto principy tak celkově vytvářejí prostor pro pružnější, přizpůsobivější a do budoucna udržitelný ekosystém AI.
AI platforma Cloudflare byla navržena s ohledem na tyto zásady. Diagram architektury ukazuje, jak lze na Cloudflare vytvářet AI aplikace end-to-end, nebo jak lze jednotlivé služby integrovat s externí infrastrukturou a službami.
Composable AI infrastruktura
- Compute: Výpočetní vrstva je jádrem aplikace. Definuje se v ní veškerá byznys logika i využití dalších komponent. Výpočetní vrstva komunikuje s dalšími službami, jako jsou inferenční služby, vektorové vyhledávání, databáze a datová úložiště. Serverless řešení, jako Cloudflare Workers nabízejí rychlou iteraci a automatické škálování, díky čemuž se vývojáři mohou soustředit na daný případ použití místo na správu infrastruktury. Pro skladatelnost je důležitá podpora standardních rozhraní, jako je HTTP nebo TCP, které za běhu podporuje prostředí Workers prostřednictvím
fetch()API aconnect()API v uvedeném pořadí. - Inference: AI inference odpovídá za AI schopnosti aplikace. Provozní modely se liší podle toho, zda modely hostujete sami, nebo využíváte poskytovatele Inference-as-a-service, jako je Workers AI. V druhém uvedeném případě REST API zjednodušují interakci s inferenčními službami z jakékoli služby nebo klienta. Pomocí integrací specifických pro danou platformu, jako je Bindings pro interakci mezi Workers a dalšími službami zjednodušuje vývoj, protože složitost, například ověřování, zůstává skrytá.
- Vector Search: Určité případy použití, jako například RAG využívají vektorové vyhledávání pro porovnávání podobnosti. Provozní modely se liší mezi hostováním vlastních databází nebo využíváním poskytovatelů databáze jako služby (DBaaS) specifických pro vektory, jako je Vectorize. V druhém uvedeném případě REST API zjednodušují interakci s ní z jakékoli služby nebo klienta. Pomocí integrací specifických pro danou platformu, jako je Bindings pro interakci mezi Workers a dalšími službami zjednodušuje vývoj, protože složitost, například ověřování, zůstává skrytá.
- Data a úložiště: Databáze a datová úložiště dodávají AI aplikacím stav. Správa uživatelů, ukládání relací a perzistence dat patří mezi běžné požadavky AI aplikací. Podle konkrétního případu použití jsou potřeba různá řešení, například relační databáze nebo objektové úložiště. K dispozici je řada řešení pro self-hosted i spravované služby. Na Cloudflare to může být například D1 a R2. Rozhraní REST API usnadňují implementaci komunikace s inferenčními službami z libovolné služby či klienta. Použití platformních integrací, jako jsou Bindings pro komunikaci mezi Workers a datovými či databázovými službami, zjednodušuje vývoj, protože se tím odstiňuje složitost, jako je například ověřování.