← Referenční architektury / reference-architecture / architectures

Referenční architektura AI Security for Apps

Účelem tohoto dokumentu je ukázat, jak Cloudflare AI Security for Apps doplňuje Cloudflare WAF tím, že přidává vrstvu ochrany AI pro detekci a zmírňování hrozeb u aplikací postavených na AI. Dokument dále popisuje případy použití, konkrétní hrozby pro AI a architekturu řešení.

Tento dokument je určen IT a bezpečnostním odborníkům, kteří chtějí porozumět potřebě zabezpečení AI a způsobům ochrany svých aplikací poháněných AI. Popisuje, jak Cloudflare AI Security for Apps doplňuje Cloudflare WAF o vrstvu zabezpečení AI, která detekuje hrozby vůči aplikacím poháněným AI a zmírňuje jejich dopad. Dále se věnuje případům použití, konkrétním hrozbám AI, architektuře a toku provozu. Je zaměřen především na ředitele pro informační bezpečnost (CSO/CISO) a jejich přímé týmy, které v organizaci zodpovídají za celkový program zabezpečení webových aplikací.

Tento dokument se zaměřuje konkrétně na zabezpečení aplikací poháněných AI. Pro hlubší pochopení celkové architektury Cloudflare a šíře služeb Application Performance and Security, Network Services, Zero Trust / SASE a Developer Services si přečtěte Architecture Center.

Pro hlubší základní pochopení Cloudflare doporučujeme následující zdroje:

• Co je Cloudflare? | Web ↗ (čtení na 5 minut) nebo video ↗ (2 minuty)

• E-kniha: Jak Cloudflare posiluje zabezpečení všude tam, kde podnikáte ↗ (čtení na 10 minut)

• Pro pochopení výchozí bezpečnostní architektury a základních služeb Cloudflare si přečtěte Cloudflare Security Architecture

• webová stránka produktu AI Security for Apps ↗

• Video návod a ukázku k AI Security for Apps najdete v Cloudflare AI Security Suite: chraňte aplikace využívající AI pomocí AI Security for Apps ↗ (16 minut)

AI urychluje inovace v celé řadě odvětví. Rychlé inovace přitom často přinášejí nové, a někdy přehlížené, bezpečnostní výzvy, kdy je zabezpečení řešeno až dodatečně a útočná plocha není zcela pochopena. V takovém prostředí mohou uživatelé úmyslně i neúmyslně odhalit zranitelnosti, problémy nebo důvěrné informace, což podniky vystavuje škodlivým důsledkům a právní odpovědnosti.

Aplikace využívající AI mají například svou povahou spíše pravděpodobnostní charakter, zatímco tradiční aplikace jsou spíše deterministické. Nelze napsat regulární výraz, který by identifikoval a zablokoval útok typu prompt injection, protože útočníci mohou útok formulovat příliš mnoha způsoby a model může reagovat nepředvídatelně. Modely AI proto musí být zabezpečeny pomocí dalších LLM, které plně porozumí kontextu a záměru interakce a podle toho poskytnou zmírňující opatření. Pokud nejsou přijata odpovídající bezpečnostní opatření, mohou být podniky vystaveny novým zranitelnostem, hrozbám, poškození reputace a dokonce právní odpovědnosti.

Díky Cloudflare AI Security Suite nabízí Cloudflare komplexní řešení zabezpečení AI pro všechny potřeby zabezpečení AI na úrovni Enterprise, ať už jde o zabezpečení používání generativní AI vašimi zaměstnanci, řízení agentů AI, ochranu aplikací poháněných AI, nebo bezpečný vývoj s využitím AI.

Podniky musí chránit své zaměstnance i zákazníky před hrozbami specifickými pro AI, ať už jde o přístup člověka k AI, nebo AI k firemním a externím zdrojům. Pro zavedení jednotné vrstvy zásad je důležité, aby si zákazníci vybrali dodavatele, který dokáže nabídnout komplexní bezpečnostní řešení pro AI. To zároveň organizacím přináší provozní jednoduchost a inovace napříč produkty.

Cloudflare uplatňuje vrstvený přístup k detekci a zmírňování bezpečnostních hrozeb napříč svými bezpečnostními produkty, včetně WAF. AI Security for Apps doplňuje WAF o další vrstvu detekce a zmírňování hrozeb zaměřenou konkrétně na hrozby související s AI.

AI Security for Apps pomáhá chránit služby využívající velké jazykové modely (LLM) před zneužitím. Tato detekce nezávislá na modelu v současné době pomáhá odhalovat a zmírňovat řadu hrozeb spojených s AI, jako je únik osobních údajů (PII), nebezpečná témata, prompt injection a jailbreak.

AI Security for Apps poskytuje tři hlavní funkce, jak ukazuje obrázek 3: LLM Discovery, viditelnost a ochranu a zmírnění rizik.

Protože Cloudflare také provozuje AI inferenci napříč celou svou sítí ↗ a dokáže obsloužit přibližně 95 % světové populace v rámci přibližně 50 ms. Díky tomu, že je zabezpečení AI nasazeno tak blízko modelu i koncovému uživateli, může Cloudflare útoky odhalit v raném stadiu a chránit před zneužitím a útoky jak koncové uživatele, tak modely zákazníků.

• Hluboké učení: strojové učení, které k učení z dat využívá umělé neuronové sítě podobně jako se učí lidé
• LLM (velké jazykové modely): Modely AI navržené pro konkrétní účel, jako je porozumění datovým sadám a jejich generování, obvykle využívají obrovské množství dat pro hluboké učení
• Zjišťování LLM nebo AI: automatizovaný proces objevování koncových bodů LLM nebo AI
• Generativní AI: AI, která na základě hlubokého učení vytváří nový obsah z existujících dat
• AI Inference: provozní fáze AI, ve které natrénovaný model uplatňuje své znalosti

AI Security for Apps využívá Architektura reverzní proxy Cloudflare a působí v přímé cestě provozu spolu se všemi ostatními funkcemi Cloudflare pro výkon a zabezpečení aplikací. AI Security for Apps nezávisí na umístění aplikace ani na použitém AI modelu. Doplňuje WAF o detekci a zmírňování hrozeb specifických pro AI, díky čemuž dokáže chránit aplikace a API využívající AI a velké jazykové modely (LLM). Tento typ zabezpečení specifického pro AI potřebují například generativní AI aplikace. Aplikace i LLM mohou běžet v Cloudflare, cloudu třetí strany nebo on-premises.

Přináší to několik výhod:

• Provozní jednoduchost: uživatelé mohou pokračovat ve stejném provozním modelu, na jaký jsou zvyklí při vytváření zásad WAF. Nemusí se učit žádné nové konstrukce, operace ani dashboardy.

• Jednotný dashboard zásad zabezpečení: všechny bezpečnostní zásady se řídí stejným provozním modelem a lze je aktualizovat i uplatňovat na jednom místě.

• Vrstvené zabezpečení: protože AI Security for Apps funguje inline se všemi ostatními produkty pro výkon a zabezpečení, může zákazník využívat vrstvené zabezpečení napříč produkty a těžit ze síly celé platformy Cloudflare, čímž získá kompletní zabezpečení všech aplikací a API od začátku do konce.

• Inovace napříč produkty: zákazníci těží z inovací a integrace napříč produkty, jako je automatické LLM Discovery prostřednictvím možností API Security.

1. Klientský požadavek je prostřednictvím anycastu odeslán do nejbližšího Cloudflare datacentra, což zajišťuje nízkou latenci. Pomocí LLM Discovery Cloudflare rozpoznává provoz LLM nebo AI na základě heuristik specifických pro LLM. Zjištěné LLM koncové body se automaticky označí štítkem cf-llm štítek.

2. AI specifické detekce hrozeb Cloudflare, jako je expozice PII nebo nebezpečný obsah, se spouštějí na veškerém provozu směřujícím na LLM specifické koncové body bez ohledu na to, zda jsou nastaveny nějaké bezpečnostní zásady. Tyto analytické údaje si můžete zobrazit v Security Analytics a podezřelá aktivita se rovněž zobrazuje v Přehled zabezpečení.

3. Veškeré zásady zmírnění rizik nakonfigurované uživatelem se automaticky uplatní na všechny nalezené koncové body LLM. Pokud si to uživatelé přejí, mohou uplatňování bezpečnostních zásad omezit jen na vybrané případy podle celé řady atributů a hlaviček požadavku.

4. Sensitive data protection dokáže zaznamenávat citlivá data v odpovědi a vynucování AI specifických bezpečnostních zásad na příchozím provozu může modelu zabránit v učení se z PII nebo z informací o nebezpečných tématech, čímž se do budoucna předchází úniku PII.

Architektura AI Security for Apps zajišťuje bezpečnost, aniž by to bylo na úkor výkonu. Všechny detekce hrozeb pomocí AI běží paralelně a využívají modely LLM specifické pro danou hrozbu ↗; tato architektura umožňuje přidávat další AI detekce bez výrazného dopadu na latenci, protože veškerá detekce probíhá paralelně, nikoli postupně. Cloudflare pro tuto funkci využívá vlastní službu AI Inference, Workers AI ↗ a zajišťuje tak maximální výkon a zabezpečení.

Architektura reverzní proxy Cloudflare, která využívá anycast, přístup inline security a paralelní zpracování pomocí modelů hrozeb specifických pro AI, přináší maximální výkon ve srovnání s jinými řešeními, která se spoléhají na komponenty třetích stran nebo jsou postavena na AI security wrapperech a řešeních typu hairpinning.

Cloudflare provádí heuristické kontroly za účelem identifikace provozu LLM a příslušných koncových bodů.

• Používají se heuristiky specifické pro LLM
• Známé falešně pozitivní výsledky (na základě analýzy milionů požadavků) jsou odfiltrovány.

Například endpointy LLM obvykle potřebují k odpovědi více než 1 sekundu, zatímco většina ostatních endpointů odpoví za méně než 1 sekundu. Víme, že 80 % koncových bodů LLM funguje s efektivní přenosovou rychlostí nižší než 4 KB/s ↗.

Na základě dat o provozu z celé globální sítě Cloudflare víme, že při stejné bitové rychlosti mohou probíhat i jiné typy provozu, a tyto falešně pozitivní případy odfiltrováváme. Příklad: 1) koncové body GraphQL, 2) heartbeat zařízení nebo kontrola stavu (health check), 3) generátory (pro QR kódy, jednorázová hesla, faktury atd.)

Jakmile jsou koncové body LLM identifikovány, funkce zabezpečení API v Cloudflare je automaticky označí štítkem cf-llm štítek; to umožňuje snadné filtrování v analytice a snadné uplatňování bezpečnostních zásad na všechny endpointy LLM.

Diagram níže znázorňuje celkový proces zjišťování LLM a zmírňování hrozeb AI. Jakmile jsou koncové body LLM zjištěny, na těchto koncových bodech se automaticky spouští detekce. Zmírnění se provádí vytvořením bezpečnostní zásady WAF s kontextem a poli specifickými pro AI, které poskytuje AI Security for Apps.

Cloudflare vyhledává konkrétní vzory a pomocí analýzy detekuje a extrahuje prompty LLM v těle příchozích požadavků. Detekce probíhá na příchozím provozu. V současné době detekce zpracovává pouze požadavky s typem obsahu JSON (application/json). Cloudflare naplní stávající Pole Security for AI Apps ↗ na základě výsledků kontroly. Tyto výsledky pak můžete zobrazit v Security Analytics na dashboardu filtrováním podle cf-llm štítku managed endpoint a kontrolou výsledků detekce ve vašem provozu.

Příslušná vyplněná pole lze navíc použít ve výrazech bezpečnostních pravidel (custom rules a rate limiting rules) k ochraně aplikace před hrozbami specifickými pro AI, jako je únik osobních údajů (PII).

AI Security for Apps v současné době poskytuje detekci a zmírnění kritických bezpečnostních hrozeb spojených s AI. Hrozby, které AI Security for Apps pomáhá zmírňovat, odpovídají následujícím rizikům v OWASP Top 10 for LLM Applications ↗ jak ukazuje tabulka níže.

Po zapnutí probíhá na příchozím provozu detekce zabezpečení AI, která vyhledává výzvy (prompty) pro LLM pokoušející se zneužít model. Bezpečnostní zásady lze vytvářet jak pomocí vlastních pravidel WAF, tak pomocí pravidel pro omezení rychlosti.

Zabraňte úniku osobních identifikačních údajů (PII), například telefonních čísel, e-mailových adres, čísel sociálního zabezpečení a čísel platebních karet.

AI Security for Apps pomáhá zabránit tomu, aby byly v požadavku odesílány osobní údaje (PII), a aby na těchto datech byly trénovány AI modely, což by mohlo vést k úniku PII v následujících požadavcích.

Rozpoznávejte a moderujte nebezpečné nebo škodlivé prompty, například prompty, které mohou souviset s násilnou trestnou činností.

AI Security for Apps pomáhá zabránit tomu, aby AI modely přijímaly škodlivé požadavky, a brání modelu učit se z takových požadavků a reagovat na ně, jelikož za takový obsah mohou být podniky potenciálně i právně odpovědné.

Rozpoznávejte prompty záměrně navržené tak, aby obcházely chování LLM zamýšlené jejich vývojářem

AI Security for Apps odhaluje pokusy o manipulaci, zneužití nebo vyvolání nechtěných výstupů. Každému požadavku směrovanému na koncový bod LLM je přiřazeno skóre prompt injection, které vyjadřuje pravděpodobnost pokusu o prompt injection nebo jailbreak. Skóre nižší než 20 signalizuje útok typu prompt injection.

AI Security for Apps poskytuje nepřetržitou detekci a stálý přehled prostřednictvím analytiky o všech bezpečnostních hrozbách spojených s AI, bez ohledu na to, zda je nastavena bezpečnostní politika. Jakmile je koncový bod LLM objeven pomocí LLM discovery, spouštějí se na provoz směřující k tomuto koncovému bodu všechny detekce a veškeré zjištěné útoky se zaznamenávají. Následující diagram to ukazuje.

Veškerou podezřelou aktivitu navíc rychle uvidíte zvýrazněnou v části Přehled zabezpečení a Security Analytics aby je uživatelé mohli snadno zkontrolovat a podniknout patřičné kroky.

Díky výkonným analytickým funkcím se uživatelé mohou rovnou přesunout k aktuálním hrozbám, jako je únik PII nebo nebezpečná témata, a v rámci každé z nich dále filtrovat podle konkrétních kategorií dané hrozby. Kategorie existují jak pro únik PII a nebezpečná témata. Níže jako příklad filtrujeme protokoly s detekovanými PII podle konkrétní kategorie Platební karta.

V nalezených koncových bodech, v části Endpointy kartě a v rámci Security > Webová aktiva, uživatelé mohou také snadno filtrovat podle cf-llm štítek pro nalezené endpointy specifické pro LLM, jak je uvedeno níže.

Zde se naplno projevuje síla platformy Cloudflare a integrace napříč produkty. Příslušné objevené koncové body LLM nejsou pouze označeny cf-llm, ale Funkce Cloudflare API Security navíc automaticky přiřazují spravované štítky rizika jako například cf-risk-missing-auth, což signalizuje zjištěná rizika spojená s příslušným koncovým bodem.

Uživatelé mohou také prostřednictvím prompt logování zaznamenávat přesné prompty v požadavku. Podrobnosti požadavku, včetně těla požadavku, jsou snadno dostupné přes Security Analytics. Na obrázku níže si všimněte, že obsah payloadu dokážou dešifrovat a zobrazit pouze uživatelé, kteří mají nakonfigurovaný příslušný soukromý klíč.

Po dešifrování si uživatelé mohou zobrazit přesný prompt LLM a dokonce i konkrétní zjištěnou kategorii, jak je znázorněno níže.

AI je mocný nástroj a organizace ji nadále rychle přijímají, bez odpovídající ochrany je to ale riskantní. Cloudflare proto nabízí vrstvený přístup k zabezpečení, který zahrnuje AI Security a chrání vaše aplikace využívající AI.

AI Security for Apps doplňuje WAF, funguje na stejném provozním modelu a umí odhalovat a zmírňovat hrozby, jako je únik osobních údajů (PII), nebezpečný obsah a prompt injection / jailbreak. Díky výkonným funkcím Cloudflare pro LLM discovery, analytiku a logování promptů navíc uživatelé získávají hluboký přehled, díky kterému snadno pochopí situaci a podniknou vhodné kroky k zabezpečení aplikací využívajících AI.

• Cloudflare AI Security for Apps Product Page ↗
• Cloudflare Blog: AI Security for Apps ↗
• Cloudflare Developer Docs: AI Security for Apps ↗
• Samostatná prohlídka produktu: AI Security for Apps ↗
• Video: Cloudflare AI Security Suite: ochrana aplikací využívajících AI pomocí AI Security for Apps ↗