← Dokumentace WAF / detections
AI Security for Apps
Aplikace, které používají velké jazykové modely (LLM) jsou vystaveny hrozbám specifickým pro způsob, jakým LLM zpracovávají vstup — prompt injection útokům, expozici PII v promptech a promptům na nebezpečná témata.
AI Security for Apps (dříve Firewall for AI) doplňuje vaše existující pravidla WAF o detekce navržené pro tyto hrozby specifické pro LLM. Je nezávislá na modelu — detekce fungují bez ohledu na to, jaký LLM používáte.
- Detekce PII — Detekce osobních údajů (PII) v příchozích promptech, jako jsou telefonní čísla, e-mailové adresy, čísla sociálního pojištění a čísla platebních karet.
- Detekce nebezpečných a vlastních témat — Detekce promptů souvisejících s nebezpečnými tématy, jako jsou násilné trestné činy či nenávistné projevy, nebo s vlastními tématy specifickými pro vaši organizaci.
- Detekce prompt injection — Detekce promptů navržených k narušení zamýšleného chování vašeho LLM, například pokusů přimět model ignorovat instrukce nebo odhalit svůj systémový prompt.
Po povolení AI Security for Apps skenuje příchozí požadavky na endpointy označené cf-llm na LLM prompty, které mohou obsahovat hrozby. V současnosti detekce zpracovává pouze požadavky s JSON content typem (application/json).
Na základě výsledků skenování Cloudflare naplní Pole AI detekce — pole, která můžete použít ve výrazech pravidel WAF. Tato pole můžete použít dvěma způsoby:
- Sledujte: Filtrujte podle
cf-llmštítek v Security Analytics ke kontrole výsledků detekce napříč vaším provozem. - Mitigace: Použijte pole v vlastní pravidla nebo pravidla rate limitingu k blokování nebo vyzývání (challenge) požadavků na základě výsledků detekce.
Dostupnost
Možnosti AI Security for Apps se liší podle plánu Cloudflare:
| Schopnost | Free | Pro | Business | Enterprise |
|---|---|---|---|---|
| Objevování LLM endpointů — Automaticky identifikujte endpointy poháněné AI napříč vašimi webovými vlastnostmi | Ano | Ano | Ano | Ano |
| AI Security Log Mode Ruleset — Předpřipravená sada pravidel, která loguje celé tělo požadavku spolu s výsledky detekce | Ne | Ne | Ne | Placený doplněk |
| Pole AI detekce — detekce PII, skórování prompt injection, detekce nebezpečných témat, vlastní témata | Ne | Ne | Ne | Placený doplněk |
Pro získání přístupu k AI Security Log Mode Ruleset a povolte Pole AI detekce, kontaktujte svůj account tým.
AI Security for Apps je vestavěná součást Cloudflare Web Application Firewall (WAF) — WAF musí být na vaší zóně povolen, aby bylo možné detekční pole naplňovat a používat ve výrazech pravidel.
Další zdroje
- AI Gateway — Monitorujte, řiďte a kešujte požadavky na poskytovatele LLM.
- Jaká jsou rizika OWASP Top 10 pro LLM? ↗ — Přehled nejběžnějších bezpečnostních rizik aplikací využívajících LLM.