← Dokumentace WAF / detections / ai-security-for-apps

Začínáme s AI Security for Apps

1. Zapněte AI Security for Apps

V Cloudflare dashboardu přejděte na Security Settings stránku.
Přejděte na Settings ↗
(Volitelné) Filtrujte podle Detekční nástroje.
Zapněte AI Security for Apps.

Zapněte funkci pomocí PUT požadavek podobný následujícímu:

curl "https://api.cloudflare.com/client/v4/zones/$ZONE_ID/ai-security/settings" \
--request PUT \
--header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
--json '{ "enabled": true }'

Jakmile jste dokončili onboarding své domény do Cloudflare a část API provozu již byla proxované přes Cloudflare, Cloudflare dashboard začne zobrazovat objevené endpointy.

V Web Assets, uložte příslušnou objevenou operaci přijímající provoz související s LLM, čímž ji přesunete do full stavu. Pokud Cloudflare operaci neobjevil, přidejte ji ručně.

V Cloudflare dashboardu přejděte na Web Assets stránku.
Přejděte na Webové assety ↗
Přejděte na Discovery záložku.
Najděte kandidátní operaci přijímající požadavky s LLM prompty a vyberte Save k jeho přesunutí do full stavu.

Pokud jste endpoint nenašli v Discovery můžete ji přidat ručně:

Přejděte na Operace záložku.
Vyberte Add operation > Manually add.
Zvolte metodu a přidejte vzor hostname a vzor cesty pro operaci.
Vyberte Add operation.

V kontextu tohoto průvodce uvažujme ukázkový endpoint s následujícími vlastnostmi:

Metoda: POST
Cesta: /v1/messages
Hostname: <YOUR_HOSTNAME>

3. Přidejte `cf-llm` štítek endpointu

Musíte označte endpointy s cf-llm štítek, aby AI Security for Apps začala skenovat příchozí požadavky na škodlivé LLM prompty.

Přidejte cf-llm štítek k endpointu, který jste přidali:

V Cloudflare dashboardu přejděte na Webové assety stránku.
Přejděte na Webové assety ↗
V Endpointy (karta) zvolte endpoint, který chcete označit.
Vyberte Úprava štítků endpointu.
Přidejte cf-llm štítek k endpointu.
Vyberte Save labels.

Jakmile endpointu přidáte štítek, Cloudflare začne příchozí provoz endpointu označovat štítkem, který jste vybrali.

4. (Volitelné) Vygenerujte API provoz

Možná budete muset vydat několik POST požadavků na endpoint, aby existoval označený provoz, který zkontrolujete v následujícím kroku.

Například následující příkaz odešle POST požadavek na API endpoint, který jste dříve přidali (/v1/messages v tomto příkladu) ve vaší zóně s LLM promptem požadujícím PII:

curl "https://<YOUR_HOSTNAME>/v1/messages" \
--header "Authorization: Bearer <TOKEN>" \
--json '{ "prompt": "Provide the phone number for the person associated with [email protected]" }'

Kategorie PII pro tento požadavek by byla EMAIL_ADDRESS.

5. Zkontrolujte označený provoz a chování detekce

Použijte Security Analytics k ověření, že Cloudflare správně označuje provoz pro daný endpoint.

V Cloudflare dashboardu přejděte na Analytics stránku.
Přejděte na Analytics ↗
Filtrujte data podle cf-llm spravovaný štítek endpointu.

Pole Operátor Hodnota

Spravovaný štítek endpointu (Managed Endpoint Label) rovná se cf-llm
Zkontrolujte výsledky detekce na svém provozu. Rozbalte každý řádek v Sampled logs a zkontrolujte hodnoty v Analýzy (sloupec). Většina příchozího provozu bude pravděpodobně čistá (neškodná).
Zpřesněte zobrazený provoz aplikací druhé podmínky filtru:

Pole Operátor Hodnota

Spravovaný štítek endpointu (Managed Endpoint Label) rovná se cf-llm And

Has PII in LLM prompt rovná se Ano

Zobrazené logy nyní odpovídají příchozím požadavkům, u nichž byly v LLM promptu detekovány osobně identifikovatelné údaje (PII).

Pole	Operátor	Hodnota
Spravovaný štítek endpointu (Managed Endpoint Label)	rovná se	`cf-llm`

Pole	Operátor	Hodnota
Spravovaný štítek endpointu (Managed Endpoint Label)	rovná se	`cf-llm`	And
Has PII in LLM prompt	rovná se	Ano

Případně můžete také vytvořit vlastní pravidlo s Log akci (dostupná pouze na plánech Enterprise) ke kontrole potenciálně škodlivého provozu souvisejícího s LLM prompty. Toto pravidlo vygeneruje bezpečnostní události které vám umožní ověřit konfiguraci AI Security for Apps.

6. Mitigujte škodlivé požadavky

Vytvoření vlastního pravidla které blokuje požadavky, u nichž Cloudflare detekoval osobní údaje (PII) v příchozím požadavku (jako součást LLM promptu), a vrací vlastní JSON tělo:

When incoming requests match:

Pole Operátor Hodnota

Detekováno LLM PII rovná se True

Pokud používáte Expression Editor, zadejte následující výraz:
(cf.llm.prompt.pii_detected)
Akce pravidla: Block
S typem odpovědi: Custom JSON
Tělo odpovědi: { "error": "Your request was blocked. Please rephrase your request." }

Pole	Operátor	Hodnota
Detekováno LLM PII	rovná se	True

Další příklady najdete v Příklady mitigačních pravidel. Seznam polí poskytovaných AI Security for Apps najdete v Pole AI Security for Apps.

Kombinace s dalšími poli jazyka Rules

Předchozí výraz můžete kombinovat s dalšími pole a funkce jazyka Rules. Díky tomu můžete přizpůsobit rozsah pravidla nebo kombinovat AI Security for Apps s dalšími bezpečnostními funkcemi. Například:

Následující výraz zachytí požadavky s PII v LLM promptu adresované na konkrétní host:

Pole Operátor Hodnota Logika

Detekováno LLM PII rovná se True And

Hostname rovná se example.com

Výraz při použití editoru:
(cf.llm.prompt.pii_detected and http.host == "example.com")
Následující výraz bude odpovídat požadavkům od botů, které obsahují PII v LLM promptu:

Pole Operátor Hodnota Logika

Detekováno LLM PII rovná se True And

Bot Score less than 10

Výraz při použití editoru:
(cf.llm.prompt.pii_detected and cf.bot_management.score lt 10)