← Dokumentace WAF / detections / ai-security-for-apps

Detekce PII

AI Security for Apps (dříve Firewall for AI) dokáže detekovat osobní údaje (PII) v příchozích LLM promptech. Existují dva přístupy k detekci PII a můžete je použít společně pro vrstvenou ochranu:

• Detekce založená na AI — AI Security for Apps používá AI model k identifikaci běžných typů PII v obsahu promptu. Tento přístup zachytí PII i tehdy, když se objeví v přirozeném jazyce nebo v neočekávaných formátech.
• Přesná detekce (regex) — Napíšete vlastní pravidlo WAF s regulárním výrazem nad surovým tělem požadavku. Tento přístup je ideální pro identifikátory specifické pro organizaci se známým, předvídatelným formátem.

Když je AI Security for Apps povoleno a požadavek dorazí na cf-llm označený endpoint, zkontroluje prompt na přítomnost PII a naplní dvě pole:

• LLM PII detected (cf.llm.prompt.pii_detected) — true pokud byly nalezeny jakékoli PII.
• Kategorie LLM PII (cf.llm.prompt.pii_categories) — Pole konkrétních nalezených typů PII.

Detekci pohání AI model pro rozpoznávání pojmenovaných entit (NER). Viz cf.llm.prompt.pii_categories reference polí s úplným seznamem rozpoznávaných kategorií.

The cf.llm.prompt.pii_detected vrací true při detekci jakékoli kategorie PII — včetně širokých kategorií jako PERSON, DATE_TIME a LOCATION které se běžně objevují v normální konverzaci. Blokování pouze na základě tohoto pole povede u většiny aplikací k vysoké míře falešně pozitivních detekcí.

Místo toho stavte pravidla na cf.llm.prompt.pii_categories a uveďte pouze kategorie důležité pro váš případ užití. Například chatbot zákaznické podpory může potřebovat blokovat čísla platebních karet a SSN, ale jména osob a data může bezpečně ignorovat. Začněte s nejužší sadou kategorií, sledujte shody v Security Analytics a rozšiřujte jen podle potřeby.

• When incoming requests match:

  Pole	Operátor	Hodnota
  Detekováno LLM PII	rovná se	True

  Výraz při použití editoru:
  (cf.llm.prompt.pii_detected)

• Akce: Block

• When incoming requests match:

  Pole	Operátor	Hodnota
  Kategorie LLM PII	is in	Credit Card

  Výraz při použití editoru:
  (any(cf.llm.prompt.pii_categories[*] in {"CREDIT_CARD"}))

• Akce: Block

Vytvořte dvě vlastní pravidla:

1. Pravidlo s akcí Block a následující výraz:
   (any(cf.llm.prompt.pii_categories[*] in {"CREDIT_CARD" "US_SSN"}))

2. Pravidlo s akcí Log a následující výraz:
   (any(cf.llm.prompt.pii_categories[*] in {"EMAIL_ADDRESS"}))

Pokud potřebujete detekovat vlastní formáty PII specifické pro vaši organizaci — například interní ID zaměstnanců, čísla záznamů pacientů nebo proprietární identifikátory účtů — můžete vytvořit WAF vlastní pravidlo pomocí regex shody na raw těle (http.request.body.raw pole).

Tento přístup doplňuje detekci založenou na AI porovnáváním předdefinovaných vzorů, včetně identifikátorů specifických pro organizaci.

V následujícím příkladu organizace používá ID zaměstnanců ve formátu EMP- následované přesně šesti číslicemi (například EMP-482910).

Vytvoření vlastního pravidla s následující konfigurací:

• When incoming requests match:

  Pole	Operátor	Hodnota
  Raw tělo požadavku	matches regex	EMP-[0-9]{6}

  Výraz při použití editoru:
  (http.request.body.raw matches "EMP-[0-9]{6}")

• Akce: Block

• S typem odpovědi: Custom JSON

• Tělo odpovědi: { "error": "Request blocked: employee ID detected in prompt." }

• Požadavek na plán Cloudflare. Operátory regulárních výrazů (matches a ~) vyžadují plán Business nebo Enterprise.
• Limit velikosti těla. http.request.body.raw pole kontroluje omezenou část těla požadavku. Přesný limit liší se podle plánu.
• JSON payloady. Raw tělo požadavku obsahuje celou JSON strukturu. Váš regulární výraz by měl počítat s tím, že text promptu je vnořen uvnitř JSON řetězce.
• Výkon. Složité vzory regulárních výrazů mohou ovlivnit dobu vyhodnocování pravidla. Udržujte vzory co nejkonkrétnější.

Detekci založenou na AI a přesnou detekci můžete používat společně pro vrstvenou ochranu:

(cf.llm.prompt.pii_detected or http.request.body.raw matches "EMP-[0-9]{6}")

Toto pravidlo blokuje požadavky, kde buď AI model detekuje jakoukoli vestavěnou kategorii PII, nebo regex odpovídá vašemu vlastnímu formátu identifikátoru.