← Документация WAF / detections / ai-security-for-apps

Обнаружение PII

AI Security for Apps (ранее Firewall for AI) может обнаруживать персональные данные (PII) во входящих LLM-промптах. Существует два подхода к обнаружению PII, и их можно использовать вместе для многоуровневой защиты:

• Обнаружение на основе ИИ — AI Security for Apps использует ИИ-модель для выявления распространённых типов PII в содержимом промпта. Такой подход обнаруживает PII, даже когда они встречаются в естественном языке или в неожиданных форматах.
• Точное обнаружение (regex) — вы пишете пользовательское правило WAF с регулярным выражением по сырому телу запроса. Этот подход идеален для внутренних идентификаторов организации с известным, предсказуемым форматом.

Когда AI Security for Apps включён и запрос приходит на cf-llm (endpoint с меткой), промпт сканируется на наличие PII и заполняются два поля:

• Обнаружен PII в LLM (cf.llm.prompt.pii_detected) — true , если были найдены какие-либо PII.
• Категории PII для LLM (cf.llm.prompt.pii_categories) — массив конкретных обнаруженных типов PII.

Обнаружение работает на AI-модели распознавания именованных сущностей (NER). См. cf.llm.prompt.pii_categories — справочник полей — полный список распознаваемых категорий.

cf.llm.prompt.pii_detected (поле) возвращает true при обнаружении любой категории PII — включая широкие категории, такие как PERSON, DATE_TIME и LOCATION , которые часто встречаются в обычной переписке. Блокировка только по этому полю даст высокий уровень ложных срабатываний для большинства приложений.

Вместо этого стройте правила на основе cf.llm.prompt.pii_categories и перечислите только те категории, которые важны для вашего сценария. Например, чат-боту поддержки может потребоваться блокировать номера банковских карт и SSN, но он может спокойно игнорировать имена людей и даты. Начните с самого узкого набора категорий, отслеживайте совпадения в Security Analytics и расширяйте только по мере необходимости.

• Когда входящие запросы соответствуют:

  Поле	Оператор	Значение
  LLM PII Detected	равно	True

  Выражение при использовании редактора:
  (cf.llm.prompt.pii_detected)

• Действие: Block

• Когда входящие запросы соответствуют:

  Поле	Оператор	Значение
  LLM PII Categories	is in	Credit Card

  Выражение при использовании редактора:
  (any(cf.llm.prompt.pii_categories[*] in {"CREDIT_CARD"}))

• Действие: Block

Создайте два пользовательские правила:

1. Правило с действием Block и следующее выражение:
   (any(cf.llm.prompt.pii_categories[*] in {"CREDIT_CARD" "US_SSN"}))

2. Правило с действием Log и следующее выражение:
   (any(cf.llm.prompt.pii_categories[*] in {"EMAIL_ADDRESS"}))

Если вам нужно обнаруживать пользовательские форматы PII , специфичные для вашей организации — внутренние идентификаторы сотрудников, номера карт пациентов, собственные идентификаторы аккаунтов, — вы можете создать в WAF пользовательское правило с помощью regex-сопоставления по сырому телу (http.request.body.raw поле).

Этот подход дополняет AI-обнаружение сопоставлением заранее определённых паттернов, включая идентификаторы, специфичные для организации.

В следующем примере организация использует идентификаторы сотрудников в формате EMP- и далее ровно шесть цифр (например, EMP-482910).

Создание пользовательского правила со следующей конфигурацией:

• Когда входящие запросы соответствуют:

  Поле	Оператор	Значение
  Сырое тело запроса	matches regex	EMP-[0-9]{6}

  Выражение при использовании редактора:
  (http.request.body.raw matches "EMP-[0-9]{6}")

• Действие: Block

• With response type: Custom JSON

• Тело ответа: { "error": "Request blocked: employee ID detected in prompt." }

• Требование к плану Cloudflare. Операторы регулярных выражений (matches и ~) требуют тарифа Business или Enterprise.
• Лимит размера тела. http.request.body.raw проверяет ограниченную часть тела запроса. Точный лимит зависит от плана.
• payload в формате JSON. Необработанное тело запроса включает полную структуру JSON. Ваше регулярное выражение должно учитывать, что текст промпта вложен внутрь JSON-строки.
• Производительность. Сложные шаблоны регулярных выражений могут влиять на время оценки правила. Делайте шаблоны настолько конкретными, насколько возможно.

Для многоуровневой защиты можно использовать одновременно обнаружение на основе ИИ и точное обнаружение:

(cf.llm.prompt.pii_detected or http.request.body.raw matches "EMP-[0-9]{6}")

Это правило блокирует запросы, в которых AI-модель обнаруживает любую встроенную категорию PII либо regex совпадает с вашим пользовательским форматом идентификатора.