Data protection / Request + Response
DLP и LLM Guard работают до вызова модели и перед выдачей ответа. Политика определяет, наблюдать, маскировать, блокировать или менять маршрут.
Детерминированные правила дают воспроизводимый результат и объясняют, какой detector сработал. Организация расширяет набор без изменения кода.
Запрос проверяется до провайдера. Ответ — до возврата пользователю. При block трафик останавливается, при redact совпадение заменяется настроенным маркером.
Казахстанские идентификаторы и банковские реквизиты как базовые детекторы.
OpenAI API keys, AWS access keys, email и распространённые secret patterns.
Tenant dictionaries и ограниченные regex с severity, replacement и active state.
Guard не заявляет абсолютное обнаружение jailbreak. Он возвращает детерминированный score и identifiers сигналов для настройки порога.
Instruction override, prompt exfiltration, role impersonation, jailbreak markers, tool coercion, data exfiltration и encoded payloads.
Политика может перевести запрос с public alias на заранее разрешённую Private LLM. Активация не позволит указать публичный provider как sensitive target.
Один и тот же detector может вести к разному действию в тестовой, общей и ограниченной политике.
Эти ограничения важны для корректного проектирования пилота.
| Область | Статус | Комментарий |
|---|---|---|
| Текст | Доступно | Запросы и ответы в OpenAI-compatible chat contract. |
| Файлы, OCR, изображения | Планируется | Требуют отдельного extraction и inspection pipeline. |
| Локальный NER | Extension | Интерфейс расширения не равен поставленной и оценённой модели. |
| Гарантия всех jailbreak | Не обещается | Качество измеряется на согласованном synthetic/red-team наборе. |
Пилот начинается с согласования категорий данных, допустимого false positive rate и режима observe.
Обсудить DLP-пилот →