Data protection / Request + Response
DLP және LLM Guard модель шақырылғанға дейін және жауап берілер алдында жұмыс істейді. Саясат бақылауды, жасыруды, бұғаттауды немесе бағытты өзгертуді анықтайды.
Детерминделген ережелер қайталанатын нәтиже беріп, қай detector іске қосылғанын түсіндіреді. Ұйым кодты өзгертпей-ақ жиынды кеңейтеді.
Сұрау провайдерге дейін, жауап пайдаланушыға қайтарылғанға дейін тексеріледі. Block трафикті тоқтатады, redact сәйкестікті бапталған маркермен ауыстырады.
Қазақстандық сәйкестендіргіштер мен банктік деректемелер кіріктірілген детекторлар ретінде.
OpenAI API кілттері, AWS access key, email және кең таралған құпия үлгілері.
Severity, replacement және active state параметрлері бар tenant сөздіктері мен шектелген regex.
Guard jailbreak-ті толық анықтайды деп мәлімдемейді. Ол шекті баптау үшін детерминделген score және сигнал идентификаторларын қайтарады.
Instruction override, prompt exfiltration, role impersonation, jailbreak marker, tool coercion, data exfiltration және encoded payload сигналдары.
Саясат сұрауды public alias-тен алдын ала рұқсат етілген Private LLM-ге ауыстыра алады. Белсендіру public provider-ді sensitive target ретінде көрсетуге жол бермейді.
Бір detector сынақ, жалпы және шектелген саясаттарда әртүрлі әрекетке әкелуі мүмкін.
Бұл шектеулер пилотты дұрыс жобалау үшін маңызды.
| Қолданылу аясы | Күйі | Түсіндірме |
|---|---|---|
| Мәтін | Қолжетімді | OpenAI-compatible chat келісіміндегі сұраулар мен жауаптар. |
| Файлдар, OCR және кескіндер | Жоспарда | Бөлек extraction және inspection pipeline қажет. |
| Жергілікті NER | Extension | Кеңейту интерфейсі жеткізілген және бағаланған модельге тең емес. |
| Барлық jailbreak-ке кепілдік | Уәде етілмейді | Сапа келісілген synthetic/red-team жинағында өлшенеді. |
Пилот деректер санаттарын, рұқсат етілетін false positive деңгейін және observe режимін келісуден басталады.
DLP пилотын талқылау →