Platform / Data plane + Control plane
Қолданбалар тұрақты CyberPass API-ін пайдаланады. Провайдерлер, upstream модельдер, бағыттар мен ережелер орталықтан өзгертіледі.
Әр сұрау ұйыммен, қызметтік есептік жазбамен, белсенді саясатпен, сұралған бүркеншік атпен және нақты бағытпен байланысады.
Data plane AI трафигін өңдейді. Control plane ұйымдарды, қолжетімділікті, провайдерлерді, модельдер мен саясаттарды басқарады.
Аутентификация, лимиттер, тексеру, қайталау, circuit breaker, egress бақылауы және рұқсат етілген upstream шақыруы.
Tenant-aware конфигурация және аудит. Панель әр сұрауға сыртқы vendor cloud ретінде қатыспайды.
Кіріктірілген adapter OpenAI-compatible upstream-пен жұмыс істейді. Жаңа хаттама әр тапсырыс берушіге fork ретінде емес, ортақ adapter type ретінде бір рет қосылады.
Қолданба тобы, мысалы, мынаны қолданады: public-general. Әкімші клиент кодын жаңартпай-ақ provider мен upstream model-ді ауыстыра алады.
Runtime mapping
Ережелер тапсырыс берушінің кодына тігілмейді. Жаңа нұсқа алдымен симуляциядан өтіп, кейін белсендіріліп, аудитке жазылады.
Request/response режимі, severity, replacement marker, custom dictionary және шектелген regex.
Observe немесе block режимі, сандық шек және іске қосылған сигналдардың түсіндірілетін идентификаторлары.
Сезімтал сұрау тек рұқсат етілген private alias-ке бағытталады.
Ешбір gateway барлық тәуекелді жоймайды. Архитектура шешімдерді басқарылатын, көрінетін және өлшенетін етеді.
| Қолданылу аясы | Қазіргі күй | Шекара |
|---|---|---|
| Streaming | Қорғалған | Жауап response inspection аяқталғанша буферленеді; token-by-token кідірісіне уәде берілмейді. |
| Provider protocols | OpenAI API | Басқа upstream хаттамалары ортақ адаптерді қажет етеді. |
| Availability | Pilot | Қызметтер масштабталады, бірақ Compose PostgreSQL және Redis single-node күйінде қалады. |
Пилот үшін бір OpenAI-compatible endpoint және келісілген саясат жеткілікті.
Пилотты сұрау →