Obscura: шлюз локальной защиты данных от утечки в нейросети
На фоне растущих рисков передачи конфиденциальной информации в публичные облачные сервисы, разработчик анонсировал создание программного шлюза Obscura. Это on-prem решение автоматически сканирует запросы пользователей, выявляет чувствительные данные — от email до банковских карт — и либо блокирует их отправку, либо заменяет на безопасные синтетические аналоги, сохраняя целостность ответа искусственного интеллекта.
# Obscura: локальный шлюз, защищающий корпоративные данные от утечки в нейросети
В последние месяцы информационная безопасность в сфере искусственного интеллекта стала критической темой. Инженеры сталкиваются с дилеммой: использовать мощные модели для решения задач, рискуя случайно передать в них логи, внутренние IP-адреса или конфигурационные файлы, либо работать «вслепую». Чтобы решить проблему, требующую не только личной ответственности специалиста, но и автоматизированного контроля на уровне организации, был создан проект Obscura.
Это локальный (on-premises) шлюз, который встраивается между пользователем и облачными API нейросетей. Его задача — проанализировать каждое сообщение перед отправкой, определить наличие секретов и принять решение: допустить запрос, заблокировать его или очистить данные, сохранив смысл для модели.
Архитектура и принципы работы
Obscura функционирует как прокси-уровень. Клиенты, будь то веб-интерфейсы, браузерные расширения или встроенные корпоративные чаты, обращаются к шлюзу, считая его стандартным API (OpenAI-совместимым или Anthropic-compatible).
Система поддерживает три режима работы, позволяя организациям гибко подстраивать политику безопасности: * Monitor: Шлюз только анализирует трафик и записывает результаты в журнал, не вмешиваясь в отправку. * Warn: Пользователь получает предупреждение о наличии конфиденциальной информации и сам решает, замаскировать её или отправить как есть. * Enforce: Жёсткая фильтрация. Данные маскируются или запрос полностью блокируется до момента отправки. Технический стек проекта включает Python, FastAPI, базу данных SQLite (режим WAL), Redis и фронтенд на Svelte 5.
Особое внимание уделяется локализации. Большинство существующих систем обнаружения утечек (DLP) ориентированы на английский язык, что приводит к пропускам при работе с русскоязычными текстами. Obscura включает настроенные правила для кириллицы: она распознаёт ИНН, СНИЛС, банковские реквизиты, телефоны, а также технические токены и API-ключи. Для подтверждения совпадений используется не только регулярные выражения, но и проверка контрольных сумм, что снижает количество ложных срабатываний.
Сохранение контекста и скорость
Одна из ключевых сложностей при очистке данных — сохранение формата ответа. Стандартная замена email или IP на абстрактные метки (например, [REDACTED]) часто ломает парсинг JSON или разрушает логическую цепочку в коде. Решение Obscura — использование детерминированных генераторов синтетических суррогатов.
Система заменяет реальные данные на правдоподобные фейковые (например, валидный email user_7f2b9a@corp-redact.io или тестовый IP из диапазона RFC 5737). Модель получает корректную структуру данных и формирует естественный ответ, который шлюз затем возвращает клиентом с подменой суррогатов обратно на реальные значения. Производительность системы подтверждена тестами: детокенизация занимает менее 0,5 мс (на 95-м перцентиле), а генератор суррогатов способен обрабатывать около 18 800 значений в секунду.
Защита от атак и управление данными
Для предотвращения манипуляций моделью (prompt injection, jailbreak) Obscura внедряет эвристики оценки риска и проверку системных промптов. Также реализован модуль Tool Guard, контролирующий вызовы внешних инструментов на наличие инъекций в оболочку.
Безопасность самого шлюза и хранящихся данных обеспечивается шифрованием перехваченных файлов (например, скриншотов паспортов) и применением политики «четырёх глаз» для доступа к логах. Для соблюдения права на забвение реализован криптографический метод удаления: стирается ключ шифрования, сохраняя целостность журнала событий.
Ограничения и перспективы
Разработчик подчёркивает, что текущая версия базируется на правилах и алгоритмах распознавания Named Entity Recognition (NER), а не на обученных на больших данных классификаторах. Это делает систему быстрой и предсказуемой, но оставляет пробелы для нестандартных форматов данных. Независимый аудит и боевая эксплуатация пока отсутствуют.
Проект находится в активной разработке и планируется к релизу через два месяца. После запуска будет предложена 30-дневная бесплатная версия для тестирования. Разработчик также планирует добавить поддержку прозрачного перехвата на уровне ядра (eBPF), единый вход (SSO) и расширенные возможности симуляции политик безопасности.
*«Вашими секреты не должны уходить в облако»* — этот принцип лежит в основе Obscura. В мире, где ИИ становится неотъемлемой частью рабочих процессов, создание собственных инструментов защиты данных становится не роскошью, а необходимостью для любой ответственной организации.