OpenAI продвигает приватную обработку безопасности: новые методы контроля рисков без хранения данных клиентов
Компания OpenAI анонсировала предпросмотр технологии Private Safety Processing, предназначенной для выявления сложных паттернов рисков во взаимодействии с передовыми моделями ИИ. Эта инициатива призвана урегулировать противоречие между необходимостью масштабного мониторинга безопасности и обязательствами по политике Zero Data Retention (ZDR), гарантирующей, что промпты и ответы не сохраняются после обработки запроса. Новые механизмы позволяют автоматизированным системам определять потенциальные угрозы через анализ связанных взаимодействий, не предоставляя сотрудникам компании доступа к содержимому.
# OpenAI расширяет границы приватности: анонс Private Safety Processing
В августе 2026 года OpenAI опубликовала заявление, подтверждающее приверженность политике Zero Data Retention (ZDR) для соответствующих клиентов API и представившее новую технологию под названием Private Safety Processing. Это решение направлено на устранение компромисса между защитой от сложных угроз безопасности и правом клиентов на полный контроль над своими данными. Как отмечают представители компании, по мере усложнения задач, поручаемых ИИ, некоторые серьезные риски становятся очевидными лишь при анализе множества последовательных взаимодействий.
Эволюция систем безопасности
Традиционные системы безопасности, совместимые с политикой ZDR, оценивают каждое отдельное взаимодействие изолированно. Однако, по словам OpenAI, наиболее серьезные угрозы часто не проявляются в единичном запросе. Злоумышленники могут координировать атаки через несколько аккаунтов, подманивать систему, выдавая за рутинный исследовательский процесс, или заставлять агентов действовать вопреки первоначальному намерению, продолжая выполнение задач после получения команды остановиться.
Существующие требования некоторых клиентов разрешать провайдеру хранение чувствительного контента для мониторинга безопасности часто вступают в конфликт с их собственными обязательствами по кибербезопасности и защитой данных сотрудников или пациентов. Новые подходы к анализу контекста становятся критически важными для различения легитимной деятельности и злоупотреблений, особенно когда ИИ-агенты берут на себя долгосрочные и сложные задачи.
Как работает Private Safety Processing
Технология Private Safety Processing является эволюцией существующих автоматических мер защиты. В отличие от предыдущих решений, она позволяет автоматизированным системам выявлять паттерны поперек ряда взаимосвязанных взаимодействий, не предоставляя сотрудникам OpenAI доступа к исходному контенту.
Система функционирует в двух режимах хранения данных: 1. Инфраструктура клиента: В рамках развертываний ZDR контент остается на серверах, контролируемых клиентом. Системы безопасности анализируют потоки данных, возвращая ограниченные сигналы безопасности, не раскрывая промпты или ответы персоналу. 2. Инфраструктура OpenAI: Клиенты могут размещать данные на серверах компании, при этом все шифруется с использованием ключей, управляемых самим клиентом. У сотрудников OpenAI нет копий этих ключей, что делает невозможным доступ к содержимому даже в случае обнаружения риска.
При выявлении подозрительной активности система генерирует узкоспециализированный сигнал, указывающий лишь на тип активности и необходимость мер принуждения. Полная информация о запросе доступна только клиенту, который может самостоятельно расследовать инциденты или добровольно предоставить дополнительные детали для разбора спорных случаев.
Сотрудничество и доверие
Инициатива разработана с учетом отзывов клиентов из различных отраслей, включая финансовый сектор, здравоохранение и корпоративные исследования. Представители компаний, таких как Glean и Microsoft, подчеркивают, что принятие корпоративного ИИ зависит от гарантий полного контроля над данными и отсутствия их использования для обучения моделей без явного согласия.
Солнун Агравал (Sunil Agrawal), CISO компании Glean, отметил: «Принятие ИИ в корпоративном секторе зависит исключительно от контроля данных со стороны клиента. Никакого прямого или производного использования данных за пределами выбранной услуги. Отсутствие обязательств по обучению и политика ZDR дают нам уверенность в партнёрстве с OpenAI».
В настоящее время технология находится на стадии тестирования с группой раннеприсоединившихся клиентов. Technical white paper с детальным описанием архитектуры планируется к выпуску в сентябре 2026 года.
Важное примечание по законодательству
Стоит отметить, что политика Zero Data Retention не распространяется на контент, выявленный как потенциально являющийся детской сексуальной порнографией (CSAM). В соответствии с законодательными требованиями, такие изображения будут сохранять для последующего расследования и отчета, даже в рамках развертываний ZDR, как это практикуется и ранее.