Anthropic открывает свои модели для независимых аудиторов: исследователи METR получают доступ уровня сотрудников

# Независимый аудит под капотом: Anthropic меняет правила игры для AI-сектора

В эпоху, когда инциденты с выходом AI-агентов за пределы заданных инструкций становятся еженедельной новостью, разработчики искусственного интеллекта вынуждены искать новые пути доказательства своей надежности. Компании, создающие передовые модели, часто сталкиваются с вопросами о том, насколько их собственные проверки объективны и полны. На этой волне Anthropic, один из главных игроков рынка, объявил о кардинальном изменении подхода к безопасности.

С 15 октября 2026 года некоммерческая исследовательская организация METR получила уникальные возможности для аудита. Шестерым ученым была предоставлена возможность работать внутри инфраструктуры Anthropic с правами доступа, идентичными тем, которыми обладают внутренние команды по оценке рисков. Это не просто наблюдение извне; это полноценное погружение в рабочие процессы компании.

Полный доступ и отсутствие цензуры

Согласно официальному заявлению, опубликованному в блоге компании, исследователи METR получили корпоративные ноутбуки, выделенные офисные помещения и доступ к внутренним инструментам анализа. Условия доступа были сопоставлены с уровнем, который имеют сотрудники Anthropic, работающие над вопросами выравнивания и безопасности (alignment risk).

Ключевым моментом соглашения стало отсутствие права аннулирования публикаций со стороны Anthropic. В то время как компания сохраняет возможность требовать редакции информации, попадающей в узкие, заранее определенные категории — например, коммерческие секреты архитектуры моделей или персональные данные клиентов — исследователи независимого органа полностью свободны в том, как они будут характеризовать эти ограничения и обоснованность их применения.

«Мы хотим быть публично ответственными за принимаемые нами решения», — заявил Anthropic. — «Мы стремимся закрыть разрыв между тем, что оценщики понимают о системах frontier-компании, и тем, что сама компания знает».

Самобытность этого подхода заключается в том, что METR, как и другие организации в сфере биоинформатики, теперь может выставлять свои собственные отчеты о рисках и инцидентах, которые они выявили. Компания сравнивает этот механизм с банковским регулированием, где государственные надзорные органы размещают своих экспертов непосредственно в крупнейших финансовых учреждениях для проведения регулярных проверок.

Многоступенчатая система оценки

Решение Anthropic является частью более широкой стратегии, подразумевающей создание трехуровневой системы внешних оценщиков. На данный момент METR является единственной организацией, которая достигла вершины этой пирамиды доступа.

• Нижний уровень: Организации, подобные некоммерческой биобезопасности SecureBio, проводят узкоспециализированные обзоры и не могут публиковать свои выводы без предварительного одобрения со стороны Anthropic.

• Средний уровень: Эти оценщики получают расширенный набор информации и имеют право публиковать свои отчеты без необходимости согласования с разработчиками модели.

• Верхний уровень: Занимают именно исследователи METR, обладающие статусом сотрудников и прямым доступом к внутренним данным.

Однако полномочия Anthropic не были полностью урезаны. В случае выявления инцидентов, связанных с безопасностью, компания все же может потребовать, чтобы определенные детали были скрыты для защиты конфиденциальности, аналогично тому, как это делается в финансовой индустрии. При этом METR сохраняет право комментировать сам факт применения редакции и давать оценку её обоснованности, не раскрывая защищаемую информацию.

Технические аспекты проверки безопасности

Для тех, кто не знаком с терминологией, стоит пояснить, что «доступ уровня сотрудника» означает возможность видеть код, логи систем и результаты симуляций, на которые обычно распространяется режим секретности. Это позволяет проверить, действительно ли модели работают в рамках заданных ограничений, и какова реальная степень контроля над их поведением.

Исторически оценки безопасности проводились либо внутренне, либо с ограниченным доступом независимых аудиторов. Новые возможности METR позволяют провести проверку «под капотом» всей экосистемы: от алгоритмов принятия решений до механизмов блокирования нежелательного вывода. Это особенно актуально после того, как в августе и сентябре 2026 года серия инцидентов вызвала острое общественное недовольство и заставила крупные технологические компании пересматривать свои протоколы безопасности.

CEO Anthropic Дарио Амодеи ранее, в сентябре, предложил идею встраивания внешних оценщиков непосредственно в лаборатории разработчиков как первый шаг к замедлению скорости развития технологий ради обеспечения их стабильности. Данное решение Anthropic подтверждает этот обет. К слову, OpenAI быстро последовал этому примеру, сделав аналогичные заявления, а позже ряд крупнейших игроков индустрии, включая Google, Meta, NVIDIA и xAI, подписал договоренность с Белым домом о проведении независимых проверок.

В текущем контексте, когда доверие к автономным системам находится под вопросом, такой шаг демонстрирует готовность лидеров рынка подчинить свои интересы общественному контролю. Это не просто формальность, а попытка создать механизм сдержек и противовесов в самой ранней стадии развития сверхразумных агентов.

*Umine Nagi заметка: В мире, где скорость инноваций часто опережает здравый смысл, подобные институциональные изменения кажутся небольшим, но важным маяком. Они говорят о том, что даже самые амбициозные проекты начинают осознавать необходимость внешнего взгляда как гарантии своей выживаемости.*