Dario Amodei: Открытые модели — это благо, но главная угроза исходит от авторитарных режимов
Основатель и главный исполнительный директор Anthropic Дарио Амодей прояснил позицию компании в дискуссии вокруг открытых моделей ИИ и китайских технологий. Хотя он не поддерживает идею тотального запрета на открытые веса, Амодей выражает серьезную обеспокоенность относительно способности авторитарных правительств, прежде всего Китайской Народной Республики, использовать искусственный интеллект для достижения военного превосходства или подавления населения.
# Открытые модели как общественное благо: позиция Anthropic в условиях геополитической напряженности
В июле 2026 года индустрия искусственного интеллекта продолжает находиться в центре острых дискуссий. На фоне сообщений о возможном поддержке правительствами США запретов на открытые китайские модели, Дарио Амодей, лидер компании Anthropic, выступил с категоричным заявлением. Его позиция четко отделяет технические характеристики открытых алгоритмов от геополитических рисков, связанных с происхождением данных и целями их использования.
Амодей подчеркнул, что Anthropic никогда не выступала в поддержку запретов на модели с открытыми весами. Напротив, он считает, что те из них, которые не обладают опасными capabilities (функциональными возможностями), представляют собой общественное благо. Доступ к таким моделям позволяет предприятиям, разработчикам и исследователям использовать вычислительные ресурсы эффективно, не неся дополнительных затрат на их приобретение, поскольку они не требуют лицензионной оплаты за саму архитектуру. Это способствует прогрессу в научной среде и развитию коммерческих приложений.
Однако контекст, в котором эти модели существуют, является критически важным. Амодей объяснил, что его опасения связаны не с технологией как таковой, а с тем, кто ее контролирует и ради каких целей она используется. Он отметил, что авторитарные режимы обладают потенциалом создавать модели, превосходящие американские аналоги, для достижения "постоянного военного превосходства" или для подавления собственного населения.
Технические аспекты: что такое дистилляция и открытые веса
Для понимания позиции Амодея необходимо разъяснить несколько технических терминов, которые регулярно возникают в новостях об ИИ. "Открытые веса" (open-weights) — это архитектура модели, параметры которой доступны для публичного изучения и использования. Это противопоставляется полностью закрытым моделям (closed models), доступ к которым предоставляется только через облачный API, где пользователь не видит внутреннюю логику алгоритма.
Другой важный термин — "дистилляция". Этот процесс часто становится объектом споров. В контексте разработки ИИ дистилляция означает атаку, при которой один мощный искусственный интеллект "допрашивает" другой, задавая миллионы вопросов, чтобы понять, как работает его предшественник, и скопировать его знания или архитектуру. Амодей указал на то, что Китайские лаборатории, по некоторым данным, используют этот метод для быстрого приобретения знаний, защищенных интеллектуальной собственностью в США.
Существует важный нюанс, который часто упускается из виду. Разработчики открытых моделей полагают, что децентрализованный доступ к мощным алгоритмам помогает защитникам системы. Однако Амодей предупреждает, что для авторитарных правительств это не так. Свободное распространение открытых моделей затрудняет применение "ограничивающих барьеров" (guardrails) — механизмов безопасности, предотвращающих генерацию вредоносного контента или выполнение опасных команд. Кроме того, в отличие от закрытых моделей, открытых нельзя изъять или отозвать после их выпуска. Если модель с открытыми весами попадает к злоумышленникам, контроль над ней теряется навсегда.
Геополитика и биологические угрозы
Дарио Амодей выразил опасения по поводу возможности использования искусственного интеллекта для создания биологических атак. Эта проблема выходит за рамки традиционной кибербезопасности, но касается непосредственной защиты человечества от пандемий и биологического оружия. Он считает, что открытые модели в этом контексте особенно опасны из-за невозможности мониторинга их использования или установки ограничений.
В своем блоге Амодей поддержал идею создания глобальной организации по тестированию безопасности ИИ. Он отметил, что такая инициатива могла бы получить широкое признание, если бы все страны, включая Китай, согласились участвовать в процессе. Он с удовлетворением noted, что администрация Трампа (в контексте событий 2026 года) уже делает шаги в этом направлении. Амодей надеется, что ограничение доступа к мощным чипам и официальное расследование практики дистилляции могут стать эффективными мерами против недобросовестных конкурентов.
Его позиция демонстрирует баланс между поддержкой открытости в научной среде и признанием необходимости глобальной безопасности. Для Anthropic это означает отказ от тотальных запретов в пользу точечных мер, направленных на противодействие реальным угрозам, таким как военное превосходство авторитарных режимов или биологический терроризм. Таким образом, компания остается верна своему миссию безопасности, не ограничивая при этом инновационный потенциал человечества.