Гэвин Ньюсом требует «рычаг выключения» для искусственного интеллекта: Калифорния выходит в лидеры регуляции
Губернатор Калифорнии Гэвин Ньюсом подписал новый исполнительный приказ, направленный на усиление государственного надзора за системами искусственного интеллекта. В центре внимания плана — требование к создателям передовых моделей внедрять механизм «рычага выключения» (kill switch), а также привлечение независимых аудиторов для регулярной проверки безопасности алгоритмов. Пока федеральный уровень остаётся в тени из-за политических разногласий, Калифорния формирует модель регулирования, призванную стать эталоном для всей США.
# Калифорния устанавливает стандарт безопасности для искусственного интеллекта
Губернатор Калифорнии Гэвин Ньюсом объявил о новом стратегическом подходе к регулированию технологий. Исполнительный приказ, подписанный в пятницу, 18 сентября 2026 года, ставит перед штатом амбициозную цель: превратить Калифорию в лидера по вопросам надзора за искусственным интеллектом (ИИ). В документе明确提出 возможность введения обязательного «рычага выключения» для так называемых «граничных моделей» (frontier models) — систем, обладающих способностью генерировать контент и решать задачи на уровне, близком к человеческому или превышающем его.
Новый заказ от губернатора требует от государственной власти сформировать группу экспертов, которая в течение двух месяцев должна разработать рекомендации по усилению мер безопасности в штатном законодательстве. Группа обязана рассмотреть несколько критически важных аспектов, среди которых создание независимых верификационных групп, которые будут работать на местах компании-разработчика и проводить регулярные аудиты.
Независимый аудит и прозрачность
Одна из ключевых задач, поставленных перед экспертной комиссией, — обеспечение прозрачности работы компаний в области ИИ. Ньюсом предлагает сделать отчеты о прозрачности и оценки рисков предметом стандартов независимых аудиторов. Это означает, что внутренние проверки, проведенные самими разработчиками, могут быть признаны недостаточными.
Государство должно обеспечить возможность проверки того, что механизмы безопасности, такие как «рычаг выключения», функционируют так, как задумано. Кроме того, в документ вписано требование отчитываться о любых инцидентах потери контроля. В качестве примера Ньюсом cites атаку на платформу Hugging Face со стороны сотрудников OpenAI, произошедшую в 2023 году, называя подобные события критическими инцидентами безопасности, требующими немедленного уведомления регуляторов.
Также приказ ускоряет внедрение двух законов, подписанных ранее губернатором. Один из них создает правовую основу для независимых верификаторов, оценивающих безопасность ИИ, а второй формирует реестр сертифицированных аудиторов штата. Это решение призвано устранить правовой вакуум и дать четкое понимание того, кто имеет право оценивать риски передовых технологий.
Что такое «рычаг выключения»?
Термин «kill switch» (или «рычаг выключения») в контексте ИИ обозначает технический механизм, позволяющий полностью остановить работу системы в случае обнаружения критических угроз безопасности, выхода из-под контроля или нарушения этических норм. В отличие от простых фильтров контента, такой механизм предназначен для экстренной деактивации, когда потенциальный ущерб превышает допустимые пределы. Ньюсом настаивает на том, чтобы такие механизмы не просто существовали на бумаге, но и были регулярно проверяемы на эффективность независимыми третьими лицами.
Политический контекст и позиция Вашингтона
Инициатива Ньюсима возникла на фоне стагнации федерального законодательства. В Конгрессе США дебаты о регулировании ИИ идут уже давно, однако вероятность принятия实质性 закона в ближайшее время оценивается как низкая. Палата представителей находится в отпуске до ноября, а предстоящие промежуточные выборы делают продвижение масштабной законодательной повестки в Сенате крайне затруднительным. Ситуация усугубляется политизированным отношением к технологиям со стороны администрации президента Дональда Трампа, который ранее заявлял, что искусственному интеллекту нужны только «умные» ограничения со стороны сильного лидера.
В ответ на эту ситуацию Ньюсом позиционирует калифорнийскую модель не как локальную меру, а как пример для федерального законодателя. «Федеральное правительство абсолютно провалило создание какой-либо формы значимого надзора или подотчетности за ИИ», — заявил губернатор. Он призывает Конгресс и президента рассмотреть созданную в Калифорнии систему и либо принять ее, либо использовать как минимумный стандарт (floor) для национальных правил, которые должны обеспечивать безопасность всех американцев.
Новый приказ также содержит призыв к быстрому принятию мер. «Мы не ждем действий — мы ускоряем работу над серьезным и ответственным надзором за ИИ, пока не стало слишком поздно», — подчеркнул Ньюсом. Он намерен действовать «обдуманно, но с неотложной скоростью», учитывая высокие ставки.
Ранее, в интервью изданию Politico, губернатор уже обсуждал возможность созыва специального законодательного сессии в штате специально для рассмотрения вопросов ИИ. Если эксперты не предложат приемлемых решений в течение двух месяцев, калифорнийские законодатели могут рассмотреть дополнительные исполнительные действия. Ньюсом подчеркивает, что этот процесс должен быть быстрым, так как технологический ландшафт меняется стремительно, и ждать федерального решения может быть слишком рискованно.
Экспертиза, формируемая по новому приказу, должна также учитывать предупреждения ведущих исследователей отрасли. В частности, упоминается пост бывшего сотрудника Anthropica Джейкоба Коксона, который предупредил о 10-процентном шансе того, что ИИ «может убить всех людей» в течение десяти лет. Хотя эти прогнозы остаются предметом споров внутри сообщества, они послужили катализатором для действий Ньюсима, который хочет показать, что штат готов действовать даже без согласования с федеральными властями.