Закон о запрете искусственной сверхразумности: США предлагают ввести уголовную ответственность за создание AI
Сенатор Берни Сандерс и конгрессмен Грег Касар внесли в Палату представителей законопроект, который фактически запрещает разработку искусственной сверхразумности (superintelligence). Документ квалифицирует создание такой технологии как акт, способный к уничтожению или обесправлению человечества, и предусматривает за ее разработку до 20 лет тюремного заключения. Кроме того, закон требует полного моратория на создание передовых моделей ИИ до момента создания специализированного ведомства.
# Законопроект о запрете искусственной сверхразумности: США предлагают ввести уголовную ответственность за создание AI
В США набирает обороты дискуссия о регулировании искусственного интеллекта. Сенатор Берни Сандерс из штата Вермонт совместно с представителем Грегу Касаром из Техаса представили новый законопроект — Ban Artificial Superintelligence Act. Инициатива направлена на жесткое ограничение развития технологий, которые могут выйти из-под контроля человека.
Что такое «искусственная сверхразумность» и почему ее хотят запретить
В тексте законопроекта термин «искусственная сверхразумность» (artificial superintelligence) определяется как технология, способная привести к «уничтожению или обесправлению человечества». Авторы законопроекта указывают, что такие системы могут совершить переворот в государственном устройстве или причинить непоправимый вред обществу.
Сенатор Сандерс в пресс-релизе заявил: «Когда будущее человечества на кону, мы не можем допустить, чтобы handful Big Tech-боссы писали свои собственные правила». Это заявление отражает тревогу законодателей перед возможными последствиями неконтролируемого развития ИИ.
Важно отметить, что термин «сверхразумность» в данном контексте используется не просто как метафора, а как юридическая квалификация угрозы. Президент США Дональд Трамп также упоминал, что официальными документами в США планируется начать заменять аббревиатуру «AI» на фразу «сверхразумность», что подчеркивает политическую значимость темы.
Мораторий на передовые модели и создание нового ведомства
Законопроект направлен не только на запрет создания сверхразумности, но и на временную паузу в разработке так называемых frontier models (передовых моделей). Эти системы обучаются на специфическом пороговом объеме данных и обладают способностью к автономному улучшению своей архитектуры.
Согласно предложению, развитие таких моделей должно быть приостановлено до момента создания нового правительственного органа — Управления искусственного интеллекта (Department of Artificial Intelligence). Это ведомство, в отличие от текущих агентств, должно состоять из ученых и экспертов, а не только бюрократов. Его функции включают:
* Мониторинг передовых моделей ИИ. * Контроль за удалением опасных функций из алгоритмов. * Надзор за уничтожением систем, классифицируемых как искусственная сверхразумность.
Разработка новых моделей передового уровня будет разрешена только после получения специального разрешения от созданного Управления искусственного интеллекта.
Угроза тюремного заключения для разработчиков
Одним из самых радикальных элементов законопроекта является уголовная ответственность. Лица, занимающие руководящие должности в компаниях, разрабатывающих ИИ, а также так называемые «одиночные акторы» (rogue actors), которые не работают в корпорациях, но создают опасные системы, грозится наказание.
За нарушение закона, в частности за продолжение разработки искусственной сверхразумности, предусматривается срок тюремного заключения до 20 лет. Законодатели сравнивают строгость этих санкций с мерами наказания за незаконную разработку ядерного оружия. В сопроводительном документе к законопроекту указано: «Это наказание аналогично существующим санкциям за незаконную разработку ядерного оружия».
Контекст и предпосылки регулирования
Инициатива Сандерса и Касара возникла на фоне растущей тревоги в обществе и среди экспертов по поводу темпов развития искусственного интеллекта. Ранее в этом году исследователь, работавший в компании Anthropic, высказал мнение, что существует вероятность более 10%, что ИИ может «убить всех людей» к концу десятилетия.
Попытки усилить контроль предпринимались и на уровне штатов. Например, губернатор Калифорнии Гэвин Ньусом недавно предложил внедрить механизм «kill switch» (выключающее устройство) для передовых моделей, позволяющий мгновенно отключать систему в случае чрезвычайной ситуации.
Сандерс подчеркивает необходимость срочных действий: «Когда вы несетесь к обрыву, вы не просто ослабляете газ. Вы нажимаете на тормоз». Однако, как отмечают аналитики, регулирование все еще находится в стадии формирования, и степень его жесткости может быть предметом будущих политических дискуссий.
*Примечание редакции: В тексте упоминается вероятность летального исхода человечества. Это прямая цитата или пародия на цитату бывшего исследователя Anthropic, приведенная в источнике, отражающая пессимистичный сценарий, о котором говорят эксперты, а не утверждение о том, что это неизбежно произойдет.*