Представитель Конгресса Ро Кханна ищет международный договор по безопасности ИИ между США и Китаем
Сенатор-демократ Ро Кханна, ведущий на Комитете Палаты представителей по Китаю, ищет решения по снижению рисков искусственного интеллекта. Он призывает к переговорам между Вашингтоном и Пекином, предлагая создание договора, который ограничит гонку вооружений в сфере сверхразума и потребует инспекций независимыми агентствами.
# Договор по ИИ: Попытка найти общий язык между США и Китаем
В преддверии встречи президента США Дональда Трампа с лидерами технологической индустрии в Вашингтоне, внимание законодателей переключается на более глубокие вопросы глобальной безопасности. Представитель демократической партии Ро Кханна выступил с инициативой создания двустороннего договора между Соединенными Штатами и Китаем. Целью этого соглашения является предотвращение катастрофических последствий неконтролируемого развития искусственного интеллекта.
Кханна считает, что текущие усилия по регулированию, включая недавнюю встречу Трампа с китайским лидером Си Цзиньпина, не обладают достаточной серьезностью. Он утверждает, что хотя лидеры обеих стран согласились обсуждать тему ИИ, эти разговоры остаются недостаточными для решения реальных угроз, связанных с созданием суперинтеллекта.
Запрос на оценку готовности к катастрофическим сценариям
В письмах, направленных исключительно изданию The Verge, Кханна обратил внимание как к американским органам разведки, так и к ведущим китайским компаниям. Сенатор спрашивает, готовы ли эти организации к инцидентам, подобным взлому платформы Hugging Face агентами ИИ, произошедшим этим летом.
Адресаты запроса включали DeepSeek, Alibaba и Moonshot AI — компании, активно развивающие передовые модели искусственного интеллекта. Параллельно Кханна попросил Управление директора национальной разведки (ODNI) оценить, как США могли бы реагировать в случае потери контроля над лабораторией ИИ, а также изучила подходы китайского правительства к оценке катастрофических рисков.
«Американские и китайские интересы не могут быть более разными во многих вопросах, — написал Кханна в письме директору ODNI Джее Клейтону. — Но в этом конкретном вопросе это выгодно ни той, ни другой стране, чтобы человечество потеряло контроль над своей судьбой».
Требования к прозрачности и механизмам контроля
Письма, адресованные китайским разработчикам, содержат запросы на документацию, касающуюся их усилий по достижению «суперинтеллекта» и рекурсивного самоусовершенствования (RSI). Этот термин обозначает стадию, на которой системы искусственного интеллекта способны самостоятельно улучшать свои алгоритмы без прямого участия человека, что создает риски выхода из-под контроля.
Сенатор также интересовался наличием мер безопасности, включая так называемые «выключатели смерти» (kill switches), которые позволяют принудительно останавливать работу систем в критических ситуациях. Кханна предложил вариант, при котором в случае подписания договора китайские компании соглашались бы на инспекции со стороны неправительственных агентств.
Компании и ODNI не ответили на запросы о комментариях, переданные через The Verge. Кханна признает, что полный ответ на его запросы маловероятен, однако его стратегия направлена на то, чтобы «постыдить» китайские компании и спровоцировать внутреннюю дискуссию о безопасности среди разработчиков в Китае.
Политический контекст и скептицизм лидеров
Попытка Кханна достичь консенсуса сталкивается с существенными политическими препятствиями. Он критически относится к стилю переговоров президента Трампа, отмечая, что тот сохраняет текущую траекторию развития технологий, не желая вносить существенных изменений. «Я хочу оставить это ровно там, где это сейчас. Это позиция Китая тоже», — написал Трамп в соцсети Truth Social утром перед встречей с Си Цзиньпином.
Говоря о предстоящих консультациях в Вашингтоне, Кханна сомневается в их эффективности, называя их попыткой лишь убедить американское общество в ответственности технологических гигантов. Он приводит аргумент о конфликте интересов: «Почему мы должны доверять компаниям, у которых есть мотивация максимизировать прибыль, чтобы они устанавливали правила безопасности? Не то чтобы они были плохими людьми, но вы бы доверились фармацевтическим исполнительным директорам в определении правил безопасности лекарств?»
Однако Кханна также критикует ведущих американских компаний за то, что они ранее просили Вашингтон координировать действия с Китаем для замедления темпов развития ИИ. При этом он полагает, что стандарты безопасности будет устанавливать именно США, учитывая, что многие китайские модели обучаются на основе данных или архитектур, полученных из американских разработок.
Почему это важно
Ключевой идеей Кханна является смещение фокуса обсуждения с уровня корпораций и политиков на уровень технических специалистов. Он считает, что именно инженеры, понимающие нюансы алгоритмов, должны вести диалог о рисках, а не CEOs, заинтересованные в прибыли, или политики, чья компетентность может быть подвергнута сомнению в технических вопросах. Несмотря на то, что реализация предложенного договора кажется отдаленной задачей, инициатива демонстрирует растущее беспокойство законодателей о том, что гонка вооружений в сфере ИИ может привести к непредсказуемым последствиям для всего человечества.