Безопасность ИИ или картель? Бывший глава антимонопольного ведомства США отвергает идею исключения
Ведущие разработчики искусственного интеллекта, включая OpenAI и Anthropic, призывают к замедлению темпов развития и прослушивают о возможности получения антимонопольного иммунитета для координации усилий по обеспечению безопасности. Эксперты предупреждают о риске формирования картеля, однако бывший глава антимонопольного подразделения Министерства юстиции США Джонатан Кантер настаивает: безопасность продукции не требует сговора конкурентов, она должна быть результатом строгой государственной регламентации и ответственности производителей.
# Безопасность ИИ или картель? Эксперты разбирают новые требования технологических гигантов
Война за разработку мощнейших нейросетей перерастает в сложный конфликт между стремлением инноваторов к доминированию и растущими опасениями за будущее человечества. Исследователи из крупных лабораторий, таких как Anthropic и Google DeepMind, открыто заявляют, что текущие модели представляют реальную угрозу, а вероятность того, что ИИ нанесет непоправимый ущерб, оценивается некоторыми экспертами выше 10%. В ответ на эти заявления руководители компаний призывают к «замедлению фронта» (pace the frontier) и выдвигают экстраординарное требование: они просят предоставить им антимонопольное исключение.
Эта инициатива вызвала бурю критики. Критики аргументируют, что просьба о легализации сговоренных действий для «общей безопасности» по сути является попыткой создать картель, который будет монополизировать рынок, подавлять конкуренцию со стороны более дешевых открытых моделей, в частности китайских, и манипулировать регуляторами ради выгодного проведения первичного публичного размещения акций (IPO).
В этом контексте голос опыта становится尤为 важен. Джонатан Кантер, бывший глава антимонопольного подразделения Министерства юстиции США, который совместно с Линой Кан (Lina Khan) провел кардинальную реформу американской антимонопольной политики, выступая против гигантов вроде Google и Apple, дает неожиданный ответ на этот дилемму. Он прямо заявляет, что даже при самых доброжелательных интерпретациях мотивов компаний, они не должны получать специальные привилегии.
Зачем замедляться? «Дилемма заключенного» или лоббирование?
Состояние современной индустрии искусственного интеллекта Кантер описывает метафорой общества, придумавшего автомобили, но не установившего дорожную разметку, светофоры или правила остановки. Инноваторы боятся «выехать за пределы дороги» или «врезаться», но при этом сами не обладают достаточной информацией для безопасного движения без внешнего контроля.
Однако намерения компаний намеренно «замедляться» могут объясняться разными причинами, от искреннего страха до циничного расчета.
Кантер выдвигает два сценария:
1. Доброжелательная версия: Компании действительно воспринимают ситуацию как «дилемму заключенных». Они не доверяют друг другу, опасаясь, что если один замедлится, а другой продолжит гонку, первый потеряет лидерство. В этой ситуации им нужен внешний регулятор, который зафиксирует правила игры и заставит всех соблюдать их, чтобы никто не нес ответственность за глобальную катастрофу. 2. Циничная версия: Компании тратят колоссальные средства, «проливая кэш» в погоне за технологиями. Они осознают, что такие расходы не всегда окупаются, а темпы их роста могут не оправдать стоимость будущих акций при IPO. В этом случае просьба о регулировании — это способ согласовать снижение инвестиций и замедлить инновации, чтобы все игроки могли «отыграть» экономику бизнеса перед публичной торговлей без ожесточенной конкуренции.
В любом из этих случаев Кантер подчеркивает: даже если существует необходимость в координации, это не должно влиять на антимонопольное законодательство.
Безопасность — это не повод для сговора
Главный аргумент Кантера против идеи антимонопольного иммунитета прост и опирается на логику традиционной промышленности.
«Эти компании не должны координировать свои действия, чтобы поставлять безопасные и надежные продукты обществу», — заявляет он.
В качестве примера Кантер приводит аэрокосмическую отрасль. Если компания «Бог» опасается, что с самолета оторвется дверь, это не повод для того, чтобы договариваться с конкурентом «Эйрбас» о снижении темпов разработки. Проблема каждой из них самостоятельна. Она должна найти способ построить более безопасный самолет самостоятельно.
Аналогичная логика применяется к автомобилям: если вы выпускаете машины, которые взрываются на ходу, это вина вашей производственной цепочки, а не других автоконцернов. Вы должны исправить свою ошибку, а не договариваться о снижении темпов выпуска всех машин.
«В случае создания агентов ИИ, которые взламывают чужие технологии, ситуация не меняется», — рассуждает Кантер. Ответственность несет компания-разработчик, как и в случае, когда сотрудник компании нарушает закон. Если цифровые или бинарные агенты начинают совершать правонарушения, компанию, их выпустившую, можно и нужно удерживать в ответственности.
Единственное исключение, по мнению Кантера, — создание общедоступных репозиториев для обмена информацией о угрозах, таких как вредоносные боты. Подобные механизмы взаимодействия уже существуют в других отраслях и не требуют антиконкурентных преференций.
Ответственность и «роковая тюрьма» для агентов
Одним из самых острых вопросов в дискуссии стала концепция ответственности за действия ИИ. Если агент, созданный Meta Muse, намеренно атакует конкурента или причиняет вред третьим лицам, является ли виновата компания-разработчик?
Кантер отвечает твердо: «Да». Ответственность компании-работодателя за действия своих сотрудников и технологий должна быть однозначной. В случае, если ИИ совершает незаконные действия, компания должна понести последствия.
Он проводит параллель с недавним судебным процессом против Meta за проблемы с безопасностью детей в социальных сетях Facebook и Instagram. Тот случай прошел по линии «ответственности за продукты» (products liability). Компания выплатила огромную сумму компенсации, чтобы избежать дальнейшего судебного разбирательства.
«Этот подход сработал в деле против Meta, и это именно то, что нужно масштабировать на искусственный интеллект», — отмечает эксперт.
Кантер призывает Конгресс США прояснить законодательство, установив жесткие рамки ответственности. Пока что система работает медленно, а отсутствие ясных правил создает ситуацию, когда компании могут оправдывать небезопасные инновации отсутствием регуляторных ограничений.
Дорожная разметка: роль государства и законодателей
«Нужно положить дорожную разметку», — резюмирует Кантер. Это работа Конгресса, а не технологических компаний, которые сами пишут законодательные поправки ради лоббирования своих интересов.
Проблема заключается в том, что технологические гиганты, пока требуют регулирования для безопасности, одновременно активно лоббируют против него. Кантер указывает на системную дисфункцию: из-за таких факторов, как избирательное гиррмандинг (группировка избирателей) и закон Кеннетса Юнайтэд, Конгресс часто оказывается неспособен реагировать на вызовы быстро. В результате компании часто диктуют условия правительства.
Однако, по мнению эксперта, отсутствие действий законодателей не является оправданием для выпуска небезопасных продуктов.
Если вы считаете, что ваш продукт может уничтожить человечество, не запускайте его. Если он может взламывать системы других — вернитесь к чертежной доске и переработайте дизайн.
Кантер подчеркивает, что инновации, которые игнорируют безопасность с самого начала, являются асимметричными и опасными. История с социальными сетями служит примером: платформы научились эффективно связывать людей, но пренебрегли вопросами зависимости и ментального здоровья подростков. Ошибка того времени — отсутствие ответственности за продукт на этапе создания — не должна повториться с искусственным интеллектом.
В ближайшем будущем, по мнению Кантера, общество столкнется с необходимостью найти баланс между стимулированием инноваций и введением жестких стандартов безопасности. Если Конгресс не сможет выполнить свою работу в кратчайшие сроки, ответственность за «наведение порядка» неизбежно ляжет на плечи самих компаний через механизмы гражданской ответственности.