Переговоры о регулировании искусственного интеллекта зашли в тупик: от консенсуса до хаоса
Напряженность вокруг регулирования искусственного интеллекта резко возросла. Если лишь несколько недель назад ведущие компании-разработчики, включая Anthropic и OpenAI, публично поддерживали идею создания индустриального регулятора, то к середине сентября их позиции изменились. В то время как представители индустрии ищут компромисс, администрация президента Трампа, наоборот, заявляет, что риски, связанные с «роботами, захватывающими мир», являются конспирологическими выдумками, и утверждает, что текущих мер безопасности достаточно.
# Разногласия среди лидеров индустрии ИИ
Ситуация вокруг регулирования искусственного интеллекта выглядит противоречивой. В начале сентября многие из самых влиятельных лиц в секторе, таких как Дарио Амодеи (CEO Anthropic), Сэм Альтман (CEO OpenAI), Демис Хассабис (сооснователь Google DeepMind) и Илон Маск, казались сторонниками мер контроля. Амодеи предложил план, включающий привлечение независимых оценщиков в лаборатории, внутреннюю координацию и международные соглашения при поддержке правительства.
Однако к выходным ситуация изменилась. Влиятельные фигуры, такие как Марк Цукерберг (CEO Meta) и Джон Хенли (бывший директор по технологиям в DHS), высказались против ограничения автономности компаний. По данным The Wall Street Journal, эти лидеры фактически отменили предложения о создании частного регулятора по типу FINRA (регулятор финансового рынка) для управления сектором ИИ. Цукерберг считает, что каждая лаборатория должна сама нести ответственность за скорость и безопасность своих моделей, ссылаясь на то, что у них есть необходимые стимулы и ресурсы.
Различие подходов: безопасность versus инновации
Некоторые наблюдатели сравнивают текущую ситуацию с развитием других технологий, таких как электричество, автомобили или авиация. В эти периоды отрасли неизбежно проходили через «дикие и необузданные» этапы, после чего устанавливались стандарты безопасности, сделавшие технологии доступными для масс. Инвестор из венчурного фонда, пожелавший остаться анонимным, считает, что ИИ требует такого же подхода.
На другой стороне находится администрация президента США Дональда Трампа. Его позиция резка: он называет страхи перед ИИ «мошенничеством» (hoax). В своих заявлениях и постах в социальных сетях Трамп утверждает, что единственные необходимые ограничения — это «крепкие и умные» президентские указы. Он также отрицает, что роботы когда-либо смогут захватить человечество, называя подобные сценарии вымыслом.
Эксперты указывают на странность этой позиции, учитывая, что первая администрация Трампа уже подписала исполнительный указ № 13960, который был направлен на защиту приватности и гражданских прав в контексте ИИ. Ник Риз, доцент NYU и бывший директор по политике в области новых технологий в Департаменте homeland безопасности, отмечает, что позиция президента изменилась всего за шесть лет. По его словам, безопасность ИИ требует не только интеллектуальных способностей одного избранного чиновника, но и системного подхода.
Проблема регулирования и будущее отрасли
Хотя администрация Трампа отрицает необходимость жестких рамок, называя их «конспирацией», эксперты полагают, что позиция Белого дома может быть непоследовательной. Зви Мошшоуц, блоггер по вопросам ИИ, считает, что президент движим скорее «чувствами», чем последовательной политикой, и не верит в существование экзистенциальных рисков в том виде, в котором они преподносятся.
Главная проблема, по мнению специалистов, заключается не в физических роботах, которые могут причинить вред людям, а в том, что современные системы ИИ уже сейчас могут наносить ущерб обществу. Риз сравнивает регулирование ИИ с регулированием финансового сектора или авиаотрасли: там действуют механизмы качества и обеспечения безопасности, чтобы исключить катастрофические сбои. Если же ИИ оставить без таких мер, это может привести к системным кризисам.
В то время как индустрия пытается найти баланс между инновациями и безопасностью, общественное давление растет. Протесты и призывы к бойкоту усиливают требования к созданию четких национальных стандартов. Пока же политическая конъюнктура в США остается нестабильной, а позиция администрации — «шаткой и противоречивой». Это создает неопределенность для разработчиков, которые пытаются предугадать, какие меры безопасности станут обязательными в будущем.
*В мире технологий иногда кажется, что инновации важнее безопасности, но история учит нас, что именно стандарты делают технологии надежными и полезными для всех. Игнорирование этой дилеммы может дорого обойтись обществу.*