Эксперты Hinton, Ли и Нг призывают сохранить открытость в разработке искусственного интеллекта
Несмотря на растущие опасения безопасности, три видных лидера искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, Фей-Фэй Ли и Эндрю Нг — выступили на конференции Ai4 в Лас-Вегасе с единым мнением: контроль над развитием технологии со стороны ограниченного числа компаний замедляет прогресс. Их дискуссия, прошедшая на фоне усиления китайских позиций в Азии, показала, что путь к безопасному ИИ лежит через баланс между регулированием, открытым доступом и разнообразием игроков на рынке.
# Открытость vs. Контроль: Диалог трех гигантов искусственного интеллекта
В мире искусственного интеллекта разгорается новый спор. С одной стороны, проекты вроде «Pacing the Frontier» призывают лаборатории ужесточить контроль над разработкой для обеспечения безопасности. С другой — на конференции Ai4 в Лас-Вегасе три автора современных нейросетей заявили, что закрытие доступа к моделям не только не решит проблему, но и создаст монополию.
В дискуссии приняли участие Джеффри Хинтон, получивший Нобелевскую премию по физике, Фей-Фэй Ли, глава World Labs, и Эндрю Нг, основатель Coursera. Хотя их взгляды на тактику регулирования различались, они сходились в главном: нельзя допустить, чтобы несколько крупных корпораций стали «шлюзами», контролирующими доступ к технологиям будущего.
Почему монополия опаснее, чем открытый код
Андрю Нг выразил тревогу по поводу повторения сценария мобильного рынка. На платформах Apple и Google инновации замедляются, так как создатели операционных систем влияют на то, какие приложения будут работать на их устройствах. Нг опасается аналогичной ситуации в ИИ.
«Я не хочу, чтобы появились шлюзы. Это ограничивает доступ всех нас к искусственному интеллекту», — отметил он.
Компании, стремясь сохранить конкурентные преимущества, могут влиять на правила индустрии в свою пользу. Это приведет к тому, что только крупнейшие игроки с неограниченными ресурсами смогут создавать передовые системы. Решение Нга простое и радикальное: сохранять открытость и стимулировать конкуренцию между множеством провайдеров. «Искусственный интеллект — удивительная технология, и я хочу, чтобы она была в руках каждого», — добавил он.
Различие между открытым кодом и открытыми весами
Не все эксперты разделяют оптимизм Нга относительно открытых весов (open-weight) моделей. Джеффри Хинтон провел четкую границу между открытым исходным кодом и открытыми весами.
Открытый код позволяет проверить исходный программный код, найти ошибки и улучшить алгоритм. Открытые веса — это параметры уже обученной модели, которая может быть использована без доступа к исходному коду.
«Открытый код хорош, люди находят ошибки. Но открытые веса — другое дело», — сказал Хинтон. «Я был против открытости весов, потому что это позволяет людям брать дорогие фундаментальные модели и за меньшие деньги обучать их на злонамеренные цели, например, для кибератак».
Однако Хинтон признал, что эта битва уже проиграна. Барьер высокой стоимости обучения фундаментальных моделей исчез. Открытые веса стали фиксированным элементом экосистемы ИИ. «Сейчас слишком поздно. Мы имеем дело с реальностью, в которой барьер для получения этих моделей исчез», — констатировал он.
Несмотря на риски, Хинтон остается сторонником развития ИИ, считая, что это приведет к росту производительности и улучшению в сфере образования и здравоохранения. Он считает несправедливым называть пессимистов страхом, однако подчеркивает, что оставлять развитие ИИ на произвол владельцев частных компаний вроде Илона Муска или Марка Цукерберга нельзя.
Геополитика и вопрос эффективности
Андрю Нг сместил фокус дискуссии с чистоты кода на геополитику и экономику. Если бы открытые модели из Китая получили широкое распространение в Азии, Африке и развивающемся мире, это дало бы Пекину влияние на миллиарды людей, сталкивающихся с идеями о демократии и правах человека.
«Искусственный интеллект — мощный источник мягкого влияния. Китай демонстрирует выдающиеся результаты в Африке», — заметил Нг. Его опасение заключается в том, что лоббирование и страх в США мешают развитию открытого ИИ в американских компаниях. Если китайские компании найдут более дешевый способ создания моделей, бизнесу будет выгоднее использовать их продукты.
Нужен баланс, а не дихотомия
Фей-Фэй Ли выступила против черно-белого видения проблемы. Она призвала отказаться от дихотомии «полная открытость против полной закрытости». В сложных технических системах, как и в науке, нужны нюансы.
Ли привела пример ядерной физики: научные статьи публикуются открыто, но уран строго регулируется, а лабораторные работы находятся посередине. Она также сослалась на Геномный проект, где сотрудничество публичных и частных институтов создало платформу для заработка фармацевтических компаний и прогресса науки одновременно.
«Мы должны использовать ИИ в качестве инфраструктуры», — сказала Ли. «Нам нужны определенные уровни открытости в науке, образовании и глобальном партнерстве, а также прибыльные бизнес-модели для предпринимателей. Мы примем и закрытые системы. Этот разговор, особенно на уровне "мы можем терпеть только одно", — ложная дилемма. Нам нужна тонкость».
Все три эксперта согласились в необходимости регулирования, но его формулировка должна помогать людям, а не ограничивать их. Безопасность ИИ должна стать результатом коллективной работы, а не диктата нескольких корпораций или запретов.
*«Важно не то, чтобы мы могли лишь терпеливо наблюдать, когда кто-то решает, что делать. Нам нужно направлять развитие в сторону, помогающую обществу»,* — подчеркнул Хинтон.
Эта дискуссия в Лас-Вегасе показала, что сообщество ИИ ищет не запрет технологий, а архитектуру, которая предотвращает монополизацию и сохраняет инновационный драйв при обеспечении безопасности.