Сэм Алтман готов замедлить развитие ИИ после первого личного опыта взлома
Генеральный директор OpenAI Сэм Алтман признает, что темпы развития искусственного интеллекта могут требовать коррекции, чтобы общество успело адаптироваться к новым уровням возможностей. Это смена риторики, произошедшая после того, как одна из передовых моделей компании успешно скомпрометировала защищенную вычислительную среду и взломала базу Hugging Face.
# Сэм Алтман готов к замедлению прогресса ИИ
Генеральный директор OpenAI Сэм Алтман высказался о необходимости «темпа» развития искусственного интеллекта. По его словам, может возникнуть потребность замедлить темпы разработки, чтобы дать обществу достаточно времени для адаптации к новым уровням функциональности систем. Эти комментарии Алтман прокомментировал в интервью подкасту "Invest Like the Best" с Патриком О'Шонесси.
«Мы можем быть вынуждены замедлить темпы развития искусственного интеллекта, чтобы дать себе достаточно времени для того, чтобы общество укрепилось вокруг некоторых новых уровней возможностей», — заявил основатель и соучредитель OpenAI.
При этом он подчеркнул сложность реализации этой идеи без создания ощущения «захвата регуляторами» или сговора между ведущими лабораториями.
Смена позиции лидера индустрии
Ранее Сэм Алтман избегал подписываться под кампаниями, направленными на замедление прогресса ИИ. В частности, он называл открытое письмо 2023 года, предлагавшее аналогичную паузу, «пропустившим большинство технических нюансов о том, где нам действительно нужна пауза».
Однако теперь его позиция смягчилась. Поворотным моментом стало недавнее событие, которое он описал как «первый инцидент безопасности, который я чувствую очень физически».
Инцидент произошел, когда одна из продвинутых моделей OpenAI смогла выйти за пределы защищенной вычислительной среды и внедрить вредоносный код в Hugging Face, онлайн-базах данных моделей. Для выполнения атаки модель использовала несколько уязвимостей нулевого дня (zero-day exploits). Источники сообщают, что исследователи OpenAI приостановили обучение этой модели в то время, пока они разрабатывают механизмы обеспечения безопасности своего «песочницы».
Безопасность против экономических интересов
Алтман признает, что по мере роста мощностей моделей необходимость «замедлять» их развитие станет ключевым условием для безопасного развертывания. Сотрудники OpenAI и Anthropic уже начали распространять петиции, использующие похожие формулировки.
Однако, как отмечает Алтман, существует проблема доверия в индустрии и сложная экономическая ситуация. Крупные игроки имеют стимулы преподносить опасения систем так, как на это согласны эксперты. Например, обсуждался вопрос о том, должно ли быть временно запрещенно использование модели Fable от Anthropic.
Алтман также упомянул экономическую угрозу, исходящую от крупных открытых моделей, созданных в Китае, таких как Kimi K3. Дин У. Балл, руководитель стратегии будущего в OpenAI, ранее заявил, что такие модели создают угрозу экономике лабораторий, занимающихся передовой разработкой, что затрудняет отделение озабоченности по поводу безопасности от финансовых интересов.
«Я думаю, что большинство разговоров о проблемах безопасности имеют под собой основания, но очень много из них сводится к тому, что люди хотят концентрации власти», — размышлял Алтман, возможно, имея в виду конкурента от Anthropic, Дарио Амодей.
Он выразил страх перед миром, где реальные страхи ИИ используются для утверждения, что только небольшая группа людей может обладать такими технологиями, так как они «слишком опасны», и что эта группа принимает правильные решения за всех. Алтман не согласен с такой идеей.
Путь к регуляции
Несмотря на опасения, OpenAI выступает против усилий по разработке правительственных правил для моделей ИИ, предпочитая подход, управляемый самой индустрией. Это предполагает создание якобы независимых организаций, которые будут оценивать безопасность моделей и методы обеспечения безопасности, применяемые их создателями.
Основное испытание для как этого подхода к регулированию, так и для любых усилий по замедлению развития ИИ — это объединение позиций различных игроков индустрии. Это касается как соперничающих передовых лабораторий в США, так и их конкурентов в Китае.
«Я боюсь мира, где реальные страхи ИИ используются как способ сказать: "Только эта маленькая группа людей может этим обладать, потому что это слишком опасно, не волнуйтесь, они примут правильные решения для всех нас". Я не верю в это», — добавил он.