Сотрудник OpenAI уходит, заявляя о системном кризисе в индустрии ИИ
Дэвид Робинсон, эксперт по безопасности в OpenAI, написал отчётные документы перед каждым запуском крупной модели, но теперь официально покинул компанию. В редакционной статье он утверждает, что культура Silicon Valley фундаментально сломлена безудержным оптимизмом и скоростью, и призывает к введению «ядерных» мер безопасности, сопоставимых с процедурами на атомных электростанциях или в аэропортах.
# Исходный сигнал изнутри: почему сотрудник OpenAI уходит и требует новых стандартов безопасности
В центре внимания индустрии искусственного интеллекта произошло событие, отразившее накопившееся напряжение между скоростью разработки и необходимостью обеспечения безопасности. Дэвид Робинсон, сотрудник, отвечавший за написание критически важных отчётов о безопасности для каждого значимого выпуска моделей в OpenAI, подал в отставку. На фоне растущего числа подобных увольнений, его голос звучит особенно резонансно.
Робинсон теперь выступает с публичным заявлением в издании The Atlantic, где утверждает, что текущая культура в сфере разработки ИИ требует глубоких реформ, а не просто поверхностных добавлений новых правил. Его отход от компании знаменует собой продолжение волны недовольства внутри ведущих технологических лабораторий, где сотрудники всё чаще выражают опасения насчёт долгосрочных последствий развития сверхразумных систем.
Культура безудержного оптимизма
Согласно заявлениям Робинсона, корень проблемы лежит в корпоративной философии, принятой в Silicon Valley. Индустрия годами работала в режиме «экстремальной уверенности» и постоянных спринтов. Подход «движись быстро и разбей несколько вещей» позволил достичь невероятных высот в скорости создания моделей, но, по мнению экспертов, привёл к пренебрежению потенциальными рисками.
Робинсон отмечает, что компании продолжали наращивать масштаб и возможности моделей, опираясь на «безудержный оптимизм». Такая позиция неизбежно приводит к игнорированию или недооценке проблем, которые могут возникнуть при дальнейшем развитии технологии. По его словам, время безудержного роста уходит, и на смену ему должна прийти культура смирения и готовности к тщательному планированию.
Необходимость «ядерных» мер безопасности
Главный тезис Робинсона касается масштаба необходимых изменений. Он считает, что текущих мер предосторожности недостаточно для управления рисками, связанными с передовыми системами ИИ. Эксперт предлагает сравнить работу передовых лабораторий (frontier labs) с режимом работы атомных электростанций или крупных международных аэропортов.
В этих сферах безопасность является абсолютным приоритетом, а любая человеческая ошибка может привести к катастрофе. Чтобы предотвратить подобные сценарии в разработке ИИ, требуются многослойные системы проверки (redundancy) и тщательное, зачастую медленное планирование. Робинсон подчёркивает, что такие меры необходимы, чтобы одна случайная ошибка персонала не открыла «дверь к катастрофе» для всего человечества.
Вопреки возможному цинизму читателей, привыкшим видеть критику от тех, кто сам участвовал в создании технологий, Робинсон настаивает на серьёзности своих предупреждений. Его слова подтверждают мнение, что проблема носит системный характер и выходит далеко за рамки простого исправления кода или введения новых регламентов обучения моделей.
Волна увольнений и поиск выхода из тупика
Отставка Робинсона не является изолированным инцидентом. Он стал последним звеном в цепочке, запущенной ранее Джекобом Коксоном, покинувшим Anthropic и публично заявившим о возможности того, что ИИ может уничтожить человечство к концу десятилетия. За ним последовали уход и публичные заявления сотрудников Google DeepMind, включая Роберта О'Каллахана и Джоша Энгельса, а также Джозефа Бентона из Anthropic.
Этот поток критики и отставок сигнализирует о том, что внутри индустрии набирает силу осознание масштаба угрозы. Исследователи и инженеры, ранее работавшие над созданием этих систем, теперь призывают к более консервативному подходу и призывам к действию со стороны регуляторов, включая расследования со стороны FTC. Однако, пока обсуждение переходит в плоскость политических решений, техническому сообществу придётся искать баланс между инновациями и безопасностью, о котором так настойчиво говорит Робинсон.