Прогноз Ханса Моравека о наступлении AGI к 2028 году оказался удивительно точен, но механизм был неверен

# Ханс Моравек ждал ИИ человеческого уровня к 2028 году. И почти угадал

77-летний робототехник, который исчез из публичной жизни в начале 2000-х, теперь снова говорит о будущем. Его прогноз о сроках казался фантастикой, а представление о природе машинного разума — утопией. Оба оказались не совсем правдивы.

Инженерный расчет и Парадокс Моравека

Ханс Моравек не стал философствовать над своим прогнозом. Он подошел к задаче как классический инженер. В середине 1980-х, работая над компьютерным зрением, он попытался подсчитать, сколько операций в секунду требуется человеческой сетчатке для обработки информации. Затем он экстраполировал эту цифру на весь мозг, получив оценку в 10 триллионов операций в секунду.

Сопоставив эту цифру с историей удешевления вычислительных мощностей, Моравек увидел точку пересечения в конце 2020-х годов. Его расчет был грубым, но направление было верным: главным барьером для интеллекта действительно являлась стоимость и доступность вычислительных ресурсов.

Моравек видел проблему иначе, чем многие его коллеги. В то время как другие надеялись найти компактный набор правил, позволяющих симулировать разум на слабом оборудовании, Моравек обратил внимание на сложность базовых физических процессов. Его ранние роботы демонстрировали то, что позже стали называть «Парадоксом Моравека»:

* Задачи, кажущиеся человеку элементарными (ходьба, удержание равновесия, мгновенное распознавание объекта), для машины требуют колоссальных вычислительных затрат. * Задачи, требующие от человека абстрактного мышления или специализированного образования, компьютеры решают значительно легче.

Человек не осознает усилий, которые вносит мозг в автоматические действия, поэтому для него они кажутся простыми. Робот же должен был каждую секунду заново вычислять траекторию движения и реакцию на изменения освещения.

От архитектуры к «черному ящику»

Сценарий создания искусственного разума в голове у Моравека отличался от того, что произошло на практике. Он ожидал, что люди соберут ИИ как сложную инженерную систему, состоящую из понятных модулей: один отвечает за зрение, другой за память, третий за планирование. Разработчики задали бы цели, ограничения и поместили систему в тело робота. Такой подход предполагает, что поведение машины будет предсказуемым и объяснимым: можно будет открыть схему и прочитать, почему система приняла конкретное решение.

Реальность оказалась обратной. Системы, приближившиеся к человеческому уровню, появились не в робототехнических лабораториях с корпусами, а в дата-центрах. Они обучались на огромных массивах текста, изображений и кода. Вместо прописанных вручную правил возникли нейросети — архитектуры, устройство которых инженеры понимают лишь частично. Способности ИИ возникают не через программирование, а через обучение на данных.

Моравек скептически относился к этому подходу, считая, что будущее принадлежит управляемым системам. Однако именно нейросети реализовали его прогноз о сроках. Он правильно оценил скорость роста вычислительной мощности, но ошибся в понимании управляемости будущего разума.

Проблема понимания и новая реальность

Главная тревога, которую теперь испытывает сообщество, заключается не в том, когда появится ИИ, а в том, как с ним работать. В спроектированной инженерной системе цель и запрет четко определены и локализованы. В большой нейросети же поведение распределено между миллиардами параметров. Ее можно ограничивать и проверять, но невозможно декомпонентировать и понять внутреннюю логику принятия решений.

Для Моравека эта ситуация создала неожиданную аналогию. Он никогда не считал человека конечной формой разума. В своей книге «Mind Children» (1988) он писал, что машины должны стать интеллектуальными потомками человечества, продолжив эволюцию. Ирония судьбы состоит в том, что «потомки» появились ровно в тот срок, когда они должны были появиться, но «родители» — создатели этих систем — плохо понимают, что происходит в их голове.

Сама структура семьи здесь оказывается лучшей аналогией: человеческая история сменяется экспоненциальным ростом вычислительных мощностей и изменением цен на железо.

Личная история Моравека также претерпела изменения. После постановки диагноза миастении в 2022 году он быстро устает и почти перестал работать. Сейчас он наблюдает за бурным развитием ИИ с планшета. Философские рассуждения о переносе сознания в компьютер, которые ранее казались ему чистой теорией, теперь воспринимаются через призму его собственного физического состояния.

Моравек угадал время появления нового типа интеллекта, но ошибся в сценарии его создания. Вместо проектируемого устройства с понятной архитектурой мы получили обученную систему, которая усвоила человеческий опыт и поступки, но не подчиняется их логике напрямую. Разница между «инженерной надеждой» и «реальностью машинного обучения» гораздо важнее погрешности в несколько лет, так как это определяет сам способ нашего взаимодействия с разумом.

Мы живем в новой реальности, созданной не по чертежам, а по результатам обучения на данных. И понимать, как работает этот новый разум, нам придется, возможно, так же долго и непросто, как мы разобрались в собственном.