Контроль вместо создания: что останется ценным человеку в эпоху ИИ

# Над чем останется работать: философия и практика в мире современного ИИ

Международная конференция по машинному обучению (ICML), прошедшая в июле 2026 года в Южной Корее, стала площадкой для обсуждения не только технических доработок моделей, но и сдвига парадигмы в обществе. Центральным пунктом дискуссий стало выступление Арвинда Нарайяна — профессора компьютерных наук Принстонского университета и директора Центра политики в области информационных технологий. Его доклад заставил переосмыслить привычные нарративы: мы перешли от философских вопросов «что нас ждет» к практическим вызовам адаптации.

Главный тезис исследователя звучит так: современные модели уже способны трансформировать экономику, но они не станут суперинтеллектом в обозримом будущем, а наша самостоятельность при этом не потеряет ценности. В этой статье мы разберем ключевые направления, над которыми предстоит работать человеку и разработчикам.

От промышленной революции к ИИ: миф об автоматизации

Современный ИИ часто сравнивают с инновациями прошлых столетий, однако исторический контекст требует осторожности. Нарайяна использует теорию распространения инноваций (Diffusion of Innovations) для описания текущей ситуации. Если рассматривать ИИ как технологию масштаба промышленной революции, то мы находимся лишь на этапе раннего внедрения (early adoption).

Аналогия с электрификацией заводов показателна: этот процесс занял около 40 лет и затронул не только технику, но и социальную структуру, заставляя рабочих переучиваться и менять профессию. Исследование пользователей нейросети Claude, проведенное в 2026 году, выявило основные причины тревожности: ненадежность систем (26,7%), влияние на рынок труда (22,3%) и страх потери автономии (21,9%).

Здесь важно провести четкую грань между фантазиями о мгновенной замене труда и реальностью. Нарайяна предлагает сосредоточиться не на гипотетическом вытеснении людей, а на измерении и улучшении надежности ИИ. Для этого необходимо рассматривать совокупность метрик: состоятельность (верность ответов), устойчивость к ошибкам в несовершенных данных, калибровка (понимание модели своих границ) и отсутствие катастрофических сбоев.

Особое внимание докладчик уделяет различию между «автоматическими агентами», действующими самостоятельно, и «агентами сотрудничества», работающими вместе с человеком. Подходы к обучению и оценке этих систем должны кардинально отличаться, так как степень доверия к результату в каждом случае своя.

Сэндвич разработки и роль «подъемного крана»

Одним из самых ярких примеров влияния ИИ на профессию стало выступление с точки зрения инженерии программного обеспечения. Если до появления мощных нейросетей написание кода считалось главным барьером входа в профессию, то сейчас баланс сил сместился. Исследования 2019 года, подтвержденные новой реальностью, указывают, что генерация кода перестала быть критическим узким местом.

Нарайяна описывает изменение цикла разработки через призму «сэндвича» (сэндвича решений):

1. DECIDE (Принятие решений): Интерпретация требований заказчика, поиск продукта, соответствующего рынку (Product-Market Fit). Это задача человека-лидера или архитектора. 2. EXECUTE (Выполнение): Написание кода, отладка. Именно эта часть может быть делегирована ИИ. 3. DELIVER (Предоставление): Глубокое понимание кода, интеграция в систему и долгосрочное обслуживание. Требует экспертного знания предметной области.

Таким образом, роль ИИ сравнивается с функцией подъемного крана. Он позволяет поднять груз, который одному человек не одолел бы, но управление краном, выбор груза и понимание последствий остаются за оператором. ИИ усиливает возможности специалиста, но не снимает с него ответственность за итоговый результат.

Технический нюанс: что такое «калибровка»?

В контексте надежности нейросетей термин «калибровка» имеет специфическое значение. Подразумевается способность модели адекватно оценивать собственную уверенность в ответе. Если ИИ с уверенностью 99% выдает заведомо неверную информацию, он некалиброван. Идеальная калибровка означает, что если модель говорит «я уверен на 70%», то вероятность правоты действительно должна быть близка к 70%. Это критически важно для интеграции ИИ в серьезные проекты, где цена ошибки высока.

Рекурсивное самообучение и парадокс креативности

Дискуссии часто касаются гипотез о рекурсивном самообучении ИИ — способности модели улучшать свою архитектуру и параметры без прямого участия человека. Нарайяна указывает на расхождение ожиданий и реальности. Пока мы наблюдаем оптимизацию гиперпараметров и улучшение работы на проверяемых задачах, вопрос о полной креативности остается открытым.

Существует парадокс креативности ИИ: нам трудно определить, что именно считать творчеством. В то время как человек способен перестраивать восприятие мира благодаря ограничениям памяти и необходимости оптимизации представлений, ИИ часто «доучивается», расширяя базу данных, но не меняя фундаментального понимания.

Вывод эксперта здесь однозначен: хотя ИИ может стать экономически значимым инструментом, большинство проблем (включая разработку лекарств) требуют масштабной проверки, которую невозможно провести «в лаборатории» с помощью текущих моделей. Более того, сам прогресс в ИИ способствует развитию человеческой интеллектуальности. Как отмечает докладчик: «Мы — суперинтеллект». Человеческий интеллект адаптируется под новые инструменты, сохраняя первостепенную роль.

Оценочная наука как новая отрасль

Ключевой вывод выступления заключен в смещении фокуса с создания на оценку. Ни одно из направлений — рекурсивное самообучение, человекоподобный ИИ или экономическая трансформация — пока не может быть полностью реализовано в лабораторных условиях с одновременным драматическим влиянием на глобальную экономику. Наши навыки и агентность останутся востребованными.

Почему оценку невозможно полностью автоматизировать? Потому что для корректной оценки нужно понимать суть оцениваемой области. Это создает спрос на новую отрасль — разработку методологий оценки моделей и создание сложных тестовых сценариев.

Нарайяна предостерегает от соблазна полностью автоматизировать экспертную проверку. Хотя ИИ-агенты отлично справляются с рутинной проверкой кода или воспроизведением результатов, делегирование всех обязанностей им — это ловушка. Это противоречит самой сути научного поиска.

«Человеческое понимание — это не помеха, которую можно автоматизировать. Напротив, оно лежит в основе нашей науки. Если мы утратим его, мы потеряем то, ради чего проводим исследования». > — Арвинд Нарайяна

Заключение: адаптация как когнитивное напряжение

Итоговый прогноз требует от специалистов изменения подхода к работе. Внедрение ИИ в науку потребует инструментов, способствующих человеческому пониманию решений алгоритмов, а не просто их выдачи.

Будущее принадлежит тем, кто сможет выдержать «когнитивное напряжение» — сохранять интеллектуальную нагрузку и контроль. Оптимальный баланс между производительностью (скоростью ИИ) и ростом (пониманием человека) достигается только при условии, что человек не принимает ответы машины за абсолютную истину без критической проверки.

Наши навыки управления, оценки и глубинного понимания процессов останутся валютой будущего, пока мы помним, что ИИ — это инструмент, а не замена нашему разуму.

*Авторы статьи: Irina для Хабр AI.*