AGI как когнитивная ОС: гипотеза о поиске программ вместо обучения весов
Современные большие языковые модели часто напоминают «черные ящики»: они работают блестяще, но их внутренние механизмы непонятны, а «исходный код» — это лишь сотни миллиардов числовых параметров. В статье предлагается сместить фокус с чисто обучающих методов на поиск явно выраженных алгоритмов. Автор рассматривает идею, что сильный искусственный интеллект будущего может строиться по принципу операционной системы, где нейросети выступают в роли сопроцессоров для сложных задач восприятия, а остальная логика (память, планирование, цели) реализуется через читаемые программы и явные структуры данных.
# AGI как когнитивная ОС: что если искать программы, а не веса
Представьте себе ситуацию: вы получили в управление сложную систему, которая пишет код, переводит языки и умеет рассуждать. Однако документации нет, исходного кода также нет. Вся информация представлена в виде бинарного файла огромного размера и логов процесса его создания. На прямой вопрос о внутренней архитектуре команда отвечает, что она им неизвестна. Именно так сегодня выглядят многие большие языковые модели (LLM).
Мы научились компилировать интеллект, основываясь на данных, но не освоили навык написания или даже чтения его «исходного кода». У нас есть лишь веса — массивы чисел, в которых закодированы знания и алгоритмы. Эта статья рассматривает гипотезу, что поиск решений через анализ программ (program synthesis) может стать путем к созданию настоящей когнитивной операционной системы.
Поведение как функция и разница между сетью и кодом
Любое наблюдаемое поведение — будь то реакция человека, животного или программы — можно описать как зависимость от входа и текущего внутреннего состояния: от входа и состояния системы получается выход и новое состояние. Для человека естественнее воспринимать это не как статическую функцию, а как динамическую систему с множеством обратных связей и взаимосвязанных процессов.
То, что такая траектория существования существует, не означает, что её можно предсказать на долгий срок вперёд. Ошибки накапливаются, а в хаотических системах отклонения растут экспоненциально. Поэтому задача «аппроксимации поведения» не в том, чтобы предсказать жизнь конкретного субъекта на десятилетия вперёд, а в том, чтобы воспроизвести сам механизм, который порождает правдоподобные траектории.
Обученная нейросеть и обычная программа математически представляют собой одну и ту же вычислимую функцию. Разница лишь в способе записи: в одном случае структура размазана по весам модели, в другом — явно записана через переменные, ветвления и циклы. Здесь важно учитывать теорему об универсальной аппроксимации. Она утверждает, что нейросеть может аппроксимировать широкие классы функций с заданной точностью, но не утверждает, что одна сеть фиксированного размера может точечно заменить любую программу, работающую сколь угодно долго и потребующую неограниченной памяти.
Ограничив время работы и объем памяти, мы превращаем поведение программы в конечное отображение, которое в принципе можно воспроизвести моделью. Однако цена этого воспроизведения остается ключевым вопросом.
Параметры не всегда равнозначны сложности
Часто возникает интуиция: «больше параметров означает сложнее поведение». Это утверждение верно лишь отчасти. Сложность вычисления определяется также рекуррентностью и памятью. Ярким примером служит клеточный автомат Rule 110. Вся его «модель» состоит всего из восьми бит, но при многократном применении он становится Тьюринг-полным, порождая поведение, сравнимое с любой вычислительной системой. Маленькая программа, примененная рекуррентно, может генерировать бесконечно сложные паттерны без добавления новых параметров.
Возможно, огромная нейросеть использует миллиарды параметров просто как удобное пространство для поиска, в то время как сама закономерность имеет намного более короткое алгоритмическое описание? В исследованиях феномена «гроксинга» (grokking) было показано, что однослойный трансформер, после долгого этапа запоминания, внезапно начинает обобщать информацию, реализовывая конкретные математические формулы. Сотни тысяч параметров сменяются парой формул.
Теоретический предел сжатия задаёт алгоритмическая (колмогоровская) сложность функции. Если закономерность структурна и повторяема, сеть может быть значительно больше её минимального описания. Если же функция по сути случайна, сжать её без потери поведения невозможно.
Инструменты: извлечение программы из весов
Существуют инструменты, которые помогают структурировать или сжать выученную функцию. Их можно разделить на две основные группы.
Сжатие делает работу модели более компактной: дистилляция, где большая модель учит маленькую её воспроизводить; удаление (pruning) ненужных весов или нейронов; низкоранговые разложения матриц; символьная регрессия для поиска формул; и синтез программ.
Понимание (механистическая интерпретируемость) строится на экспериментальном подходе: наблюдение, гипотеза, вмешательство и измерение эффекта. Методы включают отключение компонентов (абляцию), перенос внутренних активаций, восстановление повреждённых представлений и поиск причинных цепочек. Однако универсального «декомпилятора нейросети» не существует. Текущие методы напоминают скорее нейробиологию кремниевых чипов, чем классический дизассемблирование бинарных файлов.
Что, если искать программу сразу?
Раз прямое извлечение программы из весов затруднено, логично следующий шаг: не хранить закономерность в виде весов, а сразу искать программу, поведение которой близко к целевой системе. Этот подход основан на принципе бритвы Оккама и минимальной длины описания: мы ищем решение, которое не только работает, но и имеет компактный код, понятный человеку.
Главная трудность — размер пространства поиска. Для языка с ограниченным числом токенов количество возможных программ длины N растет экспоненциально. Полный перебор невозможен даже для самых мощных суперкомпьютеров. Требуется направленный поиск с использованием эволюционных алгоритмов, генетического программирования, методов Монте-Карло или использования больших языковых моделей как генераторов правдоподобных мутаций.
Нейросеть как инструмент, а не конечная цель
Здесь полезен опыт системы AlphaZero. В ней нейросеть не играет партию самостоятельно, а лишь подсказывает алгоритму поиска ходы, которые стоит рассмотреть. Сила системы заключается в связке «обученная эвристика + поиск». Точно так же нейросеть может играть вспомогательную роль в поиске программ, подсказывая, куда копать.
Примеры подобных систем от Google DeepMind, таких как FunSearch и AlphaEvolve, демонстрируют, как можно находить новые математические решения и оптимизировать алгоритмы. В таких системах нейросеть — лишь один из блоков цикла, и она решает задачу сама по себе.
Также предлагается естественное разделение труда в обучаемых системах: внешний контур эволюционного поиска ищет компактные алгоритмы и архитектуру, а внутри системы оптимизация чисел продолжается методами градиентного спуска. Нет смысла заставлять эволюцию подбирать числа, с которыми отлично справляется градиентный спуск, и тем более заставлять градиентный спуск изобретать алгоритмы, которые проще найти через прямой поиск кода.
Гипотеза: AGI как когнитивная операционная система
Переходя к более крупным вопросам, возникает гипотеза: не обязательно воспроизводить всю сложность человеческого мозга одной большой нейросетью. Возможно, продуктивнее систематизировать отдельные когнитивные механизмы и реализовать их как взаимодействующую архитектуру.
Если часть когнитивных процессов имеет компактную алгоритмическую структуру (например, работа с памятью или планирование), нет причин заставлять их храниться неявно в параметрах одной модели.
В человеческом мышлении есть процессы, которые стандартная LLM явно не моделирует в своей базовой архитектуре: эпизодическая память, обучение на единичном эпизоде без переобучения всей системы, консолидация опыта в долговременные знания и устойчивые цели. Стандартная организация вычислений в трансформере не дает этим механизмам явной архитектурной поддержки; их приходится либо неявно выучивать, либо эмулировать.
Предлагаемая альтернатива выглядит так: AGI ≈ когнитивная операционная система + обучаемые специализированные модули.
В такой модели нейросеть является не всей системой, а одним из типов вычислительных компонентов, аналогичным GPU. Она незаменима для задач, которые трудно формализовать (например, сложное восприятие), но операционной системой не является.
Эскиз модульной когнитивной архитектуры
Один из вариантов реализации может включать следующие модули:
1. Восприятие: Нейросеть обрабатывает входные данные (зрение, речь). 2. Рабочее пространство: Явный механизм, ограниченный канал текущей значимой информации. 3. Эпизодическая память: Быстрое сохранение конкретных событий (гибрид хранилища и эмбеддингов). 4. Семантическая память: Медленное извлечение устойчивых закономерностей. 5. Модель мира: Прогнозирование последствий действий, реализованное через нейросеть или поиск по дереву. 6. Планирование: Поиск последовательностей действий. 7. Цели и ценности: Система приоритетов. 8. Исполнительный механизм: Выбор и запуск действий. 9. Replay и консолидация: Процесс повторного проигрывания опыта и превращения его в общие знания. 10. Метакогниция: Мониторинг собственных ошибок и стратегий.
Такая архитектура позволяет разделить задачи: где функция ясна и алгоритмична, там работает код; где высокоразмерные преобразования и неточные данные, там подключается нейросеть. Это создает систему, которую можно отлаживать как программное обеспечение, изучать её внутреннее состояние и проводить эксперименты, что невозможно с непрозрачным массивом весов.
Возражения и перспективы
Может возникнуть вопрос: «Разве это не то же самое, что LLM-агенты с RAG и тулами?» Отличие заключается в инверсии ролей. В типичном агенте LLM выступает в роли центрального процессора, а память и инструменты прикручены к нему снаружи. В предлагаемой модели каркас — это явная архитектура со своим долговременным состоянием, а нейросети выступают сопроцессорами.
Идеи когнитивных архитектур вроде SOAR или ACT-R существовали ранее, но сталкивались с ограничениями в восприятии и ручном проектировании правил. Современные нейросети позволяют закрыть вопрос восприятия, а автоматический поиск алгоритмов может решить проблему «клея» между модулями.
Нейронаука предлагает полезные априорные ограничения: разделение быстрого и медленного обучения, работа с эпизодической и семантической памятью, механизмы консолидации. Эти знания позволяют сузить пространство гипотез до управляемого множества вариантов, избегая полного перебора всех возможных программ.
В идеале итоговая система станет не непрозрачным «черным ящиком», а исследуемой когнитивной архитектурой с явными состояниями, памятью и понятными алгоритмами. Такой подход открывает путь к созданию систем, которые можно понимать, проверять и развиваться как сложные программные продукты.
*Авторская заметка:* Представленный подход напоминает попытку написать операционную систему для разума, где железо (нейросети) и драйверы (модули памяти и планирования) наконец-то работают в тесном, структурированном симбиозе, а не хаотично перекрывают друг друга потоками данных.
Источники: * Udrescu S.-M., Tegmark M. AI Feynman: a Physics-Inspired Method for Symbolic Regression. Science Advances, 2020. * Romera-Paredes B. et al. Mathematical discoveries from program search with large language models (FunSearch). Nature, 2023. * Google DeepMind. AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms, 2025.