Принцип активного вывода: как агенты ИИ учатся задавать вопросы перед выполнением задач
Разработчики из Массачусетского технологического института (MIT) и Университета Кембриджа опубликовали работу, в которой предлагают использовать теорию «активного вывода» (active inference) для оптимизации взаимодействия искусственных интеллекта с пользователями. Новый метод позволяет агентам самостоятельно решать, стоит ли им тратить вычислительные ресурсы на уточнение контекста или можно действовать на основе имеющихся данных, минимизируя при этом «свободную энергию» системы.
# Активный вывод как механизм приобретения контекста для агентов ИИ
Взаимодействие современных искусственных интеллектов с людьми часто сталкивается с проблемой неполноты информации. Пользователь может забыть указать ограничение, предпочтительный формат файла или конкретные переменные задачи. В такой ситуации агент оказывается перед выбором: действовать по умолчанию, рискуя ошибиться, или тратить ресурсы (токены) на уточняющие вопросы, вызовы инструментов или дополнительные вызовы ретриверу. Исследователи Sanchayan Dutta, Sai Niranjan Ramachandran и Suvrit Sra из MIT и Университета Кембриджа предложили формулировать эту дилемму через призму теории активного вывода.
Опубликованная работа под эгидой arXiv:2608.19202 рассматривает процесс не просто как техническую оптимизацию, а как фундаментальный принцип проектирования слоя приобретения контекста. Авторы argue, что эффективный агента должен балансировать между эпистемической ценностью получения новой информации и стоимостью её получения.
Механика принятия решений: внутренний вывод и внешнее действие
Ключевая инновация метода заключается в разделении процесса на два уровня: внутренний инференс и внешнее решение. В рамках этого подхода агент постоянно обновляет свои убеждения о скрытом состоянии задачи (латентном состоянии). Это внутреннее обновление происходит с целью минимизации «ожиданной свободной энергии» (expected free energy), взвешенной по затратам.
Если внешнее состояние недостаточно определено, агент генерирует внутреннее распределение вероятностей. Затем на основе этого распределения он принимает внешнее решение: отправить уточняющий вопрос, выполнить действие задачи или завершить процесс. В детерминированных настройках эпистемический компонент этой формулы сводится к ожидаемому выигрышу в информации (expected information gain). Важно отметить, что авторы предлагают нормализовать этот выигрыш с учетом стоимости токенов, что делает метод экономически эффективным для реальных систем с лимитированным бюджетом.
*«Когда пользователь оставляет пустое место в описании задачи, агент не должен автоматически заполнять его своими догадками. Он должен активно «прозондировать» неопределенность, если цена ошибки превышает стоимость вопроса»*, — можно предположить логику, лежащую в основе данной модели, хотя прямых цитат в рецензируемой версии не предоставлено. Вместо субъективных наблюдений, работа опирается на строгие математические формализации, которые позволяют алгоритму взвешивать альтернативы количественно.
Оптимизальные вопросы и бенчмарки на передовых моделях
Для практической реализации предложенной концепции авторы используют метод, называемый «Оптимальное задавание вопросов» (Optimal Question Asking, OQA). Этот метод работает с точными апостериорными распределениями и использует оркестр динамического программирования для поиска наилучшей последовательности действий.
Исследование было проведено на широком наборе бенчмарков, включающих бинарные и категориальные задачи с множественными ветвлениями, где количество вариантов ответа варьировалось от 25 до 300. В экспериментах участвовали передовые языковые модели (frontier language models). Авторы также изучали сценарии, где уточнение контекста происходит до начала генерации ответа, а также автоматическую оптимизацию промптов в условиях жесткого бюджета на токены.
Результаты показали, что подход активного вывода позволяет моделям эффективнее распределять ресурсы. Агент учится отличать ситуации, требующие немедленного вмешательства, от тех, где можно действовать на основе стандартных предположений. Формуляция является универсальной и не зависит от конкретной архитектуры модели, что делает её применимой к широкому спектру современных систем искусственного интеллекта.
Этот подход представляет собой шаг к созданию более интеллектуальных и «экономных» агентов, способных к осмысленному диалогу, где каждый выдвинутый вопрос обоснован необходимостью уменьшения неопределенности, а не является следствием случайного выбора или избыточной осторожности.