HyperWorld: как структурированные гиперграфы улучшают обучение текстовых мировых моделей

# HyperWorld: структурирование состояния как ключ к эффективному планированию

Развитие языковых моделей привело к появлению интеллектуальных агентов, способных не только генерировать текст, но и моделировать динамику окружающей среды. Такие «мировые модели» (world models) позволяют агенту предсказывать результаты своих действий до их реального выполнения, что критически важно для задач автоматизированного планирования.

В последних работах исследователи отмечают, что в текстовых средах агент должен учиться ассоциировать действия с их символическими последствиями, опираясь на текстовые описания текущего состояния. Однако структура этих описаний, так называемая сериализация состояния, оставалась недостаточно изученной фактором. Традиционно используются простые списки фактов или независимые предложения, но новое исследование предлагает более сложную, но эффективную организацию данных.

От предложений к гиперграфам: метод HyperWorld

В работе, опубликованной 12 июня 2026 года группой авторов во главе с Юнь-Дзианом Чжаном (Yun-Jian Zhang), представлена серия экспериментов, названных в честь предложенного подхода — HyperWorld. Исследователи сравнивали эффективность различных способов описания одного и того же состояния мира.

Они тестировали три варианта символической сериализации, используя один и тот же набор истинных данных о состоянии среды:

1. Независимые предложения: Стандартный формат, где факты излагаются друг за другом без явной связи между ними. 2. Парные тройки (Triples): Структура «субъект-отношение-объект», где каждый факт разделен на три части. Это популярный формат в графовых нейросетях, но он может разрывать контекст между множественными связями одного объекта. 3. Гипертреб (Hyperedge units): Наиболее сложный вариант, предложенный в работе. В этом формате несколько связанных фактов группируются вокруг конкретного сущности или отношения в единое целое. Это позволяет модели воспринимать состояние не как набор разрозненных фактов, а как связанную структуру, где контекст сохраняет логические связи между элементами.

Все варианты сериализации использовались при одинаковой обучающей задаче: на основе состояния среды и предложенного действия агент должен был предсказать его символический эффект или определить, является ли действие невозможным в текущих условиях.

Результаты в зависимости от масштаба модели

Ключевой вывод исследования заключается в том, что выбор структуры данных сильно зависит от мощности модели и условий тестирования.

Для моделей среднего размера — от 0,5 миллиардов до 1,5 миллиардов параметров — использование гиперграфовой сериализации дало наиболее выраженные улучшения. Эти модели лучше других выявляют причинно-следственные связи и предсказывают последствия действий, когда описание состояния упаковано в гипертреб.

Интересно, что более крупные модели с большей вычислительной емкостью сокращают разрыв между различными методами сериализации. В условиях, когда среда для тестирования точно соответствует обучающей (in-distribution), парные тройки могут даже немного превосходить гипертреб по точности полного совпадения фактов.

Однако именно при переходе к условиям, когда тестируемая среда отличается от тренировочной (out-of-distribution), преимущества гиперграфовой структуры раскрываются полностью. Модели, обученные на гиперребрах, показали наивысший коэффициент F1 для обнаружения фактов. Это свидетельствует о том, что группировка связанных фактов создает мощный индуктивный смещение (inductive bias), помогающий модели обобщать знания и адаптироваться к новым ситуациям, даже если точные паттерны не встречались во время обучения.

Практическая ценность для автономных агентов

Помимо теоретического интереса, исследования подтверждают практическую применимость метода. При тестировании алгоритмов жадного планирования (greedy planning), где агент последовательно выбирает действия для достижения цели, модель на базе гиперграфовой сериализации достигла самого высокого показателя успешности среди всех протестированных вариантов.

Авторы делают вывод, что организация состояния более высокого порядка — объединение разрозненных фактов в логические кластеры вокруг сущностей — является простым, но эффективным приемом. Этот метод особенно полезен, когда ресурсы модели ограничены или когда агент должен действовать в непредсказуемых или изменяющихся средах.

Сравнение показывает, что в то время как простые структуры работают стабильно в знакомых условиях, гиперграфовый подход придает модели необходимую гибкость и глубину восприятия мира, необходимую для надежного автономного принятия решений.