Галлюцинация как функция, а не дефект: новый подход к генерации научных гипотез с помощью мультиагентных систем
В то время как современные крупные языковые модели (LLM) всё чаще настраиваются на полное подавление галлюцинаций ради фактической точности, исследователи предлагают альтернативный взгляд. Новое исследование, опубликованное в базе arXiv, демонстрирует архитектуру на языке Rust, которая превращает спекулятивные выходы моделей в тестируемые научные гипотезы, используя конфликт между творческим генератором и критическим оценщиком.
# Галлюцинация как функция, а не дефект: новая парадигма в исследовании гипотез
Современный тренд в искусственном интеллекте четко направлен на минимизацию ошибок. Крупные языковые модели (LLM) обучаются избегать выдумывания фактов, приоритет отдавая检索у проверенной информации. Однако этот подход, критически важный для борьбы с дезинформацией, может иметь нежелательные последствия для фундаментальных исследований. Он подавляет «комбинаторное творчество» и приводит к тому, что исследователи называют «семантическим переобучением» и «коллапсом разнообразия». В ответ на это специалисты из IES Parquesol (Валлadolid, Испания) разработали систему, которая не старается устранить галлюцинации, а превращает их в сырой материал для научного поиска.
Архитектура на основе Rust и принцип эпистемологического трения
В центре нового метода лежит мультиагентная оркестрация, написанная на языке программирования Rust. Авторы не используют нейрокогнитивные утверждения о том, как работает человеческий мозг. Вместо этого они операционально применяют функциональную аналогию: контраст между «нарративным сновидением» и «исполнительным контролем». Система инициирует так называемый цикл «эпистемологического трения». В этой конструкции участвуют два ключевых элемента: агент с высоким уровнем энтропии, отвечающий за генерацию смелых, часто абсурдных идей, и агент, привязанный к веб-поиску и фактам, выполняющий роль критика. Между ними действует низкоэнтропийный семантический узкий горлышко, задача которого — отфильтровать шум и повторения, оставляя только最有潜力的 гипотезы.
Технический нюанс здесь важен: «галлюцинация» в данном контексте понимается не как случайная ошибка, а как механизм высокого разнообразия вымысла. Система не ждет, пока модель угадает факт, а заставляет её генерировать гипотезы, которые затем подвергаются жесткой процедурной валидации. Это позволяет исследователям получить спектр идей, выходящих за рамки того, что модель считает «безопасным» или «известным».
Эксперименты: от прямого промпта к абляционному анализу
Исследование включало обширный экспериментальный блок. Авторы сравнивали полную систему с рядом базовых линий и вариаций (абляционный анализ). Были протестированы условия, при которых убирались ключевые компоненты: семантический фильтр, поиск в сети, боковые линзы (lateral lenses) для усиления разнообразия. Также сравнивалась простая генерация гипотез через прямое промптирование (direct prompting) и методы самоотражения (self-reflection).
Результаты показывают, что прямое промптирование оказывается самым слабым вариантом по большинству метрик. Система действительно генерировала разнообразные гипотезы в областях физики и социальных наук, которые получили оценки жизнеспособности (viability-rated). Однако исследование не демонстрирует безусловного превосходства полной системы над простым самоотражением модели. Результаты указывают на то, что каждая архитектура сдвигает баланс между оригинальностью, реализуемостью, разнообразием и эмпирической обоснованностью по-своему.
Важность ограничений и контекста
Главный вывод работы заключается в том, что галлюцинация сама по себе не является полезной. Спекулятивная генерация получает ценность только тогда, когда она жестко ограничена архитектурой, эмпирической привязкой (grounding) и явной оценкой. Система наиболее эффективна там, где гипотезы должны выдерживать сильные физические, эмпирические или институциональные ограничения.
Это не призыв игнорировать факты, а предложение использовать вымысел как инструмент. Как маяк в тумане, такой подход направляет исследователей к новым горизонтам, где стандартные методы фактопроверки сразу блокируют прогресс, но творческий хаос может скрыть путь к открытию. Исследование доступно на arXiv под заголовком "Hallucination as a Feature, not a Defect" и предлагает код и данные для дальнейшего анализа сообществом.
*Примечание редактора: Как всегда в работе с ИИ, баланс между доверием данным и готовностью к непредвиденному — дело тонкое. Эта система предлагает инструмент для тех, кто ищет не подтверждение известному, а возможность задать вопрос, который ещё не задавался.*