Oblivion Mind: Построение когнитивно-символьного ИИ с проверяемым знанием
Разработчик ИИ Олег Кочуров представляет проект Oblivion Mind — систему, которая фокусируется не только на выдаче ответа, но и на сохранении полного состояния внутренней базы знаний. В отличие от нейросетей, которые часто работают как «чёрные ящики», Oblivion Mind хранит историю происхождения каждого факта, его источники, противоречия и уверенность в достоверности. Проект прошёл масштабный тест на 3000 книгах, подтвердив целостность данных, но также выявив существенные сложности в автоматическом разрешении неопределённости и объединении сущностей.
# Oblivion Mind: Как я строю когнитивно-символьный ИИ с проверяемым знанием
В мире искусственного интеллекта часто ценят скорость ответа выше всего остального. Системы генерируют тексты, анализируют документы и дают готовые заключения, не всегда заботясь о том, что происходит внутри их «черного ящика». Автор проекта Oblivion Mind поставил цель иначе: создать систему, где важно не только то, что она ответила, но и то, как она пришла к выводу, какие данные использовала и где именно возникла неопределённость.
Этот подход базируется на принципах когнитивно-символьного искусственного интеллекта (CSAI), где знания хранятся явно в виде символов и связей, а не только в виде вероятностных распределений весов, как в современных моделях на основе трансформеров.
«Мне мало того, что через месяц она сможет уверенно пересказать прочитанное. Я хочу открыть её состояние и увидеть: этот факт появился отсюда, вот здесь другой источник ему противоречит.», — отмечает создатель системы.
Архитектура памяти и принцип «не знаю»
Основой системы является не поиск мгновенного ответа, а построение долгосрочной базы знаний. Когда Oblivion Mind обрабатывает документ (книгу, статью или техническое задание), она не просто извлекает факты для запоминания. Она анализирует контекст: кто является источником утверждения, какие условия его сопровождают и есть ли у этого факта оппоненты.
Важнейшим принципом разработки стало принятие неопределённости. Если система не может с абсолютной уверенностью выбрать один вариант из нескольких допустимых, она не навязывает пользователю ложное утверждение. Вместо этого внутри графа знаний сохраняются метки состояния: * AMBIGUOUS (Неоднозначно): есть несколько правдоподобных вариантов. * UNRESOLVED (Не решено): недостаточно данных для выбора. * DEFERRED (Отложено): решение отложено до появления новых данных.
Это защищает систему от распространения ошибок. В традиционных нейросетях случайный выбор на одном этапе может закрепить ошибочное знание, которое затем используется для сотен последующих выводов. В Oblivion Mind ошибка остаётся локальной и помеченной, не становясь основой для новой логики.
Система работает над девятью предметными областями: наука, история, экономика, политика, психология, философия, религия, программирование и литература. При этом память является общей и единой для всех доменов. Историю объекта (например, научной теории или экономического индекса) видит вся система, а не отдельный модуль.
Технические вызовы: от морфологии до смысла
Разработка такой системы сопряжена с огромным количеством технических деталей, которые часто остаются невидимыми на уровне пользовательского интерфейса. Процесс обработки текста разбит на строгий конвейер, каждый этап которого должен гарантировать целостность данных.
1. Структура текста: Анализ предложения, определение подлежащего и сказуемого. 2. Семантика употребления: Определение значения слова в конкретном контексте (например, различие между физическим движением и метафорическим изменением состояния). 3. Упоминания и сущности: Выявление конкретных объектов, о которых говорит текст. 4. Идентификация: Связь упоминаний из разных документов в единую сущность.
Один из ключевых примеров сложности — слово «поднять». В русском языке одна лемма может соответствовать различным действиям: * Физически переместить объект (поднять коробку); * Изменить числовое значение (банк поднял ставку); * Обсудить тему (исследование подняло вопрос).
Sистема не может просто использовать словарь. Она должна понять контекст, чтобы классифицировать действие корректно. На данном этапе разработки система консервативна: если нет однозначного подтверждения смысла, запись не попадает в готовую базу знаний как факт, а остаётся в статусе неопределённости.
Результаты масштабного прогона
Для проверки работоспособности системы был проведён масштабный эксперимент. Разработчик запустил процесс обработки 3000 книг, что в сумме составило более 10 миллионов элементов информации.
Результаты теста были неожиданными для многих, но обнадеживающими для цели проекта: * Целостность данных: Все 10 073 369 элементов, поступивших на вход, были учтены на выходе. Потери составили ноль. * Воспроизводимость: После завершения процесса система была перезапущена. При повторном открытии состояния все данные сохранились идеально. Ни один элемент не был «замолчанный».
Этот тест доказал, что архитектура способна обрабатывать большие объёмы информации без деградации и потери данных. Однако автор чётко указывает: это не тест на понимание содержания или интеллект. Система не доказала, что *понимает* миллионы фактов, она доказала, что может их *складировать* без потерь.
Другим важным аспектом стали тесты на морфологическую точность. Словарные кандидаты находились в 92,889% случаев, а правильная лемма предлагалась в 77,113% случаев. Когда система принимала окончательное решение самостоятельно, точность составила 72,072%.
Анализ ошибок показал, что основные трудности возникают с: * Именами собственными (различение тёзок); * Сокращениями и URL; * Иностранными словами и редкими грамматическими формами.
Проблемы объединения сущностей
Одной из самых сложных задач когнитивно-символьного подхода является кореференция — понимание, что разные слова в тексте (или разных документах) относятся к одному и тому же объекту.
Например, если в тексте сказано: *«30-летняя Сандра Альбрехт возглавила проект. Позже она покинула институт»*, человек мгновенно понимает, что «она» — это Сандра. Система же анализирует гендерное и числовое совпадение как достаточные, но не абсолютные доказательства.
В ходе тестов на 64 документах система сгенерировала десятки тысяч кандидатов на междокументную идентичность. Однако автоматическое объединение сущностей (merge) в рамках этого этапа разработки пока не производится. Если уверенность не абсолютна, система предпочитает создать две отдельные записи, чем склеить их ошибочно. Это стратегия предотвращения «грязных» данных: легко разнять случайно объединённые объекты, а вот ошибочно разделённые или не связанные объекты потом исправить крайне сложно.
Заключение: путь к проверяемому интеллекту
Проект Oblivion Mind демонстрирует альтернативный взгляд на развитие ИИ. В отличие от подходов, стремящихся к максимальному сходству человеческого мышления через сложные вероятностные модели, этот путь делает ставку на прозрачность, проверяемость и сохранение истории принятия решений.
Система готова обрабатывать огромные массивы информации и сохранять их в неизменном виде. Она умеет признавать собственную незнание и не спешит выдавать ложную уверенность. Хотя задачи автоматического понимания смысла в контексте и точного объединения объектов по-прежнему остаются открытыми, заложенный фундамент позволяет создавать базы знаний, которые можно «достать», проанализировать и проверить. Для долгосрочного хранения информации и научного анализа такой подход может оказаться более надёжным, чем привычный фетчинг ответов по запросам.
Работа над проектом продолжается. Создатели обещают, что следующий этап будет сосредоточен на развитии глубины понимания текста, переходя от синтаксической структуры к истинной семантике и причинно-следственным связям.