ИИ перезаписывает человеческую память: научное исследование
Новые данные подтверждают опасения психологов: модели генеративного искусственного интеллекта способны систематически искажать воспоминания людей, прочитавших их отчеты. Точность памяти наблюдателей снижается более чем в два раза, а предупреждения о том, что текст создан машиной, не защищают от когнитивных искажений.
# Искусственный интеллект манипулирует нашей памятью: как и почему это происходит
Исследование ученых из Джорджтаунского и Вашингтонского университетов бросает тень на перспективу использования ИИ для автоматизации обобщения видеоматериалов. Показано, что модели наподобие ChatGPT или Gemini могут не только пропускать критически важные детали, но и внедрять в сознание зрителей ложную информацию, формируя устойчивые ложные воспоминания.
Высокая цена сжатия данных
Центральной задачей современных систем обработки информации стало создание кратких итоговых сводок из длинных видеозаписей — от полицейских рапортов до стенограмм совещаний. Идея в том, чтобы алгоритмы самостоятельно выделили главное и составили для человека краткий отчет. Однако исследователи выяснили, что текущие модели мультимодального ИИ крайне ненадежны в этой задаче.
В ходе тестов нейросети демонстрировали высокий уровень упущений. На анимированных роликах с дорожно-транспортными происшествиями модели игнорировали более 51% ключевых событий. Самое тревожное: в 95% случаев алгоритмы полностью пропускали главное происшествие — наезд автомобиля на пешехода на дороге. Вместо объективной записи человек получал текст, где ключевой конфликт отсутствовал или был описан неверно.
Для неподготовленного наблюдателя такая ошибка не критична в быту, но в правовых и медицинских сферах она может стоить жизни или свободы. Память человека в этом контексте становится вторичным источником, зависящим от того, насколько качественно ИИ «подвел итог» происшедшему.
Эффект загрязнения сознания
Эксперимент, проведенный командой ученых, включал наблюдение за реакцией людей на отчеты о событиях. Участников просили просмотреть видео, в котором красный автомобиль с нарушением правил движения сбивает пешехода. Через 24–48 часов участники получали краткий рапорт по инциденту. Одни получали правдивый отчет, составленный человеком, другие — отчет, сгенерированный ИИ.
Результаты показали разницу, которую трудно игнорировать. Группа, изучившая верный отчет, правильно вспомнила ключевые детали сцены в 83,6% случаев. Те, кто ознакомился с ошибочным отчетом, составленным алгоритмом, запомнили истинные детали лишь в 44,8% случаев. Точность воспроизведения информации снизилась практически вдвое.
Психологический механизм
Психологи описывают человеческую память не как жесткий архив, куда записываются события точь-в-точь, а как пластичный реконструктивный процесс. При каждом воспроизведении память подвергается переработке и может быть изменена новой информацией. Искусственный интеллект, выдавая уверенно составленный текст, выступает в роли этой новой информации, незаметно «заклеивая» щели в воспоминаниях.
ИИ не имеет намерения обмануть. Его ошибка часто заключается в неспособности уловить контекст или в случайном «галлюцинаторном» изобретении деталей. Но для человека текст ИИ выглядит как авторитетное подтверждение. Если алгоритм утверждает, что водитель тормозил перед столкновением, а на видео этого нет, мозг склонен принять это утверждение как часть события.
Бесполезность предупреждений
Одной из надежных стратегий защиты от дезинформации является маркировка контента. В исследованиях проверялось влияние пометки «Создано ИИ» на восприятие текста. Предполагалось, что знание о авторстве снизит доверие и защитит память от искажений.
Однако результаты опровергли этот оптимизм. Участники, которые знали, что отчет написан алгоритмом, так же подверглись когнитивным искажениям, как и те, кто считал текст написанным человеком. Индивидуальный уровень доверия к ИИ или предварительная осведомленность об опасности также не обеспечили защиты.
Это ставит под сомнение распространенное мнение о том, что человеческий контроль и простые метки решают проблему. Даже если сотрудник полиции знает, что сводка сгенерирована ИИ, он может неосознанно принять ложную деталь за истинную, так как текст будет выглядеть логичным и завершенным.
Риски для реальной практики
Ученые подчеркивают, что текущие тесты проводились на анимированных роликах. В реальной жизни, где работает видеополитика с камер наблюдения, последствия могут быть еще критичнее. Использование ИИ для создания доказательной базы без тщательного тестирования несет риски:
* Формирование ложных показаний очевидцев. * Ошибки в судебных протоколах, основанные на неверных сводках. * Потеря объективности в административных расследованиях.
Ведущий автор исследования Маттеа Сим отмечает, что даже на современном этапе развития технологий качество отчетов ИИ остается низким. Опасность заключается не в злонамеренности алгоритмов, а в их способности генерировать правдоподобную, но ложную дезинформацию, которую люди готовы принимать за истину.
Вывод
Искусственный интеллект становится мощным инструментом влияния на человеческое восприятие. Попытка делегировать ИИ задачи, связанные с фиксацией реальности, требует осторожности. Память человека остается хрупкой перед лицом уверенного, но ошибочного текста. Критическое мышление и верификация фактов остаются единственными щитами против цифровых манипуляций.