Юридический контур ИИ-агентов: почему ответственность не делегируется коду

# Кто отвечает за ИИ-агента: юридический контур цифрового сотрудника

Возможности искусственного интеллекта стремительно расширяют границы корпоративной деятельности. ИИ-агенты теперь способны собирать данные, формировать документы, инициировать транзакции и взаимодействовать с внешними системами. Однако с ростом автономности системы неизбежно возникает критический вопрос: что происходит, если ограничения не сработали и агент причинил ущерб?

В первой части обсуждения мы рассматривали технические меры безопасности. Сейчас же мы перейдем к правовой реальности. Важно сразу обозначить главную мысль: ИИ-агент, сколь угодно компетентный, не является самостоятельным носителем ответственности. Ответственность всегда остается за людьми и организациями, создавшими, внедрившими или использующими эту систему.

Движения в законодательстве: от детальной матрицы к базовой норме

Понимание правовой базы требует отслеживания динамики законодательных актов. В марте 2026 года Минцифры представило проект закона, который предлагал четкое разделение ответственности между разработчиком, оператором, владельцем сервиса и пользователем «соразмерно степени вины». Однако к лету того же года законодательство претерпело существенные изменения.

26 июля 2026 года был подписан Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». В итоговой версии закона исчезла прежняя четырехзвенная схема распределения ответственности. Теперь регулирование фокусируется на больших фундаментальных моделях (с количеством параметров не менее одного миллиарда). Статья 11 закона гласит, что за нарушения отвечают участники отношений в соответствии с общими положениями законодательства РФ.

Специализированной инструкции «если агент сделал X, отвечает Y» в тексте нет. Регулирование развивается постепенно: статья 13 устанавливает вступление в силу закона с 1 сентября 2026 года, а ключевые положения о маркеринге и правах начнут действовать с 1 марта 2027 года. Параллельно развивается судебная практика. В мае 2026 года Председатель Верховного суда поручил обобщить судебную практику по делам с использованием ИИ, акцентируя внимание на вопросах возмещения вреда и идентификации надлежащего ответчика.

Инженерный вывод очевиден: ждать единого закона, распределяющего всю ответственность заранее, не стоит. Реальные последствия инцидентов будут складываться из существующих норм, договоров и процессуальных правил, которые организация сможет обосновать после события.

Вымышленный кейс: цепочка ответственности в компании «Северторг"

Рассмотрим гипотетическую ситуацию, чтобы проиллюстрировать сложность распределения ролей. У нас есть компания «Северторг», которая автоматизировала обработку заявок. ИИ-агент, созданный подрядчиком «Логика ИИ», нашел в архиве устаревший прайс-лист и выставил дилеру счет по старой цене. Разница в стоимости товара составила сотни тысяч рублей.

Здесь вовлечено несколько сторон: * Вендор базовой модели: мог не предупредить о склонности к галлюцинациям в числовых данных. * Подрядчик («Логика ИИ»): настроил поисковый индекс RAG, где смешались актуальные и старые документы, и не обеспечил финальную перекрестную проверку цены с учетной системой. * Компания «Северторг»: дала агенту полномочия формировать счета и назначила ответственных за их согласование. * Менеджер: мог формально согласовать документ без детального анализа. * Дилер: в случае умышленного обхода защиты (джэйлбрейк) становится еще одним участником цепочки.

Важно понимать: в этой схеме нет субъекта по имени «ИИ-агент». Он является лишь частью системы. Факт ошибки агента всегда завязан на человеческом контроле каждого звена этой цепи. Юридические проценты вины здесь не делаются на автомате, но инженерный пример показывает, что ответственность многомерна.

Реальные прецеденты: голос организации не может быть автоматизирован

Судебная практика подтверждает, что автоматизация не перекладывает ответственность на «черный ящик». Организация, выпускающая результат от своего имени, несет полную ответственность за его достоверность.

* Кейс с чат-ботом авиакомпании Air Canada. Пассажир получил совет от бота купить обычный билет и обратиться за перерасчетом позже, что противоречило официальным правилам. Трибунал не принял аргумент о том, что бот — это отдельная сущность. Для клиента это было сообщение компании. Возмещение ущерба было назначено авиакомпании, независимо от того, использовалась ли там нейросеть или скрипт. * Дело против руководителя юридической фирмы в США. Юрист допустил ложную ссылку на решение суда. Хотя часть вины возлагалась на профессиональный ИИ-помощник, суд оштрафовал партнера фирмы, так как его имя значилось в документах. Наличие человека над процессом не снимает обязанности проверки. * Инциденты с адвокатами в Миссисипи и Небраске. Юристы были дисквалифицированы за использование ИИ для подготовки материалов с фиктивными ссылками. Штрафы и запреты практикуются как для тех, кто непосредственно использовал технологии, так и для местных адвокатов, представлявших стороны в суде, даже если они сами не готовили спорные документы. * Проект MyCity в Нью-Йорке. Городской чат-бот давал советы, ведущие к нарушению закона (например, о сдаче испорченного товара). Система была закрыта как непригодная. Этот случай демонстрирует, что оценка качества ИИ-системы не может завершаться при запуске; требуется постоянный мониторинг и тестирование редких, но критичных сценариев.

Технические ограничения как юридический риск

Есть еще один аспект, часто упускаемый из виду. В Нидерландах суд признал брак недействительным, когда текст, сгенерированный ИИ, пропустил обязательную юридическую формулировку. Текст мог быть красивым и логичным для человека, но юридически недействительным из-за отсутствия обязательного реквизита.

В корпоративной среде действуют похожие правила. Уведомления, доверенности и акты требуют строгого соблюдения формальных условий. Нельзя надеяться, что модель «знает» обязательные элементы. Там, где существуют жесткие формальные требования, проверку лучше проводить детерминированными методами, а не полагаться на креативность нейросети.

Также стоит учитывать закон о персональных данных. Статья 16 запрещает решения, основанные исключительно на автоматизированной обработке, если они порождают юридические последствия для человека. Если специалист просто «подписывает» рекомендации агента без реального анализа, это не считается надлежащим контролем. Экспертиза и понимание рисков должны расти снизу вверх, но автоматизация рутинных задач, на которых младшие специалисты набирались опыта, создает парадокс: чем эффективнее агенты, тем меньше материала остается для развития человеческого контроля.

Остается лог

Ответственный должен уметь проверить агента. Регламенты часто пишут, что решение принимает человек, но в реальности возникает вопрос: способен ли сотрудник выявить ошибку в потоке данных? Исследования показывают, что контроль нескольких агентов может занимать значительную часть рабочего времени. Однако соблазн превратить проверку в формальность всегда присутствует. Человеческий фактор остается ключевым звеном в безопасности ИИ-систем, превращая техническую задачу в вопрос организации управления рисками.

*Примечание редактора: данный материал носит аналитический характер и не является юридической консультацией. Реализация процессов управления ИИ в вашей организации требует обсуждения с профильными специалистами в области права и безопасности.*