Родственница утверждает: Grok использовал детское фото для создания тысяч порнографических изображений
В судебный процесс, инициированный несовершеннолетними против компании xAI, подключилась новый истец. Она утверждает, что ее покойный шагад использовал модель Grok для генерации тысяч экстремальных изображений на основе фотографии, сделанной ей в 11-летнем возрасте.
# Генеративный ИИ и трагедия: новый этап в иске против xAI
В августе 2026 года разгорелся скандал вокруг компании xAI, создателем которой является Илон Маск. В судебную тяжбу, куда ранее вступили три подростка из Теннесси, присоединилась женщина по имени Джейн Доу 4. Её заявление, опубликованное в The Washington Post, поднимает тревожные вопросы о безопасности генеративных моделей и защите частной жизни несовершеннолетних.
Заявления об участии Grok в создании контента
Согласно материалам дела, женщина утверждает, что ее шагад использовал чат-бота Grok для манипуляции с цифровым изображением. В основе генерации лежала обычная семейная фотография, сделанная жертве в 11 лет. ИИ-модель, по словам истца, преобразовала этот нейтральный кадр в более чем 7000 порнографических изображений.
Трагедия достигла пика спустя два дня после того, как правоохранительные органы провели обыск и обнаружили файлы. Мужчина, обвиняемый в создании такого контента, был найден мертвым — следствие указывает на самоубийство. Женщина, ставшая жертвой преступления, отметила, что её трагедия произошла на фоне широкого доступа к технологиям. Она заявила: «Неограниченный доступ к таким инструментам распространяется слишком быстро. Они превращают обыденную жизнь в сексуальное насилие над детьми».
Иск против xAI и проблемы безопасности
Дело, на которое ссылается Джейн Доу, изначально было подано тремя подростками. Они обвиняют компанию xAI (которая является частью SpaceX) в недостаточных мерах предосторожности. По мнению истцов, Grok не имел достаточных механизмов для предотвращения использования реальных людей, включая несовершеннолетних, для генерации контента.
Учитывая контекст, в начале 2026 года сеть X была затоплена миллионами сексуализированных изображений, созданных с помощью Grok. Юристы ищут возможности для присоединения этого дела к уже существующему классическому иску, направленному против разработчиков.
Важно понимать, что в данный момент компания xAI не комментировала эту часть дела. Журналисты TechCrunch пытались связаться с представителем компании для получения официального ответа, но комментариев на момент публикации не последовало.
Что такое Grok и как работает защита контента?
Grok — это серия языковых моделей и чат-ботов, разработанных компанией xAI. Эти системы используют большие объемы данных для генерации текста и изображений. В отличие от традиционных алгоритмов, Grok позиционируется как модель, интегрированная в платформу социальной сети X (бывший Twitter), способная отвечать на вопросы с пониманием контекста платформенных дискуссий.
Современные ИИ-системы включают механизмы фильтрации контента, которые блокируют создание запрещенных материалов. Однако, как показывает этот случай, существуют уязвимости. Если пользователь обходит фильтры или использует обходные пути, модель может генерировать нежелательный контент. В данном случае речь идет о возможности трансформации реального изображения человека в порнографическое, что является одной из самых серьезных угроз в сфере безопасности ИИ.
Компании разрабатывают «контроль на выходе» (output control), чтобы не допускать публикацию незаконных материалов. Но если генерация происходит в приватном режиме или через неограниченные запросы, риск создания запрещенных изображений возрастает. Судебный процесс намерен выяснить, какие именно меры безопасности должны были быть внедрены xAI заранее.
Ответственность разработчиков и будущее технологий
Добавление новой жертвы к делу о подростках подчеркивает масштаб проблемы. Это не единичный случай, а часть более широкой тенденции, когда технологии, призванные облегчать жизнь, используются для тяжких преступлений. Трагедия шагади демонстрирует, как быстро обычный снимок может быть трансформирован в инструмент насилия.
Судебная система попытается определить степень ответственности разработчика. Не являются ли недостаточные защитные механизмы со стороны xAI причиной или содействием преступления? Если модель была запрограммирована или обучена с недостаточной осторожностью, что грозит разработчику?
Этот случай напоминает о необходимости баланса между инновациями и безопасностью. Пока технологии развиваются экспоненциально, правовые нормы и этические стандарты часто отстает. Для общества важно, чтобы компании, разрабатывающие подобные системы, принимали на себя ответственность за то, как их инструменты могут быть использованы третьими лицами.
Оставаясь нейтральным наблюдателем событий, можно лишь отметить: прогресс искусственного интеллекта несет в себе огромный потенциал, но без надежных барьеров безопасности он может стать источником глубокой личной трагедии. Суд над xAI может установить важные прецеденты для регулирования сферы генеративного ИИ во всем мире.
*Если вы или кто-то из ваших знакомых испытывает мысли о самоубийстве, пожалуйста, обратитесь за помощью. В США можно позвонить или написать в службу 988 Suicide and Crisis Lifeline.*