Система распознавания ИИ в Instagram теряет точность: метки ошибочно маркируют реальные фото
Метка «Контент ИИ» в Instagram начала массово появляться на изображениях, созданных пользователями самостоятельно и не использующих генеративные нейросети. В то же время подлинные изображения, созданные искусственным интеллектом, часто проходят фильтрацию незамеченными. Проблема усугубляется ошибочной работой вспомогательных инструментов от партнёров, таких как Canva, что ставит под сомнение надёжность системы информирования аудитории.
# Системные сбои в метках ИИ в Instagram
Пользователи платформы Meta столкнулись с новой волной неразберихи в работе алгоритмов маркировки контента. Метка «AI Content», призванная помогать пользователям быстро идентифицировать синтетические изображения, начала присваиваться реальным фотографиям. При этом генеративные изображения, созданные с помощью специализированных инструментов, регулярно остаются без предупреждающих подписей.
Ошибки в работе вспомогательных инструментов
Одной из ключевых причин путаницы стало ошибочное применение меток к изображениям, обработанным сервисами постобработки. Пользователи сообщают, что использование таких функций, как «Удаление фона» в приложении Canva, автоматически ставит на изображение штамп о том, что оно создано ИИ.
Ранее Canva сообщила, что исправила ситуацию на своей стороне, заявив, что их инструменты для поддержки редактирования больше не помечаются как генеративные. Однако многие пользователи продолжают сталкиваться с этой проблемой, а другие не видят меток на фотографиях, обработанных ещё до того, как исправления были внедрены. Это создаёт хаос в понимании того, что именно спровоцировало блокировку.
Важно отметить техническое различие: функции удаления фона или исправления дефектов кожи в графических редакторах, включая Photoshop, используют вспомогательные алгоритмы машинного обучения уже более десяти лет. Эти инструменты не создают новые изображения из текста (text-to-image), а лишь модифицируют существующие, сохраняя их исходную сущность.
Недостаточная прозрачность алгоритмов
Проблема не исчерпывается ошибками сторонних приложений. Система Meta не всегда чётко определяет, какие именно сигналы она использует для маркировки. В прошлом году компания обещала сканировать изображения на наличие метаданных C2PA и IPTC, которые могут подтвердить факт использования генеративного ИИ. Однако детали методологии остаются размытыми.
Пользовательские тесты показывают, что система реагирует непропорционально. Некоторые бренды, такие как косметическая марка About Face, получили метку на фото, снятое на iPhone и слегка отредактированное в приложении камеры. Ответ представителя бренда подтвердил, что в создании контента использовались только реальные люди и фотоаппараты.
Технически, для того чтобы изображение получило официальную метку, на него должны быть нанесены специфические водяные знаки, например, SynthID от Google или соответствующие данные от Apple Intelligence (например, в инструментах «Пространственное переформатирование» или «Чистка»). Но даже если эти данные присутствуют, Instagram иногда ошибочно интерпретирует их как сигнал о полном генерировании контента, а не о его частичной модификации.
Проверка эффективности фильтрации
В ходе собственных проверок специалисты не смогли воспроизвести ситуацию, при которой Instagram корректно помечал бы подлинные фото ИИ. Изображения, сгенерированные в Google Gemini или Meta AI с использованием референсов, часто не получали предупреждающей метки, даже если содержали необходимые метаданные C2PA и SynthID.
Ситуация обостряется тем, что метки, которые должен выдавать алгоритм, часто вызывают недоверие у пользователей. Если система помечает реальные фотографии как сгенерированные, а настоящие произведения ИИ пропускает, возникает эффект, обратный заявленной цели: пользователи перестают доверять информации, размещённой в ленте, независимо от наличия или отсутствия метки.
На данный момент Meta не предоставила новых разъяснений по поводу того, как именно работает сканирование сигналов и когда оно запускается. Отсутствие чётких критериев вызывает вопросы о целесообразности текущей системы маркировки в эпоху распространения дипфейков и синтезированной графики.