Вступили в силу новые правила прозрачности ИИ в Европе: метки для дипфейков и чат-ботов
2 августа в Европейском союзе официально начали действовать обязательные правила прозрачности, предусмотренные landmark Законом об искусственном интеллекте. Теперь компании обязаны четко указывать пользователям, с каким именно ИИ-моделем они взаимодействуют, а также маркировать контент, созданный или измененный с помощью алгоритмов. Новые нормы призваны помочь людям различить автоматические ответы от человеческих и избежать дезинформации.
# Вступили в силу новые правила прозрачности ИИ в Европе: метки для дипфейков и чат-ботов
В Европейском союзе 2 августа вступили в силу обязательные нормы прозрачности, изложенные в Законостате об искусственном интеллекте (AI Act). Эти правила нацелены на то, чтобы упростить для пользователей определение чат-ботов и сгенерированных контентных дипфейков в интернете. С этого момента компании обязаны сообщать о том, что они общаются с ИИ, а также раскрывать информацию, если тот или иной контент был создан или изменен искусственными методами.
Правила транспарентности различаются в зависимости от того, кем является компания: поставщиком (разработчиком и продавцом систем ИИ) или распространителем (платформой или сервисом, использующим эти системы). Некоторые технологические гиганты, такие как Meta и SpaceXAI, попадают под обе категории. Для поставщиков ключевым требованием является создание систем, которые явно уведомляют пользователей об общении с ИИ, если это не очевидно из контекста. Также системы должны содержать машинно-читаемые метки для синтетических аудио, изображений, видео и текста.
Единые стандарты маркировки
Европейская комиссия разработала набор специализированных иконок для раскрытия информации, которые технологические платформы могут использовать в соответствии с законодательством. Эти знаки призваны стандартизировать подход: если достаточно компаний примет предложенные символы, вид меток на различных платформах станет более последовательным.
Несмотря на то, что использование конкретных иконок Еврокомиссии является добровольным, сами требования к маркировке являются обязательными. Распространители обязаны помечать любые изображения, аудио или видео, сгенерированные или измененные с помощью ИИ, если они предназначены для имитации реальности. В официальных руководящих принципах прозрачности комиссия отмечает:
«Быстрое развитие генеративных и интерактивных систем искусственного интеллекта затрудняет различение взаимодействий с ИИ и контента, созданного им, от созданных человеком и аутентичного контента. Люди должны знать, с каким ИИ они взаимодействуют или сталкиваются с его продукцией. Это позволит им принимать взвешенные решения, корректировать уровень доверия к технологиям и избегать дезинформации или обмана».
Комиссия подчеркивает, что наличие этих рекомендаций не означает возможность игнорировать требования закона. Напротив, отсутствие меток или нарушение правил прозрачности может привести к серьезным штрафам.
Последствия для компаний
Нарушение новых требований прозрачности грозит технологическим компаниям substantial penalties. Штрафы могут достигать 15 миллионов евро или 3 процентов от годового глобального оборота компании, whichever is higher.
Новые правила прозрачности применяются к новым системам ИИ немедленно. Однако для моделей и сервисов, запущенных до 2 августа, предусмотрен четырехмесячный льготный период до 2 декабря для приведения их в соответствие с законодательством.
Технические аспекты маркировки включают размещение специальных меток. Для поставщиков это означает внедрение систем, которые явно указывают на использование ИИ, а также добавление машиночитаемых маркеров в синтетический контент (текст, аудио, видео и изображения). Это позволяет автоматизированным системам и пользователям распознавать искусственную природу контента. Для распространителей требование заключается в маркировке любых дипфейков — изображений, аудио и видео, созданных или измененных ИИ, которые выглядят реалистично.
Простое объяснение терминов
Для ясности важно отметить разницу между понятиями. Провайдер — это компания, которая разрабатывает и продает системы искусственного интеллекта. Распространитель — это платформа (например, социальная сеть или новостной агрегатор), которая использует эти системы для работы с пользователями. Дипфейк — это цифровой контент (чаще всего видео или аудио), искусственно созданный или измененный с помощью ИИ так, что он кажется подлинным.
Эти меры вступают в силу, чтобы обеспечить баланс между инновациями и защитой пользователей от потенциальных рисков, связанных с автоматизацией контента.