LinkedIn вводит инструмент для борьбы с низкокачественным контентом от ИИ
Социальная сеть LinkedIn объявила о запуске новой функциональности, позволяющей пользователям маркировать посты как 'схожие с вырвиглядием из ИИ'. В рамках стратегии по очистке платформы от неаутентичных материалов компания также заменяет свои инструменты для написания текстов на функции редакторской проверки и расширяет меры защиты от автоматизированного ботинга.
# LinkedIn бросает вызов культуре 'AI slop': новый способ борьбы с искусственным мусором в ленте
Лидер среди профессиональных сетей LinkedIn решил действовать. В четверг компания представила пользователям новую кнопку, позволяющую сообщать о постах, которые кажутся написанными искусственным интеллектом. Это решение стало частью более широкой инициативы по сокращению доли низкокачественного контента, генерируемого алгоритмами, в ленте новостей платформы.
Директор по продукту LinkedIn Хари Сринаванасан признал, что низкосортный контент от ИИ — это приоритет для всего персонала. По его словам, пользователи приходят в LinkedIn, чтобы связываться с реальными людьми, делиться своими личными перспективами и профессиональным опытом. Наполнение ленты роботизированным текстом противоречит этой цели.
Расширение инструментов модерации и защита от ботов
Новая функция «Seems like AI slop» (Пост кажется контентом, созданным ИИ) работает в синергии с другими мерами, принимаемыми платформой. LinkedIn инвестирует в системы автоматической защиты, которые ежедневно блокируют сотни тысяч попыток автоматического комментирования. За последние пару месяцев компания успешно остановила миллионы подобных попыток.
Важным шагом стало внедрение новых классификаторов. Они предназначены для выявления низкокачественного контента еще до того, как он попадет в рекомендации для пользователей, выходящие за пределы их профессиональной сети. Если пользователь нажмет на новую кнопку, этот сигнал поможет LinkedIn настроить свои собственные модели искусственного интеллекта для более точной идентификации подобного спама в будущем.
Кроме того, компания будет приватно помечать панели управления пользователей, если их собственные материалы воспринимаются как неаутентичные из-за активного использования ИИ. Эта мера, по мнению компании, поможет авторам улучшать стиль изложения. Это актуально, когда ИИ используется только для полировки уже существующих идей, а не для создания полного контента с нуля, который считается «вырвиглядием» (slop).
Запуск новых редакторов и изменение подхода к генерации
В рамках реформы пользовательского опыта LinkedIn убирает свой собственный инструмент «Улучшить ваш пост» (Enhance your post). Ранее эта функция использовала алгоритмы для пересказа текста. Теперь её заменяет инструмент строгой проверки грамотности (proofreading), который призван редактировать орфографию и стиль, не меняя при этом уникальный голос автора.
Параллельно расширяется доступ к инструментам верификации профилей и страниц. Пользователи также получают возможность блокировать комментарии от страниц компаний, которые больше не актуальны для их просмотра. Хари Сринаванасан подчеркнул, что эти шаги направлены на сохранение доверия и аутентичности профессионального общения.
Контекст проблемы и глобальный тренд
Один из редакторов TechCrunch отметил, что эта тенденция является частью общего сдвига в онлайн-медиа и социальных сетях. Люди стали разочаровываться в компьютере-написанных публикациях, заполняющих интернет. Недель назад, например, почтовая платформа Substack добавила инструменты для идентификации ИИ-контента через партнерство с Pangram. Эта же компания недавно получила финансирование в размере 9 миллионов долларов для борьбы с наводнением ИИ-контента в сети.
Проблема затрагивает и стартапы. Например, платформа Digg вынуждена была закрыть своего конкурента Reddita в марте, так как не смогла справиться с количеством ботов, захвативших сайт. Инфраструктурная компания Cloudflare отмечает, что трафик от ботов уже превысит запросы от реальных людей быстрее, чем прогнозировалось ранее. LinkedIn вступает в эту битву с акцентом на качество человеческой коммуникации, предлагая пользователям самим стать модераторами через новую кнопку жалобы.
Использование таких терминов, как «AI slop», стало популярным в технической среде для обозначения большого объема низкокачественных, часто бессмысленных текстов, генерируемых моделями. LinkedIn, реагируя на это, пытается вернуть контроль над качеством информации, предоставляя пользователям инструмент, чтобы сказать: «Здесь нет человека, только алгоритм».