Pangram собирает 9 миллионов долларов для создания новой системы обнаружения ИИ-контента
Нью-Йоркский стартап Pangram привлек 9 миллионов долларов инвестиций на масштабирование своего программного обеспечения для выявления ИИ-генерируемого контента. В рамках раунда финансирования компания представила обновленную текстовую модель Pangram 4 и модель для анализа изображений в режиме исследования. Основатели уверены, что спрос на инструменты, способные различать текст от рук человека и результат работы генеративных моделей, будет только расти по мере наводнения интернета низкокачественным цифровым шумом.
# Pangram привлекает инвестиции для борьбы с наводнением ИИ-контента
Компания Pangram, базирующаяся в Нью-Йорке, получила 9 миллионов долларов инвестиций от ведущего венчурного фонда Menlo Ventures, а также от Haystack, ScOp, Script Capital и Cadenza. Эти средства направлены на масштабирование их технологий обнаружения ИИ, которые, по словам основателей, становятся критически важными в эпоху всеобщей автоматизации.
Средства будут использованы для расширения возможностей платформы, включая релиз новой текстовой модели Pangram 4, которая, согласно заявлению компании, демонстрирует точность выше 99% при выявлении текста, сгенерированного ИИ или обработанного им, а также новой модели для анализа изображений.
Как работает технология обнаружения
Технология Pangram основана на больших языковых моделях, обученных на десятках миллионов документов, написанных человеком. Ключевое отличие от традиционных методов — отсутствие зависимости от скрытых водяных знаков или метаданных. Вместо этого модель использует подход «синтетического зеркала».
Создатели создают для каждого оригинального документа его «зеркальную копию», имитирующую его тему, длину и тон, но сгенерировав текст с помощью передовой языковой модели. Алгоритм изучает стилистические отличия и устойчивые паттерны выбора слов, присущие ИИ, чтобы с высокой уверенностью определять сгенерированный контент.
«Наша модель учится различать стилистические различия и выбор, который делает ИИ, и способна использовать эти знания для определения сгенерированного ИИ материала с высокой уверенностью», — говорит Макс Сперо (Max Spero), один из основателей.
Важно отметить, что система не просто отвечает на вопрос «написано ли это ИИ?», но и различает уровни содействия. Например, если автор сам пишет текст, но затем просит ИИ отредактировать или упростить стиль, модель способна оценить степень автоматизации. По словам Сперо, использование ИИ может быть допустимым при условии честного раскрытия его использования.
Различие между человеческим и ИИ-текстом
Использование ИИ-инструментов становится все более распространенным, что иногда приводит к серьезным последствиям. Публичные провалы, такие как речевые ошибки политиков, читавших наизусть тексты, сгенерированные промптом, или юридические ошибки, связанные с выдуманными ссылками, демонстрируют риски. В академической среде, например, на архиве arXiv, уже введены правила, запрещающие статьи, содержащие признаки того, что авторы не проверили результаты работы ИИ.
Платформа Pangram предлагает инструмент для авторов и издателей. Пользователи могут получить доступ через веб-сервис за 20 долларов в месяц или установить расширение для Chrome. Приложение автоматически маркирует контент в реальном времени на таких платформах, как X (Twitter), LinkedIn, Substack, Reddit и Medium, предоставляя оценку «здоровья ленты» с процентным соотношением человеческого и ИИ-контента.
Важно понимать технические термины: «галлюцинации» в контексте ИИ — это случаи, когда модель выдает информацию, которую она не знает или выдумывает. Инструменты вроде Pangram помогают читателям понять, стоит ли доверять тексту как результат глубокого расследования или как набор выдуманных фактов.
Тестирование и ограничения системы
Технология не является безупречной. По словам Сперо, примерно одна из десяти тысяч человеческих документов может быть ошибочно помечена как ИИ. В ходе тестирования модель уверенно выявляла статьи, написанные полностью ChatGPT или Claude, и редко поддавалась манипуляциям с целью сделать текст более человечным.
Однако, если текст был полностью переписан человеком, модель все еще могла пометить отдельные фразы как сгенерированные ИИ, вероятно, из-за сухого тона новостных материалов, который легко сбивает алгоритмы. В тестах с личными, более живыми текстами на Substack система показала высокую точность в различении стилей.
Новая модель для анализа изображений также демонстрирует впечатляющие результаты, работая на уровне распределения пикселей. В отличие от водяных знаков OpenAI или Google DeepMind, которые в основном обнаруживают только свой собственный вывод, алгоритм Pangram ищет статистические различия между реальными фотографиями и сгенерированными изображениями, в том числе выявляя цифровые изображения внутри реальных фотографий.
Будущее взаимодействия человека и машин
Макс Сперо подчеркивает, что цель технологии — не раздувать охоту на ведьм против людей, использующих ИИ для написания текстов, а создать механизм сопротивления «слому» (slop) — огромным объемам низкосортного контента. Он отмечает, что процессоров и видеокарт (GPU) развивается быстрее, чем рождается новое поколение людей, что без активного отбора в пользу человеческого сигнала приведет к его затоплению.
Конкуренты, такие как Winston AI, Originality.ai, Copyleaks и GPTZero, также конкурируют за этот рынок. Подписчики Substack уже интегрировали технологию Pangram, чтобы показывать читателям, пишут ли их любимые авторы новости с использованием искусственного интеллекта. Платформа предоставляет API для университетов, издательств и агентств.
Компания Pangram продолжает развивать инструменты для обеспечения прозрачности в эпоху искусственного интеллекта, балансируя между необходимостью борьбы с дезинформацией и поддержанием инновационного потенциала технологий.