Нейродетекторы обманчивы: как ИИ ловит «ленивого копирайтера», и почему это лишь игра с вероятностями

# ИИ и человек: что на самом деле ищут нейродетекторы

Мы привыкли думать, что за каждым текстом стоит либо человек, либо алгоритм. Однако в мире цифрового копирайтинга границы размываются. Заказчики требуют в техническом задании: «Проверь на уникальность и убедись, что процент ИИ не превышает X%». Но кто и как это проверяет? Никто не уточняет, какие алгоритмы работают под капотом сервиса. Десять лет назад главным критерием была уникальность текста, теперь в фокусе — «гуманизированность» и отсутствие следов нейросетей.

В статье разбираем внутреннее устройство популярных детекторов: от перплексии до водяных знаков. Мы проверили, насколько точно эти инструменты могут отличить живой язык от сгенерированного, и выяснили, что часто ловят не ленивых авторов, а слишком старательных редакторов.

Метрики непредсказуемости: почему текст кажется машинным

Основой работы многих детекторов являются вероятностные метрики, такие как перплексия и surprisal (удивление модели). Это сложное, но понятное понятие.

Лингвистическая модель, стоящая за детектором, читает текст по словам (токенам). Она постоянно ожидает, какое слово пойдет дальше. Если после фразы «Заказчик вернул текст на...» следует слово «доработка», модель не удивляется — вероятность этого события высока. Если же там будет «подоконник», модель «удивится». Степень этого удивления и есть surprisal.

Чем выше surprisal, тем менее предсказуем текст для алгоритма. Человеческие авторы часто отходят от шаблонных конструкций, используют неожиданные метафоры или делают ошибки. Это повышает значение surprisal и делает текст в глазах машины «человеческим». Напротив, ИИ-модели при генерации, особенно с низкой температурой (режимом предсказуемости), стремятся выбирать самые вероятные варианты, что приводит к низкой перплексии. Детектор видит такую гладкость и присваивает тексту высокий процент машинной генерации.

Также используются ранги токенов. Модель выстраивает все возможные продолжения в списке от наиболее к наименее вероятным. Если в готовом тексте слова всегда занимают первые строки этого списка (высокая энтропия низкая), детектор склоняется к версии, что текст сгенерирован машиной. Если же слова прыгают по списку, энтропия растет, и текст классифицируется как человеческий.

Эти показатели не являются абсолютными доказательствами. Текст, написанный человеком по жесткому регламенту или шаблону, также будет иметь низкую перплексию, так как его структура ограничена. А ИИ-генерацию можно легко «очеловечить» редактированием.

Классификация: кто кого учил?

Второй распространенный подход — использование классификаторов. Алгоритм не считает сложную математику вероятностей, а сравнивает новый текст с огромной базой данных, которую он изучал ранее.

Обучение происходит на двух наборах текстов: написанных людьми и сгенерированных нейросетями. Детектор ищет в них различия: лексику, синтаксис, пунктуацию или даже жанр.

Опасность этого метода кроется в смещенной выборке. Если база обучения состоит из отзывов на маркетплейсах (живой язык, эмоциональные выписки) и технических инструкций (ровный, сухой стиль), детектор запомнит простую корреляцию: «первое лицо и ошибки = человек», «безличный залог и перечисление = ИИ».

В результате техническая статья, отредактированная редактором, может быть ошибочно принята за генерацию, так как она соответствует образцу «инструкции», заложенному в память машины. Происхождение текста теряется, и решение принимает алгоритм, опираясь на упрощенные стереотипы.

Стилометрия и водяные знаки

Стилометрия пытается зафиксировать «почерк» автора в виде цифр: среднюю длину предложений, частоту повторов, использование местоимений и знаки препинания. Однако «почерк» здесь часто зависит не от личности автора, а от задачи. Технический писатель утром в блоге может писать эмоционально и коротко, а днем в документации — сухо и структурировано. Детектор, сравнивающий эти векторы, может указать на несоответствие или, наоборот, заподозрить человека в генерации из-за отсутствия вариативности.

Наиболее прогрессивным, но пока редким методом является водяной знак (SynthID). Например, компания Anthropic ввела механизм, где модель намеренно выбирает определенные токены, создавая незаметную последовательность, уникальную для этой модели. Это не скрытый текст или специальный символ, а едва заметное отклонение в вероятностном распределении.

Если такой знак обнаружен, можно утверждать, что конкретная модель участвовала в создании текста. Однако это не значит, что она написала его целиком. Если человек основательно переписал абзац или перевел статью, сигнала водяного знака может не остаться. Отсутствие метки также не гарантирует отсутствие ИИ — это может быть другая модель, старая версия или сильный редактурный труд.

Практическая проверка: цифры в действии

В тестовом исследовании вступительная часть статьи была проверена на пяти популярных сервисах: Aidetector.ru, MyDetector, Isgen, ru-ai-text-detector и Smodin (частично).

Результаты оказались единодушными, несмотря на разные алгоритмы: * Aidetector.ru: «Человек» (10% вероятности ИИ). Выявлены авторский стиль и высокая вариативность. * MyDetector: 0% ИИ, 100% человек. * Isgen: 0% ИИ, 100% человек. * ru-ai-text-detector: Вердикт «человек» при вероятности 10%. * Smodin: Не прошел проверку из-за ограничения объема текста (требуется минимум 1000 знаков).

Парадокс в том, что автор использовал гибридный подход: черновик был написан человеком, затем доработан ChatGPT и наконец отредактирован вручную. Детекторы, не видя истории создания, лишь оценили финальный результат как «человеческий» благодаря наличию редактуры и отклонениям от стандартной машинной структуры.

Выводы о природе «авторства»

Ключевой вывод заключается в том, что нейродетекторы не обладают сверхсилой «детектора лжи». Они лишь сравнивают текст с образцами, заложенными в их памяти. Цифра «87% ИИ» — это повод для редактора перечитать работу, проверить факты и логику, а не повод для автоматического отказа в публикации. Никто не проверяет глубину мысли или честность источников.

Обратная ситуация — «100% человек» — также не гарантирует качества. ИИ-генерация, если она прошла через сильное редактирование, вполне может пройти любую проверку. Публиковать такой текст без должной редактуры — неуважение к читателю и собственной профессии. Настоящий редактор понимает: инструмент лишь помогает, но качество контента зависит от человека, который стоит за клавиатурой.

Технологии развиваются, и уже в 2026 году компании вроде Anthropic объявляют о внедрении обязательной маркировки своих моделей. Но даже тогда вопрос «сколько процентов ИИ в тексте» останется риторическим, поскольку понятие чистого авторства в эпоху когенерации становится философской дилеммой, а не технической задачей.

*Парадокс современности в том, что мы используем инструменты, созданные, чтобы ускорить работу, но часто спрашиваем их, кто именно трудился над этим ускорением.*