Почему детекторы ИИ не доказывают использование ИИ — и чем это опасно

Несмотря на стремительный рост многомиллиардной индустрии инструментов для выявления ИИ-генерации, такие детекторы не могут доказать, что текст написан искусственным интеллектом — они лишь дают вероятностную оценку. Об этом прямо пишет автор оригинальной статьи, подчёркивая ключевой парадокс: большие языковые модели обучаются на человеческих текстах, а значит, всё, что способна сгенерировать модель, в принципе мог написать и человек.

Детекторы работают не за счёт поиска «цифрового почерка ИИ», а потому что массовые модели — ChatGPT, Claude, Gemini — сходятся в стиле под влиянием RLHF и настройки безопасности. Получается не «детектор ИИ», а скорее классификатор определённого стиля письма, характерного для самых популярных моделей. По оценке автора, такой подход может давать ~90 % точности, но при низкой реальной доле ИИ-текстов (например, 10 %) половина всех «обнаруженных» случаев окажется ложными срабатываниями.

Важно: все детекторы — это тоже ИИ. А значит, даже лучшие из них выдают не доказательство, а гипотезу. Особенно тревожна практика коммерческих сервисов, совмещающих детекцию с «очеловечиванием»: они искусственно завышают число ложноположительных результатов, чтобы подтолкнуть пользователей купить «исправление» текста — часто за счёт его повторной обработки… той же языковой моделью.

Автор предупреждает: из-за завышенных ожиданий от этих инструментов страдают прежде всего люди — студенты, журналисты, писатели, — которым приходится оправдываться за собственные тексты или даже фиксировать процесс написания как доказательство. Водяные знаки, которые теоретически могли бы решить проблему, пока не внедрены: они снижают качество генерации, а простые варианты легко обходятся.

Вывод автора однозначен: инструменты обнаружения ИИ не могут доказать использование ИИ — и ошибаться в этом вопросе сегодня дорого стоит.