Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Формат научных документов оказался достаточным, чтобы детектор спутал способ сборки датасета с машинным авторством. В тесте с изменёнными только переносами и пробелами формат отменял 20–27% верных решений публичного детектора; работа Anastasia Voznyuk и Andrey Grabovoy не рецензирована, а числа получили сами авторы. Для команд вывод практический: формат нужно выравнивать до обучения, иначе высокая оценка внутри бенчмарка скрывает провал на новых данных.
Бенчмарк позволял не читать текст
Работа охватывает десять наборов научных документов из шести ресурсов. В них входят аннотации, введения и рецензии на английском языке; машинные документы модели писали с нуля по заголовку или запросу, а не пересказывали изначальный человеческий текст.
Классы проходили через разные конвейеры. Человеческие документы извлекали из исходных файлов и PDF, поэтому в них сохранялись переносы строк, повторные пробелы, типографские кавычки и тире. Ответы моделей приходили через API как ровные блоки текста.
На поднаборах arXiv человеческие аннотации сохраняли характерную разбивку примерно по 80 символов в строке, а машинные чаще оставались одним абзацем. Это не свойство человеческого стиля: метку фактически добавил способ подготовки данных.
Чтобы проверить силу такого сигнала, поверх документов обучили простой классификатор — логистическую регрессию. Он видел длину строк и предложений, доли знаков препинания, цифр, заглавных букв, пробелов и переносов, но не видел сами слова. Если такой классификатор успешно разделяет классы, детектору тоже необязательно анализировать содержание.
Макро-F1 поверхностного классификатора на поднаборах arXiv составил 0,951–0,997. Эта метрика поровну учитывает качество на человеческом и машинном классах. Лучший из проверенных полноценных детекторов достиг лишь 0,868, хотя должен был располагать более содержательными признаками.
Переформатирование показало, на что смотрит детектор
Высокое качество поверхностного классификатора ещё не доказывает, что конкретная модель использует тот же обходной путь. Поэтому для машинных документов создали контрфактические версии: слова оставили прежними, но применили формат человеческого класса — перенесли строки, добавили характерные пробелы и восстановили типографскую пунктуацию.
Для контроля к тем же документам применяли формат машинного класса. Так можно отделить реакцию на «человеческое» оформление от общей нестабильности модели после любого изменения пробелов. Проверка не требует переобучения или доступа к внутреннему устройству детектора: достаточно получить оценку машинного авторства до и после преобразования.
Реакция зависела не только от обучающих данных, но и от токенизатора — компонента, который разбивает вход на элементы для модели. RoBERTa сохраняет повторные пробелы и переносы при разбиении текста, поэтому может выучить этот сигнал. DeBERTa с SentencePiece удаляет его ещё до обработки моделью.
Из-за этого оценки систем на одном бенчмарке нельзя напрямую сравнивать, если их токенизаторы по-разному представляют форматирование. Одна модель получает простой технический признак, а другая его не видит и вынуждена искать различия в содержании.
Нормализация снизила результат внутри исходного набора, зато улучшила перенос. Когда обученные на загрязнённых поднаборах arXiv модели проверили на независимых наборах без такого форматного сигнала, средний макро-F1 вырос с 0,33 до 0,65. Удаление лёгкой подсказки почти вдвое повысило качество там, где изменился источник документов.
Командам стоит менять подготовку данных, а не архитектуру
Если детектор машинного текста уже входит в продукт, работа не требует немедленно заменить модель. Сначала стоит проверить конвейер данных: одинаково ли обрабатываются человеческие и машинные примеры, сохраняет ли токенизатор переносы и совпадает ли подготовка обучающих документов с обработкой входа в продукте.
Перед разделением данных и обучением полезно привести обе категории к общей форме: свернуть повторные пробелы, убрать исходные переносы строк, унифицировать кавычки и тире. Одну и ту же процедуру нужно применять при обучении, проверке и эксплуатации, иначе появится новый разрыв между наборами.
К основному детектору стоит добавить дешёвую поверхностную проверку, которая не видит слов. Если она приближается по качеству к языковой модели, бенчмарк, вероятно, измеряет особенности конвейера. Второй тест — менять только формат и следить, насколько сдвигается оценка машинного авторства.
Такая проверка нужна и при выборе готовой модели. Итоговый отчёт должен указывать не только макро-F1, но и способ извлечения документов, нормализацию, токенизатор и перенос на другой источник. Оценка на случайном разделении одного набора не показывает, распознаёт ли система происхождение текста или запоминает технический след.
Вывод проверен на английских научных документах, машинные тексты в которых создавались с нуля. Преобразования охватывали пробелы, переносы и пунктуацию, поэтому работа показывает конкретный сбой конвейера, а не универсальную надёжность или ненадёжность всех детекторов.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
