Phys.org: DraftMarks делает роль AI в студенческих текстах видимой

Исследователи из Georgia Tech и Стэнфордского университета опубликовали DraftMarks — инструмент с открытым исходным кодом, который накладывает визуальные аннотации на документы, показывая, где AI участвовал в процессе написания. Инструмент разработан для академической среды, где вопрос о том, как студенты используют AI, важнее вопроса о том, используют ли они его вообще.

DraftMarks использует набор визуальных маркеров для обозначения разных типов AI-участия. Следы ластика отмечают интенсивно отредактированные фрагменты. Малярный скотч обозначает AI-сгенерированный текст, сохранённый с минимальными изменениями. Следы клея указывают на AI-контент, который был создан, а затем удалён. Призрачный текст показывает AI-предложения, которые были получены, но не использованы. Разные шрифты различают фрагменты, написанные автором, и фрагменты, сгенерированные AI. Визуальный язык создан для того, чтобы сделать сам процесс написания понятным — не только конечный результат.

Идея состоит в следующем: существующие инструменты обнаружения AI отвечают на бинарный вопрос — использовался ли AI или нет. DraftMarks задаёт другой вопрос: как именно взаимодействовали человек и AI и на каких этапах. В период, когда 90 % студентов, согласно данным исследователей, используют AI при подготовке учебных работ, бинарный подход к обнаружению теряет значимость. Важнее паттерн взаимодействия человека с AI, а не сам факт его присутствия.

Для профессионального письма основная идея переводится в область редакционной прозрачности. По мере того как AI-поддержанное написание черновиков становится обычной практикой в производстве контента и журналистике, вопрос о том, как представлять читателям и редакторам степень участия AI, остаётся открытым. DraftMarks не решает эту проблему применительно к профессиональным контекстам — он создан для академического использования, — однако предлагает конкретную модель того, как может выглядеть детальная атрибуция AI-участия на практике. Инструмент имеет открытый исходный код и доступен для адаптации.

Руководитель проекта — Момин Сиддики; в работе также участвовал аспирант по вычислительным наукам Адам Косиа.