Frontiers: ИИ в качественных исследованиях — этические и практические соображения

Журнал Frontiers in Research Metrics and Analytics опубликовал статью формата Perspective, в которой Тайра Гирдвуд (Университет Теннесси, Колледж медсестринского дела) и Лидия Маникунда (Политехнический институт Ренселлера) анализируют практические и этические вопросы использования ИИ в качественных исследованиях. Авторы охватывают весь цикл работы — от формирования концепции исследования до публикации результатов, — заполняя тем самым пробел в существующих руководствах, которые, как правило, касаются только отдельных этапов.

Введение

Инструменты на основе больших языковых моделей (LLM) получают всё большее распространение в разных дисциплинах. Такие программы, как AI Assistant в NVivo 15, обещают ускорить суммаризацию данных и выявление паттернов. Однако авторы предупреждают, что «выходные данные ИИ лишены живости, глубины и подлинной экспертизы человеческого интеллекта». Существующие методические рекомендации ограничиваются, как правило, этапом анализа данных, не охватывая исследовательский цикл в целом. Цель статьи — обозначить этические и практические риски на каждом из пяти этапов, чтобы исследователи могли интегрировать ИИ ответственно.

Этап 1. Формирование концепции и дизайн исследования

ИИ способен ускорить поиск литературы, но при этом генерирует нерелевантные или несуществующие источники. Исследование Линардона и соавторов зафиксировало, что «примерно 66% цитат, сгенерированных ИИ, оказались галлюцинациями или содержали неточности». Кроме того, методологические традиции качественных исследований — например, qualitative description Сандэловски — вступают в противоречие с логикой автоматизированных процессов.

Авторы предлагают исследователям задавать себе четыре вопроса перед применением ИИ на этом этапе: зачем нужен ИИ в данном конкретном исследовании; как ИИ помогает закрыть теоретические пробелы; соответствует ли инструмент выбранному качественному подходу; каким образом обеспечивается приоритет человеческих наблюдений.

Этап 2. Рекрутмент и сбор данных

ИИ-сгенерированные синтетические участники не могут гарантировать репрезентативность и глубину данных. Интервью, проводимые ИИ, рискуют утратить рефлексивность и контекстуальную чуткость, присущую исследователю-человеку. Загрузка данных участников на коммерческие ИИ-платформы создаёт риски конфиденциальности: без чётких соглашений компания может использовать эти данные для дообучения собственных моделей.

На этом этапе исследователям предлагается ответить: действительно ли синтетические данные смогут ответить на вопросы исследования; как участники ожидают, что их данные будут защищены; отражено ли использование ИИ в форме информированного согласия; этично ли передавать ответы участников во внешние ИИ-системы для обучения.

Этап 3. Анализ данных

Авторы называют этот этап наиболее уязвимым. Качественный анализ требует нюансировки и итеративности; ИИ рискует чрезмерно упростить сложные социальные явления или пропустить системные барьеры. «Чёрный ящик» LLM не позволяет объяснить, как именно были сформированы выводы, что подрывает воспроизводимость исследования.

Алгоритмы ИИ исторически гиперпредставляют белых высокодоходных пользователей, что создаёт риск предвзятости при анализе данных, относящихся к маргинализированным группам. Соответствие требованиям HIPAA при работе с медицинскими данными участников далеко не гарантировано: многие NLP-алгоритмы не обеспечивают необходимый уровень защиты. Утечка данных может повлечь юридическую ответственность.

В качестве мер снижения рисков предлагается: member checking (проверка интерпретаций самими участниками), прозрачная документация применяемых моделей, явное обсуждение ограничений и неопределённостей ИИ.

Рекомендуемые вопросы для самопроверки: генерирует ли ИИ неточные, предвзятые или сфабрикованные интерпретации; верифицируемы ли его выходные данные; способен ли ИИ уловить нюансы качественного материала; кто несёт ответственность, если выводы окажутся ошибочными.

Этап 4. Визуализация данных

ИИ-инструменты типа Canva снижают барьер для создания визуальных материалов для исследователей без дизайнерского опыта. ИИ также может генерировать анонимизированные изображения участников.

Вместе с тем передача биометрических данных во внешние системы позволяет компаниям хранить их, обучать на них модели или монетизировать иными способами. Несоответствие между намерением исследователя, выраженным в промте, и результатом ИИ способно внести путаницу в интерпретацию данных. ИИ с трудом воспроизводит мелкие детали, которые могут быть критически важны для качественного анализа. Обобщённые описания, необходимые для анонимизации, снижают ценность визуализации.

Этап 5. Написание текста для публикации

Опрос 5 000 исследователей, проведённый журналом Nature, показал неоднородность взглядов: большинство принимают ИИ при написании аннотаций, но против использования ИИ при создании разделов рукописи. ИИ может помочь с генерацией идей, структурированием текста, синтезом литературы и редактурой. Исследователи, не являющиеся носителями языка, выигрывают от поддержки в переводе, хотя надзор человека остаётся необходимым.

Авторы формулируют жёсткие требования: ИИ не может быть указан автором; исследователи обязаны раскрыть название и версию инструмента, перечень выполненных задач, границы применения, степень человеческого контроля и задействованные этические меры. Все ссылки должны быть верифицированы вручную, рукопись — проверена на плагиат.

Стратегии снижения рисков

Авторы структурируют рекомендации на трёх уровнях.

Уровень исследователя: прозрачно описывать использование ИИ и принятые решения; адаптировать стандартизированные чеклисты (COREQ, SRQR) к условиям работы с ИИ; разрабатывать специфические теоретические рамки.

Уровень организаций: обновлять учебные программы с учётом этики ИИ; поддерживать межпрофессиональное проектирование систем управления.

Уровень сообщества качественных исследователей: разрабатывать стандарты и политики, регулирующие ИИ как инструмент исследования; создавать консорциумы для актуализации методических рекомендаций.

Ключевые выводы

Авторы выделяют пять принципиальных позиций. Человеческий надзор является обязательным: ИИ должен дополнять, а не замещать экспертизу исследователя. Прозрачность применения ИИ — необходимое условие доверия. Этические вопросы, связанные с приватностью, предвзятостью, ответственностью и согласием участников, требуют системного внимания. Область находится в стадии становления: исследователи должны отслеживать изменения и обосновывать каждое решение об использовании ИИ. Методологическая строгость и воспроизводимость зависят от того, насколько осмысленно интегрирован ИИ.

Примечательно, что сами авторы заявляют: при написании этой статьи генеративный ИИ не использовался.