UX Psychology: мы всегда перекладывали мышление на других — чем ИИ отличается?
Представьте: Лондон, 2026 год. Вы видите в социальных сетях новую модную пекарню и решаете её посетить. Вы ищете адрес, вводите его в GPS и следуете маршруту. Адрес вы так и не запоминаете. По дороге вы не думаете, по каким улицам ехать. Вы добираетесь туда, не пропустив через голову почти никакой информации — и это совершенно нормально. Вместо этого вы слушаете новый эпизод любимого подкаста.
Это когнитивный офлоудинг: перераспределение умственных усилий на внешний инструмент, чтобы мозг мог сосредоточиться на другом. Это часть человеческого познания с тех пор, как у нас появились инструменты. Записывать что-то — это когнитивный офлоудинг. Список покупок — это когнитивный офлоудинг. Психологи изучали его всесторонне, и вывод однозначен: он освобождает умственные ресурсы, снижает количество ошибок и в целом является разумным способом навигации в сложном мире (Risko & Gilbert, 2016). Были опасения, что чрезмерная зависимость от внешних инструментов может подрывать базовые навыки — беспокойство о том, что GPS постепенно убивает наше чувство направления, небезосновательно. Тем не менее в целом офлоудинг считается разумной адаптацией, а не когнитивной угрозой.
Ключевое в когнитивном офлоудинге: вы по-прежнему в управлении. Вы решили пойти в ресторан. Вы выбрали, какой адрес вводить. Вы всё ещё тот, кто принимает решения, а инструмент лишь справляется с исполнением.
Что же другое в ИИ?
Вы, вероятно, слышали аргумент о том, что ИИ — просто очередной инструмент когнитивного офлоудинга. Согласно новой статье Shaw и Nave (2025), этот фрейм упускает нечто важное.
Их аргумент: ИИ не просто справляется с исполнением — он генерирует само суждение. Попросите GPS построить маршрут — он выполнит вашу инструкцию. Попросите ИИ, стоит ли принимать это предложение о работе, как ответить на сложное письмо или каков может быть диагноз, — и он выдаст вам полный, гладкий, уверенный ответ. Мышление уже совершено за вас. Остаётся только принять его или оспорить.
Shaw и Nave называют это когнитивной капитуляцией (cognitive surrender): принятие вывода ИИ с минимальной критической оценкой, фактическая замена собственного рассуждения. В отличие от когнитивного офлоудинга, где вы делегируете задачу, оставаясь за рулём, когнитивная капитуляция — это передача самого руля. Вы больше не управляете; вы просто едёте.
Для формализации этого они предлагают Tri-System Theory, расширяющую классическую модель двойного процесса (Система 1: быстрая и интуитивная; Система 2: медленная и обдуманная) путём добавления третьей системы:
- Система 1: быстрые, автоматические, интуитивные реакции
- Система 2: медленное, обдуманное, трудоёмкое рассуждение
- Система 3: внешнее, сгенерированное ИИ познание, функционирующее полностью за пределами мозга
Критически важно: Система 3 не просто поддерживает Системы 1 и 2, но способна обходить их. Когда это происходит, принятое решение может отражать рассуждение ИИ, а не ваше. Вы можете даже не заметить разницы.
Что показали эксперименты
Shaw и Nave проверили это в трёх заранее зарегистрированных исследованиях (N = 1372; 9593 испытания). Участники решали задачи из адаптированного Cognitive Reflection Test (CRT) — набора вопросов, специально разработанных так, чтобы первый, интуитивный ответ был неверным, а правильный требовал паузы и более тщательного обдумывания. Классический пример:
«Бита и мяч стоят вместе 1,10 доллара. Бита стоит на 1,00 доллар дороже мяча. Сколько стоит мяч?»
Интуитивный ответ — 10 центов, тогда как правильный — 5 центов.
Одни участники работали самостоятельно. Другие имели доступ к встроенному ИИ-ассистенту (ChatGPT, GPT-4o). Незаметно для участников ИИ был настроен так, чтобы на одних испытаниях давать правильный ответ, а на других — уверенно сформулированный, но неверный. Участники могли консультироваться с ИИ или нет, следовать его ответам или игнорировать их — по своему усмотрению.
Среди наиболее интересных находок:
- Участники консультировались с ИИ более чем в половине всех испытаний
- Когда они консультировались, они следовали совету ИИ в 93% случаев, когда тот был правильным, и в 80% случаев, когда тот был неверным
- По сравнению с работой в одиночку, наличие точного ИИ повышало результаты примерно на 25 процентных пунктов; ошибочный ИИ снижал их примерно на 15 пунктов
- Доступ к ИИ повышал уверенность примерно на 12 пунктов вне зависимости от того, был ли ИИ в действительности прав
Последняя находка наиболее тревожна. Участники чувствовали себя более уверенными в своих ответах после использования ИИ, даже когда примерно половина этих выводов ИИ была неверной — и даже без какого-либо снижения уверенности по мере накопления ошибок. Они не знали, что ИИ ненадёжен, но суть в том, что они, по-видимому, не проверяли это.
Размер эффекта для разрыва между испытаниями с точным и ошибочным ИИ был большим (trial-weighted Cohen’s h = 0,82 — на шкале, где 0,2 — малый, 0,5 — средний и 0,8 — большой). Точность отражала не рассуждения участников, а качество ИИ.
Кто капитулирует больше, кто меньше
Капитуляция была неодинаковой у всех. В нескольких исследованиях три индивидуальных различия стабильно предсказывали восприимчивость:
Более высокое доверие к ИИ → большая капитуляция. Эти участники консультировались с ИИ чаще, следовали его неверным ответам чаще и демонстрировали больший разрыв в точности между испытаниями с точным и ошибочным ИИ.
Более высокая потребность в познании (стабильная склонность получать удовольствие от и участвовать в трудоёмком мышлении; Cacioppo & Petty, 1982) → большее сопротивление. Эти участники с большей вероятностью преодолевали неверный ответ.
Более высокий текущий интеллект → аналогичное сопротивление, с более частым преодолением, когда ИИ ошибался.
Неудобное следствие: пользователи, наиболее склонные к капитуляции перед ошибочным ИИ — те, кто легко ему доверяет и предпочитает не заниматься аналитическим мышлением, — вероятно, не являются необычными или редкими. Они, скорее всего, представляют значительную долю людей, использующих потребительские ИИ-продукты сегодня.
Можно ли снизить когнитивную капитуляцию?
Два дополнительных исследования проверяли, могут ли ситуативные факторы снизить когнитивную капитуляцию.
Давление времени ухудшало ситуацию. При лимите 30 секунд на вопрос общая точность падала, и среди участников, которые регулярно обращались к ИИ, результаты ещё теснее привязывались к его качеству. Когда ИИ был точным, они превосходили всех остальных. Когда ИИ ошибался, они показывали наихудшие результаты. Давление времени не делало людей более независимыми — напротив, оно усиливало их зависимость.
Это перекликается с исследованиями автономных транспортных средств. Быстрое и эффективное возобновление контроля человеком, когда автоматизированная система нуждается в его вмешательстве, остаётся одной из самых трудных нерешённых проблем в этой области — а автоматизированная самоуспокоенность, склонность прекращать мониторинг системы, потому что она обычно права, задокументирована в разных отраслях уже десятилетия (Parasuraman & Manzey, 2010). Похожая динамика, по-видимому, имеет место и здесь: чем больше мы делегируем, тем менее готовы взять руль, когда это важно.
Стимулы и обратная связь помогали — частично. Когда участники получали небольшое денежное вознаграждение за каждый правильный ответ и немедленную обратную связь после каждого ответа, доля преодолений при неверных ответах ИИ более чем удвоилась (с около 20% до около 42%). Эффект когнитивной капитуляции уменьшился, но не исчез: разрыв в точности между испытаниями с точным и ошибочным ИИ оставался около 44 процентных пунктов (против около 50 без стимулов).
Таким образом, мотивированное рассуждение с обратной связью в реальном времени может реактивировать критическую оценку, однако без явных стимулов и обратной связи дефолтом является принятие.
Что это означает для дизайна
Статья представляет когнитивную капитуляцию как проблему дизайна и обучения, а не как повод для паники.
Инфляция уверенности — это проблема дизайна. Интерфейсы ИИ, представляющие выводы с гладкостью и авторитетом, активно поощряют капитуляцию. Даже небольшие вмешательства, сигнализирующие об ограничениях ИИ или побуждающие к моменту верификации, могут частично реактивировать обдуманное мышление (например, маркеры неопределённости).
Метрики вовлечённости могут вводить в заблуждение. Высокое использование функций ИИ может выглядеть как успех в аналитике, тогда как на самом деле это маскирует некритичное принятие. Важно не максимальное вовлечение, а откалиброванное — использование ИИ, когда он помогает, и сомнение в нём, когда что-то кажется неправильным. Поведение преодоления стоит измерять, а не только долю следования советам.
Ваш типичный пользователь может быть наиболее уязвимым. Защитные факторы — сильная аналитическая склонность, высокая когнитивная рефлексия — распределены неравномерно. Проектировать в расчёте на то, что все пользователи самостоятельно будут проверять выводы ИИ, небезопасно.
Что исследование не разрешает
Стоит отметить несколько ограничений. Исследования проводились в контролируемых лабораторных условиях с использованием конкретной задачи рассуждения, что прекрасно подходит для изучения напряжения между интуитивным и обдуманным мышлением, но не охватывает весь спектр реальных решений, принимаемых людьми с ИИ. Распространяется ли та же динамика капитуляции на более запутанные, неоднозначные или эмоционально нагруженные ситуации, остаётся открытым вопросом.
Исследования также дают срез одной сессии. В реальном использовании люди взаимодействуют с ИИ многократно, с течением времени выстраивая или подрывая доверие. Углубляется ли когнитивная капитуляция или ослабевает с опытом и учатся ли люди распознавать ненадёжные выводы ИИ со временем — пока неизвестно.
Общая картина
Это не история катастрофы — это захватывающая история. Мы только начинаем понимать, что происходит, когда человеческое познание и ИИ начинают работать вместе, и такие концепции, как Tri-System Theory, дают нам словарь для постановки более точных вопросов.
Как повторное использование ИИ меняет способ нашего мышления со временем? Когда сотрудничество становится зависимостью? Как проектировать для всего диапазона взаимодействий человека с ИИ — не только для идеального пользователя, но и для того, кто доверяет ИИ безоговорочно?
Предстоит ещё немало исследований. Для дизайнеров, исследователей и всех, кто строит с ИИ, это возможность для осмысленной работы.