Off Kilter: синтетические инсайты — не серебряная пуля

Главная проблема дискуссии об AI — та же, что и у любой современной дискуссии: она бинарна. Деньги делаются только на крайностях, а для нюансов места не остаётся. Мы вынуждены лавировать между «AI важнее промышленной революции» и «пузырь AI вот-вот лопнет с катастрофическими последствиями».

Доктор Сюзанна Ливингстон, бывшая коллега с PhD по AI, формулирует это точнее: мы входим в период, когда нам нужно быть всё более непохожими друг на друга и делать это последовательно. «Больше трения, больше странностей, больше экспериментов, больше сопротивления. Больше ответвлений и субверсий. Меньше погружения в среднее.» Коммерческий успех всё больше будет определяться сохранением и заострением способности к отличию, а AI — мощный инструмент, который может в этом помочь. Или навредить, если применять его неверно.

Именно здесь и находятся синтетические инсайты — тема, с которой сегодня сталкиваются все маркетологи, имеющая реальное применение и одновременно потенциал серьёзно подвести. Поскольку маркетологи сейчас перегружены синтетической риторикой, стоит разобрать её проблемы подробнее.

Раздел 1: проблемы точности

Вооружённые стереотипы

Для начала стоит разобраться, что на самом деле означают синтетические исследования, инсайты, панели и респонденты, — потому что механизм их работы объясняет большинство рисков.

Синтетическое исследование — это языковая модель, обученная разыгрывать роль потребительской когорты: она генерирует статистически наиболее вероятный ответ, который дал бы человек из этой когорты, опираясь на паттерны в обучающих данных. Эти данные могут включать вашу собственную базу проприетарных исследований, но, скорее всего, не включают. В основе лежит базовая модель, обученная на публичном интернете; некоторые вендоры дообучают её на проприетарных survey-архивах или через доступ к платформам, хотя прозрачности здесь мало — каждый вендор считает свой метод коммерческой тайной.

Это означает, что синтетический профиль формируется преимущественно из того, что написано о людях, а не из того, что они сами говорят о себе. Опросите синтетического CFO — и его персона будет собрана из написанного о CFO другими: исследований Большой четвёрки, консалтинговых отчётов, публикаций в отраслевой прессе. Но не из слов самих CFO. Дискурс CFO в открытом доступе скуден, а то, что существует, часто скрыто за стенами, которые модель не может преодолеть. Всё, что сказано в закрытых сообществах, написано в мессенджерах или произнесено на совещаниях, просто отсутствует в обучающих данных. Если модель не добралась до этого — этого не существует.

В результате академические исследования показывают, что модели искажают портрет групп через имитацию «извне», а не описание «изнутри». Это, по словам авторов исследований, порождает «уплощённые, чрезмерно упрощённые характеристики» — иными словами, стереотипы.

Риск стереотипизации глубже случайного упрощения, поскольку исходный материал не нейтрален. Исследования CFO от Большой четвёрки имеют встроенный коммерческий умысел — они создаются для продажи услуг. Если посмотреть шире, легко представить, что это означает для маркетинга в целом: мы рискуем строить стратегии на основе предвзятой карикатуры на нашу аудиторию, созданной интернетом. Карикатуры, которая просачивается даже тогда, когда мы дообучаем синтетическую модель на собственных данных, — потому что «интернет» по определению является несравнимо более объёмным источником сигнала, чем всё, что мы могли бы в неё загрузить.

То, что мы получаем, — это не инсайт. Это воспроизведение по памяти. И если вы не знаете источников этого воспроизведения, вы не знаете, насколько предвзятым оно окажется.

Невидимый сбой

Как прямое следствие механизма работы этих моделей, синтетические инсайты будут наиболее точными там, где данных много — модель видит чёткие паттерны, — и наименее точными там, где данных мало — модели почти не на что опираться. В ситуации тонких данных AI-система не скажет «я не знаю». Вместо этого она поступит так, как запрограммирована: предскажет наиболее правдоподобный текст, даже если лежащий в основе сигнал крайне слаб. Такие неточности принято называть галлюцинациями, но по сути это просто ошибки.

Именно поэтому заявления вендоров о точности концентрируются вокруг случаев с богатыми данными — создавая иллюзию, что точность равномерно распределена по всем сценариям использования, хотя это не так.

Результат — то, что можно назвать невидимым сбоем. Мы берём инструмент, валидированный на вопросах с богатыми данными, и направляем его на вопросы с тонкими данными. Уверенно неверный ответ выглядит идентично правильному.

Особую опасность это представляет потому, что именно инсайт из тонких данных нередко подаётся как ценностное предложение. Многие синтетические вендоры обещают доступ к аудиториям, которые трудно или дорого охватить традиционными методами. Именно о тех когортах, о которых в открытом доступе меньше всего реального дискурса — и именно о них модель знает меньше всего. Платформа выдаёт уверенный, статистически правдоподобный ответ, который может не иметь никакого отношения к реальности. А поскольку реальную популяцию сложно или дорого опросить, никто не проверяет. Мы просто считаем ответ правильным и движемся дальше.

Суть в том, что когорты с самыми высокими ценами — это зачастую те, где продукт наименее точен и где эта неточность менее всего вероятно будет замечена.

Дообученная угодливость

Третья проблема точности: модели за синтетическими респондентами не просто обучаются на данных — они дополнительно настраиваются с помощью обучения с подкреплением на основе обратной связи от людей (RLHF), чтобы быть полезными, приятными в общении и договороспособными.

Это отличная настройка для чатбота, цель которого — повышать вовлечённость, и яд для исследований: она ослабляет способность отражать реальные установки, не даёт выявлять недоминирующие точки зрения и граничные случаи, вводит фильтр угождения пользователю.

В результате модели смещаются к гомогенному профилю: высокая уступчивость, низкая конфронтационность — «слишком нейтральные, отстранённые и неосуждающие».

Эта настройка проявляется даже в том случае, если вы загрузили в базу знаний модели огромное количество собственных данных. Причина в том, что модель изначально сконфигурирована сглаживать именно те трения, которые вы ищете, и стараться не сообщать вам то, что, по её расчётам, вы не хотите услышать.

Приятно. Но бесполезно.

Раздел 2: проблемы конкурентного преимущества

Коммодитизация

Проблема коммодитизации не техническая — она стратегическая. Если вы можете обратиться к модели, то и ваши конкуренты могут сделать то же самое. Все обращаются к одному распределению, поэтому любой синтетический инсайт, который вы получаете, по конструкции доступен и вашим конкурентам. Он просто не может стать конкурентным преимуществом. В лучшем случае он поднимает базовый уровень.

Это не первый раз, когда мы оказываемся на этой карусели коммодитизации. По мере того как корпорации массово нанимали дизайнеров в цифровую эпоху, корпоративный дизайн резко улучшился — а затем перестал быть конкурентным преимуществом, когда все подтянулись до одного среднего уровня. Хороший дизайн стал новым плохим дизайном. Синтетический инсайт движется по той же траектории, только быстрее, поскольку нет лага на найм и обучение — возможность приходит ко всем одновременно.

Кто-то возразит: пусть инсайт и является товаром, но интерпретация — вот где настоящее преимущество. Но интерпретацию мы всё чаще отдаём тем же самым моделям. Если все черпают из одного источника и прогоняют через один и тот же движок интерпретации, результаты неизбежно сойдутся, ненароком стирая наши различия вместо того чтобы их усиливать. Рекламодатели, использующие синтетический инсайт для разработки кампаний, синтетические инструменты для их создания и синтетические панели для предварительного тестирования, уже сейчас движутся к такому результату. Горилла, отбивающая ритм под Фила Коллинза, из этого точно не получится.

В проценте ошибок и кроется ценность

Люди делят с кошками около 90% ДНК — но никто не спрашивает кошку, что думает CFO. В этом суть ограничения, когда синтетический вендор заявляет о «90% точности». Скрытое в этом проценте ошибок — не равномерно распределённый шум; зачастую там и находится ценность.

Независимые исследования однозначны: языковые модели воспроизводят задокументированное среднее, сглаживая вариативность, и становятся нестабильными на новых вопросах. Чуть измените формулировку — и ответ может существенно измениться.

Воспроизведение среднего иногда полезно, но это именно тот навык, которого вы не ищете в хорошем исследователе. Хорошее исследование существует для того, чтобы обнаруживать неусреднённое: диссидентов, новые паттерны поведения, странную подгруппу, которая станет целым рынком. Инструмент, регрессирующий к консенсусу, рискует сделать вас слепыми к тому, что действительно важно.

Хроническое опоздание к культурным сдвигам

Машина консенсуса по определению структурно запаздывает к культурным изменениям. А опоздание к культуре может оказаться фатальным, если ваша работа состоит в том, чтобы оседлать её вовремя.

Модели не видят то, что им недоступно: групповые чаты, Discord-группы, закрытые форумы и всё, что происходит вне публичного интернета. Они обучаются на текстах, написанных о культурных субгруппах, а не самими этими группами. Тренд становится считываемым для машины лишь после того, как достаточное число людей начнёт открыто обсуждать его, — а к тому моменту он уже войдёт в мейнстрим. Синтетическое распознавание культурных трендов приходит с опозданием и рискует достичь пика уверенности именно в тот момент, когда тренд уже прошёл свой пик. Это кошмар для CMO, снова и снова вскакивающего в уже ушедший поезд.

Нельзя прийти к позиции путём усреднения.

Раздел 3: проблемы загрязнения данных

Отравление источника

Препринт Корнельского университета показывает: достаточно тринадцати слов, намеренно внедрённых в комментарий на Reddit или Quora, чтобы стабильно влиять на ответы AI-поиска — системы принимают «похоже на вопрос» за эквивалент «является правильным ответом на вопрос». Вокруг этого уже выросла стремительно развивающаяся индустрия оптимизации под ответные движки (answer engine optimization, AEO), целенаправленно засевающая источники, которые эти инструменты сканируют.

Поскольку синтетические исследования черпают из тех же источников и используют те же базовые модели, они также подвергаются этому воздействию.

Перед нами риск ситуации из «Уловки-22»: бренд, засевающий дискурс для собственного продвижения, может запустить синтетическую панель, которая пьёт из уже отравленного колодца и возвращает ему же посеянную лесть — в виде «потребительской истины».

Корнельское исследование — это препринт, проведённый в изолированной среде, а не на живом вебе, поэтому определённая осторожность уместна. Но важна первопричина: система, неспособная отличить истинное от правдоподобного, всегда будет уязвима к отравлению правдоподобным. По мере роста индустрии AEO эта проблема будет только усугубляться.

В 2022 году Sony Pictures уже столкнулась с подобным: то, что выглядело как волна общественного спроса на повторный прокат откровенно провального фильма «Морбиус», оказалось интернет-мемом. Именно такой вид правдоподобия языковые модели вряд ли способны разглядеть.

Аудитора не существует

Сегодня развивающийся рынок синтетических инсайтов сам себе выставляет оценки.

Даже Qualtrics — один из наиболее осторожных и ответственных игроков рынка — разрабатывает и валидирует свою синтетическую методологию внутри, опираясь на критерии, которые сам и устанавливает. Единственные независимые аудиты, которые она проходит, — это аудиты безопасности дата-центров, а не проверки того, насколько синтетические пользователи действительно напоминают реальных. Не утверждается, что кто-то мошенничает, но алгоритмическое смещение — реальное явление, и нет независимого органа сертификации, подтверждающего, что синтетическая панель отражает реальность. Вендор, создающий модель, определяет «точность» на собственных условиях, и нам остаётся лишь доверять, что он прав.

Коммерческие инновации всегда опережают формирование независимой инфраструктуры доверия. Два исторических примера стоит держать в уме. Во-первых, независимый аудит публичных компаний стал обязательным лишь после принятия законов о ценных бумагах 1933 и 1934 годов — в ответ на крах, приведший к Великой депрессии. Во-вторых, в финансовый кризис 2008 года инфраструктура доверия существовала, но была захвачена участниками рынка. Оба предупреждения применимы к синтетическим исследованиям: рефери пока нет, и к тому рефери, который в конечном итоге появится, следует относиться настороженно, если его оплачивают сами вендоры.

Глаза открыты

Потенциал синтетических инсайтов для демократизации и улучшения многих аспектов бизнеса не вызывает сомнений. Даже если это прежде всего машины воспроизведения, а не машины инсайтов, воспроизведение по памяти тоже может быть крайне ценным — особенно когда его можно встроить в системы принятия решений в реальном времени. Это не тирада против синтетических инсайтов.

Однако необходимо осознавать: синтетические инсайты имеют структурные проблемы, которые не позволяют им быть той панацеей, которой их представляют, сколь бы убедительными ни казались их результаты на первый взгляд.

Победившие бренды следующего десятилетия не будут строиться на самых изощрённых синтетических движках. Они будут у всех. Победители — те, кто осознаёт, что проприетарное понимание реальных людей становится всё более ценным, а не менее.

Синтетические инсайты, вероятно, уничтожат массовый сегмент рынка исследований. Но те, кто предлагает оригинальное, ценное и по-настоящему глубокое понимание потребителей и их особенностей, окажутся в выгодной позиции — даже если клиентам потребуется время, чтобы это осознать.

Практический вывод: сохраняйте собственную связь с реальными клиентами. Ищите инсайты у живых людей, даже если это означает плыть против течения. Не избегайте синтетики — у неё есть своё место. Но там, где вы её применяете, проводите периодические аудиты точности и следите за дрейфом. И будьте особенно осторожны с синтетическими инсайтами в областях, где исходных данных мало.