Smashing Magazine: За пределами генеративного — подъём агентного AI и пользовательско-ориентированного дизайна

Виктор Йокко, UX-исследователь в ServiceNow и автор готовящейся книги о проектировании агентного AI, проводит различие, которое важно для того, как дизайнеры планируют свою работу. Генеративный AI отвечает на один запрос и сбрасывается. Агентный AI понимает цель, планирует последовательность шагов для её достижения, выполняет эти шаги и адаптируется при возникновении проблем. Это различие — от реактивного выполнения к проактивной активности — меняет то, что дизайнерам нужно изучать, тестировать и учитывать.

Стандартный инструментарий UX был создан вокруг юзабилити. Могут ли пользователи найти то, что им нужно? Могут ли они выполнить задачу? Агентные системы действуют прежде, чем пользователей просят что-либо сделать. Они обнаруживают проблемы, вырабатывают планы и предпринимают действия от имени людей, у которых может не быть чёткого понимания того, что делает система. Центральный аргумент Йокко состоит в том, что когда AI-системы выступают в роли посредников человеческого суждения, проектные вопросы смещаются от юзабилити к доверию, согласию и подотчётности.

Он описывает четыре различных режима работы агента: обнаружение (выявление проблем для проверки человеком), планирование (формирование стратегии, которую человек одобряет перед выполнением), прямое выполнение (действие в рамках заданных параметров) и полная автономия (действие без участия человека). Эти режимы — не прогрессия; данная система может переходить между ними в зависимости от контекста. Но каждый режим несёт разную структуру ответственности, и дизайнерам нужно явно указывать, какой режим действует и какие возможности есть у пользователей.

Исследовательские методы, следующие из этого, отличаются от стандартного тестирования юзабилити. Йокко рекомендует лонгитюдные исследования вместо оценки в фиксированный момент времени, поскольку доверие к агентной системе формируется или разрушается в ходе повторяющихся взаимодействий, а не за одну сессию. Он также подчёркивает важность исследования состояний ошибок: не только могут ли пользователи исправить ошибку, но понимают ли они, что произошло, почему система действовала именно так и что они могут сделать иначе в следующий раз.

На уровне интерфейса статья выступает за ненавязчивые уведомления и чётко определённые элементы управления. Хорошо спроектированный агентный интерфейс не рекламирует собственную сообразительность; он предоставляет пользователю своевременную и релевантную информацию и прямой путь для вмешательства. Йокко называет это проектированием для уверенности: цель — пользователь, который действует решительно, потому что понимает, что делает система, а не тот, кто колеблется, потому что не знает, когда ей доверять.

Статья имеет практическую направленность. Она опирается на исследовательский опыт Йокко, а не на теоретические сценарии, и содержит конкретные методы исследования (лонгитюдные интервью, тестирование «волшебника страны Оз» для запланированных агентов, разборы сценариев отказов), которые команды могут применить к текущим проектам. Полезна для UX-исследователей и старших дизайнеров, переходящих от проектирования единичных взаимодействий к проектированию систем, которые самостоятельно предпринимают действия.