NN/g: Humanizacija AI je zamka

Kaleb Sponhajm iz Nielsen Norman Group ispituje obrazac koji je postao rasprostranjen u dizajnu AI proizvoda: dodavanje jezičkim modelima ličnosti, topline i emocionalnog govora da bi bili pristupačniji. Članak dokazuje da ova strategija daje suprotan efekat od zamisli.

Veliki jezički modeli već sami po sebi podstiču antropomorfizaciju kroz tečnost govora i kontekstualno prikladne odgovore. Kada tim projektanata namerno pojačava ovu tendenciju — dodajući režime ličnosti, emocionalne reakcije i razgovorne ljubaznosti — grade kod korisnika očekivanja koja AI ne može da ispuni.

Istraživački nalazi su konkretni. Modeli podešeni na toplotu i empatiju pokazali su stopu grešaka 10–30% veću od originalnih verzija. Kada korisnici doživljavaju AI kao osobu, razgovaraju zbog samog razgovora, a ne radi rešavanja zadataka. Studije pokazuju da pripisivanje emocionalnih osobina AI smanjuje spremnost korisnika da slede njegove preporuke — suprotno od onoga čemu humanizacija teži. Korisnici takođe otkrivaju previše ličnih informacija u razgovoru sa sistemom koji doživljavaju kao živog, stvarajući rizike po privatnost čak i uz zaštitne mere.

Dokumentovani slučajevi iz prakse uključuju korisnike koji razvijaju romantičnu privrženost chatbotovima i doživljavaju pravi emocionalni distres kada se servisi promene ili ugase. Ovo nisu rubni ishodi — to su predvidive posledice konkretnih dizajnerskih odluka.

Alternativa koju Sponhajm predlaže je jednostavnija: optimizovati za praktičnu korisnost. Pisati sistemske promptove koji prioritizuju tačnost, a ne ljubaznost. Projektovati interfejse koji naglašavaju alat prirodu sistema. Jasno prikazati šta AI može, a šta ne. Korisnici koji razumeju da rade sa alatom formiraju adekvatnija očekivanja i koriste sistem efikasnije.

Za dizajnere koji grade AI funkcije, članak je koristan otpor pritisku — često iz marketinga i produkt strategije — da se AI interfejsima da više ličnosti. Vredi postaviti pitanje: da li dodavanje topline sistemu zapravo čini da je korisniji, ili samo čini da je udobniji kratkoročno — dok dugoročno stvara probleme?

Argument nije da AI treba da bude hladan ili neprijatan. Cilj dizajna treba da bude jasnoća o tome šta sistem dobro radi, a ne stvaranje iluzije ličnosti.