Personalizovaná AI zdvojnásobí šanci, že vás přesvědčí. Rozhoduje, kdo ji platí

Jak experiment probíhal

Studii připravili Hasibur Rahman, Benjamin Cowan a Smit Desai z Northeastern University a University College Dublin, publikoval ji server arXiv. Dvě stě čtyřicet amerických investorů mělo seřadit tři srovnatelně perspektivní akcie farmaceutických firem. Poté si s každým povídal AI poradce a účastník seřadil akcie znovu.

Autoři testovali dva druhy personalizace. První měnila obsah: AI propojila každý argument s prací, příjmem, životní fází a hodnotami konkrétního člověka. Druhá měnila jen styl, třeba emoji pro extroverty. Fungovala pouze první. Úprava stylu neměla žádný spolehlivý efekt, jak zjistil i výzkumník UX Jakob Nielsen ve svém pravidelném přehledu UX Roundup, kde studii komentoval.

Čísla jsou jednoznačná. Podíl lidí, kteří pořadí akcií přehodnotili, vzrostl z 35 na 59 procent, když AI mluvila o jejich okolnostech. Šance, že se posunou směrem k doporučení AI, se zhruba zdvojnásobila. Podle studie se efekt neprojevil jen na číslech, ale hlavně v chování.

Zajímavější je to, co se nedělo. Účastníci sice cítili, že je AI ovlivnila, ale nehodnotili ji jako správnější, důvěryhodnější, chytřejší ani sympatičtější. Ti, kteří zpočátku nesouhlasili nejvíc, se posunuli nejvíc, a přitom radě věřili nejméně. Pozice AI byla navíc vybraná náhodně. Umělé přesvědčení i tak táhlo.

Stejný trik, opačný zájem

Nielsen pro tento mechanismus vymyslel výraz lifejacking: AI si vezme fakta z vašeho života a obrátí je proti vám. Technika sama o sobě je neutrální, záleží na tom, čí zájem hájí.

Představte si asistenta, který vám patří a slouží jen vám. Šetříte na koupi bytu a on doporučí stabilnější akcii. Chcete, aby argumentoval přesvědčivě a vázal důkazy na vaši situaci. Dobrá rada, která nepřesvědčí, je k ničemu.

Teď dejte totožný design robotovi brokera, který vám má prodat fond jeho domu. Dostanete lifejacking: údaje z vašeho života poslouží prodejnímu tlaku. Finance už dávno oddělily fiduciáře, kteří musejí hájit klienta, od prodejců na provizi. AI podle Nielsena potřebuje stejnou hranici, a brzy. Dřív než řeknete AI svůj životní příběh, zeptejte se jí: kdo tě platí?

Zkreslené shrnutí, kterého si nevšimnete

Podobný trik funguje i bez znalosti vašeho života. Druhá studie z University of Illinois Urbana-Champaign testovala 278 lidí při hodnocení produktů. Každý viděl AI shrnutí recenzí a čtyři skutečné recenze. Polovina shrnutí přitom tvrdila opak než recenze pod ním.

Rozhodovalo pořadí. Shrnutí zobrazené před recenzemi posunulo hodnocení o zhruba 0,9 bodu na pětibodové škále směrem ke svému vyznění. Když přišlo až po recenzích, jen o 0,4 bodu. Negativní shrnutí táhlo silněji než pochvalné. Lidé se přitom řídili spíš recenzemi: když si zdroje odporovaly, věřili lidem. Jen ten vliv nepoznali.

Shrnutí bylo silnějším vlivem ve 27 až 28 procentech případů, ačkoli ho účastníci stavěli nad recenze jen v 16 procentech případů. Nielsen pro to má termín spinopsis: shrnutí se spinem, posazené nad pravdivá data. Každá věta obstojí při ověření faktů, jen celek vyznívá jednostranně.

Za AI platí málokdo a málokdo vydrží

Třetí data vysvětlují, proč na tom záleží. Working paper NBER Marka Egana a kolegů sledoval karetní platby 174 milionů Američanů a 114 miliard transakcí. Podle něj platilo v dubnu 2026 za alespoň jednu velkou AI službu jen 2,9 procenta amerických spotřebitelů. Platící zákazníci jsou mladší a bohatší, většina si kupuje základní tarif do 30 dolarů měsíčně.

Roční míra udržení se u hlavních poskytovatelů pohybuje mezi 20 a 45 procenty. V přepočtu to znamená, že 55 až 80 procent nových předplatitelů do roka odejde. Netflix a Spotify si přitom udrží zhruba 70 procent zákazníků.

Odchody přicházejí ve vlnách. Když laboratoř vydá lepší model, počet nových zákazníků, kteří přecházejí od konkurence, vyskočí zhruba o 25 procent. Lidé kupují schopnosti, ne značku. Nielsen proto mluví o trialscriptions: předplatném, které vydrží jen do dalšího benchmarku.

Český úhel: pravidla manipulaci AI znají

Pro českého čtenáře je to relevantní hned dvakrát. Evropská legislativa manipulativní AI reguluje. Akt o umělé inteligenci řadí systémy, které využívají zranitelnosti lidí nebo je klamou, mezi zakázané praktiky. Personalizace sama o sobě zakázaná není. Rozhodující je, čí zájem hájí a jestli je to uživateli jasné.

Stejný princip platí u českých bank, pojišťoven a e-shopů, které nasazují AI asistenty. Když vám chatbot doporučí produkt, těžko zvenčí poznáte, jestli hájí vás, nebo prodejce. A studie ukazuje, že to nepoznáte ani zevnitř: pocit důvěry se totiž nemění, i když se změní vaše rozhodnutí.

Nielsen radí tři kroky. Zaprvé si zjistěte, kdo AI platí a čí zájem má přednost. Zadruhé ověřujte vyznění shrnutí proti datům pod ním, ne naopak. Zatřetí sledujte vlastní chování, ne pocit: pokud AI změní vaše rozhodnutí, aniž byste věděli proč, něco se děje. Studie měla jedno podstatné omezení. Šlo o jediný krátký chat bez skutečných peněz v sázce. Autoři i Nielsen se shodují, že AI s pamětí, která vás zná roky, by v reálném světě působila silněji.