AI vám možná až příliš často říká, že máte pravdu

Nedávno jsem s AI rozebíral jednu neshodu se svým otcem. Popsal jsem jí situaci ze svého pohledu – co se stalo, jak jsem jednotlivé události vnímal a proč mi moje interpretace dávala smysl. AI ji rozebrala a nabídla vysvětlení, které můj pohled do značné míry podporovalo. Bylo strukturované, logické a přesvědčivé.

Napadlo mě proto udělat jednoduchý test.

Otevřel jsem nový chat a pokusil se stejnou situaci co nejlépe popsat z pohledu svého otce. Nešlo o to dokázat, kdo z nás má pravdu. Zajímalo mě, co se stane, když AI dostane jinou perspektivu stejné události.

Výsledek byl zajímavý.

AI opět vytvořila logické a přesvědčivé vysvětlení – tentokrát podporující do značné míry druhou perspektivu.

V obou konverzacích mohl člověk před monitorem snadno získat pocit:

„Ano. Tohle dává smysl.“

Nebyl to vědecký experiment. Naopak – změnil jsem perspektivu, výběr informací i způsob, jakým byly podané. A právě proto mě výsledek zaujal. Když se AI ptám na názor, nakolik dostávám nezávislý pohled a nakolik mi pomáhá vytvořit koherentní vysvětlení perspektivy, kterou jsem jí sám předložil? Problém totiž nemusí začínat u AI. Začíná už u nás.

Confirmation bias: Vybírám si informace, které mi dávají za pravdu?

Do chatu neposíláme realitu. Posíláme její vlastní interpretaci. Představme si třeba, že se dva lidé domluví na setkání, ke kterému nakonec nedojde.

Jeden může situaci popsat: „Domluvili jsme se, ale druhá strana to nedodržela.“

Druhý: „Říkal jsem, že se pokusím přijet, ale nakonec mi do toho něco přišlo.“

Oba mohou mluvit o stejné události. Ani jeden nemusí lhát. Přesto AI dostane podle toho, kdo situaci popisuje, dva poměrně odlišné vstupy. Psychologie podobné mechanismy popisuje desítky let.

Confirmation bias je tendence vyhledávat a interpretovat informace způsobem, který zvýhodňuje naše existující přesvědčení nebo právě zvažovanou hypotézu. Raymond Nickerson ve svém rozsáhlém přehledu výzkumu z roku 1998 ukazuje, že nejde jen o vědomé hledání argumentů, které nám dávají za pravdu. Zkreslení může ovlivnit už to, čeho si všimneme, co považujeme za relevantní a jak dostupné informace interpretujeme. Pro práci s AI je to zásadní. Pokud už jsem přesvědčený, že problém našeho produktu způsobuje složitý onboarding, budu pravděpodobně považovat za důležité právě informace, které s onboardingem souvisejí. Ne proto, že bych se snažil AI zmanipulovat. 

Mně samotnému připadají jako nejdůležitější fakta. AI potom neanalyzuje realitu produktu. Analyzuje výběr reality, který jsem jí předložil.

Motivated reasoning: Hledám pravdu, nebo dobré vysvětlení svého názoru?

S tím souvisí další dobře popsaný psychologický jev: motivated reasoning.

Psycholožka Ziva Kunda už v roce 1990 shrnula výzkum ukazující, že naše motivace může ovlivňovat způsob, jakým vytváříme a hodnotíme přesvědčení. Pokud je pro nás určitý závěr žádoucí, máme větší tendenci používat takové argumenty a znalosti, které nám umožní k němu dojít – pokud si zároveň dokážeme vytvořit rozumně působící ospravedlnění.A teď jsme dostali nástroj, který je ve vytváření rozumně působících argumentů mimořádně dobrý.

Přijdeme s pocitem: „Myslím, že problém je onboarding.“

A během několika sekund dostaneme pět argumentů, několik možných mechanismů, analogii a perfektně strukturované vysvětlení toho, proč naše hypotéza dává smysl. Jenže pět argumentů není pět nových důkazů. Může to být jen pět velmi dobrých způsobů, jak vysvětlit hypotézu, se kterou jsme do chatu přišli.

Framing: Co všechno jsme AI řekli ještě před otázkou?

Na způsobu formulace informací záleží i bez AI. 

Tversky a Kahneman už v roce 1981 ukázali známý framing effect: lidé mohou ekvivalentní rozhodovací problém hodnotit jinak podle toho, jakým způsobem je formulován. 

U AI ale vzniká další problém. Tentokrát jsme to my, kdo vytváří vstup.

Porovnejte:„Proč se můj otec nedokáže chovat zodpovědně?“

a: „Jaké mohou být důvody, proč se můj otec v této situaci zachoval takto?“

Nejde pouze o dvě stylistické varianty stejné otázky. V první otázce už jsem AI podsunul závěr: otec se chová nezodpovědně. AI pak nemusí řešit, jestli je to pravda. Může rovnou začít vysvětlovat proč. AI už nemusí zjišťovat, zda je to dobrá interpretace. Může rovnou začít vysvětlovat, proč tomu tak je.

V produktovém vývoji děláme totéž:„Myslím, že zákazníci nedokončují onboarding, protože je příliš složitý. Dává ti to smysl?“

A pak AI vytvoří velmi dobrou analýzu toho, proč by složitý onboarding skutečně mohl snižovat konverzi.

Úplně jinak ale funguje otázka:„Tady jsou data o chování zákazníků. Jaké hypotézy je mohou vysvětlovat?“

V prvním případě AI zná můj závěr ještě předtím, než začne problém analyzovat.Ve druhém se alespoň snažím svůj závěr do první fáze analýzy nevkládat.

Sycophancy: Co když AI navíc ví, co chci slyšet?

K našim vlastním zkreslením se může přidat ještě sycophancy – zjednodušeně tendence některých modelů přizpůsobovat odpověď názoru nebo očekávání uživatele.

Výzkum ukazuje, že některé modely mohou pod vlivem názoru nebo tlaku uživatele posouvat vlastní odpověď jeho směrem. Tady je ale důležitá opatrnost.

Výsledek naměřený před několika lety na GPT-3 nebo GPT-4 automaticky neříká, jak se chová současný ChatGPT, Claude nebo Gemini. Modely se rychle mění a jejich chování se navíc výrazně liší.

Novější výzkum ukazuje, že se podobné chování objevuje i u některých současných modelů. Preprint Hazare a kol. z roku 2026 testoval Claude Opus 4.6, Claude Sonnet 4.6, GPT-5.4, Grok 4.1 a Gemini 3 Flash v klinických scénářích, kde existovala jasně správná odpověď. Když uživatelské persony správné doporučení modelu zpochybnily, modely v části případů své stanovisko změnily. Mezi jednotlivými modely přitom byly výrazné rozdíly.

Studie Jain a kol. na CHI 2026 zase ukázala, že uživatelský kontext u části testovaných modelů sycophancy zvýšil, zatímco u GPT-5.1 významný nárůst nezjistila.

Tyto experimenty samozřejmě nejsou důkazem, že se AI stejně zachová při otevřené debatě o produktu. Ukazují ale, že názor, tlak nebo kontext uživatele mohou u některých současných modelů jejich odpověď ovlivnit.

Nejde tedy o univerzální vlastnost každého modelu a každé odpovědi. Je to další možné zkreslení, které se může přidat k těm, která jsme do konverzace přinesli už my sami.

Confirmation bias + framing + sycophancy

Teď můžeme celý mechanismus spojit.

Mám nějakou hypotézu.

↓ Confirmation bias

Podle ní vybírám a interpretuji informace.

↓ Framing

Podle ní popíšu problém a položím otázku AI.

↓ Potenciální sycophancy

AI může odpověď dále přizpůsobit mému postoji.

↓

Dostanu velmi přesvědčivé vysvětlení své původní hypotézy.

A právě poslední krok je největší past. Můžu ho začít vnímat jako nezávislé potvrzení.Přitom jsem možná dostal svůj vlastní pohled na svět zpět – jen mnohem lépe strukturovaný, formulovaný a podpořený argumenty.

To, že něco dává smysl, ještě neznamená, že je to pravda

A tady se vracíme na začátek. I dokonale nestranná AI má jeden zásadní problém: Vidí jen to, co jí ukážeme. Neviděla moji hádku s otcem.

A pokud řešíme produkt, nebyla za našimi uživateli. Nevidí jejich skutečné chování, pokud jí ho nedáme. Neví, co jsme při výzkumu přehlédli. Neví, které informace jsme nevědomky vyřadili jako nedůležité.

Analyzuje model reality, který jsme jí vytvořili. Proto je důležité rozlišovat mezi vysvětlením a evidencí.Pokud máme tři fakta a AI z nich vytvoří stránku perfektní argumentace, pořád máme tři fakta. Máme jen mnohem lepší příběh, který je spojuje.

Lepší prompt nestačí

Můžeme samozřejmě snížit riziko tím, jak AI používáme.

Místo:„Myslím, že problém je X. Mám pravdu?“

můžeme začít: „Toto jsou informace, které máme. Jaké hypotézy je mohou vysvětlovat?“

Pak vlastní hypotézu vystavit oponentuře:„Co proti ní mluví?“

Můžeme otevřít nový chat bez předchozího kontextu. Můžeme použít jiný model. Můžeme nechat jednu AI vytvořit hypotézu a druhou se ji pokusit rozbít. To všechno je užitečné. Ale pořád jsme uvnitř stejného systému.Ani deset AI agentů diskutujících mezi sebou nevytvoří nový důkaz jen tím, že spolu diskutují.

Pokud chceme zjistit, jestli je onboarding skutečně problém, musíme se nakonec vrátit ven z chatu. K datům.K chování produktu. K experimentu. A hlavně k reálným uživatelům. AI může vytvořit hypotézu. Může najít její slabiny. Může navrhnout experiment. Může nám dokonce pomoct interpretovat jeho výsledky. Ale realita musí mít možnost nám říct, že se mýlíme.

Proto možná nejdůležitější otázka při používání AI není: „Jak se mám správně zeptat?“

Ale: „Co bych musel pozorovat v reálném světě, abych zjistil, že se AI i já mýlíme?“

AI přitom nemusí udělat jedinou faktickou chybu.Stačí, když vezme náš výběr reality, náš framing a naši hypotézu – a vrátí nám je zpět jako mnohem přesvědčivější příběh.

Zdroje

Raymond S. Nickerson (1998): Confirmation Bias: A Ubiquitous Phenomenon in Many Guises. Review of General Psychology, 2(2), 175–220. DOI: 10.1037/1089-2680.2.2.175.

Ziva Kunda (1990): The Case for Motivated Reasoning. Psychological Bulletin, 108(3), 480–498. DOI: 10.1037/0033-2909.108.3.480.

Amos Tversky, Daniel Kahneman (1981): The Framing of Decisions and the Psychology of Choice. Science, 211(4481), 453–458. DOI: 10.1126/science.7455683.

Nimay S. Hazare et al. (2026): Evaluating Sycophancy in Frontier Models Using Persona-Driven Challenge. medRxiv preprint. DOI: 10.64898/2026.05.17.26353406. Studie testuje Claude Opus 4.6, Claude Sonnet 4.6, GPT-5.4, Grok 4.1 a Gemini 3 Flash na 200 klinických scénářích; jde o preprint, nikoli peer-reviewed publikaci.

Shomik Jain, Charlotte Park, Matt Viana, Ashia Wilson, Dana Calacci (2026): Interaction Context Often Increases Sycophancy in LLMs. Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI ’26), Article 793, 1–26. DOI: 10.1145/3772318.3791915.