ChatGPT a penze: kde umělá inteligence radí špatně?

Otázka "kdy začít vybírat penzi a kterou složku portfolia rozpustit první" patří k nejdražším rozhodnutím vašeho života. A stále víc lidí ji dnes nezadává finančnímu poradci, ale do chatovacího okna. ChatGPT vám během vteřiny vysvětlí rozdíl mezi průběžným a fondovým systémem, spočítá modelový výběr i naznačí, jak si pohlídat daně. Zní to jako ideální parťák pro někoho, kdo se v penzijním plánování necítí doma.

Háček je v tom, že stejný nástroj vám s naprosto stejnou sebejistotou naservíruje i číslo, které si právě vymyslel. A u peněz, které mají vydržet dvacet nebo třicet let, je rozdíl mezi "zní to věrohodně" a "je to pravda" zásadní.

Umělá inteligence nepřemýšlí, jen kombinuje

Základní nedorozumění spočívá v tom, co si pod pojmem "rada" představujeme. Jazykový model nezvažuje vaši situaci. Nehledá nejlepší řešení. Skládá dohromady text, který statisticky nejlíp navazuje na vaši otázku. To může znít chytře, ale je to něco jiného než úsudek.

"Umělá inteligence zatím nepřemýšlí kriticky ani nepřichází s novými nápady. Jen nachází existující myšlenky a propojuje je,"

"Problém je, že jí často chybí rozlišovací schopnost. Klidně převezme nápad z jakéhokoli zdroje, včetně těch, které vás chtějí natáhnout nebo nabízejí zastaralé rady."

říká Robert Persichitte, certifikovaný finanční poradce ze společnosti Delagify Financial.

Přesně tady vzniká riziko. Model nerozezná dobrý zdroj od špatného. Když na internetu koluje deset let stará informace o daních nebo marketingový text nějakého pochybného produktu, AI ho zpracuje se stejnou vážností jako oficiální metodiku.

Když si model vymyslí čísla i firmy

Tohle není jen teoretická obava. Analytici z webu investingintheweb.com už v listopadu 2024 prověřili odpovědi vyhledávání ChatGPT na finanční dotazy a zjistili, že ve 35 % případů odpověď neobstála: v 29 % byla neúplná nebo zavádějící a v 6 % rovnou chybná. Jinými slovy, zhruba každá třetí odpověď se nedala vzít bez výhrad. Je férové dodat, že modely se od té doby dost zlepšují a novější verze výraznou část těchto chyb opravily. Základní slabina ale zůstává: ani dnes vám AI spolehlivě neřekne, kdy si vymýšlí.

K tomu se přidává jev, kterému se říká halucinace. Jazykové modely umějí vygenerovat sebevědomě znějící, ale zcela smyšlenou informaci. Klidně si vymyslí i číslo nebo se odvolají na zdroj, který neexistuje, a nedají vám žádný signál, že si data vycucaly z prstu. U dotazu na hlavní město Francie to nevadí. U výpočtu, kolik můžete ročně vybírat, aby vám peníze vydržely do devadesáti, to vadí hodně.

Čerstvá studie z MIT Sloan, kterou začátkem července popsala stanice CNBC, navíc ukázala další slabinu. Autoři prověřili sedm běžně dostupných AI platforem, mezi nimi ChatGPT, Copilot, Gemini i Perplexity, na dotazech k rezervám, alokaci aktiv a výběrům z penzijního portfolia. Odpovědi se výrazně lišily podle toho, jaký program člověk použil, a v některých případech byly demograficky zkreslené. Jinými slovy, dvěma lidem ve stejné situaci může AI poradit odlišně, aniž by pro to existoval rozumný důvod.

Přesto to používá většina z nás

Varování odborníků ovšem naráží na realitu. AI ve financích už dávno není okrajová záležitost. Podle průzkumu mezi retailovými investory dnes nějaký AI nástroj k investičním rozhodnutím využívá 62 % dotázaných, z toho zhruba čtvrtina pravidelně. Mezi těmi, kdo AI zkusili, jsou chatboti typu ChatGPT nejrozšířenější volbou.

Zajímavé je, že nedůvěřují slepě. Ve stejném průzkumu 75 % uživatelů přiznává obavu z předpojatých doporučení a 72 % obecně nedůvěřuje radám generovaným umělou inteligencí. Lidé tedy tuší, že nástroj má mušky, ale používají ho dál, protože je rychlý, zdarma a nikdy neřekne "na tohle vám neodpovím".

Firmy za těmito nástroji přitom nejsou žádní troškaři. Za ChatGPT stojí OpenAI, do níž napumpoval desítky miliard dolarů Microsoft $MSFT, který tlačí vlastní AI asistenty i do svých kancelářských programů. Souboj o to, kdo bude spravovat vaše finanční otázky, se rozjíždí naplno.

"ChatGPT dokáže skvěle vysvětlit penzijní strategie a pomůže vám zorientovat se v možnostech, ale není to celá dílna,"

"Neumí odhadnout lidské chování, emoce ani zákeřné zvraty života."

říká Stephan Shipe, finanční poradce a zakladatel Scholar Financial Advising.

V čem AI opravdu pomáhá

Bylo by chybou hodit celý nástroj přes palubu. AI je vynikající učitel. Když nerozumíte pojmům jako průběžný pilíř, renta nebo sekvenční riziko výběru, chatbot vám je vysvětlí trpělivěji a srozumitelněji než většina učebnic. Umí připravit seznam otázek, se kterými pak přijdete za poradcem. A dokáže rychle nastínit scénáře, o kterých byste jinak vůbec nepřemýšleli.

Právě v téhle roli dává smysl. Ne jako náhrada úsudku, ale jako rešeršní asistent, který vás dostane do obrazu. Osvědčený postup vypadá zhruba takhle:

• Nechte si vysvětlit koncepty, kterým nerozumíte, a nechte AI rozepsat vaše možnosti.

• Proklikněte zdroje, ze kterých model čerpal, a ověřte je stejně, jako byste prověřovali radu od cizího člověka.

• S hotovými otázkami jděte za odborníkem, který zná vaše celkové portfolio, daňovou situaci i to, jak snášíte propady trhu.

Stojí za pozornost, že mnoho poradců tenhle trend vítá. Klient, který přijde připravený a s konkrétními dotazy, ušetří čas oběma stranám.

Cena za pohodlí, kterou nevidíte

Je tu ještě jedno riziko, o kterém se moc nemluví. Abyste od AI dostali skutečně užitečnou radu, museli byste jí naládovat kompletní obrázek svých financí, tedy složení portfolia, příjmy, dluhy, daňové údaje. Jenže to, co do chatu napíšete, může posloužit jako tréninková data modelu a stát se terčem úniku nebo hackerského útoku. Vyměňujete tak citlivá data za radu, u které si nemůžete být jistí, že je správná.

A pak je tu ta úplně nejlidštější věc, kterou algoritmus nikdy nezvládne. Když trh spadne o dvacet procent a vy v panice sáhnete po tlačítku prodat, ChatGPT vás nezastaví. Zkušený poradce ano. Ví, že nejdražší chyby v penzijním plánování nejsou ty v tabulkách, ale ty, které uděláme ze strachu.

Umělá inteligence je skvělý průvodce po tom, co už někdo jednou napsal. Rozhodnutí, na kterém stojí vaše důchodová jistota, ale pořád patří někomu, kdo dokáže rozlišit dobrý nápad od špatného. A hlavně někomu, kdo za tu radu nese odpovědnost.