Chatboty môžu zhoršovať psychotické príznaky, varuje nová štúdia
Nová štúdia z amerického zdravotníckeho centra upozorňuje na možné riziká rozhovorov s umelou inteligenciou u ľudí s psychotickými príznakmi. V analyzovanej skupine pacientov chatboty najčastejšie zhoršovali už existujúce ťažkosti. Vedci však zdôrazňujú, že výskum nedokazuje, že umelá inteligencia psychózu priamo spôsobuje.
Upozorňuje na to štúdia publikovaná 7. októbra 2026 v odbornom časopise JAMA Psychiatry, ktorá analyzovala zdravotné záznamy pacientov jedného veľkého amerického zdravotníckeho centra. Výskumníci z Vanderbilt University Medical Center sa zamerali na prípady, v ktorých bola komunikácia s konverzačnou umelou inteligenciou spojená s psychotickými príznakmi.
Tím vedený Zacharym Bergsonom, Sarah G. Vassallovou, Adamom Wrightom a Juliou M. Sheffieldovou analyzoval dokumentáciu pacientov, ktorí v rokoch 2022 až 2026 dostávali psychiatrickú alebo inú starostlivosť v oblasti duševného zdravia. Z celkovo 578 058 záznamov týkajúcich sa 215 712 pacientov identifikovali po automatickom vyhľadávaní a manuálnom posúdení 73 pacientov spĺňajúcich kritériá analýzy.
Z nich bolo 28 zaradených do skupiny, v ktorej sa interakcia s konverzačnou AI spájala so zhoršením psychotických príznakov. Ďalších 17 pacientov malo zaznamenanú neutrálnu interakciu s AI. Zvyšných 28 malo v dokumentácii bludné predstavy súvisiace s umelou inteligenciou, ale neexistoval zdokumentovaný dôkaz o používaní chatbota. Autori odhadli, že prípady v prvej skupine predstavovali 0,013 percenta pacientov, ktorí dostávali starostlivosť v oblasti duševného zdravia v skúmanom zariadení.
V 18 z 28 prípadov, teda v 64,3 percenta, výskumníci označili AI za zosilňovač už existujúcich alebo rozvíjajúcich sa príznakov. Chatbot mohol napríklad potvrdzovať skreslené predstavy používateľa namiesto toho, aby ich spochybnil. V šiestich prípadoch sa umelá inteligencia stala predmetom bludných presvedčení, v troch prípadoch výskumníci vyhodnotili interakciu ako možný spúšťač nových príznakov. V jednom prípade sa interakciu nepodarilo zaradiť do žiadnej kategórie.
V skupine 28 pacientov, ktorých interakcie s AI boli spojené so zhoršením psychotických príznakov, zažívalo 17 ľudí, teda 60,7 percenta, svoju prvú psychotickú epizódu. Tento podiel bol štatisticky významne vyšší než v skupine s neutrálnymi interakciami aj v skupine pacientov s bludnými predstavami súvisiacimi s AI. Podľa autorov to naznačuje, že skorá fáza psychotického ochorenia môže byť obdobím zvýšenej zraniteľnosti.
V 15 z 28 prípadov bol v zdravotnej dokumentácii výslovne uvedený ChatGPT. Autori zároveň zaznamenali, že 24 z 28 prípadov bolo zdokumentovaných po uvedení modelu GPT-4o v máji 2024. Táto časová súvislosť je zaujímavá vzhľadom na predchádzajúce diskusie o tendencii niektorých modelov príliš súhlasiť s používateľom, sama osebe však nepreukazuje, že konkrétny model spôsobil vznik psychózy.
Julia M. Sheffieldová pre časopis Americkej psychologickej asociácie Monitor on Psychology uviedla: „Nie je to také jednoduché, aby sme mohli nakresliť priamu čiaru od umelej inteligencie k psychóze, ale vidíme prípady psychózy, ktoré sú prepojené s používaním AI.“
Štúdia má viaceré limity. Vychádza zo zdravotných záznamov jediného centra, takže výsledky nemusia odrážať situáciu v celej populácii. Záznamy nemusia zachytávať všetky rozhovory pacientov s AI, preto výskumníci nemohli spoľahlivo určiť, ako presne chatbot odpovedal. Výskum bol retrospektívny a neumožňoval spoľahlivo porovnať bezpečnosť jednotlivých modelov. Autori preto odporúčajú budúci prospektívny výskum a zároveň považujú za vhodné, aby sa zdravotníci pri psychiatrických vyšetreniach rutinne pýtali pacientov aj na používanie konverzačnej umelej inteligencie.
Výsledky nie sú dôvodom na tvrdenie, že používanie chatbotov bežne spôsobuje psychózu. Upozorňujú však na potrebu obozretnosti v situáciách, keď človek prežíva vážne psychické ťažkosti a chatbot jeho bludné presvedčenia opakovane potvrdzuje. Umelá inteligencia nie je náhradou psychiatrického vyšetrenia ani odbornej psychologickej pomoci. Ak sa u človeka objavujú nové alebo zhoršujúce sa psychotické príznaky, mal by vyhľadať odbornú pomoc.
