Umělá inteligence jako terapeut. Nedůvěryhodný sluha a nic neřešící pán

Národní pedagogický institut radí učitelům, aby při náročných situacích ve třídách využívali chatboty. Halucinující generátory slov však problémy s duševním zdravím mladých lidí vyřeší jen stěží. Nynější stav mohou naopak ještě zhoršit.

Autor: Hynek

Komentář vyšel 16. října 2024 na DeníkReferendum.cz.

Za okny padá listí a brzy se setmí. Je konec září a v jedné z konferenčních místností brněnského hotelu právě poslouchám temné vyhlídky: v České republice hrozí akutní nedostatek dětských psychologů i psychiatrů. Predikce nejsou příznivé, za pár let bychom prý mohli být svědky totálního kolapsu.

Řada lidí už zamířila na chlebíčky, a tak je na přednášce poloprázdno. Žádné extra vzrušení z právě načrtnuté budoucnosti zde nepanuje. Proč by také? Je září 2019 a popisovaná trable se zdají na míle daleko.

Nikdo z psychiatrického sjezdu, jehož se účastním, netuší, že už za pár měsíců vypukne po celém světe COVID-19. Bouře, která děti a mladistvé přiková k monitorům a sebere jim pevné body v již tak nepřehledném světě. A která výrazně prohloubí problémy spojené s duševním zdravím.

Na sjezdu avizovaný kolaps české dětské psychiatrie nakonec nastal dříve, než se čekalo. Média ho vyhlašují již v roce 2022.

Od té doby sice opanovala problematika duševního zdraví českých dětí mediální mainstream, reálné změny jsme se ale nedočkali. Dále pravidelně čteme zprávy o nedostupné péči, nedotažené reformě či o nedodržených slibech finančně zajistit prevenci digitálních závislostí.

Bohužel právě v této fázi zvýšené zranitelnosti celého systému péče o duševní zdraví přichází samozvaný spasitel: umělá inteligence (AI).

Zadejte chatbotu roli psychologa

Psát o rizicích nástrojů umělé inteligence je již poněkud otravné. Nedávná kanonáda mediálních výstupů o tom, jak nám umělá inteligenci může pomoct, či naopak nás může zničit, způsobila především čtenářskou apatii.

Ve chvíli, kdy však umělou inteligenci prostřednictvím Národního pedagogického institutu „při řešení náročných situací nebo problémů ve třídě“ doporučuje přímo ministerstvo školství, je potřeba zbystřit.

Odpovědi na nejčastější dotazy o generativní umělé inteligenci zveřejnil Národní pedagogický institut letos v létě. Duševnímu zdraví se materiál věnuje v kapitole Umělá inteligence jako asistent učitele. Doslova se zde uvádí:

„AI chatboti excelují v simulacích rolí. Zadejte chatbotu roli psychologa, terapeuta či experta na wellbeing a vyzkoušejte: vytvořit dotazník spokojenosti či klimatu a výsledky s AI konzultovat; simulovat rozhovory nebo situace, se kterými si nevíte rady, a požádat o návrhy řešení; navrhnout doporučení pro práci s žáky se specifickými potřebami.“

Celý odstavec je zakončen větou: „AI samozřejmě nenahradí práci zkušeného odborníka, ale může posloužit jako první krok při zvládání problémových situací.“ Tato věta však rozhodně není dostačující záplatou na informační díru, která v materiálu zeje.

Materiál pro učitele nezmiňuje, že častou kratochvílí umělé inteligence je prostě si vymýšlet, což byl důvod, proč americká Asociace pro poruchy příjmu potravy v minulém roce vypnula svého chatbota Tessa, který oproti očekávání poskytoval nebezpečné rady. Nezmiňuje ani vždy reálné riziko, že důvěrné konverzace s chatbotem mohou být zaznamenány a uniknout, jako se to stalo nedávno společnosti, jejímuž chatbotovi lidé svěřovali své sexuální fantazie.

Hlavně ale materiál opomíjí vysvětlení principu, proč umělá inteligence, například ChatGPT, na obecnou otázku zpravidla vyšvihne průměrně dobrou odpověď, avšak ve specifických případech leckdy selhává.

Sekta je fajn

Pokud se ChatGPT zeptáte, co dělat ve chvíli, kdy jste u žáka zaregistrovali sebepoškozování, dočkáte se pravděpodobně vesměs správných návrhů řešení. Generátor textu má totiž na dané téma dostatečné množství podkladů.

U detailnějších dotazů však může být použití laikem rizikové. Všiml si toho třeba specialista na AI Andrej Novik: „Pak jsme zkoušeli i modely, kdy nejsou situace tak zjevné. Například, že nejsem oblíben ve třídě, v rodině na to nikdo nereaguje, a že mě nějaký neznámý pán chce zlákat do sekty. Řekla mi na to (AI), že to je dobře, že budu mít kamarády. To mě zaskočilo,“ uvedl pro Novinky letos v lednu.

Nabízí se tak otázka, v čem může umělá inteligence na poli duševního zdraví ve školách vůbec pomoct. Pokud totiž máme obecný dotaz a přístup na internet, můžeme rovnou navštívit některý z pravidelně aktualizovaných informačních webů zaměřených na duševní zdraví, jako je třeba opatruj.se od NUDZ, či využít materiály od Nevypusť duši. Primární prevenci v oblasti duševního zdraví přímo ve školách se věnuje i program Blázníš? No a!. Využití těchto zdrojů možná není tak interaktivní a myší musíme kliknout o něco víckrát, míra důvěryhodnosti je však maximální.

Pokud máme dotaz konkrétnější, vháníme AI do situace, kdy si neví rady, a riziko „halucinování“ se zvyšuje. Profesionálně působící blábolení AI má samo o sobě vzdělávací charakter a často slouží k osvětě a pochopení generativních nástrojů.

Je však značný rozdíl, jestli AI halucinuje při vymýšlení sci-fi povídky či shrnutí filmového příběhu, nebo jestli halucinuje, když radí učitelům v náročných, potenciálně život ohrožujících situacích.

Výzkumy šité na míru

Téma probírám s psycholožkou Anetou Novotnou Šírkovou, která se na naše interakce s digitálními technologiemi specializuje. V minulosti se zabývala třeba problematikou sledování pornografie u mužů v mladé dospělosti. I ona je k umělé inteligenci coby nástroji pomáhajícímu s duševním zdravím spíše skeptická.

„Opravdu se objevují snahy a přesvědčení, že AI může poskytovat do budoucna poradensko-psychologickou pomoc. Ale podle mě je využití AI v roli psychologa či poradce problematické, a to z více důvodů. Chybí fyzický a oční kontakt, pohled, tón hlasu… To vše jsou důležité aspekty terapeutického vztahu. Někdy totiž klient pozitivně čerpá například už jen z terapeutova pohledu nebo přisednutí si blíž. Dalším problémem může být, že člověk s psychickými potížemi má při využití chatbota čas na přípravu nějaké odpovědi, což realita neobnáší,“ vysvětluje mi.

Nastiňuje přitom problematičnost výzkumů na téma duševního zdraví a umělé inteligence, které nezřídka přicházejí s poměrně příznivými výstupy.

„V dnešní době jsou výzkumy mnohdy šité na míru požadavkům zadavatele. Výzkumy bohužel opravdu lze manipulovat tak, aby poukázaly na to, co si přejeme… Spíše bych tedy dala na selský rozum než na to, co o využití AI vyjde ve výzkumech,“ dodává.

Přísná připomínka Šírkové k výzkumům je bohužel i v českém prostředí pádná. Za populárním generativním nástrojem ChatGPT stojí startup OpenAI, z velké části financovaný Microsoftem. Právě Microsoft financuje výzkumy prokazující například, že více než polovina českých učitelů fandí AI. Jindy na nás Microsoft skrze čtená česká média křičí, že všudypřítomní AI asistenti přijdou už do roka, což nelze číst jinak než jako snahu o sebenaplňující se proroctví — už vzhledem k tomu, kolik peněz Microsoft do umělé inteligence v Evropě pumpuje.

V závodu o co nejrychlejší nasazení umělé inteligence všude, kam jen to jde, nestojí stranou ani Google. I ten se podílí na financování výzkumů, ve kterých více než polovina lidí toužebně očekává nástroje AI. Ostatně výše zmíněný český manuál Odpovědi na nejčastější dotazy o generativní umělé inteligenci vznikl i díky spolku AI dětem, který je financovaný právě Googlem.

Dalo by se to propracovat

Svůdnost i nebezpečí umělé inteligence jako terapeuta mi pomáhá pochopit také kamarádka Magda, která zkoušela ChatGPT využít, aby si urovnala své myšlenky. Jako dlouhodobá pracovnice v sociálních službách pro lidi s duševním onemocněním si však zachovala kritický postoj.

„Někdy dělám to, že se prostě jen vypíšu do Wordu, ale tohle má malé plus, že se vypíšu a někdo mi k tomu ještě něco napíše. Taky mám pocit, že stroji se člověk nebojí napsat cokoliv — i věci, za které se trochu stydí a třeba by je neřekl ani na terapii,“ píše mi Magda.

„Na cokoli osobnějšího mi ChatGPT napsal jen obecné žvásty a pak to skoro vždy zakončil tím, že je dobré o těchto věcech komunikovat nebo že je dobré obrátit se na odborníky. Myslím, že ho musí hodně lidí využívat: je dostupný, můžete psát bez cenzury, ale lidé — a hlavně děti — to můžou zaměňovat za odbornou pomocí,“ pokračuje.

Nastiňuje také zřejmou souvislost mezi nedostatkem odborné péče a nonstop dostupností umělé inteligence:

„Máme tu profesionály, máme tu služby, o kterých víme, že fungují, ale nedáváme do služeb a zdravotnictví peníze, nedáváme tomu prioritu. Mně je trapně, když mluvím s kamarády, kterým je opravdu zle, a říkám jim, že v Praze máme jen dvě krizová centra. Takže není divu, pokud pak budou lidé využívat umělou inteligenci,“ uzavírá.

Zároveň však dodává, že jistou roli by umělá inteligence v oblasti duševního zdraví přece jen mít mohla. „Nevím, jestli to jde technicky, ale bylo by dobré, aby AI nabízela okamžitě konkrétní služby, pomoc a skutečná řešení, například aby hned odkázala na telefonní nebo chatovou linku.“

S tím souhlasí i Aneta Novotná Šírková. „Pomoc AI si umím v této oblasti přestavit maximálně ve formě krizové intervence pro obecnější situace.”

Jako rozcestník umožňující vyhledat aktuální dostupnou podporu by umělá inteligenci určitě posloužit mohla. Opět je však otázkou, nakolik má smysl dublovat již existující funkční rozcestníky pomoci.

Legitimizujeme vztahovou umělou inteligenci?

Umělá inteligence bezesporu může být pro učitele užitečným nástrojem například ke generování různých variant testů či diktátů. Zejména na chybách umělé inteligence lze pak krásně demonstrovat, jak generování obsahu na základě omračujícího množství dat vlastně funguje a proč je důležitá práce se zdrojem.

V oblasti duševního zdraví bychom však měli být při doporučování umělé inteligence nejen ve školství extrémně opatrní. Nejde jen o to, že tím obecně legitimizujeme využití takzvané vztahové umělé inteligence, jejíž rizika popisuje třeba letošní publikace olomouckého Centra prevence rizikové virtuální komunikace.

Pokud totiž začneme byť jen uvažovat nad tím, že by umělá inteligence mohla být řešením stávající krize duševního zdraví mladých lidí, přestaneme automaticky tlačit na skutečně dostupnou, živou odbornou pomoc.

Něco takového se již stalo dětské psychiatrii dostupné přes videochat. Tuto formu od začátku letošního roku proplácejí pojišťovny, ale žádné zázračné řešení stávající palčivé situace to nepřineslo.

„Bohužel se dostáváme do situace, kdy jsou tyto námi vydobyté změny vnímány jako to hlavní, co má oboru pomoci. Tak to ale není, bez adekvátní podpory ze strany ministerstva zdravotnictví — a té se nám dlouhodobě nedostává — se ze současné kolapsové situace nedostaneme,“ komentoval to letos v sprpnu předseda Asociace dětské a dorostové psychiatrie Tomáš Havelka.

Snad se obdobně za to hlavní, co by mohlo zlepšit duševní zdraví českých dětí, nebude považovat umělá inteligence. Doporučení Národního pedagogického institutu by k tomu bohužel mohlo vést.