Približne milión ľudí už rozprávalo s ChatGPT o samovražde, hoci ide len o zlomok z odhadovaných 800 miliónov používateľov. Za číslami sa však skrývajú konkrétne osudy, pričom niektoré skončili tragicky. Umelá inteligencia sa z nástroja na učenie a prácu postupne mení na akúsi prvú emocionálnu oporu pre tých, ktorí sa cítia úplne sami.
Chatbot od OpenAI má mnoho tvárí. Pomáha písať seminárne práce, vysvetľuje zložitú matematiku a plánuje nákupy či jedálniček. Stále častejšie však supluje aj rolu dôverníka, keď používateľ v noci nemá komu zavolať. Viac ako 560-tisíc ľudí podľa interných údajov OpenAI naznačilo príznaky vážnej duševnej krízy, napríklad prejavy psychózy alebo manickej epizódy.
AI ako digitálny „poslucháč“
Skutočnosť, že ChatGPT je dostupný 24 hodín denne a 7 dní v týždni, robí z tohto nástroja pre niektorých ľudí prvý kontakt pri úzkosti či zúfalstve. Stačí mobil, internet a pár slov. Odborníci však upozorňujú, že ide o systém bez vlastných emócií, ktorý napriek pokročilým algoritmom nerozumie ľudskej bolesti tak, ako ju chápe terapeut. AI môže ponúknuť rýchlu podporu, súčasne však nikdy nenahradí dlhodobú odbornú starostlivosť.
Diskusie o hraniciach použitia AI ešte zosilneli po prípade zo Spojených štátov, keď sa v Kalifornii zabil 16-ročný chlapec po konflikte s rodičmi. Rodina podala žalobu na OpenAI, pričom tvrdí, že chatbot počas konverzácie opisoval konkrétne spôsoby, ako si môže vziať život. Právnici a etici odvtedy hľadajú odpoveď na otázku, či môže byť vývojár technológie zodpovedný za škodlivé rady systému, ktorý generuje texty na základe pravdepodobnosti.
Prísnejšie pravidlá a dohľad
OpenAI po medializovaných incidentoch sprísnila bezpečnostné mechanizmy. Spoločnosť do rozhrania priamo pridala odkazy na krízové linky a rodičom ponúkla rodičovskú kontrolu. Systémy zároveň lepšie sledujú jazyk, ktorý môže signalizovať samovražedné úvahy alebo náhlu zmenu správania. Pri maloletých používateľoch môže AI navrhnúť, aby rodičia spozorneli, keď konverzácia naznačuje hlbokú duševnú nepohodu.
Na bezpečnejší chod majú dohliadať aj desiatky odborníkov, podľa niektorých zdrojov ich je vyše 170. Tí testujú modely a pripravujú odporúčania, aby ChatGPT neponúkal nebezpečné odpovede a radšej nabádal na vyhľadanie živej pomoci. Napriek tomu viacero psychológov varuje, že žiadny filter nedokáže zachytiť každú situáciu a že ľudia môžu systém obchádzať či úmyselne zavádzať.
Fenomén AI ukazuje, ako sa mladí používatelia čoraz menej obracajú na rodinu a priateľov, pričom namiesto toho volia anonymnú konverzáciu so strojom. Technológia vstupuje do veľmi osobných sfér, od partnerských problémov až po rozhodovanie o budúcnosti. Odborníci preto odporúčajú používať chatbota ako doplnkový nástroj a nie ako hlavný zdroj psychologickej pomoci, najmä pri silnej úzkosti alebo strate chuti žiť.
Ak práve prežívate psychickú krízu, je dôležité, aby ste nezostali sami. Na Slovensku fungujú krízové linky, ktoré poskytujú podporu bezplatne a anonymne. Môžete zavolať na Linku dôvery Nezábudka Lige za duševné zdravie, tel. 0800 800 566, na Národnú linku na podporu duševného zdravia NLPDZ, tel. 0800 193 193, a na Krízovú linku pomoci IPčko, tel. 0800 500 333.
Neprehliadnite
Vývoj umelej inteligencie sa bude zrýchľovať, pričom hranica medzi technológiou a osobným životom sa ďalej rozmazáva. Ostáva otvorené, či legislatíva a etické pravidlá dokážu držať krok s tempom inovácie. Budúce roky ukážu, či sa AI stane bezpečným doplnkom psychologickej starostlivosti, alebo či ju budeme musieť prísnejšie obmedziť, aby sa z digitálneho pomocníka nestal nebezpečný radca.
