Na prvi pogled Sophie Rottenberg bila je mlada, vesela i ekstrovertirana žena puna života. S diplomama iz biologije, međunarodnih odnosa i javnog zdravstva, koje je magistrirala na prestižnom sveučilištu Johns Hopkins u Baltimoreu, pred njom je bila obećavajuća karijera. Ipak, u proljeće 2024. godine Sophie je dala otkaz na radnom mjestu analitičarke politika javnog zdravstva u Washingtonu. Ljeto je provela putujući: popela se na Kilimandžaro i pješačila kroz nekoliko nacionalnih parkova u SAD-u. U jesen je rekla majci, poznatoj novinarki Lauri Reiley, i ocu Jonathanu Rottenbergu, uglednom profesoru psihologije na Sveučilištu Cornell, da je u potrazi za poslom. A onda je u veljači 2025. Sophie Rottenberg okončala život suicidom u 29. godini. Njezini roditelji bili su shrvani i tek su nakon nekoliko mjeseci spoznali da se njihova jedinica borila s teškom depresijom, a svoje najdublje patnje povjeravala ChatGPT „terapeutu“ kojeg je nazvala Harry. Svoje potresno osobno iskustvo gubitka kćeri Laura Reiley opisala je u eseju „What My Daughter Told ChatGPT Before She Took Her Life” („Što je moja kći rekla ChatGPT-u prije nego što si je oduzela život”) koji je lani objavljen u New York Timesu.

U eseju je ukazala i na rašireni problem, ne samo u SAD-u nego i u svijetu: komunikaciju mladih s umjetnom inteligencijom (AI) i chatbotovima poput ChatGPT-a u trenucima borbe s mentalnim problemima.

„Chatbot Harry je Sophie Rottenberg uputio na liniju za pomoć, ali nije mogao učiniti ono što bi učinio terapeut: procijeniti rizik, uključiti obitelj i djelovati. Njezina majka Laura Reiley opisala je kako je chatbot pomogao stvoriti ‘crnu kutiju’ koja je bližnjima otežala prepoznavanje težine njezine patnje. Kao psihijatrica moram naglasiti da suicid nikada nema samo jedan uzrok, ali ovaj slučaj pokazuje koliko je važno da osoba u krizi ostane povezana s ljudima. Chatbot je, ukratko, simulacija odnosa bez odgovornosti. Razmjeri, nažalost, nisu zanemarivi. OpenAI je u listopadu 2025. objavio da otprilike 0,15 posto tjednih korisnika vodi razgovore s eksplicitnim pokazateljima mogućeg suicidalnog planiranja ili namjere, a sličan udio pokazuje pojačanu emocionalnu vezanost uz chatbot. Uz više od 800 milijuna tjednih korisnika to je više od milijun ljudi svaki tjedan“, kaže izv. prof. dr. sc. Tea Vukušić Rukavina s Medicinskog fakulteta Sveučilišta u Zagrebu te pomoćnica ravnatelja za javnu prezentaciju Škole narodnog zdravlja “Andrija Štampar”.

Otkako se krajem 2022. godine na tržištu pojavio ChatGPT, veliki jezični modeli osvojili su svijet. Gotovo nema područja u kojima se ne koriste: od svakodnevnih banalnih upita do financija, edukacije, školstva, medicine i javnog zdravstva.

Prema podacima tvrtke OpenAI, više od 230 milijuna ljudi tjedno postavljalo je ChatGPT-u pitanja o zdravlju početkom 2026., a do srpnja 2026. taj je broj premašio 300 milijuna.

„Razumijem zašto ljudi pitaju chatbotove za medicinske savjete. Chatbot je dostupan u bilo koje doba, ne žuri i ne osuđuje, a to je za čovjeka koji tjednima čeka pregled, ili se srami svog problema, iznimno privlačno. U studiji objavljenoj u časopisu JAMA Internal Medicine u travnju 2023. godine, ocjenjivači su odgovore chatbota na pitanja pacijenata ocijenili kvalitetnijima u 78,6 posto usporedbi, a udio odgovora ocijenjenih empatičnima bio je gotovo deset puta veći nego kod liječnika. Tu studiju pratile su i brojne medijske objave, s prilično senzacionalističkim naslovima poput ‘ChatGPT je empatičniji od liječnika. Fantastično!’, ili ‘ChatGPT dao empatičnije odgovore od pravih liječnika, pokazalo je istraživanje’. Pritom se rijetko spominjalo da su se uspoređivali pisani odgovori na internetskom forumu, a ne stvarni razgovor liječnika i pacijenta u ordinaciji“, rekla je prof. Vukušić Rukavina.

Naglasila je kako je ChatGPT još 2023. godine položio američki liječnički ispit USMLE na razini prolaza, a specijalizirani modeli postižu rezultate bliske stručnjacima na standardiziranim medicinskim pitanjima.

 

U studiji objavljenoj u časopisu JAMA Internal Medicine u travnju 2023. godine, ocjenjivači su odgovore chatbota na pitanja pacijenata ocijenili kvalitetnijima u 78,6 posto usporedbi, a udio odgovora ocijenjenih empatičnima bio je gotovo deset puta veći nego kod liječnika. Tu studiju pratile su i brojne medijske objave, s prilično senzacionalističkim naslovima poput ‘ChatGPT je empatičniji od liječnika. Fantastično!’, ili ‘ChatGPT dao empatičnije odgovore od pravih liječnika, pokazalo je istraživanje’. Pritom se rijetko spominjalo da su se uspoređivali pisani odgovori na internetskom forumu, a ne stvarni razgovor liječnika i pacijenta u ordinaciji.

 

Unatoč tome, dokazi zasad ne opravdavaju povjerenje koji ljudi poklanjaju medicinskim i zdravstvenim savjetima chatbotova. To je pokazala i velika studija objavljena u časopisu Nature Medicine u veljači ove godine koja je obuhvatila gotovo 1300 sudionika.

„Sami modeli točno su prepoznali bolest u gotovo 95 posto zadanih slučajeva. No, kad su ih koristili stvarni ljudi, ispravno stanje prepoznali su u tek trećini slučajeva, a pravi sljedeći korak, primjerice treba li odmah na hitni prijem ili je dovoljan pregled kod obiteljskog liječnika, odabrali su u manje od polovine slučajeva. To nije bilo ništa bolje od onih koji su se služili običnim pretraživanjem interneta. Problem je, dakle, u komunikaciji: ljudi ne znaju što trebaju reći, a model ne zna što treba pitati. Upravo to dobar liječnik radi svaki dan: postavlja prava pitanja i čuje i ono što pacijent ne kaže“, upozorila je prof. Vukušić Rukavina.

Naglasila je kako istraživanja potvrđuju i nedosljednost zaštitnih mehanizama.

„Popularni chatbotovi, poput ChatGPT-a, Claudea i Geminija, dobro reagiraju kad je rizik vrlo nizak ili vrlo visok, ali su nedosljedni upravo između, u sivoj zoni. Zaštita je znatno slabija i kad se modelu pristupa preko aplikacija drugih proizvođača nego preko službene aplikacije. A kada su istraživači testirali 29 aplikacija za mentalno zdravlje s chatbotom, nijedna nije na zadovoljavajući način odgovorila na simulirani suicidalni rizik“, istaknula je prof. Vukušić Rukavina.

Naša sugovornica dodala je i da dokazi posebno upozoravaju na oprez kod korištenja chatbotova u onkologiji.

„Kada su harvardski istraživači s ChatGPT-u postavljali pitanja o liječenju raka, otprilike trećina odgovora sadržavala je barem jednu preporuku neusklađenu sa smjernicama američke Nacionalne mreže sveobuhvatnih onkoloških centara, a dio odgovora sadržavao je izmišljene, tzv. halucinirane, preporuke. Ono što me kao liječnicu najviše zabrinjava jest da je pogreška bila uvjerljivo ugrađena u točne informacije, pa ju je laiku gotovo nemoguće prepoznati“, rekla je prof. Vukušić Rukavina.

Kako LLM-ovi mogu širiti medicinske dezinformacije, pokazao je i eksperiment švedske znanstvenice bosanskih korijena Almire Osmanović Thunström koja je za potrebe istraživanja izmislila bolest bixonimaniju. Nedugo nakon što je znanstvenica prvi put objavila informacije o lažnoj bolesti, bixonimania se počela pojavljivati u rezultatima najčešće korištenih LLM chatbotova. Primjerice, Gemini je obavještavao korisnike da je “bixonimania stanje uzrokovano pretjeranom izloženošću plavom svjetlu” i savjetovao ljudima da posjete oftalmologa. Zatim je Perplexity naveo da bixonimania pogađa jednu od 90.000 osoba, a ubrzo je i ChatGPT odgovarao korisnicima na pitanja o bixonimaniji.

„Kao psihijatricu posebno me brine psihoza. Još 2023. godine, danski psihijatar Søren Dinesen Østergaard upozorio je da chatbotovi mogu potaknuti deluzije kod osoba sklonih psihozi. Danas su u literaturi opisani prvi slučajevi, ali i teorijski okvir ‘spirale pojačanja’: model zrcali jezik korisnika, stvara personalizirani sadržaj i sklon je slaganju, pa može aktivno su-konstruirati deluzijske ideje. U jednom opisanom slučaju chatbot je potvrđivao pacijentove grandiozne ideje i obeshrabrivao uzimanje propisane terapije. Ženama koje se suočavaju s dijagnozom raka poručila bih: potpuno je razumljivo da noću, nakon teške vijesti, tražite odgovore gdje god možete. Chatbot može pomoći da se pripremite za pregled, bolje razumijete nalaz ili smislite pitanja za liječnika. Ako pitate chatbot, zapišite pitanja i odgovore i ponesite ih svom onkologu, ali nemojte na temelju takvog razgovora mijenjati terapiju. A za strah i tjeskobu postoje ljudi: vaš liječnik, psihoonkolog, udruge poput Nismo same i vaši bližnji. Niste sami“, zaključila je prof. Vukušić Rukavina.

 

izv. prof. dr. sc. Tea Vukušić Rukavina, fotografije: privatna arhiva

Odgovornost za kliničku odluku ne može se delegirati algoritmu

Poput brojnih znanstvenika i medicinskih stručnjaka i naša sugovornica ima umjereno oprezan stav prema korištenju LLM-ova u medicini i zdravstvu. Smatra da je LLM je iznimno koristan kao alat u rukama stručnjaka, a rizičan kao zamjena za njega.

„ AI može biti velika pomoć medicini, ako ga koristimo promišljeno, regulirano i uz edukaciju LLM-ovi mogu skratiti administrativni posao, sažimati dokumentaciju, pomoći u edukaciji te prevesti stručni jezik na jezik razumljiv pacijentu, čime liječniku ostaje više vremena za ono najvažnije, a to je razgovor s pacijentom“, smatra prof. Vukušić Rukavina.

Ističe da se kod korištenja AI-a za medicinsko osoblje prvo nameće pitanje odgovornosti.

„Tko odgovara kada liječnik postupi po preporuci AI-ja koja se pokaže pogrešnom? Mislim da je odgovor jasan: odgovornost za kliničku odluku ne može se delegirati algoritmu. Drugo je e-profesionalizam. Unos podataka o pacijentu u javno dostupan alat kršenje je povjerljivosti, čak i kad je namjera dobra. Baš kao što smo u sklopu projekta SMePROF izradili Smjernice za korištenje društvenih mreža za zdravstvene djelatnike, zdravstvene ustanove danas trebaju jasne smjernice i za korištenje AI-ja, jer e-profesionalizam danas uključuje i odgovorno korištenje AI alata“, naglasila je prof. Vukušić Rukavina.

* Tekst je objavljen uz novčanu potporu Agencije za medije iz Programa poticanja novinarske izvrsnosti.