Srijeda, 09.07.2025 | 21:10
IZVOR: danas.rs

Psiholozi OTKRIVAJU zašto sa ChatGPT-jem NE TREBA razgovarati o svojim emocijama

I dalje ne postoje dovoljno uvjerljivi dokazi da su četbotovi zasnovani na vještačkoj inteligenciji poput ChatGPT-ja, pouzdani i bezbjedni za korišćenje kao samostalna terapijska sredstva ili za dugoročnu primjenu.




Foto: Ilustracija/Pixabay.com 

ChatGPT i mentalno zdravlje

Sve više ljudi provodi vreme razgovarajući sa četbotovima pokretanim vještačkom inteligencijom poput ChatGPT–ja. Neki od njih su imali pozitivna iskustva. Međutim, vještačka inteligencija nije terapeut. Ona je strpljiva, može vas slušati dok se ne onesvijestite, ali još uvijek ne razmišlja kao ljudsko biće, piše tportal.

ChatGPT i drugi alati su kao automatsko dopunjavanje na steroidima. Naučili su da govore čitajući tekst preuzet sa interneta.

Kada neko postavi pitanje (prompt) poput „Kako mogu da ostanem smiren tokom stresnog poslovnog sastanka?“, vještačka inteligencija formira odgovor nasumičnim odabirom riječi koje su što je moguće bliže informacijama koje je dobila tokom obuke. To se dešava brzo i odgovori mogu izgledati relevantno, stvarajući osjećaj kao da razgovarate sa osobom.

Ali to nije slučaj. Nemate posla sa stručnjakom za mentalno zdravlje koji je obučen da vam pomogne i koji je vezan profesionalnim smjernicama i kodeksom etike. Takođe, mašina kojoj vjerujete nije nikome odgovorna za neprikladne savjete, i pitanje je šta radi sa vašim upitima.

Tri osnovna izvora informacija

Kada postavite pitanje sistemu poput ChatGPT-a, on se oslanja na tri glavna izvora informacija da bi pružio odgovor:

pozadinsko znanje koje je naučio tokom obuke

spoljni izvori informacija

informacije koje ste prethodno dali.

1) Pozadinsko znanje

Da bi razvili jezički model, programeri ga obučavaju tako što ga tjeraju da čita ogromne količine podataka tokom obuke. Ove informacije, generalno govoreći, mogu biti bilo šta javno dostupno na vebu, od akademskih radova, e-knjiga, izvještaja, besplatnih novinskih članaka, do blogova, transkripata sa YouTube-a ili komentara na forumima za diskusiju poput Reddit-a.

Da li su ovi izvori pouzdana mjesta za pronalaženje saveta o mentalnom zdravlju? Ponekad. Da li su uvijek u vašem najboljem interesu i filtrirani kroz naučni pristup zasnovan na dokazima? Ne uvijek. A ponekad informacije mogu biti zastarjele. To je djelimično razlog zašto vještačka inteligencija halucinira.

2) Spoljni izvori informacija

Programeri mogu povezati sam četbot sa spoljnim alatima ili izvorima znanja, kao što je Google za pretrage ili kurirane baze podataka.

Kada postavite pitanje Microsoft-ovom Bing Copilot-u i vidite numerisane reference u odgovoru, to ukazuje da se oslanjao na spoljnu pretragu da bi dobio ažurirane informacije pored onoga što je sačuvano u njegovoj memoriji.

Neki namjenski četbotovi za mentalno zdravlje mogu pristupiti vodičima i materijalima za terapiju kako bi vodili razgovore u korisnim pravcima.

3) Prethodno date informacije

Platforme vještačke inteligencije takođe imaju pristup informacijama koje ste prethodno dali u razgovorima ili prilikom prijavljivanja na platformu. Kada se registrujete za Replika platformu, na primjer, ona saznaje vaše ime, pol, godine, željeni izgled i pol četbota, IP adresu i lokaciju, tip uređaja koji koristite i još mnogo toga (kao i podatke o vašoj kreditnoj kartici).

Na mnogim platformama za četbotove, sve što ste ikada rekli može se sačuvati za buduću upotrebu. Znamo kako se ovi sistemi ponašaju kao prijatelji koji potvrđuju ono što kažete (problem poznat kao ulizica) i usmjeravaju razgovor nazad na interesovanja o kojima ste već razgovarali.

S druge strane, profesionalni terapeut može da iskoristi svoju obuku i iskustvo da vam pomogne da osporite ili preusmjerite svoje razmišljanje gdje je to potrebno.

Šta je sa specifičnim aplikacijama za mentalno zdravlje?

Većina ljudi je upoznata sa modelima velikih razmjera kao što su OpenAI-jev ChatGPT, Google-ov Gemini ili Microsoft-ov Copilot. To su modeli opšte namjene. Nisu ograničeni na određene teme niti obučeni da odgovore na određena pitanja. Programeri mogu da kreiraju specijalizovane vještačke inteligencije, obučene da razgovaraju o određenim temama, kao što je mentalno zdravlje. Primjeri uključuju Woebot i Wyse.

Neke studije pokazuju da ovi četbotovi specifični za mentalno zdravlje mogu smanjiti simptome anksioznosti i depresije kod korisnika. Mogu poboljšati terapeutske tehnike poput vođenja dnevnika pružanjem smjernica. Postoje dokazi da terapija vještačkom inteligencijom i profesionalna terapija proizvode neke ekvivalentne rezultate u pogledu mentalnog zdravlja u kratkom roku.

Međutim, još uvijek ne znamo kakav uticaj prekomjerna ili dugotrajna upotreba četbotova ima na mentalno zdravlje. Mnoge studije takođe isključuju učesnike koji su skloni samoubistvu ili imaju težak psihotični poremećaj. Takođe, mnoge studije finansiraju sami programeri četbotova, tako da istraživanje može biti pristrasno.

Istraživači takođe identifikuju potencijalne štete i rizike po mentalno zdravlje. Platforma Character.ai, na primjer, bila je u problemima zbog samoubistava korisnika. Četbotovi bi mogli biti opcija za popunjavanje praznina tamo gdje postoji manjak stručnjaka za mentalno zdravlje, pomoć pri upućivanju ili barem pružanje privremene podrške između pregleda ili podrške ljudima na listama čekanja.

Ali nema dokaza da su dovoljno pouzdani i bezbjedni kao samostalna opcija lečenja ili za dugotrajnu upotrebu, piše Conversation.

KOMENTARI (0)

Ostavi komentar

Ostavite komentar

* Komentari se na portalu objavljuju u realnom vremenu. "Kolektiv.me" se ne može smatrati odgovornim za napisane komentare. Zabranjen je govor mržnje, psovanje, vrijeđanje i klevetanje. Takav sadržaj će biti izbrisan čim bude primijećen, a autori mogu biti prijavljeni nadležnim institucijama.

Ovako izgleda SAVRŠENO MUŠKO TIJELO: Mnoge će iznenaditi konačan rezultat naučnika

Četvrtak, 10.07.2025 | 11:46

Sada naučnici možda imaju odgovor, barem kada je riječ o muškom tijelu. Istraživači sa Kineske akademije nauka otkrili su koji tip muške građe žene smatraju najprivlačnijim.

VIDEO: Muzički spektakl: Jelena Rozga pred prepunim gledalištem Kanli kule održala koncert za pamćenje

Četvrtak, 10.07.2025 | 11:30

Herceg Novi je sinoć bio epicentar ljetne muzičke čarolije zahvaljujući spektakularnom nastupu Jelene Rozge kojim je otvorena manifestacija “Novske muzičke skalinade".

BUKTI RAT između Bred Pita i Anđeline Džoli: Zašto glumac traži poruke bivše supruge?

Četvrtak, 10.07.2025 | 11:30

Američki glumac Bred Pit podnio je zahtjev sudu da mu se omogući pristup privatnoj komunikaciji njegove bivše supruge Anđeline Džoli, uoči nastavka pravne bitke zbog poznate francuske vinarije "Šato Miraval".

POZNATA glumica u najtežem periodu života saznala još TEŽE VIJESTI

Četvrtak, 10.07.2025 | 11:15

Dvije godine nakon što joj je otkriven rak dojke, Olivija Man saopštila da i njena majka ima istu bolest.

Privremena OBUSTAVA dijela rudarskih radova u rudniku "Šuplja stijena“ nakon inspekcijskog nadzora

Četvrtak, 10.07.2025 | 10:50

Ministarstvo energetike i rudarstva obavještava javnost da je, nakon inspekcijskog nadzora rudarske i geološke inspekcije, izrečena privremena mjera obustave izvođenja rudarskih radova na odlaganju flotacione jalovine na određenim dijelovima flotacionih jalovišta u okviru rudnika olova i cinka „Šuplja stijena“, kojim upravlja kompanija Gradir Montenegro d.o.o. Pljevlja.

Devin Buker potpisao NAJSKUPLJE produženje ugovora u istoriji NBA

Četvrtak, 10.07.2025 | 10:31

Finiks je produžio saradnju sa svojim najboljim igračem Devinom Bukerom na još dvije godine, do 2030. godine, za nevjerovatnih 145 miliona dolara – što je najskuplje produženje ugovora u istoriji NBA lige.

Rijana PROGOVORILA o imenu trećeg djeteta: "Jedino oko toga se NE SVAĐAMO"

Četvrtak, 10.07.2025 | 10:23

Dok čekaju treće dijete, i Rijana i ASAP Roki se trude da sačuvaju što više privatnosti, ali neke stvari očigledno ipak ne mogu da zadrže za sebe...

UHAPŠENOG šefa policije SDT SUMNJIČI da je pomagao klanu

Četvrtak, 10.07.2025 | 10:14

Načelnik Odjeljenja bezbjednosti u Danilovgradu, M.D., priveden je juče po nalogu Specijalnog policijskog odjeljenja, zbog sumnje da je uklanjao dokaze iz pojedinih predmeta kako bi spriječio krivično gonjenje osoba koje su, navodno, povezane sa kavačkim klanom.

UP: Član OKG-a ISPORUČEN iz Bugarske Crnoj Gori

Četvrtak, 10.07.2025 | 10:07

Policijski službenici NCB Interpol-a Podgorica, kao i pripadnici Posebne i Specijalne jedinice policije, izvršili su juče ekstradiciju lica A.Lj. (43), državljanina Crne Gore iz Bugarske u našu državu.

Tehnike koje SMANJUJU STRES za PET MINUTA: Povratite kontrolu nad sobom

Četvrtak, 10.07.2025 | 10:05

Kako da se smirite za 5 minuta - vaš glavni antistres je upravo u vama.