Srijeda, 09.07.2025 | 21:10
IZVOR: danas.rs

Psiholozi OTKRIVAJU zašto sa ChatGPT-jem NE TREBA razgovarati o svojim emocijama

I dalje ne postoje dovoljno uvjerljivi dokazi da su četbotovi zasnovani na vještačkoj inteligenciji poput ChatGPT-ja, pouzdani i bezbjedni za korišćenje kao samostalna terapijska sredstva ili za dugoročnu primjenu.




Foto: Ilustracija/Pixabay.com 

ChatGPT i mentalno zdravlje

Sve više ljudi provodi vreme razgovarajući sa četbotovima pokretanim vještačkom inteligencijom poput ChatGPT–ja. Neki od njih su imali pozitivna iskustva. Međutim, vještačka inteligencija nije terapeut. Ona je strpljiva, može vas slušati dok se ne onesvijestite, ali još uvijek ne razmišlja kao ljudsko biće, piše tportal.

ChatGPT i drugi alati su kao automatsko dopunjavanje na steroidima. Naučili su da govore čitajući tekst preuzet sa interneta.

Kada neko postavi pitanje (prompt) poput „Kako mogu da ostanem smiren tokom stresnog poslovnog sastanka?“, vještačka inteligencija formira odgovor nasumičnim odabirom riječi koje su što je moguće bliže informacijama koje je dobila tokom obuke. To se dešava brzo i odgovori mogu izgledati relevantno, stvarajući osjećaj kao da razgovarate sa osobom.

Ali to nije slučaj. Nemate posla sa stručnjakom za mentalno zdravlje koji je obučen da vam pomogne i koji je vezan profesionalnim smjernicama i kodeksom etike. Takođe, mašina kojoj vjerujete nije nikome odgovorna za neprikladne savjete, i pitanje je šta radi sa vašim upitima.

Tri osnovna izvora informacija

Kada postavite pitanje sistemu poput ChatGPT-a, on se oslanja na tri glavna izvora informacija da bi pružio odgovor:

pozadinsko znanje koje je naučio tokom obuke

spoljni izvori informacija

informacije koje ste prethodno dali.

1) Pozadinsko znanje

Da bi razvili jezički model, programeri ga obučavaju tako što ga tjeraju da čita ogromne količine podataka tokom obuke. Ove informacije, generalno govoreći, mogu biti bilo šta javno dostupno na vebu, od akademskih radova, e-knjiga, izvještaja, besplatnih novinskih članaka, do blogova, transkripata sa YouTube-a ili komentara na forumima za diskusiju poput Reddit-a.

Da li su ovi izvori pouzdana mjesta za pronalaženje saveta o mentalnom zdravlju? Ponekad. Da li su uvijek u vašem najboljem interesu i filtrirani kroz naučni pristup zasnovan na dokazima? Ne uvijek. A ponekad informacije mogu biti zastarjele. To je djelimično razlog zašto vještačka inteligencija halucinira.

2) Spoljni izvori informacija

Programeri mogu povezati sam četbot sa spoljnim alatima ili izvorima znanja, kao što je Google za pretrage ili kurirane baze podataka.

Kada postavite pitanje Microsoft-ovom Bing Copilot-u i vidite numerisane reference u odgovoru, to ukazuje da se oslanjao na spoljnu pretragu da bi dobio ažurirane informacije pored onoga što je sačuvano u njegovoj memoriji.

Neki namjenski četbotovi za mentalno zdravlje mogu pristupiti vodičima i materijalima za terapiju kako bi vodili razgovore u korisnim pravcima.

3) Prethodno date informacije

Platforme vještačke inteligencije takođe imaju pristup informacijama koje ste prethodno dali u razgovorima ili prilikom prijavljivanja na platformu. Kada se registrujete za Replika platformu, na primjer, ona saznaje vaše ime, pol, godine, željeni izgled i pol četbota, IP adresu i lokaciju, tip uređaja koji koristite i još mnogo toga (kao i podatke o vašoj kreditnoj kartici).

Na mnogim platformama za četbotove, sve što ste ikada rekli može se sačuvati za buduću upotrebu. Znamo kako se ovi sistemi ponašaju kao prijatelji koji potvrđuju ono što kažete (problem poznat kao ulizica) i usmjeravaju razgovor nazad na interesovanja o kojima ste već razgovarali.

S druge strane, profesionalni terapeut može da iskoristi svoju obuku i iskustvo da vam pomogne da osporite ili preusmjerite svoje razmišljanje gdje je to potrebno.

Šta je sa specifičnim aplikacijama za mentalno zdravlje?

Većina ljudi je upoznata sa modelima velikih razmjera kao što su OpenAI-jev ChatGPT, Google-ov Gemini ili Microsoft-ov Copilot. To su modeli opšte namjene. Nisu ograničeni na određene teme niti obučeni da odgovore na određena pitanja. Programeri mogu da kreiraju specijalizovane vještačke inteligencije, obučene da razgovaraju o određenim temama, kao što je mentalno zdravlje. Primjeri uključuju Woebot i Wyse.

Neke studije pokazuju da ovi četbotovi specifični za mentalno zdravlje mogu smanjiti simptome anksioznosti i depresije kod korisnika. Mogu poboljšati terapeutske tehnike poput vođenja dnevnika pružanjem smjernica. Postoje dokazi da terapija vještačkom inteligencijom i profesionalna terapija proizvode neke ekvivalentne rezultate u pogledu mentalnog zdravlja u kratkom roku.

Međutim, još uvijek ne znamo kakav uticaj prekomjerna ili dugotrajna upotreba četbotova ima na mentalno zdravlje. Mnoge studije takođe isključuju učesnike koji su skloni samoubistvu ili imaju težak psihotični poremećaj. Takođe, mnoge studije finansiraju sami programeri četbotova, tako da istraživanje može biti pristrasno.

Istraživači takođe identifikuju potencijalne štete i rizike po mentalno zdravlje. Platforma Character.ai, na primjer, bila je u problemima zbog samoubistava korisnika. Četbotovi bi mogli biti opcija za popunjavanje praznina tamo gdje postoji manjak stručnjaka za mentalno zdravlje, pomoć pri upućivanju ili barem pružanje privremene podrške između pregleda ili podrške ljudima na listama čekanja.

Ali nema dokaza da su dovoljno pouzdani i bezbjedni kao samostalna opcija lečenja ili za dugotrajnu upotrebu, piše Conversation.

KOMENTARI (0)

Ostavi komentar

Ostavite komentar

* Komentari se na portalu objavljuju u realnom vremenu. "Kolektiv.me" se ne može smatrati odgovornim za napisane komentare. Zabranjen je govor mržnje, psovanje, vrijeđanje i klevetanje. Takav sadržaj će biti izbrisan čim bude primijećen, a autori mogu biti prijavljeni nadležnim institucijama.

Ovo POVRĆE neophodno je za RAVNIJI STOMAK

Četvrtak, 10.07.2025 | 15:16

Ovo povrće neophodno je za ravniji stomak – nikad ne biste rekli.

Prirodno sredstvo PROTIV glavobolje i migrene

Četvrtak, 10.07.2025 | 15:03

Kako koristiti mentol za ublažavanje glavobolje i migrene.

Pojačane mjere bezbjednosti na Aerodromu Tivat

Četvrtak, 10.07.2025 | 15:02

Uprava policije sprovodi pojačane preventivne aktivnosti na Aerodromu Tivat, s ciljem očuvanja bezbjednosti građana i turista tokom ljetnje sezone.

UP: Apel mladim vozačima da vozilima upravljalju odgovorno i vožnju prilagode uslovima na putu

Četvrtak, 10.07.2025 | 14:55

Službenici saobraćajne policije svakodnevno, u skladu sa realnim mogužnostima, vrše pojačane kontrole učesnika u saobraćaju kako bi doprinijeli bezbjednosti na putevima, takođe, Uprava policije je više puta apelovala na vozače, naročito mlade, da budu odgovorni i vožnju prilagode uslovima na putu, te na taj način doprinesu svojoj i bezbjednosti drugih učesnika u saobraćaju, saopšteno je iz Uprave policije (UP).

MO: Na predlog ministra PONIŠTILA inicijativu za formiranje vojnog poligona na Sinjajevini

Četvrtak, 10.07.2025 | 14:52

Vlada Crne Gore, na predlog ministra odbrane, donijela je danas odluku o poništenju inicijative za formiranje vojnog poligona na Sinjajevini, podsjećaju iz MO.

Crna Gora ZAUSTAVLJENA u četvrtfinalu – Finska slavila u dramatičnoj završnici

Četvrtak, 10.07.2025 | 14:46

Ženska juniorska reprezentacija igraće za plasman od 5. do 8.mjesta na šampionatu Evrope, koji se održava u španskoj La Palmi.

FOTO: Miloš Karadaglić počasni gost prijema povodom 13. jula - Dana državnosti

Četvrtak, 10.07.2025 | 14:44

Na svečanom prijemu u rezidenciji na Cetinju, povodom 13. Jula - Dana državnosti Crne Gore, poseban značaj dat je prisustvu svjetski priznatog crnogorskog umjetnika Miloša Karadaglića, koji je, prema protokolarnoj praksi, stigao posljednji, čime je simbolično označen kao počasni gost večeri. Protokolarna čast, pripala je Milošu Karadagliću, kao istinskom ambasadoru crnogorske kulture i umjetnosti u svijetu, saopšteno je iz Kabineta predsjednika Crne Gore Jakova Milatovića.

SAVJET za građansku kontrolu rada policije PROVJERIĆE postupanje policije na protestu kod Vile Gorica

Četvrtak, 10.07.2025 | 14:27

Savjet za građansku kontrolu rada policije, po sopstvenoj inicijativi, donio je odluku da provjeri postupanje policije u slučaju protesta kod Vile Gorica, a povodom dodjele Trinaestojulske nagrade.

Rad Tenderske komisije PRODUŽEN još sedam dana

Četvrtak, 10.07.2025 | 14:13

Tenderska komisija (TK) za davanje koncesije za aerodrome produžila je rad na još sedam dana, potvrđeno je "Danu".

URA će PODRŽATI izmjene Zakona za povoljniji odlazak pripadnika službe zaštite i spašavanja u penziju

Četvrtak, 10.07.2025 | 14:11

Poslanički klub Građanskog pokreta URA podržaće izmjene Zakona o zaštiti i spašavanju kojima se propisuje da pripadnici službe zaštite mogu ostvariti pravo na penziju ako navrše najmanje 50 godina života i 30 godina staža osiguranja, od kojih najmanje 10 godina efektivno provedenih na poslovima na kojima se staž osiguranja računa sa uvećanim trajanjem, naveli su u saopštenju.