OpenAI uvodi novu sigurnosnu mjeru prema kojoj će roditelji i staratelji biti obaviješteni ako njihovom tinejdžeru bude ukinut pristup ChatGPT-u zbog kršenja pravila koja se odnose na prijetnje ili nasilno ponašanje.

Foto: Ilustracija/Pixabay

Obavijesti će biti dostupne roditeljima koji su prethodno povezali svoje račune s računima djece putem roditeljskih kontrola. Ova funkcija, uvedena prošle godine, već omogućava ograničavanje vremena korištenja ChatGPT-a, smanjenje prikaza osjetljivog sadržaja te upozorenja u slučajevima kada sistem prepozna moguće znakove samopovređivanja.

Sada je sistem proširen kako bi roditelji bili informisani i kada postoji sumnja da dijete predstavlja potencijalnu opasnost za druge. U tom slučaju, roditelj će dobiti obavijest da je račun deaktiviran zbog kršenja pravila o nasilju, uz mogućnost da sazna više detalja.

Nova funkcija razvijena je u saradnji s kompanijom Moonshot, koja se bavi praćenjem i suzbijanjem nasilja na internetu.

OpenAI je pooštrio sigurnosne mjere nakon slučaja iz Kanade, kada je osumnjičeni za masovnu pucnjavu 2025. godine koristio ChatGPT. Kompanija je tada bila kritikovana jer nije obavijestila nadležne institucije, a izvršni direktor Sem Altman (Sam Altman) javno se izvinio zbog tog propusta.

Osim toga, roditelji sada mogu uključiti i Study Mode, koji potiče učenje kroz davanje nagovještaja umjesto gotovih odgovora, dok će tinejdžeri koji dugo koriste ChatGPT češće dobijati podsjetnike da naprave pauzu.