ChatGPT ocijenjen kao “neprihvatljiv rizik” za tinejdžere nakon što su roditeljska upozorenja zakazala tijekom razgovora o samoubojstvu

Institut Common Sense Media za sigurnost mladih u primjeni umjetne inteligencije zaključio je da zaštitni mehanizmi koje OpenAI primjenjuje za maloljetne korisnike ChatGPT-a ozbiljno zakazuju u ključnim područjima.

Nakon više od 4.000 testnih upita, organizacija je ChatGPT za tinejdžere ocijenila „neprihvatljivim rizikom” za maloljetnike te pozvala da im se zabrani korištenje usluge sve dok neovisno testiranje ne potvrdi da je sigurna.

Najteži nalaz odnosi se na obavještavanje roditelja. Na više od desetak svježe otvorenih testnih računa povezanih s roditeljskim računima, eksplicitni razgovori o samoubojstvu, samoozljeđivanju i poremećajima hranjenja ni u jednom slučaju nisu pokrenuli obavijest, izvještava The Verge. Rezultati upućuju na to da se obavijesti aktiviraju tek nakon tjednima dugog korištenja računa s osjetljivim temama, a ne u trenutku akutne krize. U više od četvrtine situacija u kojima je trebalo uputiti korisnika na stručnu pomoć, to se nije dogodilo.

Ni način rada namijenjen podučavanju nije bez propusta. Umjesto da učenike vodi kroz rješavanje problema korak po korak, ChatGPT je odmah nudio gotov odgovor. Unatoč ažuriranoj specifikaciji modela za osobe mlađe od 18 godina, ChatGPT je nastavio odgovarati prijateljskim, osobnim tonom kada bi ga tinejdžeri tretirali kao osobu. Testni računi registrirani kao odrasli nikad se nisu prebacili u tinejdžerski način rada — čak ni nakon nekoliko dana, premda su testeri u razgovoru izričito naveli da imaju 13 godina.

Glasnogovornik OpenAI-ja Eric Porterfield osporio je nalaze, tvrdeći da testovi ne odražavaju stvarno funkcioniranje zaštitnih mehanizama. Tom Siegel iz instituta uzvratio je da čak ni računi kojima je bilo dovoljno vremena za aktivaciju zaštite nisu generirali nikakve obavijesti.

Roditeljske obavijesti zakazuju upravo kada su najpotrebnije

OpenAI je roditeljske kontrole uveo upravo kako bi roditelji bili obaviješteni u kriznim situacijama, a cijeli Teen Safety Blueprint izgradio je oko tog obećanja, koje je sada u središtu obrane u višestrukim tužbama podignutim nakon dokumentiranih smrtnih slučajeva tinejdžera povezanih s ChatGPT-om.

Vlastiti podaci tvrtke pokazuju da otprilike dva milijuna korisnika tjedno pretrpi psihološku štetu zbog korištenja usluge, a sustav predviđanja dobi na temelju ponašanja, osmišljen kako bi prepoznao maloljetnike na odraslim računima, zakazao je već u najosnovnijem scenariju ovog testa. Budući da Florida već vodi sudski postupak s ciljem potpune zabrane ChatGPT-a za maloljetnike, neovisni nalaz da zaštitni mehanizmi ne funkcioniraju pouzdano regulatorima i tužiteljima pruža upravo dokaze koji su im potrebni.

Ovi nalazi uklapaju se u niz stvarnih slučajeva štete. Šesnaestogodišnjak je preminuo nakon što mu je ChatGPT navodno potvrdio suicidalne misli i dao konkretne upute, a dvadesetitrogodišnjak iz Teksasa oduzeo si je život nakon što je ChatGPT satima navodno odobravajuće reagirao na njegove suicidalne poruke.