Tvrtka također razvija mogućnost kontaktiranja hitnih službi ako bi korisnik mogao biti u neposrednoj opasnosti od samoozljeđivanja.
Meta proširuje zaštitne mjere za maloljetne korisnike kako bi roditeljima, a možda i regulatorima, pokazala da su njezine platforme sigurne za korištenje. Nekoliko mjeseci nakon što je skrbnicima počela prikazivati teme razgovora koje njihova djeca vode s umjetnom inteligencijom, Meta je uvela novu sigurnosnu značajku koja će ih obavještavati i kada sadržaj tih razgovora upućuje na to da dijete razmišlja o samoozljeđivanju ili suicidu.
Kada maloljetni korisnik razgovara o suicidu ili samoozljeđivanju, Meta AI ga već sada upućuje na krizne linije pomoći i potiče ga da se obrati odrasloj osobi od povjerenja. Od danas će tvrtka proaktivno obavještavati i roditelje ili skrbnike koji nadziru djetetov račun da je ono u riziku, a uz to će im dijeliti i savjete te resurse o tome kako mogu pomoći svojem djetetu.
Meta navodi da je za prepoznavanje takvih razgovora razvila poseban sustav umjetne inteligencije, no prije slanja upozorenja svaki označeni razgovor prolazi i ručnu provjeru kako ne bi dolazilo do nepotrebne panike. Ipak, u slučaju dvojbe prednost se daje opreznosti — obavijest će biti poslana čak i kada namjera korisnika nije sasvim jasna osobi koja vrši provjeru. Značajka je već dostupna roditeljima koji koriste roditeljski nadzor na Instagramu u SAD-u, Ujedinjenom Kraljevstvu, Australiji i Kanadi, a do kraja godine bit će uvedena i u svim ostalim zemljama.
Tvrtka također radi na mogućnosti kontaktiranja hitnih službi kada razgovor s Meta AI upućuje na to da je korisnik — bio on maloljetan ili punoljetan — u neposrednoj opasnosti od oduzimanja vlastitog života. OpenAI je u svibnju uveo sličnu značajku pod nazivom Trusted Contact za ChatGPT, koja korisnicima omogućuje da odrede prijatelja kojeg tvrtka može kontaktirati ako procijeni da su u opasnosti od samoozljeđivanja.
Naposljetku, Metina postavka Ograničenog sadržaja sada se primjenjuje i na razgovore s Meta AI. Ako je roditelj na Instagramu uključio tu opciju, koja filtrira sadržaj s osjetljivim temama poput eksplicitnih vizuala i samoozljeđivanja, ista ograničenja vrijede i za djetetove razgovore s umjetnom inteligencijom.
Ako vi ili netko koga poznajete prolazi kroz suicidalne misli, obratite se Nacionalnoj liniji za prevenciju suicida na broj 1-800-273-8255. Linija je dostupna 24 sata na dan, sedam dana u tjednu, a moguć je i online chat ako nemate pristup telefonu.
