OpenAI ima stotine ugovornih radnika koji čitaju vaše ChatGPT razgovore

OpenAI zapošljava stotine ugovornih radnika koji čitaju stvarne razgovore korisnika ChatGPT-a kako bi poboljšali odgovore chatbota, otkriva istraživanje portala 404 Media.

Portal je došao do procurjelih internih dokumenata i razgovarao s dodatnim izvorima. Recenzenti ocjenjuju odgovore ChatGPT-a na ljestvici od jedan do sedam, a njihov je zadatak smanjiti pretjeranu laskavost i ljudsko ponašanje u odgovorima modela.

Jedan je recenzent rekao za 404 Media da ne vjeruje da korisnici znaju kako ljudi čitaju njihove razgovore. Pregledani upiti to i potvrđuju: u nekim su razgovorima korisnici izričito tražili od ChatGPT-a da sadržaj čuva privatnim. Upiti su anonimizirani, ali i dalje mogu sadržavati osjetljive osobne podatke. OpenAI koristi filtar privatnosti, no sam priznaje da može griješiti.

Prema pisanju 404 Medije, ugovorni radnici regrutiraju se putem agencije Crossing Hurdles („Connecting skilled professionals with the future of AI work”), a isplaćuje ih tvrtka za treniranje umjetne inteligencije Mercor. Jedan recenzent iz Sjeverne Amerike izjavio je da zarađuje više od 50 dolara na sat.

Korisnici mogu isključiti postavku „Improve the model for everyone”, koja je zadano uključena, kako njihovi razgovori ne bi bili korišteni za treniranje modela i potencijalno čitani od strane ljudi. Postavka se primjenjuje samo na nove razgovore. OpenAI nudi i privremeni način razgovora koji, prema tvrdnjama tvrtke, ne koristi unesene podatke za treniranje modela.

OpenAI o ljudskom pregledu obavještava samo u skrivenom FAQ-u

Kad je 404 Media upitao gdje se korisnici izričito obavještavaju o ljudskom pregledu razgovora, OpenAI u početku nije odgovorio. Na stranici s često postavljanim pitanjima tvrtka ipak pojašnjava da ovlašteno osoblje i pružatelji usluga mogu pregledavati korisničke podatke radi poboljšanja modela te savjetuje korisnicima da ne unose osjetljive informacije. Ta je obavijest dostupna najmanje od 2023. godine i kroz godine se tek neznatno promijenila.

404 Media smatra da je ta obavijest previše skrivena i previše nejasna da bi korisnici uopće bili svjesni koliko se ljudskog pregleda zapravo provodi. Uz to, naziv „Improve the model for everyone” više podsjeća na prijateljski doprinos zajednici nego na pristanak da ljudi čitaju vaše razgovore. No takva je nejasna formulacija vjerojatno dobro promišljena – kad bi OpenAI tražio izričit pristanak, stopa odjave vjerojatno bi bila visoka.

Za AI laboratorije, međutim, ovakva je povratna informacija od strane ljudi ključan dio poboljšanja modela, a praksa je i inače raširena. Anthropic je za 404 Media potvrdio da koristi ljudske recenzente za provjeru odgovora Claudea i poboljšanje budućih modela, i to za korisnike koji u postavkama privatnosti imaju uključenu opciju „Help improve our AI models”. Anthropic također anonimizira razgovore prije ljudskog pregleda uklanjanjem podataka o računu poput adresa e-pošte. Ljudske recenzente koristi i Google, koji u Geminiju napominje da ljudi mogu pregledavati spremljene razgovore.