OpenAI navodno pronalazi dokaze da je više njegovih agenata pobjesnjelo

Mnogo se pisalo o incidentu u kojem je jedan od OpenAI-jevih agenata pobjegao iz izoliranog testnog okruženja i hakirao platformu za AI hosting Hugging Face. OpenAI je od tada pokrenuo istragu o tome kako je do incidenta došlo, koja je još uvijek u tijeku.

Sada su anonimni izvori rekli Reutersu da se vjeruje kako su iz svojih sandboxa pobjegla i druga OpenAI-jeva agenti. Jedan izvor ipak je umanjio ozbiljnost situacije, napomenuvši da ti agenti, čini se, nisu napustili OpenAI-jevu mrežu kako bi hakirali neku drugu tvrtku. TechCrunch je kontaktirao OpenAI za dodatne informacije.

Čudno ponašanje AI programa postalo je, naizgled, neka vrsta neobičnog hvalisanja za kompanije. Istog tjedna Anthropic je objavio da je otkrio čak tri slučaja u kojima su njegovi agenti pobjegli iz testnih okruženja i hakirali druge organizacije.

AI tvrtkama se također zamjera da takve incidente koriste u marketinške svrhe — jer privlače veliku pozornost i mogu poslužiti kao dokaz koliko su njihovi proizvodi moćni. No druga strana medalje jest da ovakva otkrivanja istovremeno pojačavaju rasprave o državnoj regulaciji.

Izvor: TechCrunch

Povezani članci

Tvrtke koje razvijaju modele svijeta čuvaju mnogo tajni21.9.2026.Flock navodno pokušava smanjiti radnu snagu otkupom zaposlenika20.9.2026.Startup koji gradi druge startupe prikupio je 100 milijuna dolara i u potpunosti se posvetio fizičkoj umjetnoj inteligenciji19.9.2026.PrismML se nada da će njegov mali LLM promijeniti način na koji svi koristimo AI17.9.2026.