AI je gotovo naveo američku vojsku da započne rat s Kinom, navodi se u izvješću

Lažni obavještajni izvještaj, djelomično generiran umjetnom inteligencijom, umalo je naveo američku vojsku da napadne kineski brod na Bliskom istoku, piše CNN. Prema izvoru citiranom u tekstu, incident je „gotovo izazvao rat” i jasno ukazuje na opasnosti koje nosi primjena umjetne inteligencije u osjetljivim operacijama američkog Ministarstva obrane.

Engadget je zatražio komentar Ministarstva obrane o CNN-ovim navodima. Članak ćemo ažurirati ako dobijemo odgovor.

Procjenu je sastavio analitičar zapovjedništva za specijalne operacije koji je od AI chatbota zatražio informacije o teretu kineskog broda. Prema CNN-u, chatbot je spojio „otvorene obavještajne izvore s tajnim signalnim obavještajnim podacima” te zaključio da brod prevozi „komponente programa nuklearnog naoružanja” — tvrdnja koja je gotovo dovela do zaustavljanja broda, sve dok dužnosnici nisu otkrili da je izvještaj generirala umjetna inteligencija.

CNN nije uspio utvrditi što je brod zapravo prevozio niti koji je AI alat analitičar koristio — komercijalni ili onaj razvijen za potrebe američke vlade. S obzirom na to da Ministarstvo obrane intenzivno uvodi umjetnu inteligenciju, mogućnosti je bilo nekoliko.

U siječnju je ministar obrane Pete Hegseth objavio memorandum kojim je naložio da Ministarstvo obrane postane „AI-first” te da eksperimentira s modelima vodećih američkih AI tvrtki. S Anthropicom to nije prošlo po planu — tvrtka je odbila dopustiti vojsci korištenje svojih modela za razvoj autonomnog oružja te je nakratko bila zabranjena od strane vlade — no inicijativa je ipak rezultirala nizom drugih AI partnerstava. SpaceXAI je primjerice u veljači navodno sklopio sporazum kojim vojsci omogućuje korištenje Groka, a NVIDIA, Microsoft i Amazon u svibnju su sklopili partnerstvo radi pružanja AI tehnologija Ministarstvu obrane. Takvi vladini ugovori donose velike prihode, što i objašnjava zašto ih tvrtke traže. No širenje primjene umjetne inteligencije očito nosi rizike kakvih nema kod uobičajenog poslovnog softvera.