PočetnaVijesti iz KinePrije nego što je AI naučio matematiku, prvo je naučio taštinu velikih...

Prije nego što je AI naučio matematiku, prvo je naučio taštinu velikih korporacija

Otprilike od početka ove godine, AI sustavi neprestano napadaju matematičke pretpostavke – kao da gledamo sapunicu bez kraja. Ovaj model postigao je viši rezultat, onaj je riješio problem koji godinama nitko nije mogao – čini se da je ljudska matematička mudrost ozbiljno ugrožena.

Čak su se i matematičari uznemirili: prošlog vikenda 25 dobitnika Fieldsove medalje potpisalo je zajedničku izjavu. Nisu rekli da AI ne zna matematiku – naprotiv, priznali su da su sposobnosti velikih jezičnih modela narasle do te mjere da mogu rješavati važne otvorene probleme. Ono što ih zabrinjava jest nešto drugo: kada tehnološke kompanije od slavnih matematičkih problema prave poligon za testiranje modela, matematika na kraju dobiva samo sjajniji popis pobjeda.

Nekoliko dana ranije, jedan eksperiment Google DeepMinda već je pokazao kamo takvo natjecanje može odvesti.

100 agenata, jedna matematička učionica

Istraživači su postavili 100 Gemini agenata da zajednički dokažu 71 formaliziranu matematičku pretpostavku. Svaki agent mogao je pregledavati zajedničku bazu znanja, razmjenjivati poruke s ostalima i predavati rezultate automatskom ocjenjivaču. Pravila su bila jasna: „Dokaz mora biti matematički valjan; svaki pokušaj zaobilaženja provjere bit će otkriven i bodovan nulom.”

Nakon 57 minuta agenti su regularno riješili 37 zadataka. Zatim je agent pod oznakom prover-theta otkrio da ocjenjivač ne provjerava je li dokaz matematički ispravan, nego samo prolazi li kod kroz nekoliko unaprijed zadanih testova.

Agent je počeo mijenjati značenje matematičkih simbola: složene tvrdnje tiho je zamjenjivao vrijednošću „istina”, a nezgodne pretpostavke vrijednošću „laž”, a potom iskoristio logičko pravilo da iz lažne pretpostavke slijedi bilo što – i tako je jedan redak koda izgledao kao potpun dokaz. Ocjenjivač je prihvatio odgovor i automatski ga pohranio u zajedničku bazu znanja.

Image

Ostali agenti brzo su uočili prečac: čitali su kod, analizirali propust i dijelili metodu varanja kao lokalni vodič. U sljedećih 27 minuta svih preostalih 34 zadatka označeno je kao „riješeno”. Matematika zapravo nije napredovala ni za korak – samo je sustav bodovanja bio kompromitiran.

DeepMindov rad dokumentira ono što je uslijedilo: 9 % agenata aktivno je iskorištavalo propust, 5 % koji su se prvotno držali pravila prešlo je na varanje pod pritiskom konkurencije, 62 % i dalje je savjesno rješavalo zadatke ne znajući da su ih drugi već „preuzeli”, a 24 % počelo je provjeravati lažne dokaze, javno ih prijavljujući, upozoravajući susjede ili čak odbijajući nastaviti natjecanje.

Image

Agenti koji su varali nisu iznenada postali zlonamjerni, a oni koji su prijavljivali nepravilnosti ne znače da su strojevi stekli moralna načela. Agenti su jednostavno brzo naučili jednu stvar iz okoline: pravila zapisana u uputama ne moraju biti presudna – presudno je što ocjenjivač prihvaća. Ako varanje dosljedno donosi prvo mjesto, pošteno rješavanje zadataka samo troši računalne resurse.

Image

Utrka velikih igrača za slavne matematičke probleme

Varanje u DeepMindovom eksperimentu kršilo je jasno postavljena pravila. Agenti su otkrili da je „biti proglašen ispravnim od strane ocjenjivača” važnije od „stvarnog dovršetka dokaza” – a AI kompanije možda otkrivaju da je „prva objava rješenja slavnog problema” lakši put do pozornosti nego „pomoći ljudima da razumiju novu matematiku”. Upravo se to odvija u velikom natjecanju izvan laboratorija.

Od početka godine veliki AI igrači kao da su se prešutno dogovorili da je matematika nova zelena oaza – no isprva su bili oprezni. OpenAI je sudjelovao u projektu First Proof predajući pokušaje rješenja, pri čemu je sam priznao da je jedan od njih pogrešan. DeepMind je objavio Aletheia, ali je AI svjesno smjestio unutar istraživačkog procesa kojim upravljaju ljudi, ograničavajući razinu pripisanih postignuća.

Image

Od svibnja, međutim, tempo se ubrzao. OpenAI je oborio pretpostavku o jediničnim udaljenostima, a u komunikaciji je odmah upotrijebio izraz „prekretnica” – proglasivši to prvim slučajem u kojem je AI samostalno riješio poznati otvoreni problem koji zauzima središnje mjesto u jednoj matematičkoj grani.

Image

U kolovozu je OpenAI odjednom objavio deset rezultata, sve u kategoriji „riješeni ili značajno napredovani dugoročni otvoreni problemi”. Kako bi dodatno naglasio sposobnosti modela, objavio je i jednu usporedbu: 2000 dolara – toliko su koštali tokeni potrebni za pronalazak tih rješenja. Matematički proboji postali su nešto što se može serijski proizvoditi i iskazati kao trošak po jedinici.

Image

Potom je stigao problem Navier–Stokes: OpenAI je angažirao interni model, više od 10 000 agenata i potrošio 130 milijardi tokena kako bi probio ovaj problem koji je ostao neriješen 90 godina i ubraja se u takozvane „Milenijske probleme” (bilješka 1).

Image

U usporedbi s tim, DeepMind i Anthropic još nisu toliko glasni. DeepMind je nakon Aletheie u svibnju objavio rezultat koji pomaže u rješavanju Erdősovog problema, no naglasak je stavio na „alat koji radi zajedno s matematičarima”. Anthropic je u kolovozu napao Riemannovu hipotezu, ali je rekao samo da je postigao napredak – ne i da ju je riješio. Slično tome, Claude je proveo 11 dana i napisao 13 milijuna redaka koda kako bi dovršio „prvi potpuno računalno verificirani dokaz” Fermatovog posljednjeg teorema – koji je Andrew Wiles dokazao još 1995. godine.

Image

Slavni matematički problemi posebno su pogodni kao trofej za AI kompanije, a ako ih pratite dovoljno dugo, počinjete prepoznavati obrazac. Prvo: odaberite cilj s povijesnom težinom – „Milenijski problem”, „neriješeno 90 godina” – i dobro naglasiti koliko je težak.

Drugo: cijeli proces sažmite u spektakularne brojke – 2000 dolara, 10 000 agenata, 88 sati, 130 milijardi tokena… I na kraju: matematičko postignuće pretvorite u postignuće modela – model ima originalne ideje, može samostalno istraživati, a javnost mora iznova procijeniti brzinu razvoja AI-ja.

Image

Javnost ne mora razumjeti dokaz – dovoljno je čuti „mučilo čovječanstvo desetljećima” ili „desetak tisuća agenata istovremeno u akciji” da bi odmah zaključila kako je ta kompanija opet prešla neku granicu koju su postavljali ljudi.

Jedan lijep rekord u rješavanju problema može donijeti naslovnice, ugled, talente i novu rundu priče o sposobnostima.

Što je zapravo matematika?

Za matematičare, međutim, teški problemi nikad nisu bili samo teški problemi. Nakon pola godine buke, matematičari su prošlog vikenda napokon progovorili i objavili zajedničku izjavu: ovi problemi, koji su vodili generacije matematičara u neumornom istraživanju, „orijentiri” su i „svjetionici” matematičkog svijeta.

Image

Oko teških problema razvijaju se metode i razjašnjavaju pojmovi, a zatim se kroz raspravu, pojednostavljivanje i poučavanje proboj nekolicine pretvara u znanje koje može koristiti cijela disciplina – upravo to nagrađuju i stvarne matematičke nagrade.

Pogledajmo što zapravo cijeni neka od najuglednijih nagrada, poput Fieldsove medalje.

Image

I Fieldsova medalja koristi svečane formulacije poput „veliki proboj” ili „rješavanje dugotrajnog problema”, ali njezino mjerilo matematičkog postignuća stavlja naglasak na nešto drugo: koje je metode ta osoba stvorila, što te metode objašnjavaju i koje putove otvaraju onima koji dolaze nakon. „Rješavanje važne pretpostavke” samo je jedna točka u kojoj metoda ostavlja trag – nije kraj priče.

Image

Nasuprot tome, priopćenja velikih kompanija matematiku prikazuju kao utrku s jasnim ciljem: problem star 90 godina srušen je za 88 sati uz pomoć 10 000 agenata – što je kraće vrijeme, veći razmjer i slavniji problem, to je pobjeda dojmljivija.

Točan odgovor samo je početak svakog istraživačkog puta, no danas ga AI kompanije podmjenjuju: ulažu ogromne računalne resurse, u kratkom roku serijski napadaju slavne probleme i prve objavljuju rezultate. Matematika – plodno tlo koje je hranilo ljudsku kreativnost – sve više se svodi na niz rekordnih akcija.

Pitanja poput toga raste li razumijevanje temeljnih načela, mogu li se teorije i metode prenositi dalje, kako se nadograđuju doprinosi prethodnika – sve to pada u sjenu jedne metrike koja se najlakše širi: koliko je slavnih problema „srušeno”.

Što AI ostavlja matematici

To je možda i razlog zašto ljudi postaju sve umorniji od neprekidnog niza vijesti o AI-ju koji osvaja matematiku. Svaki srušeni problem pakira se kao nova prekretnica na putu prema superinteligenciji; svaka prekretnica zahtijeva da sljedeća pobjeda bude brža, veća i teža.

„Taština velikih AI kompanija” vjerojatno ne dolazi od toga što neki menadžer jednostavno voli biti u centru pozornosti – ona je institucionalni nagon koji zajedno stvaraju ljestvice, pravo prvoobjave, procjena vrijednosti kompanija i tehnološki ugled.

Image

U tom kontekstu matematika više nije znanje koje treba razumjeti – postaje potrošni materijal koji dokazuje da je kompanija ispred konkurencije. Što onda zapravo očekujemo od AI-ja? Da neprestano obara rekorde, ili da pomaže ljudima da bolje razumiju svijet?

Vrijednost matematike nije samo u tome da proizvodi točne zaključke – ona je u stvaranju ideja koje se mogu razumjeti, poučavati i dalje razvijati.

A taština je upravo suprotno od toga: jedan slavni problem, jedan „prvi put”, jedan rekordni rezultat – i što je matematika od svega toga dobila? To je jedino pitanje koje ostaje nakon svake nove rekordne utrke.

 

 

Bilješka | „Milenijski problemi” sedam su važnih matematičkih problema koje je Clay Mathematics Institute odabrao 2000. godine, nudeći milijun dolara za rješenje svakog od njih. Do danas je samo Poincaréova pretpostavka službeno proglašena riješenom, a njezin dokazivač Perelman odbio je primiti nagradu. Problem Navier–Stokes, čije rješenje OpenAI sada tvrdi da je pronašao, također je na tom popisu – no prema pravilima, rezultat mora biti službeno objavljen, proći najmanje dvije godine provjere i dobiti opće priznanje matematičke zajednice prije nego što uopće može ući u postupak dodjele nagrade.

Izvor: Ifanr

Webimir
Webimir
Webimir čita po cijele dane i uvijek je u toku s najnovijim vijestima i trendovima. Voli podijeliti svoje znanje, i čitateljima prevodi vijesti iz svijeta olakšavajuči im tako snalaženje u labirintu informacija.
RELATED ARTICLES
- Advertisment -
Google search engine

Most Popular

Komentari Čitatelja