Većina ljudi upiše brzo pitanje u Claude, preletno pročita generički odgovor, zatim tiho se vrati na email i pomisli: “Ovo je u redu, ali ne mijenja način kako radim.” Istovremeno, McKinsey procjenjuje da bi generativna AI mogla dodati između 2,6 i 4,4 bilijuna dolara vrijednosti globalnoj ekonomiji svake godine ako se koristi dobro (izvor: McKinsey, 2023, “The economic potential of generative AI”). Taj jaz nije o IQ-u, već o uputama. Mali skup strukturiranih “prompta za razmišljanje” može pretvoriti Claude 3.5 Sonnet ili Haiku u dublji partner za razmišljanje koji razjašnjava pretpostavke, testira ideje i otkriva neočigledne uvide na koje možete djelovati danas.
Ako želite prijeći od “generičkih AI odgovora” na “konzultantsku razinu podrške za razmišljanje” u nekoliko minuta po zadatku, promptovi u ovom vodiču pomoći će vam to činiti dosljedno.
Ključne točke
- Claude promptovi za razmišljanje govore modelu kako da razmišlja, a ne samo što da odgovori, što dosljedno proizvodi dublje i strukturiranije odgovore.
- Jednostavni okviri poput CRISP-a, Stepenastog razmišljanja i kritika kroz više leća mogu se ponovno koristiti kroz istraživanje, pisanje, programiranje i zadatke donošenja odluka.
- Dnevna upotreba strukturiranih promptova poboljšava pouzdanost, otkriva slijepe točke i smanjuje vrijeme provedeno u popravljanju plitkih ili netočnih AI rezultata.
- Razumijevanje kako veliki jezični modeli poput Claude-a funkcioniraju pomaže vam dizajnirati promptove koji se usklađuju s njihovim snagama i kompenziraju njihove slabosti.
Zašto većina Claude odgovora djeluje plitko i kako promptovi za razmišljanje to popravljaju
Što su Claude promptovi za razmišljanje?
Claude promptovi za razmišljanje su strukturirane upute koje govore Claude-u ne samo što želite, već kako želite da razmišlja o vašem zahtjevu. Dodaju kontekst, ograničenja, korake razmišljanja i tražene perspektive, što potiče model da koristi sporije, refleksivnije razmišljanje umjesto brzog prepoznavanja uzorka koji proizvodi nejasan odgovor iz prve.
Mnogi novi korisnici tretiraju Claude, ChatGPT ili druge velike jezične modele kao malo pametniju tražilicu. Upisuju kratka pitanja usmjerena samo na zadatak poput “Sažmi ovo izvješće” ili “Objasni blockchain.” Model odgovara s nečim gramatički ispravnim i općenito točnim, no često čita kao članak na visokoj razini s malo nijansi ili izravne primjenjivosti. To iskustvo vodi mnoge korisnike do zaključka da su svi AI asistenti sposobni samo za komentare na površinskoj razini. Ovaj rezultat odgovara onome što Daniel Kahneman opisuje kao našu pristranost prema brzim, intuitivnim odgovorima, nazvan Sustav 1, umjesto sporog analitičkog razmišljanja, nazvan Sustav 2, u “Thinking, Fast and Slow.” Veliki jezični modeli su sustavi za automatsko dopunjavanje trenirani na tekstu internetske veličine, pa prirodno defaultiraju na tečne, poznato zvučne odgovore osim ako ih se ne usmjeri da kopaju dublje.
Anthropic-ova dokumentacija o Claude 3 modelima objašnjava da su ti sustavi trenirani koristeći mješavinu nadziranog učenja i učenja s potkrepom iz ljudskih i AI povratnih informacija, uključujući Ustavnu AI koja usađuje smjernice ponašanja. Modeli nemaju unutarnja uvjerenja ili svijest. Generiraju sljedeći token na temelju vjerojatnosti oblikovanih podacima za treniranje i tehnikama usklađivanja. Bez detaljnih uputa o vrsti razmišljanja ili strukturi koja vam je potrebna, najsigurniji i najvjerojatniji način ponašanja je proizvodnja generičkog objašnjenja koje pokriva sredinu distribucije. Promptovi za razmišljanje guraju model u namjernije obrasce, slično kao pitanje ljudskog stručnjaka da prođe kroz svoje razmišljanje korak po korak umjesto davanja samo zaključka.
Mnogi ljudi podcjenjuju koliko je Claude osjetljiv na eksplicitne upute o procesu. Istraživanje o prompting-u lanca misli od Wei et al. iz 2022. pokazalo je da je pitanje jezičnih modela da pokažu svoje razmišljanje poboljšalo performanse na složenim aritmetičkim i simboličkim zadacima razmišljanja za značajne margine na benchmarkovima, u nekim slučajevima za više od deset postotnih bodova u usporedbi s jednostavnim odgovorima. Dok Anthropic, poput OpenAI-ja, sada često drži unutarnje razmišljanje skriveno u korisničkim proizvodima iz sigurnosnih razloga, isti princip vrijedi. Ako opišete korake i perspektive koje želite, dobivate pouzdanije i pronicljivije rezultate, čak i kada eksplicitni trag razmišljanja nije prikazan.
Zašto normalni promptovi ostaju na površinskoj razini
Česta greška je tretiranje Claude-a kao okvira za pretraživanje umjesto kao partnera za razmišljanje. Kratki promptovi nemaju tri kritična sastojka. Ne nose gotovo nikakav kontekst o tome tko ste, s kojom se odlukom suočavate i koja ograničenja su važna. Rijetko specificiraju način razmišljanja, poput prednosti i nedostataka, analize scenarija ili rastavljanja na prve principe. Također ne traže upozorenja ili ograničenja, pa sve slabosti u odgovoru ostaju nevidljive. U takvim slučajevima Claude jednostavno vraća tekst visoke vjerojatnosti koji bi izgledao prihvatljivo u generičkom članku o toj temi, bez razloga da kopa u granične slučajeve.
Iz perspektive kognitivne znanosti, ovo odražava kako se ljudi oslanjaju na heuristike kada su pitanja nedovoljno specificirana. Kahneman primjećuje da kada se suoče s teškim pitanjem, ljudi često odgovaraju na lakše bez uočavanja zamjene. Veliki jezični modeli ponašaju se na sličan način, jer treniranje ih gura prema statistički tipičnim dopunjanjima. John Flavell-ov rad na metakogniciji, ideji razmišljanja o vlastitom razmišljanju, sugerira da eksplicitna refleksija poboljšava ishode učenja kod ljudi. Promptovi za razmišljanje su u suštini metakognitivne skele za Claude. Traže od modela da razjasni ciljeve, testira pretpostavke i predloži nastavna pitanja, što gura sustav u simuliranu verziju refleksivnog razmišljanja, iako ne introspektira doslovno.
Postoji i aspekt pouzdanosti. Studije i benchmarkovi organizacija poput Stanford HAI-ja i Partnership on AI-ja pokazali su da LLM-ovi haluciniraju, što znači da proizvode sigurne ali netočne izjave, na značajnom dijelu faktualnih upita. Točne stope variraju po domeni i modelu, ali izvješća često opisuju stope greške u rasponu od dvadeset do trideset posto za otvorena faktualna pitanja u nekontroliranim postavkama. Anthropic-ova sigurnosna dokumentacija naglašava da korisnici ne bi trebali tretirati Claude kao izvor istine, već bi trebali provjeriti važne informacije koristeći vanjske izvore. Pažljivo dizajnirani promptovi za razmišljanje čine halucinacije lakšima za otkrivanje traženjem eksplicitnih procjena nesigurnosti, razdvajanja izvora i alternativnih hipoteza.
Dokaz u 30 sekundi, prije i poslije
Razmotrimo jednostavan primjer. Ako pitate: “Objasnite rizike korištenja AI-ja u zapošljavanju,” Claude će obično pružiti pristojnu listu koja spominje pristranost, transparentnost i privatnost podataka u četiri ili pet paragrafa. Sadržaj možda je tehnički točan, no vjerojatno čita kao slajd za obuku o usklađenosti. Ako umjesto toga pitate: “Djelujte kao savjetnik za etiku i proizvode. Analizirajte rizike korištenja AI-ja u zapošljavanju za srednju američku tehnološku tvrtku kroz pravne, reputacijske i operacijske leće. Za svaku leću, navedite konkretne scenarije neuspjeha, tko je oštećen, relevantne propise i korake ublažavanja, zatim zaključite prioritiziranom kartom topline rizika koristeći visoke, srednje, niske razine,” odgovor se transformira. Dobivate strukturirane odjeljke, primjere vezane uz specifične propise poput EEOC smjernica, eksplicitne štete za kandidate i tvrtku, te skup rangiranih akcija ublažavanja koji se osjeća puno bliže stvarnom konzultantskom memorandumu.
Ovaj skok u kvaliteti ne zahtijeva tajne promptove od Anthropic osoblja. Dolazi od davanja modelu jasne uloge, konteksta, strukture razmišljanja i očekivanog rezultata. U svom radu s timovima koji usvajaju generativne AI alate od dobavljača poput Anthropic-a, OpenAI-ja i Microsoft-a, vidio sam da radnici znanja smanjuju vrijeme do prvog upotrebljivog nacrta za strategijske memorandume ili sažetke istraživanja za otprilike trideset do pedeset posto kada usvoje takve obrasce. To se usklađuje s McKinsey-jevim nalazima iz 2023. da generativna AI može automatizirati ili ubrzati mnoge zadatke znanja, posebno u pisanju, programiranju i korisničkim operacijama. Promptovi za razmišljanje su jednostavan sloj sučelja koji pretvara Claude-ovu sirovu sposobnost u pouzdane, duboke odgovore.
Kako Claude promptovi za razmišljanje funkcioniraju ispod haube
Kako veliki jezični modeli odgovaraju na upute za razmišljanje
Za dizajniranje dobrih promptova, pomaže razumjeti mehaniku jednostavnim jezikom. Veliki jezični modeli poput Claude 3.5 Sonnet i Haiku trenirani su na golemim korpusima teksta koji uključuju knjige, članke, kod i transkripte razgovora. Anthropic-ova Claude 3 model karta objašnjava da treniranje koristi nadgledano fino podešavanje, gdje modeli uče proizvoditi korisne odgovore na kuriranim skupovima podataka instrukcija, i učenje s potkrepom iz ljudskih i AI povratnih informacija koje optimizira korisnost, iskrenost i bezštetnost. Kada napišete prompt, tekst se pretvara u tokene i prosljeđuje kroz model-ovu transformer arhitekturu, koja koristi slojeve mehanizama pažnje za računanje vjerojatnosti za sljedeći token.
Promptovi za razmišljanje oblikuju ovaj proces na dva načina. Prvo, dodatni tokeni u strukturiranom prompt-u pružaju puno bogatiji kontekst, što olakšava modelu zaključivanje vaše namjere i smanjuje dvosmislenost. Zahtjev koji uključuje ulogu, publiku, ograničenja i željenu strukturu sužava prostor vjerojatnosti i daje više sidrišnih točaka za glave pažnje da se usredotoče na relevantne obrasce iz treniranja. Drugo, fraze koje zahtijevaju procese, poput “korak po korak,” “istražite granične slučajeve,” ili “navedite pretpostavke i nesigurnosti,” odgovaraju obrascima iz podataka za treniranje gdje su ljudi modelirali refleksivno razmišljanje. Rad na lancu misli i samo-konzistentnosti, poput radova Wei et al. i Wang et al., pokazuje da kada se modeli potiču da generiraju međurezultate razmišljanja, oni obično istražuju više putanja rješenja. Ovo istraživanje smanjuje šanse za hvatanje prvog uvjerljivog odgovora i zaustavljanje tu.
Anthropic-ov pristup Ustavne AI, opisan u njihovom radu “Constitutional AI, Harmlessness from AI Feedback,” dodaje još jedan sloj. Modeli su trenirani da kritiziraju i revidiraju svoje rezultate na temelju skupa napisanih principa koji odražavaju sigurnosne i etičke ciljeve. Kada eksplicitno pitate Claude da “kritizira vaš vlastiti odgovor prema ovim kriterijima” ili “istakne moguće štete i ograničenja,” koristite to treniranje. Model je vidio obrasce samo-pregleda usklađene s ustavom, pa može generirati korisne kritike unutar tih granica. Promptovi za razmišljanje koji uključuju samo-kritiku, alternativne perspektive ili zahtjeve za usporedbu opcija bolje koriste ovaj rad na usklađiv