Few-shot prompting vs. Zero-shot prompting

Hvorfor de er forskellige

Few-shot viser modellen løste eksempler først; zero-shot giver kun instruktionen.

Prompting og generering

At vise en sprogmodel en håndfuld løste eksempler i selve forespørgslen, så den efterligner mønstret i det nye tilfælde.

Formelt

En måde at styre en stor sprogmodel på ved at placere flere par af input og svar i prompten før det egentlige input; modellen opfanger opgaven fra eksemplerne under inferensen uden ændringer i sine vægte.

Forklaret enkelt

Som at vise en ny kassemedarbejder tre udfyldte kvitteringer, før de skal skrive den fjerde - de kopierer opsætningen uden undervisning.

I praksis

En kundeserviceleder i en dansk webshop sætter fem gamle returbeskeder, hver efterfulgt af sin årsagskode, over hver ny besked, og assistenten svarer med blot en kode i samme stil.

Hvorfor det betyder noget

Det lader et team få en ny opgave til at virke på få minutter uden finjustering, men eksemplerne optager plads i kontekstvinduet, og modellen kan efterligne deres særheder for tæt.

Zero-shot prompting

Prompting og generering

At bede en sprogmodel løse en opgave kun ud fra en beskrivelse af den, uden løste eksempler at efterligne.

Formelt

En måde at bruge en stor sprogmodel på, hvor prompten beskriver opgaven, men ikke indeholder eksempler på input og svar, så modellen udelukkende må trække på det, den lærte under fortræning og instruktionstilpasning.

Forklaret enkelt

Som at bede en erfaren blomsterhandler om “noget til en afskedsreception” uden at pege på nogen buketter - man stoler på det, de allerede ved om den slags.

I praksis

En skolesekretær på en folkeskole beder en chatassistent om at “oversætte dette forældrebrev til engelsk og ukrainsk og beholde overskrifterne” og får brugbare udkast uden at give nogen eksempeloversættelser.

Hvorfor det betyder noget

Det er sådan, de fleste bruger chatassistenter, og det billigste sted at starte, men når svarformen eller vurderingen skal ramme helt rigtigt, hjælper eksempler som regel.

Fælles forbindelser

Tankekæde (chain-of-thought)Prompt engineering