Gå til indhold
atlas

Forveksl ikke disse

Instruktionstilpasning (instruction tuning) vs. Fortræning (pretraining)

Hvorfor de er forskellige

Fortræning giver bred viden fra rå tekst; instruktionstilpasning lærer bagefter modellen at handle på forespørgsler.

Instruktionstilpasning (instruction tuning)

Træning og optimering

Ekstra træning på skrevne forespørgsler med gode svar, som gør en basismodel, der blot fortsætter tekst, til en, der følger ordrer.

Formelt

En form for finjustering, hvor en fortrænet sprogmodel trænes på sæt af instruktioner og eksempelsvar, så den besvarer en forespørgsel i stedet for blot at fortsætte den tekst, den fik.

Forklaret enkelt

Som en ny medarbejder, der har læst meget, men gennem mange eksempler må have vist, hvordan kontoret forventer, at en opgave løses.

I praksis

En kundeservicechef i en dansk webshop tester en åben model med “Skriv et høfligt svar, der afviser at give pengene tilbage”; basisversionen skriver bare flere kundeklager, mens den version, der har fået instruktionstilpasning, skriver svaret.

Hvorfor det betyder noget

Det er det, der gør en rå model brugbar som assistent, og de eksempelsvar, der vælges her, former dens tone, dens afvisninger og meget af dens sikkerhed.

Fortræning (pretraining)

Træning og optimering

Første, enorme og dyre trin i at lære en model op - den læser store mængder tekst og opfanger generelle mønstre før nogen særlig opgave.

Formelt

Det første trin i modeltræning, hvor en model lærer af et meget stort datasæt, der for det meste er uden tilhørende svar, typisk med selvsuperviseret læring som at gætte næste token; resultatet er et generelt fundament, som senere finjustering tilpasser.

Forklaret enkelt

Som et lille barn, der hører flere års hverdagssnak, før det starter i skole - ingen forklarer grammatikken, men barnet opfanger alligevel, hvordan sproget virker.

I praksis

En forskergruppe på et dansk universitet bruger måneder på en national supercomputer på at fortræne en model på milliarder af ord offentlig dansk tekst; basismodellen kan fortsætte enhver tekst, men følger endnu ikke instruktioner godt.

Hvorfor det betyder noget

Det, der kommer ind i dette trin - også tekst, som andre har rettighederne til, personoplysninger eller forgiftet tekst - bages ind i alle produkter bygget på modellen og er meget svært at fjerne.

Atlas er i beta.