Inferens vs. Modeltræning

Hvorfor de er forskellige

Træning er den langsomme engangsfase, hvor modellen lærer; inferens er al senere brug, hvor den kun anvender det lærte.

Grundlæggende maskinlæring

At bruge en færdigtrænet model til at give et svar på nyt input - det, der sker, hver gang du spørger en chatassistent om noget.

Formelt

Det trin, hvor en trænet model med faste vægte køres på nyt input for at give et resultat som en kategori, en score eller genereret tekst; modellen lærer ikke noget af inputtet undervejs.

Forklaret enkelt

Som en uddannet læge, der ser på en ny patient - årene med studier er forbi, nu bliver viden bare brugt.

I praksis

Når en medarbejder i en kommune indsætter en kontrakt i et online AI-værktøj og beder det opsummere den, sendes teksten til udbyderens servere i udlandet, hvor inferensen kører.

Hvorfor det betyder noget

Hvor inferensen kører, afgør, hvor dine data rejser hen, og hvem der kan se dem - en lokal model og en udenlandsk cloudtjeneste har vidt forskellige risici.

Modeltræning

Grundlæggende maskinlæring

Den dyre, engangsfase, hvor en model ser træningsdata igen og igen og justerer sine interne tal, indtil dens gæt bliver bedre.

Formelt

Processen, hvor man gentagne gange fodrer en model med træningsdata, måler hvor langt dens resultater er fra de ønskede svar og justerer dens vægte for at mindske afstanden; resultatet er et fast sæt lærte tal.

Forklaret enkelt

Som en dartspiller, der kaster tusindvis af pile, ser hvor langt hver lander fra midten og justerer armen en smule hver gang.

I praksis

Et dansk universitet bruger uger på et nationalt regnecenter på at træne en dansk sprogmodel én gang; kommuner og virksomheder, der tager den i brug, bruger derefter kun det færdige resultat.

Hvorfor det betyder noget

Det, der sker her, afgør, hvad modellen ved, og hvordan den opfører sig; det er også her, forgiftede eller ulovlige data bliver bygget ind for altid.

Fælles forbindelser

Grafikprocessor (GPU)Maskinlæring