Gå til indhold
atlas

Forveksl ikke disse

Stor sprogmodel (LLM) vs. Lille sprogmodel (SLM)

Hvorfor de er forskellige

Begge virker på samme måde, men en lille sprogmodel har langt færre parametre, så den er billigere og hurtigere, men ved mindre.

Stor sprogmodel (LLM)

Sprogmodeller

En meget stor model, trænet på enorme mængder tekst til at forudsige det næste ord, så den kan skrive, opsummere og svare i flydende sprog.

Formelt

En deep learning-model, typisk en transformer med milliarder af vægte, trænet på enorme tekstsamlinger til at forudsige det næste token; den samme evne, gentaget, lader den skrive lange svar på en prompt.

Forklaret enkelt

Som ordforslagene på en mobiltelefons tastatur, bare trænet på en stor del af internettet - den ved, hvordan svar plejer at lyde, ikke om de er sande.

I praksis

Medarbejderne i en kommune får en chatassistent bygget på en LLM til at skrive udkast til svar til borgere og opsummere mødenoter, og IT-afdelingen må beslutte, hvilke data de må indsætte i den.

Hvorfor det betyder noget

LLM'er lyder sikre, selv når de tager fejl, kan styres af skjult tekst og sender dit input til den, der driver dem - alt sammen reelle risici, der skal vejes før brug.

Lille sprogmodel (SLM)

Modelarkitekturer

En sprogmodel, der er lille nok til at køre billigt på en bærbar eller telefon og bytter lidt kunnen for fart, privatliv og lav pris.

Formelt

En transformer bygget som en stor sprogmodel, men med langt færre modelparametre - fra nogle hundrede millioner op til omkring ti milliarder - ofte trænet på omhyggeligt udvalgte data eller gennem vidensdestillation fra en større model.

Forklaret enkelt

Som en lommeordbog ved siden af et helt leksikon - den ved ikke alt, men den passer i tasken og svarer med det samme på de almindelige spørgsmål.

I praksis

En sygeplejerske i en kommunes hjemmepleje indtaler besøgsnotater på en tablet, der kører en lille sprogmodel; den skriver et udkast til journalnotatet, også uden mobildækning, og intet forlader enheden.

Hvorfor det betyder noget

Til smalle, gentagne opgaver kan den matche en større model for en brøkdel af prisen og ventetiden, og når data bliver på enheden, bliver databeskyttelsen langt enklere.

Fælles forbindelser

Atlas er i beta.