Model med åbne vægte (open-weight)

En typisk udgivelse med åbne vægte på en platform som Hugging Face indeholder parametertensorerne (i dag som regel opdelt i safetensors-filer), en konfigurationsfil, der beskriver arkitekturen, tokenizer-filerne og en chatskabelon samt et model card. Det, der næsten aldrig følger med, er træningsdatasættet, databehandlingspipelinen, den fulde træningskode eller de mellemliggende checkpoints. Derfor skelnes der mellem "åbne vægte" og open source: Open Source Initiatives Open Source AI Definition 1.0 (28. oktober 2024) kræver den kode, der bruges til at træne og køre systemet, parametrene under åbne vilkår og tilstrækkeligt detaljeret "data information" om træningsdata, og de fleste populære modeller med åbne vægte lever ikke op til den.

Licenserne varierer meget og afgør, hvad man må. Nogle modeller udgives under tilladende licenser som Apache 2.0 eller MIT; andre bruger egne licenser, fx Metas Llama-community-licenser, der kræver en særskilt licens fra Meta for tjenester med mere end 700 millioner månedlige aktive brugere og indarbejder en acceptable use policy, og lignende særvilkår gælder for andre modelfamilier. En licens, der begrænser anvendelsesområder eller brugertal, er ikke en open source-licens i OSI's forstand. I AI-forordningen fritager art. 53, stk. 2, udbydere af AI-modeller til almen brug, der udgives under en fri open source-licens med offentligt tilgængelige vægte og arkitekturoplysninger, for en del af dokumentationspligterne, men ikke for pligten til en ophavsretspolitik og et resumé af træningsindholdet, og slet ikke hvis modellen udgør en systemisk risiko.

Når vægtene køres lokalt, flyttes sikkerhedsarbejdet over på den, der tager modellen i brug. Ældre PyTorch-checkpointformater (.bin, .pt) bruger Pythons pickle, som kan afvikle vilkårlig kode ved indlæsning; safetensors gemmer rå tensorer og undgår den type angreb. Vægte kan også rumme indtrænede bagdøre, som ingen statisk scanning opdager, så proveniens, kontrol af checksummer mod udgiverens hashværdier og evaluering før idriftsættelse er de praktiske kontroller; OWASP Top 10 for LLM Applications 2025 behandler det under LLM03 Supply Chain. Opdateringer og sikkerhedsrettelser kommer ikke automatisk, som de gør med et hostet API.

Debatten om dobbelt anvendelse handler om, at udgivelsen ikke kan gøres om. Sikkerhedsadfærd lært under eftertræningen sidder overfladisk: En lille finjustering, eller at man fjerner en enkelt "afvisningsretning" i aktiveringsrummet (Arditi m.fl., 2024), kan fjerne den, og offentliggjorte vægte kan ikke kaldes tilbage. Den amerikanske NTIA konkluderede i sin rapport fra 2024 om dual-use-grundmodeller med bredt tilgængelige vægte, at øjeblikkelige restriktioner ikke var begrundede, men anbefalede overvågning af den marginale risiko. På plussiden muliggør åbne vægte behandling af personoplysninger on-premises, reproducerbar forskning, uafhængig revision og kvantiseret drift på beskeden hardware.