AI-risiko og governance
At angribe de færdige dele, et AI-system er bygget af - delte modeller, datasæt eller tilføjelser - i stedet for selve systemet.
Formelt
Manipulation af tredjepartsdele i et AI-system - modelvægte, tilføjelser som LoRA, træningsdata, modelfiler, der kører skjult kode, når de indlæses, eller efterlignede modelsider på offentlige hubs; OWASP fører det som LLM03:2025.
Forklaret enkelt
Som at købe en reservedel i en butik, hvis navn afviger med ét bogstav fra den, du plejer at bruge - den passer og virker, men nogen har ændret den, før du fik den.
I praksis
En udvikler i en pensionskasses IT-afdeling henter en populær åben model fra en efterlignet side; når den gamle filtype indlæses, kører der stille kode, der åbner en bagdør på byggeserveren.
Hvorfor det betyder noget
De fleste teams bygger på modeller og data, de ikke selv har lavet og ikke fuldt kan efterprøve, så én forgiftet download kan nå ud til alle produkter, der bruger den.