Overdreven handlefrihed (excessive agency) vs. Rettighedseskalering (privilege escalation)

Hvorfor de er forskellige

Ved rettighedseskalering tilegner en angriber sig rettigheder, der aldrig blev givet; ved overdreven handlefrihed blev rettighederne givet fra starten.

Overdreven handlefrihed (excessive agency)

AI-risiko og governance

At give et AI-system flere værktøjer, rettigheder eller mere frihed, end opgaven kræver, så ét forkert skridt kan gøre reel skade.

Formelt

En svaghed (OWASP LLM06:2025), hvor et system bygget på en stor sprogmodel har for mange funktioner, tilladelser eller for stor selvstændighed, så uventet, manipuleret eller opdigtet output fra modellen kan udløse skadelige handlinger.

Forklaret enkelt

Som at give en ny praktikant hovednøglen, firmakortet og ret til at skrive under på kontrakter den første dag, selv om vedkommende kun er ansat til at sortere posten.

I praksis

Et rederis bookingagent skal kun kunne læse sejlplanen, men har fået ret til at ændre den; den misforstår én kundes mail og aflyser fyrre bookinger, før en driftsplanlægger opdager det.

Hvorfor det betyder noget

Ingen model kan gøres helt pålidelig, så det at begrænse, hvad den må, sætter et loft over skaden, når den tager fejl eller bliver kapret; risikoen vokser med hvert værktøj, en agent får.

Rettighedseskalering (privilege escalation)

Grundbegreber

En angriber med et lille fodfæste, der skaffer sig flere rettigheder end tildelt - helt op til fuld kontrol over systemet.

Formelt

Det trin i et angreb, hvor en person med begrænsede rettigheder på et system udnytter en fejl, en dårlig indstilling eller en stjålen loginoplysning til at få højere rettigheder, typisk en privilegeret kontos eller selve styresystemets.

Forklaret enkelt

Som en hotelgæst, hvis kort kun åbner ét værelse, og som finder en måde at gøre det til direktørens hovednøgle.

I praksis

Efter at en phishingmail har givet en angriber adgang til en almindelig medarbejders konto i et ministerium, finder han et program på hendes bærbare, der kører med administratorrettigheder og kan narres til at køre hans kode - og nu styrer han hele maskinen.

Hvorfor det betyder noget

En almindelig konto kan kun gøre begrænset skade; når angriberen har de højeste rettigheder, kan han slå beskyttelsen fra, skjule sine spor og nå alt.

Fælles forbindelser

Mindste privilegium