Instruktionsfil til agenter vs. Systemprompt

Hvorfor de er forskellige

Begge er faste ordrer, men systemprompten sættes af dem, der bygger AI-værktøjet, mens denne fil skrives af projektteamet og følger med koden.

Instruktionsfil til agenter

AI-assisteret kodning

En almindelig tekstfil, der ligger sammen med koden og fortæller AI-værktøjer projektets regler, kommandoer og vaner, før de går i gang.

Formelt

En fil gemt i projektet under versionsstyring, som en kodeagent automatisk indlæser i sit kontekstvindue, hver gang den går i gang, med faste anvisninger som bygge- og testkommandoer, stilregler, mappestruktur og ting, der aldrig må gøres.

Forklaret enkelt

Som mappen om bord på en sejlklubs fælles båd, som alle medlemmer læser, før de tager den ud - hvordan motoren startes, hvor nøglen hænger, fortøj aldrig ved stenene.

I praksis

Hos et dansk softwarehus lægger den ledende udvikler en kort fil i lønprojektet - “kør testene, før du slutter, ret aldrig i genererede filer, brug den fælles datohjælper” - og agenten følger den nu hver gang uden at få besked.

Hvorfor det betyder noget

Den gør teamets viden til varig vejledning for AI-værktøjer, men alle, der kan ændre filen, kan ændre, hvad agenten gør - så den kræver samme omhu som kode.

Systemprompt

Prompting og generering

Faste instruktioner fra udbyderen af en AI-tjeneste, lagt foran hver samtale, der sætter assistentens rolle, regler og tone.

Formelt

Den del af en prompt, markeret med sin egen rolle, der rummer instruktioner fra den, der har bygget tjenesten, frem for fra slutbrugeren; instruktionstilpasning lærer den store sprogmodel at vægte den over brugerens tekst, men intet håndhæver det.

Forklaret enkelt

Som instruktørens anvisninger til en skuespiller, før tæppet går - publikum hører dem aldrig, men de præger hver replik, og en larmende tilskuer kan stadig få skuespilleren ud af rollen.

I praksis

Den webansvarlige i et dansk færgerederi skriver systemprompten til bookingchatten: “Svar kun på spørgsmål om afgange og bookinger; lov aldrig at betale penge tilbage; send klager videre til personalet.”

Hvorfor det betyder noget

Brugere kan ofte lokke en assistent til at afsløre sin systemprompt, og prompt injection kan tilsidesætte den, så den må aldrig indeholde adgangskoder eller nøgler og kan ikke erstatte rigtig adgangskontrol.

Fælles forbindelser

Prompt injection