Context engineering

Begrebet vandt udbredelse i midten af 2025, da udviklere af agenter argumenterede for, at "prompt engineering" undervurderede problemet: I en agent med mange trin er de fleste tokens, modellen ser, slet ikke skrevet af et menneske, men samlet af harnessen fra værktøjsdefinitioner, hentede dokumenter, værktøjsoutput, hukommelsesfiler og tidligere ture. Anthropics ingeniørindlæg "Effective context engineering for AI agents" (29. september 2025) beskriver målet som at finde det mindste sæt tokens med højt signal, der maksimerer sandsynligheden for det ønskede resultat, og behandler konteksten som en begrænset ressource med aftagende udbytte.

Den underliggende begrænsning er, at modellens ydeevne falder, når konteksten vokser, også et godt stykke inden for det nominelle vindue. Anthropic kalder det context rot; beslægtede målinger omfatter "lost in the middle"-effekten og benchmarks for lang kontekst, der viser en effektiv længde under den annoncerede. Irrelevant eller modstridende materiale distraherer også modellen, og forældet værktøjsoutput kan forveksles med den aktuelle tilstand. Pris og ventetid skalerer med input-tokens i hvert trin af en agentløkke, så en agent, der gensender et voksende forløb, betaler kvadratisk over en lang kørsel, medmindre præfiks-caching udnyttes.

De vigtigste teknikker er veldefinerede. Systemprompter skal ligge i den rette højde - præcise nok til at styre adfærden, generelle nok til ikke at hardkode skrøbelige regler - og være opdelt i tydeligt afgrænsede sektioner. Værktøjssæt skal være minimale og uden overlap, og værktøjsoutput skal være designet til at spare tokens (pagineret, afkortet, filtrerbart). Just-in-time-hentning holder lette referencer som filstier, forespørgsler eller URL'er i konteksten og indlæser først indholdet, når det skal bruges, i stedet for at forudindlæse alt. Komprimering (compaction) opsummerer en samtale, der nærmer sig grænsen, og starter forfra med resuméet; en lettere form rydder gamle værktøjsresultater, der ikke skal bruges igen. Struktureret notetagning gemmer fremdrift, beslutninger og opgavelister uden for kontekstvinduet, så de kan læses igen senere. Arkitekturer med underagenter giver afgrænsede opgaver til hjælpere med rene kontekster, der kun returnerer kondenserede resultater til en koordinerende agent.

Rækkefølgen betyder noget for både kvalitet og pris: stabilt materiale (systemprompt, værktøjsdefinitioner, referencedokumenter) først, så prompt caching kan genbruge det, skiftende materiale sidst og det aktuelle spørgsmål nær slutningen, hvor genkaldelsen er stærkest. Context engineering har også en sikkerhedsdimension, som prompt engineering mangler. Enhver automatisk kilde - søgeresultater, hentede sider, filer i et repository, andre agenters output, gemte noter - er en kanal for indirekte prompt injection, og hukommelse, der overlever mellem sessioner, kan føre en indsat instruktion videre. Mærkning af oprindelse, adskillelse af betroede instruktioner fra upålidelige data, værktøjer med mindste privilegium og gennemgang af det, der skrives til langtidshukommelsen, er en del af disciplinen, ikke et tillæg.