Agenthukommelse

En sprogmodel er tilstandsløs mellem kald: alt, hvad den "ved" om en bruger eller et projekt ved inferens, ligger enten i vægtene eller i tokens i den aktuelle forespørgsel. Agenthukommelse er det maskineri i applikationslaget, der lukker det hul. CoALA-rammeværket (Sumers et al., 2023) låner betegnelser fra kognitionsforskningen, som nu er udbredte: arbejdshukommelse er det aktive kontekstvindue, episodisk hukommelse gemmer forløb fra tidligere interaktioner, semantisk hukommelse gemmer udtrukne fakta ("buildet bruger pnpm"), og procedurel hukommelse gemmer viden om fremgangsmåder, i praksis prompts, regelfiler og genbrugelige skills. Skrivning sker enten eksplicit (modellen kalder et hukommelsesværktøj med fx create, update eller delete) eller implicit, når en baggrundsproces opsummerer en afsluttet session og udtrækker kandidatfakta.

Genfinding er der, hvor det meste af ingeniørarbejdet ligger. Generative Agents (Park et al., 2023) gav hver hukommelse en vægtet score af aktualitet (eksponentielt henfald siden sidste adgang), vigtighed (en score fra 1 til 10, som modellen satte ved skrivning) og relevans (embedding-lighed med den aktuelle forespørgsel) og dannede løbende overordnede "refleksioner". MemGPT (Packer et al., 2023) behandlede kontekstvinduet som RAM i et styresystem og flyttede data ind og ud af eksternt recall- og arkivlager via funktionskald. Enklere produktionsdesign dropper embeddings helt: Claude Codes auto memory holder fx et MEMORY.md-indeks plus emnefiler pr. repository og indlæser kun de første 200 linjer eller 25 KB af indekset ved sessionsstart, mens emnefilerne læses efter behov.

De svære problemer er konsolidering og forældelse. Et lager, der kun tilføjer, samler modsigelser op ("testene bruger Jest" og senere "testene bruger Vitest"), og lighedsbaseret genfinding henter gladeligt begge frem. Gode design fjerner dubletter, tidsstempler og angiver kilden for hver post, lader nyere fakta afløse ældre og begrænser, hvor meget der indsættes, så hukommelsen ikke fortrænger selve opgaven. I modsætning til retrieval-augmented generation, hvor korpus kurateres af mennesker, skrives agenthukommelse af modellen selv, så fejl forstærker sig selv.

Sikkerhed og privatliv følger af den skrivevej. Indirekte prompt injection, der når et hukommelsesværktøj, bliver varig: I 2024 viste Johann Rehberger, at et ondsindet dokument kunne plante falske hukommelser i ChatGPT's hukommelsesfunktion, som derefter påvirkede alle senere samtaler, og OWASP's vejledning om trusler mod agenter opfører memory poisoning som en selvstændig trussel. Modtræk er at begrænse hukommelsesskrivning til betroede dele af samtalen, vise brugeren, hvad der blev gemt, mærke posterne med oprindelse og gennemgå dem jævnligt. Indeholder hukommelserne personoplysninger, gælder databeskyttelsesforordningen fuldt ud: opbevaringsbegrænsning (art. 5, stk. 1, litra e), retten til sletning (art. 17) og indsigtsanmodninger (art. 15) kræver alle, at gemte hukommelser kan findes, udleveres og slettes pr. registreret.