Bias i AI

NIST SP 1270 (2022) inddeler bias i AI i tre kategorier, der påvirker hinanden: systemisk bias, der er indlejret i institutioner og historisk praksis, statistisk og beregningsmæssig bias, der opstår af ikke-repræsentative stikprøver og modelvalg, og menneskelig bias i den måde, folk designer, annoterer, fortolker og handler på output. De tekniske indgange er velkendte: udvælgelses- og repræsentationsbias (en gruppe er sjælden i træningssættet), label-bias (målvariablen koder tidligere afgørelser som "blev ansat" eller "blev undersøgt" i stedet for den faktiske sandhed), målebias (en variabel registreres mindre præcist for nogle grupper), aggregeringsbias (én model for populationer, der opfører sig forskelligt) og implementeringsbias (en model bruges uden for den kontekst, den er valideret til).

Fjerner man en beskyttet egenskab, fjerner man ikke biasen. Postnummer, navn, sprog, uddannelsessted eller huller i beskæftigelsen fungerer som proxyer, og en fleksibel model rekonstruerer den manglende egenskab ud fra dem. Derfor måler en audit på udfaldet frem for at gennemgå inputtet. Udbredte gruppemål er demographic parity (lige udvælgelsesrater), den amerikanske tommelfingerregel "four-fifths" for adverse impact (et forhold mellem udvælgelsesrater under 0,8), equalised odds (lige rater for sande og falske positiver, Hardt et al., 2016) og kalibrering inden for grupper. Kleinberg et al. og Chouldechova (begge 2016-17) beviste, at når basisraterne er forskellige, kan kalibrering og lige fejlrater ikke opfyldes samtidig, medmindre modellen er perfekt - kernen i striden mellem ProPublica og Northpointe om recidivscoren COMPAS. Valget af mål er derfor en normativ beslutning, der skal dokumenteres, ikke et rent teknisk valg.

Afbødning sker tre steder: pre-processing (gensampling, genvægtning, ny annotering), in-processing (fairness-begrænsninger eller adversarial debiasing i tabsfunktionen) og post-processing (gruppespecifikke tærskler). Hver metode bytter noget nøjagtighed eller individuel konsistens for lighed mellem grupper, og gruppespecifikke tærskler kan selv rejse ligebehandlingsspørgsmål. I generative modeller viser bias sig som stereotyp tekst eller stereotype billeder og ujævne afvisningsrater og måles med benchmark-sæt af prompts og kontrafaktiske prompts, hvor kun et navn eller et pronomen byttes ud.

I EU-retten kræver AI-forordningens art. 10, stk. 2, litra f og g, at udbydere af højrisikosystemer undersøger trænings-, validerings- og testdata for mulig bias og træffer foranstaltninger til at opdage, forebygge og afbøde den, og art. 10, stk. 5, tillader behandling af særlige kategorier af personoplysninger alene til det formål og under garantier; ændringsforordningen Digital Omnibus fra 2026 (forordning (EU) 2026/1744) udvidede dette retsgrundlag til også at gælde ud over højrisikosystemer. GDPR art. 22 og princippet om rimelighed i art. 5, stk. 1, litra a, gælder sideløbende, ligesom de nationale ligebehandlingsregler. Profilering i den danske offentlige sektor er blevet kritiseret, fx i Amnesty Internationals rapport fra 2024 om Udbetaling Danmarks algoritmer til kontrol med socialt bedrageri. Bias adskiller sig fra hallucination (et opdigtet svar frem for en systematisk skævhed) og fra dataforgiftning, hvor skævheden bevidst er plantet af en angriber.