Label (mærkat)

I superviseret læring er et mærket eksempel et par (x, y) af en feature-vektor og en label; Googles ML-ordliste definerer labelen som svar- eller resultatdelen af et eksempel. Ved klassifikation er y en kategori fra en fast mængde labels (binær, flere klasser eller multi-label, når flere kategorier kan gælde på én gang); ved regression er den et reelt tal. Tabsfunktioner sammenligner forudsigelser med labels: krydsentropi mod one-hot- eller klasseindeks-labels, kvadreret fejl mod numeriske mål. Teknikker som label smoothing erstatter hårde one-hot-mål med lidt blødere for at dæmpe overdreven sikkerhed.

Labels stammer fra menneskelig annotering, fra registreringer, der allerede findes (en senere diagnose, om et lån blev misligholdt, om en bruger klikkede), eller fra tommelfingerregler og svagere modeller (weak supervision). Ground truth er betegnelsen for den sande værdi, som forudsigelser bedømmes ud fra; i praksis er den registrerede label kun et skøn over den. Støj i labels er almindelig: Northcutt, Athalye og Mueller (2021) anslog i gennemsnit mindst 3,3 procent forkerte labels i testsættene for ti udbredte benchmarks og mindst 6 procent i ImageNets valideringssæt, nok til at ændre, hvilken af to modeller der ser bedst ud.

Labels indeholder beslutninger og kan indeholde bias. Bruges historiske ansættelsesudfald eller anholdelser som labels, lærer modellen at gentage de tidligere beslutninger i stedet for den kvalitet, de skulle måle. Stedfortrædende labels (klik som mål for relevans, behandlingsudgifter som mål for sundhedsbehov) er en hyppig kilde til denne slags skjulte skævhed mellem mål og label.

Selvsuperviseret læring undgår manuelle labels ved at udlede målet af selve inputtet, fx næste token i en tekst, og derfor kan store sprogmodeller fortrænes på umærkede tekstsamlinger. Senere trin som instruktionstilpasning og RLHF bringer menneskeskabte mål tilbage i form af eksempelsvar og rangordnede præferencer.