Superviseret læring

Formelt antager superviseret læring et datasæt af par (xᵢ, yᵢ) trukket fra en ukendt simultan fordeling P(X, Y) og søger en funktion f i en hypoteseklasse, der minimerer det forventede tab E[L(f(X), Y)]. Da P er ukendt, minimerer træningen i stedet gennemsnittet over stikprøven, typisk med regularisering. Outputtypen bestemmer opgaven: En diskret mærkat giver klassifikation (tabet er som regel krydsentropi), en kontinuert værdi giver regression (tabet er som regel kvadreret eller absolut fejl), og strukturerede output som sekvenser, afgrænsningsbokse eller segmenteringsmasker giver struktureret forudsigelse.

Evalueringen hviler på tilbageholdte mærkede data. k-fold-krydsvalidering (k = 5 eller 10 er konvention) estimerer generaliseringen, når data er knappe; med tilstrækkelige data bruges en fast opdeling i trænings-, validerings- og testsæt. Målene skal passe til beslutningen: Nøjagtighed er misvisende ved klasseubalance, hvor præcision, recall, F1, ROC-AUC eller precision-recall-kurver er mere informative, og regression bedømmes med MAE, RMSE eller kalibrerede prædiktionsintervaller.

Mærkaten er flaskehalsen. Mærkning er dyr, langsom og fejlbehæftet, og uenighed mellem annotatorer er ofte reel tvetydighed frem for sjusk; måling af enighed mellem annotatorer (Cohens eller Fleiss' kappa) viser det loft, en model meningsfuldt kan nå. Teknikker, der letter byrden, omfatter active learning (modellen beder om mærkater på de eksempler, den er mest usikker på), weak supervision (støjende mærkater fra heuristikker og regler kombineret statistisk), semi-superviseret læring (et lille mærket sæt plus et stort umærket) og at starte fra en fortrænet model via overførselslæring. En lumsk fejl er label-lækage, hvor mærkaten registreres ud fra information, som modellen også ser som input.

Superviseret læring lærer mærkningsprocessen, ikke den underliggende sandhed. Hvis tidligere triage af alarmer var inkonsekvent, eller lånebeslutninger afspejlede diskrimination, gengiver modellen det trofast og ser nøjagtig ud målt mod de samme skæve mærkater. Den antager også, at sammenhængen mellem input og mærkater er stabil; når angribere eller markeder ændrer adfærd, falder præstationen i det stille, indtil nogen mærker friske data.

Grænserne til naboparadigmerne handler om, hvor målsignalet kommer fra. I ikke-superviseret læring er der intet mål; i selvsuperviseret læring udledes målet automatisk af selve inputtet (et maskeret ord, det næste token); i forstærkningslæring er det eneste signal en skalar belønning, der kommer efter handlingerne, uden at den rigtige handling nogensinde vises. Instruction tuning af sprogmodeller er superviseret læring på menneskeskrevne par af prompt og svar.