Præcision (precision)
Også kendt som: positiv prædiktiv værdi
Af alle de tilfælde, en model markerer som positive, andelen der virkelig er det - i sikkerhedssprog, hvor mange alarmer der var ægte.
Kladde - dette opslag er endnu ikke gennemgået.
Formelt
Antallet af sande positive delt med alle tilfælde, modellen markerede som positive (sande positive plus falske positive), hentet fra en forvekslingsmatrix for én klasse.
Forklaret enkelt
Som en svampeplukker, hvis kurv kun rummer gode svampe - hver eneste, de valgte, var spiselig, selv om de gik forbi masser af andre.
I praksis
I en mindre ingeniørvirksomhed ser kontorchefen, der også passer IT, at phishingfilteret holder 200 mails tilbage på en måned; 180 er reelt phishing, så præcisionen er 90 %, og hun frigiver selv de øvrige 20.
Hvorfor det betyder noget
Lav præcision begraver medarbejderne i forkerte alarmer og lærer dem at ignorere værktøjet, så det er tallet, man skal hæve, når en forkert markering koster meget.
Teknisk uddybning
Præcision, også kaldet positiv prædiktiv værdi, er TP / (TP + FP): givet at modellen siger "positiv", sandsynligheden for, at den har ret. Den er udefineret, når modellen ikke laver nogen positive forudsigelser, hvilket scikit-learn håndterer med parameteren zero_division. Falske negative indgår slet ikke i formlen, så en model, der kun markerer sit ene sikreste tilfælde, kan opnå 100 % præcision og samtidig overse næsten alt; præcision er meningsløs uden genkaldelse eller et fast arbejdspunkt ved siden af. Ved rangordning og søgning angives den som regel ved en grænse, precision@k, og som gennemsnit over genkaldelsesniveauer som average precision (AP); objektdetektion rapporterer mean AP over klasser, og COCO tager desuden gennemsnittet over intersection-over-union-tærskler fra 0,5 til 0,95.
Modsat genkaldelse afhænger præcision direkte af forekomsten. Efter Bayes' regel er PPV = (sensitivitet × forekomst) / (sensitivitet × forekomst + (1 − specificitet) × (1 − forekomst)). En detektor med 99 % sensitivitet og 99 % specificitet, der bruges, hvor kun 0,1 % af hændelserne er ondsindede, har en præcision på cirka 9 %: omkring ti falske alarmer for hver ægte. Denne basisrate-effekt er regnestykket bag alarmtræthed i sikkerhedsdrift og falsk positive screeningsresultater i sundhedsvæsenet, og den betyder, at præcision målt på et balanceret eller beriget testsæt overvurderer, hvad man vil se i drift, medmindre den omvægtes til den reelle klassefordeling.
Præcision styres via beslutningstærsklen. En højere tærskel giver typisk højere præcision, men ikke strengt monotont - den kan falde, når nogle få højt scorede negative er tilbage - mens genkaldelse kun kan forblive uændret eller falde. Præcision-genkaldelse-kurven viser afvejningen; ved stærk klasseubalance er den mere informativ end ROC-kurven, fordi den falsk positive rate forbliver vildledende lav, når negative tilfælde langt overstiger positive (Davis & Goadrich, 2006; Saito & Rehmsmeier, 2015). Driftskrav formuleres derfor ofte som "højest mulig genkaldelse under forudsætning af mindst X præcision".
Ordet støder sammen med andre betydninger. I metrologien (ISO 5725) betyder præcision, hvor tæt gentagne målinger ligger på hinanden, altså en egenskab ved variansen og ikke ved korrektheden; i numerik henviser det til flydende-komma-formater som FP16 eller BF16, der bruges til modelvægte. I retrieval-augmented generation måler "context precision", hvor stor en del af det hentede materiale der er relevant, et retrieval-mål, der er noget andet end præcisionen af det endelige svar.
Hvad du bør lære først
Alt det, dette bygger på - grundlaget først.
Relationer
- Del af
- Modelevaluering (evals)
- Åbner for
- F1-score
- Forveksl ikke med
- Genkaldelse (recall)
- Bruges sammen med
- Triage af alarmer
Kilder og videre læsning
Officiel dokumentation
Opslagsværker
- Fawcett (2006), An introduction to ROC analysis · Pattern Recognition Letters
Lærebøger
Hvor dataene kommer fra
Dette opslag er skrevet af en AI ud fra kilderne ovenfor og er endnu ikke gennemgået af et menneske. Brug det som udgangspunkt, og tjek alt vigtigt mod kilderne.
Se gennemgangskøenForeslå en rettelse på GitHubDette begreb som JSON
Nævnt i
Test dig selv
Indlæser…