Video: Section 9 2025
I en perfekt verden kan du udføre en test på data, som din maskinindlæringsalgoritme aldrig har lært fra før. Imidlertid er det ikke altid muligt at vente på friske data, hvad angår tid og omkostninger.
Som et første simpelt middel kan du tilfældigt opdele dine data i trænings- og testsæt. Den fælles opdeling er fra 25 til 30 procent til test og de resterende 75 til 70 procent til træning. Du deler dine data, der består af dit svar og funktioner på samme tid, idet du holder korrespondance mellem hvert svar og dets funktioner.
Det andet middel opstår, når du skal indstille din læringsalgoritme. I dette tilfælde er test-delt data ikke en god praksis, fordi det forårsager en anden form for overfitting kaldet snooping. For at overvinde snooping har du brug for en tredje split, kaldet et valideringssæt. En foreslået split er at få dine eksempler delt i tredjedele: 70 procent til træning, 20 procent til validering og 10 procent til testning.
Du skal udføre splittet tilfældigt, det vil sige uanset den første bestilling af dataene. Ellers vil din test ikke være pålidelig, fordi bestilling kan medføre overvurdering (når der er en meningsfuld ordre) eller undervurdering (når fordeling adskiller sig for meget). Som en løsning skal du sørge for, at testsætfordelingen ikke er meget forskellig fra træningsfordelingen, og at sekventiel bestilling finder sted i split data.
Kontroller for eksempel, om identifikationsnumre, når de er tilgængelige, er kontinuerlige i dine sæt. Nogle gange, selvom du strengt overholder stikprøveudtagning, kan du ikke altid få lignende udbredelser blandt sæt, især når antallet af eksempler er lille.
Når dit antal eksempler n er højt, f.eks. N> 10, 000, kan du helt sikkert skabe et tilfældigt delt datasæt. Når datasættet er mindre, vil sammenligning af grundlæggende statistikker som gennemsnit, tilstand, median og varians over svaret og funktionerne i trænings- og testsætene hjælpe dig med at forstå, om testsætet er uegnet. Når du ikke er sikker på, at splitten er korrekt, skal du bare genberegne en ny.
