Anvendelse af hovedkomponentanalyse til prædiktiv analyse - dummier

Hovedkomponentanalyse (PCA) er en værdifuld teknik, der er meget udbredt inden for prædiktiv analyse og datalogi. Det studerer et datasæt for at lære de mest relevante variabler, der er ansvarlige for den højeste variation i datasættet. PCA bruges mest som en data reduktion teknik.

Når du bygger prædiktive modeller, kan du muligvis reducere antallet af funktioner, der beskriver dit datasæt. Det er meget nyttigt at reducere denne høje dimensionering af data gennem tilnærmelsesteknikker, hvor PCA udmærker sig. De tilnærmede data opsummerer alle vigtige variationer af de oprindelige data.

F.eks. Kan funktionssættet med data om lagre omfatte aktiekurser, daglige høje og lave priser, handelsvolumener, 200-dages glidende gennemsnit, pris-til-indtjeningsforhold, relative styrke til andre markeder, renter og styrken af ​​valutaer.

At finde de vigtigste forudsigelsesvariabler er kernen i at opbygge en prædiktiv model. Den måde, mange har gjort det på, er ved at bruge en brute force-tilgang. Tanken er at starte med så mange relevante variabler som muligt, og brug derefter en tragt tilgang til eliminering af funktioner, der ikke har nogen indflydelse eller ingen prædiktiv værdi.

Intelligensen og indsigten er bragt til denne metode ved at engagere forretningsmæssige interessenter, fordi de har nogle tanker om, hvilke variabler der vil have størst indflydelse i analysen. Erfaringerne fra de dataforskere, der er involveret i projektet, er også vigtige for at vide, hvilke variabler der skal bruges til, og hvilke algoritmer der skal bruges til en bestemt datatype eller et domæne-specifikt problem.

For at hjælpe med processen bruger dataforskere mange prædiktive analyseværktøjer, der gør det lettere og hurtigere at køre flere permutationer og analyser på et datasæt for at måle virkningen af ​​hver variabel på datasættet.

At vide, at der er en stor mængde data at arbejde med, kan du bruge PCA til hjælp.

At reducere antallet af variabler, du ser på, er grund nok til at anvende PCA. Derudover beskytter du ved at bruge PCA automatisk beskyttelse mod overfitting af modellen.

Du kan bestemt finde sammenhæng mellem vejrdata i et givet land og udførelsen af ​​sit aktiemarked. Eller med farven på en persons sko og den rute, som han eller han tager til kontoret, og udførelsen af ​​deres portefølje for den dag. Men inklusive disse variabler i en prædiktiv model er mere end bare overfitting, det er vildledende og fører til falske forudsigelser.

PCA bruger en matematisk gyldig tilgang til at bestemme delmængden af ​​dit datasæt, der indeholder de vigtigste funktioner; Når du bygger din model på det mindre datasæt, får du en model, der har forudsigende værdi for det samlede større datasæt, du arbejder med. Kort sagt bør PCA hjælpe dig med at forstå dine variabler ved at identificere delmængden af ​​variabler, der er ansvarlige for den mest variation med dit originale datasæt. Det hjælper dig med at se overflødighed. Det hjælper dig med at finde ud af, at to (eller flere variabler) fortæller dig det samme.

Desuden tager hovedkomponentanalysen dit multidimensionale datasæt og producerer et nyt datasæt, hvis variabler er repræsentative for lineariteten af ​​variablerne i det oprindelige datasæt. Derudover har det udgitte datasæt individuelt ukorrelerede variabler, og deres varians er bestilt af deres hovedkomponenter, hvor den første er den største og så videre. I denne henseende kan PCA også betragtes som en teknik til konstruktion af funktioner.

Mens du bruger PCA eller andre lignende teknikker, der hjælper med at reducere dimensionerne af datasættet, du har at gøre med, skal du altid være forsigtig med ikke at påvirke modelens ydeevne negativt. At reducere størrelsen af ​​dataene bør ikke komme på bekostning af at påvirke ydeevnen negativt (nøjagtigheden af ​​den prædiktive model). Træd sikker på og administrer dit datasæt med omhu.

Den øgede kompleksitet af en model oversætter ikke til højere kvalitet i udfaldet.

For at bevare modelens præstationer må du muligvis nøje evaluere effektiviteten af ​​hver variabel og måle dens anvendelighed i udformningen af ​​den endelige model.

At vide, at PCA'en kan være særlig nyttig, når variablerne er stærkt korrelerede inden for et givet datasæt, kan det kun komplicere opgaven med at reducere dimensionaliteten af ​​multivariate data ved at have et datasæt med ikke-korrelerede prædiktive variabler. Mange andre teknikker kan bruges her i tillæg til PCA'en, som f.eks. Fremadgående valg af funktion og tilbagevendende funktion eliminering.

PCA er ikke en magisk kugle, der løser alle problemer med multidimensionale data. Dens succes er meget afhængig af de data, du arbejder med. Den statistiske varians er muligvis ikke tilpasset til variabler med de mest forudsigelige værdier, selv om det er sikkert at arbejde med sådanne tilnærmelser.