Lavdimensjonalitet

Lavdimensjonalitet er et begrep som brukes om data eller modeller som har få frihetsgrader, eller som i praksis befinner seg i et lavt antall dimensjoner i forhold til systemets kompleksitet. I matematikk beskriver dimensjon antall koordinater som er nødvendige for å angi et punkt i et rom. I praksis antas ofte at data ligger på en lavdimensjonal manifold i et høy-dimensionalt rom, noe som betyr lav intrinsisk dimensjonalitet.

I dataanalyse og maskinlæring beskriver lavdimensionalitet ofte datasett med få trekk (variabler). Slike data er lettere å visualisere i 2D eller 3D og krever ofte mindre beregningskraft. Begrepet er imidlertid relativt: hva som regnes som lavt i en kontekst, kan være høyt i en annen. Ved høy dimensjonalitet oppstår utfordringer knyttet til såkalte curse of dimensionality, der data blir spredd og læring blir utfordrende.

Dimensjonalitetsreduksjon kan skje ved enten utvelging av eksisterende trekk (feature selection) eller ekstraksjon av nye trekk (feature extraction). Vanlige metoder inkluderer PCA (principal component analysis), SVD, ICA, samt ikke-lineære metoder som t-SNE og UMAP.

Bruksområder inkluderer visualisering av data, støyreduksjon og forbedret maskinlæringsmodellering gjennom enklere og mer robuste representasjoner. Samtidig kan informasjons- eller strukturbevarende tap forekomme ved reduksjon, så valget av metode og antall dimensjoner må begrunnes ut fra behovet for tolking og nøyaktighet.

Måling av intrinsisk dimensjonalitet kan gjøres ved ulike metoder, for eksempel korrelasjonsdimensjon, box-counting eller k-nearest neighbor-baserte estimater. Det er viktig å merke seg at lavdimensionalitet ikke alltid er synonymt med enkelhet; selv i lavdimensionalitet kan data være komplekse eller ha komplekse forhold.