högdimensionellt

Högdimensionellt är ett begrepp som används inom matematik, statistik och maskininlärning för att beskriva system eller datamängder där antalet dimensioner är mycket stort i förhållande till antal observationer eller till vad som normalt krävs av traditionella metoder. I praktiken talar man ofta om en regime där antalet variabler p är stort och ibland större än antalet observationer n.

Den höga dimensionen ger upphov till särskilda utmaningar, sammanfattade under begreppet dimensionernas förbannelse. Data blir sparsamma i rymden och sannolikhetsfördelningarna blir svåra att uppskatta; avstånd mellan punkter tenderar att konvergera och modellen riskerar överanpassning. För att hantera detta används ofta metoder som regularisering (t.ex. L1- eller L2-penalisering), variabelurval och dimensionreducering. PCA och liknande metoder reducerar dimensioner genom att fånga mest energi i få komponenter, medan randomiseringstekniker som slumpmässiga projektioner (Johnson-Lindenstrauss-satsen) kan bevara avstånd med hög sannolikhet.

Kända tillämpningar finns inom genomik, text- och bilddata, finansiell modellering samt signalbehandling. Forskning fokuserar på att anta rimliga strukturer som sparsitet eller intrinsisk dimension för att möjliggöra effektivt lärande.

I teoretisk analys används också begrepp som funktionella rum och Hilbertrum där dimensionen kan vara oändlig, vilket pekar på att högdimensionell teori ofta samspelar med funktionell analys.