parameterutrymme

Parameterutrymme är mängden av möjliga värden för modellens parametrar. Det beskriver vilka olika modeller som tillhör en given parametrisering och fungerar som indexsats för en familj av objekt, till exempel sannolikhetsfördelningar eller dynamiska system. Ofta betecknas det som Θ och antas vara en delmängd av det n-dimensionella reella rummet, Θ ⊆ R^n, eller ett mer allmänt rum med en passande topologi.

För varje parameterväde θ ∈ Θ bestäms en medlem i familjen, till exempel en sannolikhetsfördelning f(x | θ). Exempel: för normalfördelningen är θ=(μ, σ) med Θ = R × (0, ∞). För Bernoulli-fördelningen är θ = p med p ∈ [0,1]. Parameterutrymmet står i kontrast till datautrymmet och till state space i dynamiska system. Det är också centralt inom identifikationsfrågor; olika θ kan ge upphov till samma modell, vilket leder till icke-identifierbarhet och delar Θ i identifikationsklasser.

I praktiken används parameterutrymmet vid parameterestimering och modellval. Vid maximum likelihood eller Bayesiansk inferens söker man ofta θ som maximerar eller integrerar över Θ. I optimering och maskininlärning studeras ofta utforskandet av Θ med gradientbaserade metoder eller andra sökalgoritmer.

Hyperparametrar betraktas ofta utanför parameterutrymmet; de styr modellens komplexitet eller lärprocessen men bestäms vanligtvis separat från träningsdata. Inom dynamiska system används parameterutrymmet också för att studera hur beteendet förändras när värden på θ ändras, till exempel genom bifurkationer vid kritiska gränser.