Kovarianzfunktion

Kovarianzfunktion bezeichnet in der Stochastik die Funktion, die die gemeinsame Varianz zweier Beobachtungen eines stochastischen Prozesses beschreibt. Für einen Prozess X(t) mit der Mittelwertfunktion m(t) = E[X(t)] definiert man K(s,t) := Cov(X(s), X(t)) = E[(X(s) - m(s))(X(t) - m(t))]. Die Kovarianzfunktion gibt an, wie stark Werte des Prozesses zu zwei Zeitpunkten oder Orten zusammen variieren.

Eigenschaften: Die Kovarianzfunktion ist symmetrisch, also K(s,t) = K(t,s). Für jede endliche Menge von Argumenten gilt die Positive-Semidefinitheit: Für alle Koeffizienten a_i gilt Σ_i Σ_j a_i a_j K(t_i, t_j) ≥ 0. Bei breit- oder weitestgehend stationären Prozessen hängt K nur vom Unterschied h = s - t ab und wird dann oft als γ(h) oder C(h) notiert. Die Kovarianz und die Varianz verknüpfen sich über C(s,s) = Var(X(s)).

Relation zur Korrelation: Die Korrelationsfunktion ρ(s,t) ergibt sich aus ρ(s,t) = K(s,t) / sqrt(Var(X(s)) Var(X(t))). In der Praxis wird häufig die stationäre Kovarianzfunktion verwendet, um Muster der Abhängigkeit über Zeit oder Raum zu beschreiben.

Beispiele: Der Wiener Prozess (Brownian Motion) hat Cov(W_s, W_t) = min(s,t). In der Statistik und dem maschinellen Lernen dienen Kernfunktionen als Kovarianzfunktionen, z. B. Squared Exponential Kernel k(s,t) = σ^2 exp(- (s - t)^2 / (2ℓ^2)), der Matérn-Kernensatz, der Exponential- sowie der periodische Kernel. Solche Funktionen beeinflussen Glätte, Periodizität und Abhängigkeiten von Probenpfaden.

Anwendungen und Schätzung: Kovarianzfunktionen spielen eine zentrale Rolle in der Zeitreihenanalyse, der Geostatistik und im maschinellen Lernen, insbesondere bei Gaussian Processes und der Kriging-Schätzung. Schätzungen aus Daten erfolgen oft durch die Stichprobenkovarianzfunktion γ̂(h) = (1/(N - h)) Σ_{t=1}^{N-h} (X_t - X̄)(X_{t+h} - X̄).