Schätzalgorithmen

Schätzalgorithmen sind rechnerische Verfahren zur Bestimmung oder Annäherung unbekannter Größen aus Messungen, Beobachtungen oder Modellen. Typische Ziele sind Parameter eines Modells, Zustände eines Systems oder Wahrscheinlichkeitsverteilungen.

Sie lassen sich in verschiedene Klassen gliedern. Deterministische Optimierung umfasst Maximum-Likelihood-Schätzung, Kleinste-Quadrate und Methoden der Momente. Bayes-Schätzverfahren liefern posteriori Schätzungen. Nichtparametrische Schätzverfahren umfassen Kernel-Dichte-Schätzung und Splines. Häufig eingesetzte iterative Verfahren sind der EM-Algorithmus, Gradienten- oder Newton-Verfahren; Regularisierung (Ridge, Lasso) dient der Vermeidung von Überanpassung.

In der Zeitreihen- oder Zustandsschätzung kommen Filtermethoden zum Einsatz, etwa Kalman-Filter, Erweiterter Kalman-Filter und Partikelfilter. Monte-Carlo-Verfahren, wie Markov-Ketten-Monte-Carlo oder Importance Sampling, dienen der Schätzung von Erwartungswerten oder Verteilungsfunktionen, insbesondere bei komplexen Modellen.

Wesentliche Eigenschaften sind Konsistenz, Unverfälschtheit, Effizienz, Robustheit und Konvergenzverhalten. Praktische Herausforderungen umfassen Identifizierbarkeit, lokale Optima, fehlende oder unvollständige Daten, Modellmisspecifikation und den Rechenaufwand.

Anwendungen finden sich in Statistik, Maschinellem Lernen, Signalverarbeitung, Regelungstechnik, Bild- und Sprachtechnik. Beispiele sind die Schätzung des Populationsmittelwerts aus Stichproben, Parameterschätzung in linearen oder generalisierten Modellen sowie Zustandsschätzungen in Navigations- oder Tracking-Systemen.