FeedforwardNetze

FeedforwardNetze, auch Feedforward-Neuronale Netze genannt, sind eine Klasse künstlicher neuronaler Netze, bei denen Informationen streng vorwärts von Eingabe zu Ausgabe durch eine oder mehrere Schichten fließen, ohne Zyklen oder Schleifen. Sie sind die einfachste Form mehrschichtiger Netze und bilden die Grundlage vieler moderner Architekturen.

Eine typische Architektur besteht aus einer Eingabeschicht, einer oder mehreren versteckten Schichten und einer Ausgabeschicht. Jedes Neuron berechnet eine gewichtete Summe seiner Eingänge, addiert eine Bias und wendet eine nichtlineare Aktivierungsfunktion an, wie Sigmoid, Tanh, ReLU oder Softmax. In vollständig verbundenen Netzen (dense) ist jedes Neuron mit jedem Neuron der nächsten Schicht verbunden.

Das Training erfolgt in der Regel überwacht. Das Netzwerk ordnet Eingaben Zielwerten zu, der Fehler wird mit einer Verlustfunktion gemessen (z. B. mittlere quadratische Abweichung oder Kreuzentropie) und die Gewichte werden mittels Backpropagation und Gradientenabstieg oder Abwandlungen angepasst. Training benötigt gelabelte Daten, und die Leistung wird auf Validierungsdaten bewertet, um Überanpassung zu vermeiden. Regularisierung, Normalisierung und architektonische Entscheidungen beeinflussen die Generalisierung.

Zu den Varianten gehören das Mehrschicht-Perzeptron (MLP) als klassisches Beispiel. Convolutional Neural Networks (CNNs) und andere tiefe Feedforward-Architekturen erweitern die Grundidee um strukturierte Schichten, bleiben aber beim Vorwärtsdurchlauf gerichtete, azyklische Netze. Sie finden breite Anwendung in Klassifikations- und Regressionsaufgaben.

Anwendungen umfassen Bild- und Spracherkennung, tabellarische Datenmodellierung und Funktionsapproximation. Zu den Einschränkungen gehören die Notwendigkeit festgelegter Eingabegrößen, großer gelabelter Datensätze und das Fehlen inhärenter Gedächtnisstrukturen; zeitliche Dynamik wird nicht modelliert, außer es werden Sequenz- oder Zeit-Embedding-Techniken verwendet.