Feedforwardnätverk

Feedforwardnätverk är en typ av artificiellt neuralt nätverk där informationen flödar i en riktning från ingångslager till utgångslager utan återkoppling eller cykler. De används vanligtvis för övervakad inlärning och kan lära sig komplexa funktioner genom flera dolda lager. Den vanligaste formen är ett multilager perceptron (MLP).

Arkitektur och funktioner: Ett feedforwardnätverk består av ett eller flera ingångar, ett eller flera dolda lager och ett utgångslager. Varje neuron tar emot signaler från föregående lager, tillämpar en viktad summa och en icke–linjär aktiveringsfunktion (till exempel sigmoid, tanh eller ReLU). Viktarna justeras under träning för att minimera en kostnadsfunktion som jämför nätverkets utgång med de kända etiketterna.

Träning: Nätverket tränas normalt med övervakad inlärning. Framåtpassering skickar indata genom nätverket för att generera en förutsägelse; bakåtriktad spridning (backpropagation) beräknar gradienter av kostnadsfunktionen med avseende på vikterna, i kombination med en optimeringsmetod som stokastisk gradientnedstigning eller Adam. Denna process upprepas över många exempel och episoder tills nätverket konvergerar eller uppnår önskad noggrannhet.

Egenskaper: Feedforwardnätverk saknar återkoppling, vilket gör dem lämpliga för statiska relationer och funktioner. De kan teoretiskt approximera godtyckliga funktioner om de har tillräckligt med kapacitet och data (universell approksimation). De är ofta snabba att träna i jämförelse med tidsmässigt beroende modeller, men kan vara mindre effektiva för sekventiella eller tidsberoende uppgifter utan särskilda arkitekturer.

Användningsområden: Bild- och taligenkänning, funktionapproximation, regressionsuppgifter, klassificering och generella prediktionsuppgifter där statiska samband mellan ingångar och utgångar föreligger.