feedforwardverkkojen

Feedforward-verkot ovat keinotekoisten neuroverkkojen ryhmä, joissa tiedon kulku etenee vain syötteestä ulostuloon eikä verkon sisäisiä tiloja muodostu palautesilmukoita. Yleisin esimerkki on multilayer perceptron (MLP).

Arkkitehtuuriltaan ne koostuvat kerroksista: input-kerroksesta, yhdestä tai useammasta piilotetusta kerroksesta sekä output-kerroksesta. Solut ovat kytketty eteenpäin seuraaviin kerroksiin; jokaisella yhteydellä on paino ja usein bias. Signaalit kulkevat kerroksesta toiseen ja kunkin neuronin aktivaatio määritellään lineaarisen yhdistelmän ja ei-lineaarisen aktivointifunktion, kuten sigmoid, tanh tai ReLU, avulla.

Tärkein oppimismenetelmä on valvottu oppiminen: verkko saa esimerkkien syötteen ja vastaavat totuusarvot ja oppii sovittamaan painonsa mittaamaan näitä arvoja. Taaksepäinlevittävä virheenseurantamenetelmä (backpropagation) ja gradienttien optimointi, kuten stokastinen tai mini-batch-gradienttialgoritmi, ohjaavat painojen päivittämistä. Tarvitaan riittävästi laadukkaita koulutusdataa sekä oikea-asteinen verkkoarkkitehtuuri ja aktivaatio.

Feedforward-verkkoja käytetään laajasti luokittelussa ja regressiossa sekä kuvien, äänen ja muiden signaalien käsittelyssä erilaisissa sovelluksissa. Ne ovat teoreettisesti universaalisti toimivia, kun niitä on tarpeeksi syviä ja ne on koulutettu riittävän suurella datalla. Niillä on kuitenkin rajoitteita: ne eivät muistuta aikaisempia tiloja ilman erillisiä tekniikoita tai ajastettuja syötteitä; sekvenssuaalisissa tehtävissä käytetään usein RNN- tai LSTM- tai transformer-arkkitehtuureja.