Piilokerrosten

Piilokerrosten (piilokerrosten) käsite viittaa keinotekoisten neuroverkkojen arkkitehtuurin osaan, joka sijaitsee tulon ja lähdön kerrosten välissä. Jokaisessa piilokerroksessa on neuroneja, jotka yhdistävät edellisen kerroksen signaalin painojen ja bias-arvojen kautta ja tuottavat uuden, aktivoidun signaalin seuraavalle kerrokselle. Piilokerrokset mahdollistavat syvien ja ei-lineaaristen transformaatioden suorittamisen, jolloin verkko pystyy oppimaan monimutkaisia ominaisuuksia ja suhteita syötteistä.

Tavallisin muoto piilokerroksista on täysin yhdistetty kerros (dense), jossa jokainen neuroni on yhteydessä kaikkiin edellisen kerroksen neuroneihin. Malleissa voi kuitenkin olla monentyyppisiä piilokerroksia, kuten konvoluutiokerroksia tai rekursiivisia (tai muuttuvia) kerroksia riippuen käsittelytavasta. Piilokerrosten määrä määrittää mallin syvyyden: yksi piilokerros on yksinkertaisempi, useampi kerros muodostaa syvemmän verkon, joka kykenee oppimaan moniulotteisia ja yhä abstraktivioituneempia representaatioita.

Koulutus tapahtuu painojen ja bias-arvojen optimoinnilla käyttämällä takaisinsyöttöä (backpropagation) ja gradienttien descentia. Aktivaatiokäyrät, kuten ReLU, sigmoid tai tanh, vaikuttavat oppimisen dynamiikkaan ja vakauteen. Säännöllistäminen, kuten dropout tai L2-regularisointi, auttaa estämään ylikoulutusta ja parantaa yleistyskykyä.

Piilokerroksia käytetään laajasti muun muassa näkö- ja puheentunnistuksessa sekä luonnollisen kielen käsittelyssä, ja ne ovat keskeinen osa modernia syvää oppimista.