aivoverkkoja

Aivoverkko on laskennallinen malli, joka on saanut innoituksensa biologisista hermoverkoista. Se koostuu toisiinsa yhteydessä olevista keinotekoisista neuroneista, joita yhdistävät painotetut yhteydet. Verkko on tyypillisesti organisoitu kerroksiin, jotka käsittelevät ja välittävät tietoa eteenpäin.

Jokainen neuroni laskee syötteiden painotetun summan ja soveltaa aktiivointifunktiota, kuten ReLU tai sigmoid. Tiedot kulkevat useimmiten eteenpäin kerroksista toiseen, mikä tekee siitä etukäteen etenevän verkon, eli feedforward-verkko.

Oppiminen tapahtuu suurten esimerkkijoukkojen avulla. Yleisintä on valvottu oppiminen, jossa verkon virhe mitataan ja painoja päivitetään takapropagoinnilla gradienttien avulla. Opetusta voidaan toteuttaa myös epävalvottuina menetelmin tai vahvistusoppimisen kautta.

Tyyppejä ovat esimerkiksi feedforward-verkot, toistuvat verkot (RNN ja LSTM), konvoluutioverkot (CNN) sekä transformer-verkot, joiden arkkitehtuuri on keskeinen nykyaikaisessa luonnollisen kielen käsittelyssä.

Sovelluksia on laajasti: kuvien ja puheen tunnistus, tekstin tuottaminen ja ymmärtäminen, ennustustehtävät, robotiikka sekä lääketieteellinen diagnoosi ja analytiikka.

Historiaan kuuluvat varhaiset tutkimukset 1950–1960-luvuilta perceptronista, 1980-luvun takapropagointi ja 2010-luvun syväoppiminen, joka yhdisti suuria dataset- ja laskentatehoja. Nykyisin aivoverkkoja ylläpidetään ja kehitetään suurten mallien sekä erilaisten laskentaympäristöjen avulla, kuten grafiikki- ja tensorilaskenta-alustoilla.

Rajoitteita ovat datantarpeet, tulkinnan vaikeus sekä vinoutumien ja eettisten kysymysten riskit, sekä korkea energian ja laskennan kustannus. Aivoverkkoja arvioidaan kriittisesti eri sovelluksissa.