konvoluutionopeudessa

Konvoluutionopeudella tarkoitetaan yleisesti laskennan nopeutta, jolla konvoluutiotoimitukset suoritetaan signaaleissa, kuvissa tai suurissa datakokonaisuuksissa. Se kuvaa, kuinka nopeasti pienet suodattimet voidaan soveltaa suureen dataan, ja on keskeinen tekijä sovellusten suorituskyvyssä.

Laskennallinen monimutkaisuus riippuu menetelmästä. Yksinkertaisessa 1D-konvoluutiossa signaaleilla teoreettiset operaatioiden määrät ovat O(Nk), jossa N on signaalin pituus ja k suodattimen pituus. Kuvissa 2D-konvoluutiossa tilanne on yleisemmin O(W H k^2), kun kuvan koko on W×H. Tehokkaammat menetelmät, kuten FFT-pohjaiset konvoluutiot, hyödyntävät konvoluution teoreemaa ja pienentävät käytettävissä olevien operaatioiden määrää; niitä toteutetaan usein overlap-add tai overlap-save -tekniikoilla. Lisäksi separoitujen kernelien käyttö voi pienentää kustannuksia, kun 2D-konvoluutio jaetaan useisiin 1D-konvoluutioihin.

Nopeuteen vaikuttavat tekijät ovat muun muassa kernelin koko ja muoto, syötteen koko, datatyyppi (float32, float16, int8), sekä laitteisto (CPU vs GPU) ja muistibandwidth. Käytännössä konvoluutionopeutta parannetaan yhdistämällä algoritmeja, käyttämällä kirjastojen ja laitteiston tarjoamaa optimointia sekä muistinhallintaa.

Sovellukset kattavat kuvankäsittelyn, videonkäsittelyn, tietokonenäön sekä signaalinkäsittelyn sekä syväoppimisverkot, joissa konvoluutionopeus on keskeinen suorituskyvyn tekijä. Yleisimmät optimointikeinot ovat separoituja tai 1D-konvoluutioita, im2col-tekniikan hyödyntäminen, FFT- tai Winograd-tekniikat sekä matriisikertojen (GEMM) hyödyntäminen, sekä quantisointi ja fused operations.

Lisätietoja konvoluutiosta ja siihen liittyvistä suorituskyvyn optimointimenetelmistä löytyy muun muassa tietokonenäön ja signaalinkäsittelyn oppaista sekä kirjastoista kuten cuDNN ja MKL.