lähdesekvenssin

Lähdesekvenssin, eli the source sequence, on syötteenä käytettävä sekvenssi sekvenssista-sekvenssiin -malleissa. Se kuvaa alkuperäisen informaation muodollisen muodon, jota malli käyttää tuottaakseen vastaavan kohdesekvenssin eli target sequence. Tyypillisesti lähdesekvenssi merkitään X ja sen pituus T, kun taas kohdesekvenssi merkitään Y ja sen pituus T′.

Lähdesekvenssi asetetaan syötteeksi monissa sovelluksissa, kuten konekäännöksessä, jossa lähdesekvenssi on lause tai teksti vieraalla kielellä, sekä puheentunnistuksessa, jossa se voi olla akustisten ominaisuuksien sekvenssi. Seq2seq-mallit rakentuvat yleensä enkooderista, joka prosessoi lähdesekvenssin ja muuntaa sen piilotetuiksi edustuksiksi, sekä dekooderista, joka näiden edustusten pohjalta tuottaa kohdesekvenssin askel askeleelta.

Käytännössä lähdesekvenssi voidaan jäsentää sanoina, avainyksiköinä tai alayksiköinä (esim. subword-yksiköinä). Tarkoitus on tarjota malliopetukselle riittävän tiheä ja rikas esitys syötteestä. Usein malleissa hyödynnetään huomio (attention) -mekanismeja, jotka painottavat relevantteja osia lähdesekvenssistä dekoodauksen aikana.

Esimerkkejä lähdesekvenssin sovelluksista ovat tekstin kääntäminen, puheesta tekstiksi -muunto, tekstin tiivistäminen ja ohjelmointikoodin generointi. Lähdesekvenssi on keskeinen käsite seq2seq-malleissa, ja sen laadulla sekä esikäsittelyllä on suuri vaikutus mallin suorituskykyyn. See also kohdesekvenssi, seq2seq, encoder-decoder, attention.