Tekoälylaskenta

Tekoälylaskenta on tekoälyä hyödyntävän laskennan kokonaisuus, johon kuuluu mallien kehittäminen, kouluttaminen, optimointi ja käyttöönotto. Siihen sisältyy sekä koulutusvaiheessa tarvittava suurten datamassojen käsittely että inferenssin toteuttaminen, jolloin malli suorittaa tehtäviä ennusteita tai päätöksiä. Tekoälylaskennan tavoitteena on saavuttaa riittävä laskentateho, alhainen latenssi ja skaalautuvuus vaaditulle käyttöasteelle.

Infrastruktuuri voi sijaita pilvessä, reunalaskennassa tai näiden yhdistelmässä. Laitteistossa korostuvat grafiikkaprosessorit (GPU), erikoiskiihtimet kuten TPU-tyyppiset yksiköt sekä CPU-klusterit ja nopea verkko. Ohjelmistopuolella käytetään koneoppimisen kehyksiä ja kirjastoja sekä hajautettua laskentaa. Kehitystyötä tukevat menetelmät kuten datan- ja mallin rinnakkaislaskenta, kvantisaatio, mallin leikkaus ja tiivistäminen sekä opettajakoulutus tai jatkuva oppiminen.

Sovelluksia esiintyy kielimallien, kuvantunnistuksen, puheentunnistuksen, suositusjärjestelmien sekä robotiikan ja terveydenhuollon analytiikan alueilla. Tekoälylaskenta muokkaa tuotantoa, tutkimusta ja palveluita sekä herättää uusia liiketoimintamalleja ja toimintatapojen kysymyksiä datan laadusta ja eettisyydestä.

Haasteisiin kuuluu energian- ja kustannuskulutusten kasvu, suurien datamassojen hallinta, tietosuoja sekä sääntelyn ja läpinäkyvyyden vaatimukset. Reunalaskenta voi parantaa vasteaikoja, mutta tuo lisävaatimuksia turvallisuudelle ja hallinnalle.