Kovariansmatriisi

Kovariansmatriisi on neliömatriisi, joka kuvaa eri muuttujien välisten kovarianssien kokoelmaa. Sen diagonaalialkiot edustavat kunkin yksittäisen muuttujan varianssia, ja matriisin muut alkiot kuvaavat kahden eri muuttujan välistä kovarianssia. Kovarianssi mittaa kahden satunnaismuuttujan lineaarista riippuvuutta; positiivinen kovarianssi osoittaa, että muuttujat pyrkivät liikkumaan samaan suuntaan, kun taas negatiivinen kovarianssi viittaa siihen, että ne pyrkivät liikkumaan vastakkaisiin suuntiin. Nollan lähellä oleva kovarianssi viittaa vähäiseen lineaariseen riippuvuuteen.

Kovarianssimatriisia käytetään laajasti tilastotieteessä ja koneoppimisessa. Sitä hyödynnetään esimerkiksi pääkomponenttianalyysissä (PCA) datan ulottuvuuden vähentämiseen löytämällä datan suurimman varianssin suunnat. Se on myös keskeinen työkalu monimuuttujien tilastollisessa mallinnuksessa, kuten monimuuttujaisten normaalijakaumien määrittelyssä. Matriisin positiivinen definiittisyys on tärkeä ominaisuus, joka varmistaa, että kaikki muuttujien lineaariset kombinaatiot ovat epänegatiivisia.

Matriisin koko riippuu analysoitavien muuttujien lukumäärästä. Jos on k muuttujaa, kovarianssimatriisi on k x k -kokoinen. Kovarianssimatriisin laskeminen aineistosta sisältää kunkin muuttujaparin kovarianssin laskemisen. Näitä kovariansseja käytetään sitten täyttämään matriisin vastaavat alkiot. Matriisin symmetrisyys on myös keskeinen ominaisuus, sillä muuttujien x ja y välinen kovarianssi on sama kuin muuttujien y ja x välinen kovarianssi.