Vähimmäisneliömenetelmä

Vähimmäisneliömenetelmä, tunnettu myös nimellä pienimmän neliösumman menetelmä, on matemaattinen menetelmä, jota käytetään löytämään paras mahdollinen approksimaatio ratkaisulle matemaattisessa mallissa. Menetelmä on yleinen tilastotieteessä ja ekonometriassa mallien sovittamiseen havaintoaineistoon. Tavoitteena on minimoida havaittujen arvojen ja mallin ennustamien arvojen välisten erojen neliöiden summa. Tämä summa tunnetaan jäännösneliöiden summana.

Kun mallin yhtälö on lineaarinen, vähimmäisneliömenetelmä tuottaa yksinkertaisen ja yleensä tehokkaan tavan arvioida mallin parametreja. Jos malli on epälineaarinen, ratkaisun löytäminen voi vaatia iteratiivisia numeerisia menetelmiä. Vähimmäisneliömenetelmä olettaa, että jäännökset ovat riippumattomia ja niiden varianssi on vakio. Näiden oletusten rikkoutuminen voi johtaa harhaisiin tai epätehokkaisiin parametrien estimaatteihin.

Menetelmän suosio perustuu sen matemaattiseen käsiteltävyyteen ja tilastollisiin ominaisuuksiin. Kun oletukset pitävät paikkansa, vähimmäisneliöestimaattorit ovat parhaita lineaarisia harhattomia estimaattoreita (Gauss-Markov-teoreema). Menetelmää käytetään laajasti muun muassa regressioanalyysissä, signaalinkäsittelyssä ja koneoppimisessa.