tavoitefunktiosta

Tavoitefunktio on optimoitavassa ongelmassa määritetty funktio, jonka arvo f(x) pyritään minimoimaan tai maksimoimaan. Funktio ottaa päätösvektorin x ∈ R^n ja palauttaa reaaliluvun. Tavoitefunktio kuvaa sitä, mitä ongelmassa halutaan parantaa: kustannusta, voittoa tai virheen suuruutta. Esimerkkejä ovat kustannus- tai tappiofunktiot koneoppimisessa sekä tilastollisessa estimoinnissa käytetyt virhefunktiot, kuten neliöllinen virhe tai ristiriitaisen entropian tappio.

Ongelma voi olla vapaasti (unconstrained) minimi f(x) tai rajoitteinen minimi f(x) siten, että x kuuluu sallitun joukon X ja noudattaa rajoitteita g_i(x) ≤ 0 ja h_j(x) = 0. Lineaarisessa ohjelmoinnissa tavoitefunktio on lineaarinen c^T x ja rajoitteet muodostuvat esimerkiksi Ax ≤ b sekä x ≥ 0. Monimutkaisemmissa tapauksissa tavoitefunktio voi olla epälineaarinen ja rajoitteet epälineaarisia.

Ratkaisussa käytetään sekä analyyttisia että numeerisia menetelmiä. Analyyttisiä keinoja ovat Lagrangen menetelmä ja Karush-Kuhn-Tucker (KKT) -ehdot, jotka antavat ehdot optimaalisen x:n ja multiplikatoreiden löytämiseksi. Numeerisia menetelmiä ovat gradienttinen laskeutuminen, Newtonin menetelmä ja sen muunnelmat sekä sisäiset pisteet -menetelmät, erityisesti rajoitteisissa ongelmissa. Tavoitefunktion ominaisuudet, kuten konveksisuus ja differentiabiliteetti, vaikuttavat ratkaisun vaikeuteen ja konvergenssiin. Tavoitefunktio kuvaa myös mallin virhettä tai suorituskykyä data-analyysissä, ja siihen voidaan lisätä säännöstelyä (regularisointi) parantaakseen yleistyvyyttä.