kustannusfunktioon
Kustannusfunktio on matemaattinen funktio, joka antaa kustannuksen tai tappion tietystä päätöksestä, tuotoksesta tai mallin arvosta. Se on keskeinen käsite sekä optimoinnissa että tilastollisessa estimoinnissa: sen arvo mittaa, kuinka ”kalliiksi” tietty ratkaisu tai tilanne tulee, ja sitä pyritään usein pienentämään.
Matemaattisesti kustannusfunktio C voidaan määritellä kohdeavaruuden X → R+, missä X on päätösten tai mallin parametrien vektori.
Esimerkkejä kustannusfunktioista ovat: neliöllinen virheriski, jossa C(θ) = sum_i (y_i − f_θ(x_i))^2; absoluuttinen virhe, C(θ) = sum_i |y_i − f_θ(x_i)|;
Käytännössä kustannusfunktiota käytetään minimointiin: etsitään päätös tai parametriarvo, joka tuottaa pienimmän mahdollisen kustannuksen. Tämä kuvaa sen