optimointialgoritmeissa
Optimointialgoritmit ovat menetelmiä, joiden tarkoituksena on löytää ratkaisu, jossa tavoitefunktio on optimoitu: minimoitu tai maksimoituna, mahdollisten rajoitteiden alaisena.
Ne voidaan luokitella tarkkoihin (exact) ja likimääräisiin (approximate) sekä deterministisiin ja stokastisiin algoritmeihin. Tarkat menetelmät voivat
Esimerkkejä ovat gradienttimenetelmä (gradient descent), Newtonin menetelmä sekä konjugoitujen gradienttien menetelmä, joita käytetään laskennallisesti derivoituvien tavoitteiden
Heuristiset ja metaheuristiset menetelmät kuten simulated annealing, geneettiset algoritmit ja partikkelijoukko-optimointi (PSO) eivät yleensä takaa globaalin
Rajoitteiden huomioon ottaminen on keskeistä. Rajoitetussa optimoinnissa käytetään muun muassa Lagrangen menetelmiä, sisäpuoleisen pisteen menetelmiä ja
Yleisiä haasteita ovat korkea ulottuvuus, epäkonveksisuus, kohina ja epävarmuus sekä mustan laatikon -tyyppiset tavoitteet. Optimointialgoritmeja sovelletaan