minimisatie

Minimisatie is het proces waarbij men een gegeven functie f zo kiest dat de waarde ervan zo klein mogelijk wordt. In wiskundige termen zoekt men x in een domein D zodat f(x) minimaleert. D is vaak een verzameling van toegestane waarden, een feasible gebied. Als D de hele ruimte is, spreekt men van unconstrained minimization; anders spreekt men van constrained minimization.

Een minimisatieprobleem bestaat doorgaans uit een doelfunctie en optionele beperkingen. Een minimum bestaat onder bepaalde voorwaarden, zoals continuïteit van de functie en een beperkte, gesloten set voor de variabelen. Bij convexiteit geldt bovendien dat elke lokale minimum ook een globaal minimum is, wat de oplosbaarheid vereenvoudigt.

Oplossingsmethoden kunnen analytisch of numeriek zijn. Analytisch zoekt men door de afgeleiden van f te bestuderen: de gradient op nul en geschikte tweede-ordevoorwaarden bepalen of een punt een minimum is. Numerieke methoden zijn onder meer vectorgradientenmethoden zoals gradient descent en stochastic gradient descent, evenals Newton- en quasi-Newtonmethoden en conjugate gradient. Voor constrained minimisatie worden vaak speciale algoritmen gebruikt, zoals interior-point-methoden en, in lineaire programmeerproblemen, de simplex methode.

Toepassingen komen voor in talloze vakgebieden. In machine learning en statistiek wordt verlies- of negatieve-log-likelihoodfuncties geminimaliseerd. In operations research en engineering gaat het om kosten, gewicht of energie onder gegeven beperkingen. Ingaande praktijken draait minimisatie vaak om de juiste afweging tussen nauwkeurigheid, rekenkosten en haalbaarheid. Minimisatie vormt daarmee een kernconcept binnen optimalisatie.