minimalizacji

Minimalizacja to proces znajdowania najmniejszej wartości funkcji celu w zadanych warunkach. Celem jest zwykle zminimalizowanie kosztu, energii, błędów lub ryzyka, przy zachowaniu ograniczeń opisujących realne możliwości systemu. W praktyce problem minimalizacji nazywany jest również problemem optymalizacji.

Różni się on przede wszystkim od maksymalizacji: zamiast maksymalować wartość funkcji, dąży się do jej minimalizacji. Problemy mogą być bez ograniczeń (szukanie globalnego lub lokalnego minimum funkcji f(x) na przestrzeni x) lub ograniczone (gdzie oprócz funkcji celu występują ograniczenia postaci g_i(x) ≤ 0 oraz h_j(x) = 0). W ograniczonych problemach często stosuje się warunki KKT (Karush-Kuhn-Tucker) oraz koncepcję dualności.

Metody analityczne obejmują wyznaczanie punktów stacjonarnych, gdzie gradient f(x) = 0, oraz ocenę drugiego rzędu (np. macierz Hessiana) w celu odróżnienia minimów od maksimów. W problemach wypukłych każdy punkt stacjonarny jest globalnym minimum; koercyjność funkcji zapewnia istnienie minimum dla problemów ograniczonych.

Metody numeryczne to techniki heurystyczne i precyzyjne, wykorzystywane w praktyce przy dużych i skomplikowanych problemach. Do popularnych należą spadek gradientu, Newton i quasi-Newton (np. BFGS), koniugacki gradient, metody wewnętrzne w programowaniu nieliniowym oraz algorytmy losowe (np. symulowane wyżarzanie, algorytmy genetyczne).

Zastosowania minimalizacji obecne są w ekonomii, logistyce, inżynierii, naukach danych i uczeniu maszynowym, gdzie często celem jest minimalizacja funkcji strat lub kosztów przy akceptowalnych ograniczeniach.

Historia minimalizacji łączy się z rachunkiem różniczkowym i rachunkiem wariacyjnym, a jej rozwój w XX wieku znacząco wpłynął na rozwój optymalizacji i metod numerycznych.