Optymalizacja

Optymalizacja to dziedzina zajmująca się poszukiwaniem najlepszego możliwego rozwiązania spośród dostępnych opcji według zadanego kryterium. W ujęciu matematycznym polega na znalezieniu wartości zmiennych decyzyjnych, które maksymalizują lub minimalizują funkcję celu f(x) przy spełnieniu zestawu ograniczeń. Optymalizacja ma zastosowania w inżynierii, ekonomii, logistyce, planowaniu produkcji i uczeniu maszynowym.

Podstawowy problem optymalizacyjny ma postać: znaleźć x należący do zbioru dopuszczalnego X taki, że f(x) jest minimalna (lub maksymalna) i spełnione są ograniczenia: g_i(x) ≤ 0 oraz h_j(x) = 0. Zmienne mogą być ciągłe, dyskretne lub mieszane. Rozróżnia się optymalizację liniową (LP), optymalizację nieliniową (NLP), programowanie całkowite (IP) i programowanie mieszane (MI).

Najważniejsze pojęcia to optymalizacja globalna i lokalna, konweksyjność oraz dualność. W kontekście problemów konweksyjnych istnieje gwarancja uzyskania globalnego optimum i wiele efektywnych metod. Warunki KKT (Karush-Kuhn-Tucker) opisują kryteria optymalizacji w problemach z ograniczeniami nierównościowymi. W praktyce stosuje się zarówno metody analityczne, jak i algorytmy numeryczne.

Metody rozwiązania obejmują klasyczne techniki, takie jak metody gradientowe i metody wewnętrznych punktów, a także techniki specjalistyczne dla LP i IP. Do trudniejszych problemów wykorzystuje się dynamiczne programowanie oraz metody heurystyczne i metaheurystyczne, takie jak algorytmy genetyczne, symulowane wyżarzanie i algorytmy ograniczeń.

Zastosowania obejmują zarządzanie zasobami, harmonogramowanie, trasowanie, planowanie produkcji, optymalizację portfela inwestycyjnego, projektowanie systemów oraz tuning hiperparametrów w uczeniu maszynowym. Wyzwania obejmują złożoność obliczeniową, niedokładność danych i konieczność wyboru adekwatnego modelu.