nonconvexoptimoinnin

Nonconvex optimointi tarkoittaa optimoimisongelmia, joissa tavoitefunktio tai sallitut ratkaisut ovat epäkonveksia. Tällaisilla ongelmilla voi olla useita paikallisia minimejä, eikä globaalin minimin löytäminen ole yleisesti varmaa eikä aina helposti saavutettavissa. Epäkonveksisuus voi johtua sekä epäkonveksista tavoitteesta että epäkonveksista sallitusta ratkaisuväestä.

Monet ei-konveksit ongelmat ovat kynnyskysymyksiä sekä teoreettisesti että käytännössä, ja niiden ratkaiseminen nähdään usein NP-kovana. Tämä johtaa tarpeeseen erilaisiin heuristiikkoihin, varovaisiin lähestymistapoihin ja problemakohtaisiin rakenteisiin tukeutuviin menetelmiin.

Menetelmät jakautuvat paikallisiin hakuihin ja globaalin optimin tavoitteluun. Paikalliset hakumenetelmät, kuten gradienttinen lasku (gradient descent), Newtonin menetelmä sekä luottamuspäätöksiin (trust-region) perustuvat menetelmät, voivat löytää paikallisia minimejä nopeasti. Globaalin minimiratkaisun edistämiseksi käytetään monistusta (multistart), satunnaisia aloituspisteitä, simuloitua annealingia, geneettisiä algoritmeja sekä hiukkasparvioptimointia. Convex-relaxaatioita varten käytetään semidefinite-ohjelmointia (SDP) ja sum-of-squares (SOS) -relaxaatioita. Rinnakkaisina lähestymistapoina sovelletaan branch-and-bound-tyylejä ja rooliin DC-ohjelmoinnissa (erotus konveksien funktioiden välillä), majorization-minimization-tekniikoita sekä alternating minimizationia ja blokkikohtaista laskentaa.

Sovelluksissa nonconvex optimointi on keskeistä koneoppimisessa, signaalinkäsittelyssä, ohjauksessa ja taloudellisissa optimoinneissa. Haasteina ovat epävarmuus, herkkyys aloituspisteelle ja mahdolliset karikkoiset maisemat sekä saddle-pisteiden vaikutus konvergenssiin. Teoreettisesti tutkimetta on landscapes-lähestymistavoissa, joissa selvitetään, millaiset rakenteet estävät pahimpia ei-toivottuja paikallisia minimoja.