Optimizasyon için Buluşsal Yöntemler

Cuma günü olduğu için bir CW sorusunun zamanı geldi. Optimizasyon problemlerinde geniş kullanım alanı olan buluşsal yöntemler arıyorum. Kapsamı daha 'teori dostu' sezgisel tarama ile sınırlamak için, kurallar şunlardır (bazıları keyfi, bazıları değil)

• Çok sayıda parametresiz ve somut bir çalışma süresi olan (belki de yineleme başına) iyi tanımlanmış bir yöntem olmalıdır.
• Kendisiyle ilişkili bilinen bazı teorik sonuçlara sahip olmalıdır (yakınsama oranı, varsa yaklaşık sınırlar, sabit özellikler vb.)
• Geniş uygulanabilirliğe ve seçim yöntemi veya birkaç tanesinden birine sahip en az bir amiral gemisi uygulamasına sahip olmalıdır.
• doğadan ilham almamalı (bu anlamsız bir itiraz gibi görünse de, genetik algoritmaları, karınca kolonisi optimizasyonunu ve benzerini dışlamaya çalışıyorum).

Cevaplar ideal olarak şu formatta olmalıdır: işte bir örnek.

Adı : Alternatif optimizasyon

Hedef : (genellikle dışbükey olmayan) bir işlevi en aza indirme$f(x,y)$

Koşullar : İlişkili işlevler$g(x) = \min_y f(x,y)$ ve $h(y) = \min_x f(x,y)$ dışbükey

Algoritma :$i^{\text{th}}$ yineleme ile başlar $x_i, y_i$.

1. $x_{i+1} \leftarrow \arg \min_x f(x, y_i)$
2. $y_{i+1} \leftarrow \arg\min_y f(x_{i+1}, y)$

En iyi bilinen uygulama :$k$- anlamına gelir, en yakın çift yinelenen.

Teori : tarihinde bilinen sonuçlar$k$-çerçevenin küresel optimallik için genel yeterli koşullar anlamına gelir

ps Cevabınızı planladığım bir algoritma seminerinde ders olarak bulabilirsiniz :)

Ad: yinelenen yeniden ağırlıklandırılmış en küçük kare
Hedef: formun işlevini en aza indirir$\sum w(\theta)F(\theta)^2$, $\theta\in R^n$, $F(\theta) \in R^m$, $w(\theta)\in R$
Koşullar: duruma göre
Algoritma: bariz - ağırlıkları sabitle, ikinci dereceden problemi çöz, ağırlıkları yeniden hesapla
En iyi bilinen uygulama: geometrik medyan, M-tahmin ediciler,$L_p$norm, sıkıştırılmış algılama
Teorisi: vaka bazında kanıtlanmış