Nlm () işlevindeki kod değişkeni

R'de Newton-Raphson algoritmasını kullanarak f işlevinin minimize edilmesini sağlayan bir nlm () işlevi vardır . Özellikle, bu işlev aşağıdaki gibi tanımlanan değişken kodunun değerini verir:

optimizasyon işleminin neden sonlandığını gösteren bir tamsayı kodlayın.

1: göreceli gradyan sıfıra yakın, mevcut yineleme muhtemelen çözümdür.

2: tolerans dahilinde art arda yinelenir, mevcut yineleme muhtemelen çözümdür.

3: son küresel adım tahminlerden daha düşük bir nokta bulamadı. Her iki tahmin de işlevin yaklaşık yerel minimumudur veya steptol çok küçüktür.

4: yineleme sınırı aşıldı.

5: maksimum adım boyutu stepmax art arda beş kez aşıldı. İşlev aşağıda sınırlandırılmamıştır, bir yönde yukarıdan sonlu bir değere asimptotik hale gelir veya stepmax çok küçüktür.

Birisi bana 1-5 arasındaki durumları açıklayabilir (belki sadece bir değişkenli basit bir örnek kullanarak)?

Örneğin, durum 1 aşağıdaki resme karşılık gelebilir:

Şimdiden teşekkür ederim!

Bu durumlar, minimizasyon veya maksimizasyonun gerçekte ne olduğunu ve optimizasyonun nasıl çalıştığını göz önünde bulundurduğunda daha net bir şekilde anlaşılır.

Diyelim ki fonksiyonumuz var $f$ yerel asgari $x_0$. Optimizasyon yöntemleri diziyi oluşturmaya çalışır$x_i$ yakınsama $x_0$. Teoride, oluşturulan dizinin bazı fonksiyon sınıfları için yerel minimum noktaya yakınlaştığı her zaman gösterilmiştir.$f$.

Yinelemede bir sonraki adayı edinmek için $i$uzun bir süreç olabilir, bu nedenle tüm algoritmaların yineleme sayısını sınırlaması normaldir. Bu durum 4'e karşılık gelir .

Sonra her biri için $x$ yakın $x_0$ bizde var $f(x)>f(x_0)$. Yani eğer$f(x_i)>f(x_{i-1})$bu minimum seviyeye ulaştığımızın bir göstergesidir. Bu durum 3'e karşılık gelir

Şimdi eğer fonksiyon $f$ türevi var $x_0$ o zaman mutlaka $\nabla f(x_0)=0$. Newton-Raphson yöntemi her adımda gradyanı hesaplar;$\nabla f(x_i)\approx 0$, $x_i$muhtemelen 1. duruma karşılık gelen bir çözümdür .

Gerçek vektörlerin her bir yakınsak dizisi Cauchy dizisidir ve tersi, kabaca $x_i$ yakın $x_0$, sonra $x_i$ yakın $x_{i+1}$ ve tam tersi, burada $i$yineleme sayısıdır. Yani eğer$|x_i-x_{i-1}|<\varepsilon$ve biliyoruz ki teoride $x_i$ yakınsar $x_0$, o zaman minimum noktaya yakın olmalıyız. Bu durum 2'ye karşılık gelir .

Yakınsanan diziler büzülme özelliğine sahiptir, yani yakınsamaya yakın olursak dizinin geri kalan tüm elemanları küçük alanda bulunur. Teoride birleşmesi gereken dizi büyük adımlar atmaya başlarsa, bu muhtemelen bir yakınsama olmadığını gösterir. Bu durum 5'e karşılık gelir

Not Sıkı matematiksel tanımlar kasıtlı olarak dışarıda bırakılmıştır.