Algoritmaların Hesaplama Çabaları

Kesinlikle dışbükey kısıtsız optimizasyon problemini düşününX_ \ text {opt} ' un benzersiz minimasını göstermesine izin verin ve x_0 , x_ \ text {opt}' a verilen bir başlangıç ​​yaklaşımı olsun. Biz bir vektör arayacak x bir \ epsilon yakın çözüm \ mathcal {O} eğer \ begin {denklem} \ frac {|| x - x _ {\ text {opt}} || _2} {|| x_0 - x_ \ metin {opt} || _2} \ leq \ epsilon. \ ucu {denklem}$\mathcal{O} := \min_{x \in \mathbb{R}^n} f(x).$$x_\text{opt}$$x_0$$x_\text{opt}.$$x$$\epsilon-$$\mathcal{O}$

Aşağıdaki özelliklere sahip \ mathcal {O} \ epsilon- close çözümünü bulmak için $\mathcal{A}_1$ ve $\mathcal{A}_2$ üzere iki yinelemeli algoritma olduğunu varsayın :$\epsilon-$$\mathcal{O}$

1. Herhangi biri için $\epsilon > 0,$ toplam hesaplama gücünde örneğin, kusursuz yineleme başına gerekli $\times$ yineleme sayısı, bir bulmak $\epsilon-$ yakın çözüm, her iki algoritma için aynıdır.
2. Yineleme çaba başına için $\mathcal{A}_1$ olan $O(n),$ bu ise, diyelim ki $\mathcal{A}_2$ olan $O(n^2).$

Bir algoritmanın diğerine göre tercih edileceği durumlar var mı? Neden?

Yinelemeler arasında paralelleyen bir yinelemeli algoritmanın paralel bir versiyonunu uygulamak imkansız olmasa da genellikle çok zordur. Bir yinelemenin tamamlanması doğal bir sıralama noktasıdır. Bir algoritma daha az yineleme gerektiriyor, ancak yineleme başına daha fazla çalışma gerektiriyorsa, bu algoritmanın paralel olarak etkili bir şekilde uygulanması daha olasıdır.

Bunun bir örneği, primal-çift bariyer (iç nokta) yönteminin çok büyük problemler için bile sadece birkaç düzine yinelemeyi kullandığı doğrusal programlamadır, ancak yineleme başına çalışma oldukça kapsamlıdır. Karşılaştırıldığında, simpleks yönteminin çeşitli versiyonları tipik olarak çok daha fazla yineleme gerektirir, ancak yineleme başına çalışma daha azdır. Uygulamada, iç nokta yöntemlerinin paralel uygulamaları, simpleks yönteminin paralel uygulamalarından çok daha iyi paralel verimlilik göstermiştir.

Bazı olasılıkları düşünebilirim:

Her iki algoritma da her yinelemede hatayı monoton bir şekilde azaltırsa, yinelemenin ne zaman durdurulacağı konusunda size daha fazla seçenek verdiği için bazılarının daha fazla, daha ucuz yinelemelere sahip olması tercih edilebilir.

Eğer olan çalışma ve zaman ama bellek, tercih olabilir eğer büyüktür. , seçmenizi sağlayacak kadar büyük olabilir, çünkü bellek kullanımının sizi burada kısıtlama olasılığı daha yüksektir.$\mathcal{A}_1$$O(n)$$O(n^k)$$\mathcal{A}_2$$k$$k=2$$\mathcal{A}_2$

Bu, optimizasyondan veya başka bir yinelemeli sorun sınıfından bahsediyor olsak da muhtemelen geçerlidir.