Sayısal optimizasyon yöntemlerini test etme: Rosenbrock ve gerçek test fonksiyonları

Türev olmayan optimize ediciler için iki ana test işlevi türü vardır:

• başlangıç ​​noktaları olan Rosenbrock fonksiyonu ff. gibi tek astarlar
• enterpolatörlü gerçek veri noktası setleri

10d Rosenbrock'u gerçek 10d problemleriyle karşılaştırmak mümkün mü?
Çeşitli şekillerde karşılaştırılabilir: yerel minima'nın yapısını tanımlayın
veya Rosenbrock ve bazı gerçek problemler üzerinde ABC optimize edicileri çalıştırın;
ama her ikisi de zor görünüyor.

(Belki teorisyenler ve deneyciler birbirinden oldukça farklı iki kültür, bu yüzden kimera isterim?)

Ayrıca bakınız:

• scicomp.SE soru: Test algoritmaları / rutinleri için iyi veri setleri / test problemleri nereden elde edilebilir?
• Hooker, "Sezgisel Test: Her Şeye Yanlış Yapıyoruz" korkutuyor: "rekabete verilen vurgu ... bize hangi algoritmaların daha iyi olduğunu, ama neden olmadığını söylüyor."

Örneğin Ackley'de en üst sıra SBPLX'in en iyi ve PRAXIS'in korkunç olduğunu gösteriyor; Schwefel'de, sağ alt panel SBPLX'i 5. rastgele başlangıç ​​noktasında minimum bulduğunu gösterir.

Genel olarak, BOBYQA en iyi 1, 5 PRAXIS ve 13 test fonksiyonunun 7'sinde SBPLX (~ yeniden başlatma ile Nelder-Mead), Powersum a tossup ile. YMMV! Johnson özellikle şöyle diyor: "Global optimizasyonda fonksiyon değeri (ftol) veya parametre toleransları (xtol) kullanmamanızı tavsiye ederim."

Sonuç: tüm paranızı bir ata veya tek bir test fonksiyonuna koymayın.

Rosenbrock gibi basit işlevler yeni yazılan algoritmaları hata ayıklamak ve ön test etmek için kullanılır: Uygulanması ve yürütülmesi hızlıdır ve standart sorunları iyi çözemeyen bir yöntemin gerçek yaşam problemleri üzerinde iyi çalışması olası değildir.

Pahalı işlevler için türev içermeyen yöntemlerin yakın zamanda kapsamlı bir karşılaştırması için bkz. Türevsiz optimizasyon: Algoritmaların gözden geçirilmesi ve yazılım uygulamalarının karşılaştırılması . LM Rios, NV Sahinidis - doi 10.1007 / s10898-012-9951-y Küresel Optimizasyon Dergisi, 2012. (Ayrıca bkz. Ekteki web sayfası: http://archimedes.cheme.cmu.edu/?q=dfocomp )

Rosenbrock işlevi gibi sentetik test vakalarının avantajı, karşılaştırılacak mevcut literatürün mevcut olması ve toplumda bu test senaryolarında iyi yöntemlerin nasıl davrandığına dair bir his olmasıdır. Herkes kendi test çantasını kullansaydı, hangi yöntemlerin işe yarayıp yaramadığı konusunda fikir birliğine varmak çok daha zor olurdu.

(Umarım bu tartışmanın sonuna doğru yaptığım bir itiraz yoktur. Burada yeniyim, bu yüzden lütfen geçtiysem bana bildirin!)

Evrimsel algoritmalar için test fonksiyonları şimdi (en son) 2015 Evrimsel Hesaplama Kongresi gibi konferanslarda yarışmalarda kullanılan süitler tarafından görülebileceği gibi, 2 veya 3 yıl önce olduğundan çok daha karmaşıktır. Görmek:

http://www.cec2015.org/

Bu test paketleri artık değişkenler arasında birkaç doğrusal olmayan etkileşime sahip işlevleri içermektedir. Değişken sayısı 1000 kadar büyük olabilir ve sanırım bu yakın gelecekte artabilir.

Bir diğer son yenilik de "Kara Kutu Optimizasyon Yarışması" dır. Bkz. Http://bbcomp.ini.rub.de/

Bir algoritma x (x) değerini f (x) değerini sorgulayabilir, ancak gradyan bilgisi elde etmez ve özellikle objektif fonksiyonun analitik formu üzerinde herhangi bir varsayım yapamaz.

Bir anlamda, bu, “gerçek sorun” olarak adlandırdığınız şeye daha yakın olabilir, ancak organize, nesnel bir ortamda olabilir.

Her iki dünyanın da en iyisini elde edebilirsiniz. NIST, bu 10. derecedeki polinomu , beklenen sonuçlar ve belirsizlikler ile uydurmak gibi, minimize ediciler için bir takım sorunlara sahiptir . Tabii ki, bu değerlerin gerçek en iyi çözüm olduğunu ya da diğer yerel minimaların varlığını ve özelliklerini kontrol eden bir matematiksel ifadeden daha zordur.