Stokastik bilgisayar modellerinin optimizasyonu

Bu benim için zor bir konudur çünkü bir aramada optimizasyon ve stokastik kelimelere sahip olmak neredeyse otomatik olarak stokastik optimizasyon aramalarını varsayılan hale getirir. Ama gerçekten bilmek istediğim, bilgisayar modeli çıktısı stokastik, yani deterministik olmadığında bilgisayar modellerinin optimizasyonu için hangi yöntemler var?

Örneğin, bilgisayar modelinin çıktısını temsil eden bazı bilinmeyen işlevinin bulunduğu bir bilgisayar modelini göz önünde bulundurursanız , aşağıdaki gibi problemleri çözmek için birçok istatistiksel yöntem vardır.$f(x)$

$$\begin{align*} \min&\,\,\,\, f(x)\\ x&\in\mathcal{X} \end{align*}$$

zaman $f(x)$ deterministik. Fakat $f(x)$ stokastik olduğunda ne olur ? Soruna bir çözüm var mı, yoksa en iyi ihtimalle sadece çözebiliriz

$$\begin{align*} \min&\,\,\,\, \mathbb{E}[f(x)]\\ x&\in\mathcal{X} \end{align*}$$

burada $\mathbb{E}(\cdot)$ olağan beklenti operatörüdür.

( Yorumumu doğru cevaba genişletiyorum. )

Bahsettiğim gibi, bu sizin hedefinize bağlıdır.

Beklenen değer , optimizasyon hedefi için olası birçok seçenekten yalnızca biridir. Örneğin, öğesinin normal olarak dağıtıldığı varsayılarak şunları yapabilirsiniz:$\mathbb{E}[f(x)]$$f(x)$

$$x^\text{opt} = \arg \min_x \left\{ \mathbb{E}[f(x)] + \kappa \sqrt{\mathbb{Var}[f(x)]} \right\}$$ için risk duyarlılığını manipüle eden bazı . Eğer Bir Aradığınız sağlam iyi ve zorlaştırır, büyük pozitif dalgalanmalar olması muhtemeldir çözümü. Bunun tersine, bir negatif , büyük negatif dalgalanmalar arayan "iyimser" bir optimizasyondan yana olacaktır (negatif, en aza indirdiğimiz için iyidir). Kappa'yı normal dağılımın miktarlarına göre seçebilirsiniz (aşağıdaki referans 2'ye bakın).$\kappa \in \mathbb{R}$$\kappa > 0$$\kappa$$\kappa$

Genel olarak, Bayes optimizasyonu (Gauss süreçleri ve kriging ile ilgili BO ), maliyetli ve bazen gürültülü fonksiyon değerlendirmeleri ile ilgilenir; her ne kadar literatürün odak noktası eski kısımda olsa da. Bu soruda Bayesian optimizasyonu için yorumları bulabilirsiniz .

Birçok kişi gürültülü fonksiyonlara BO uyguladı. Konuya bir introdution olarak, David Ginsbourger Küresel Optimizasyon için Gauss Süreçleri Çalıştayı'nda (Beklenen İyileşme Üzerine Varyasyonlar) başlıklı güzel bir konuşma yaptı (Sheffield, 17 Eylül 2015). Konuşmasını burada bulabilirsiniz ve tüm görüşmeler bu sayfada mevcuttur (Ayrıca diğer tüm görüşmeleri BO'ya mükemmel bir genel giriş olarak tavsiye ederim.)

Referans olarak Ginsbourger ve meslektaşları, Gramacy ve meslektaşları tarafından yapılan çalışmalarla başlayacağım:

1. Picheny, V. ve Ginsbourger, D., 2014. "Gürültülü kriging tabanlı optimizasyon yöntemleri: DiceOptim paketi içinde birleşik bir uygulama". Hesaplamalı İstatistik ve Veri Analizi , 71, s.1035-1053. ( bağlantı )

2. Picheny, V., Ginsbourger, D., Richet, Y. ve Caplin, G., 2013. "Ayarlanabilir hassasiyetle gürültülü bilgisayar deneylerinin kantil tabanlı optimizasyonu". Technometrics , 55 (1), s. 2-13. ( bağlantı )

3. Gramacy, RB ve Lee, HK, 2012. "Bayesian treed Gauss süreç modelleri bilgisayar modelleme uygulaması ile". Amerikan İstatistik Derneği Dergisi . ( bağlantı )

4. Gramacy, RB ve Apley, DW, 2015. "Büyük bilgisayar deneyleri için yerel Gauss işlemi yaklaşımı". Hesaplamalı ve Grafik İstatistik Dergisi , 24 (2), s.561-578. ( bağlantı )

Hem Ginsburger hem de Gramacy, sırasıyla DiceOptim ve tgp olmak üzere BO yöntemlerini uygulayan R paketlerine sahiptir .

Mevcut cevaplar stokastik bir optimizasyon hedefinin doğru (matematiksel) tanımına odaklanıyor - Biraz daha uygulamalı bir bakış açısı sağlamak istiyorum.

Bu sorun, örneğin gayri resmi veya sentetik olasılıklar gibi stokastik modeller takılırken sıklıkla görülür. Referans (1), stokastik bir model ile veri arasındaki mesafeyi tanımlamak için kullanılabilecek seçeneklerin bir listesini sağlar.

Hedefinizi bu şekilde tanımladıktan sonra, geriye kalan sorun, gürültülü bir hedefin ortalamasının optimumunu bulmaktır. Gidilecek iki yol vardır, a) optimizasyon ve b) MCMC örneklemesi. Özellikle optimizasyon hakkında soruyordunuz, ancak MCMC'leri getirmek istiyorum, çünkü genellikle bu görev için daha iyi davranıyorlar.

a) Optimizasyona devam ederseniz, takılmadığınızdan ve optimize edicinin stokastik bir hedefle başa çıkabildiğinden emin olmanız gerekir. Matteo Fasiolo'nun doktora tezindeki 4. Bölüm bazı ipuçları veriyor, bkz. (2).

b) (1) 'de belirttiğimiz gibi, MCMC'ler genellikle stokastik bir hedefe karşı daha sağlamdır - gürültünün dağılımı ile ilgili ılımlı koşullar altında, MCMC gürültüyü ortalar ve örneklenen hedef gürültülü olmayanlardan ayırt edilemez gürültülü hedefin ortalaması olan hedef. Ancak, MCMC'ler de özellikle iyi bir değerlendirme ile karşılaştıklarında takılabilirler. Şimdi YAPMAMANIZ gereken şu "açık" fikri almaktır: sadece her MCMC yinelemesinde hem mevcut hem de önerilen değeri hesaplayın. Buraya bakmak için anahtar kelime "sözde marjinal" dir, ayrıca buraya ve buraya bakınız .

1) Hartig, F .; Calabrese, JM; Reineking, B .; Wiegand, T. & Huth, A. (2011) Stokastik simülasyon modelleri için istatistiksel çıkarım - teori ve uygulama . EcoL. Lett., 14,816-827.

2) Fasiolo, M. (2016) Karmaşık Nüfus Dinamiği için İstatistiksel Yöntemler . Bath Üniversitesi

Diyelim ki ayrı bir olasılık uzayındayız, böylece . Sezgisel olarak, optimize edebilmeniz için bazı fonksiyonuna ihtiyacınız vardır . Yalnızca tek bir hedefi optimize edebilirsiniz!$f(x) \in \mathcal{R}^n$$U: \mathcal{R}^n \rightarrow \mathcal{R}$$U(f(x))$

Tek bir objektif fonksiyonunun optimizasyonu oldukça kısıtlayıcı gelebilir , ama değil ! Daha ziyade, tek bir hedef, daha iyi veya daha kötü bir çözümün ne olduğu konusunda inanılmaz derecede farklı tercihleri ​​temsil edebilir.

İleri atlamak için, başlamak için basit bir yer rastgele bir değişken seçip :$\lambda$

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{minimize (over $x$)} & E\left[\lambda f(x) \right] \\ \mbox{subject to} & x \in X \end{array}$$ Bu, öğesinin basit bir doğrusal yeniden ağırlıklandırmasıdır . Her neyse, işte birden fazla hedefi tek bir hedefe daraltmanın tipik bir nedeni var.$E[f(x)]$

Temel kurulum:

• Bir seçim değişkeni ve uygun bir kümeniz var .$x$$X$
• seçiminiz rastgele bir sonuç verir$x$$\tilde{y} = f(x)$
• You have rasyonel tercihleri rastgele sonucuyla ilgili. (Temel olarak, rastgele bir sonucu diğerine tercih edip etmediğinizi söyleyebilirsiniz .)$\prec$$\tilde{y}$

Sorununuz i seçmektir :$x^*\in X$

$$\nexists_{x \in X} \quad f(x^*) \prec f(x)$$ İngilizce'de, seçeneğini seçmek istersiniz, böylece hiçbir seçeneği için tercih edilen bir sonuca yol .$x^*$$x$$f(x^*)$

Fayda maksimizasyonu ile eşdeğerlik (belirli teknik koşullar altında)

Teknik basitlik için, sonucu olan ayrık bir olasılık alanında olduğumuzu söyleyeceğim, böylece vektörü ile rastgele sonucu temsil edebilirim .$n$$\tilde{y}$$\mathbf{y} \in \mathcal{R}^n$

Belirli teknik koşullar altında (pratik anlamda sınırlayıcı değildir), yukarıdaki sorun bir faydalı fonksiyon maksimuma çıkarmaya eşdeğerdir . (Fayda fonksiyonu daha fazla tercih edilen sonucu daha yüksek bir sayıya atar.)$U(\mathbf{y})$

Bu mantık, seçiminizin birden çok sonuç değişkenine yol açtığı herhangi bir sorun için geçerlidir.

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & U(f(x)) \\ \mbox{subject to} & x \in X \end{array}$$

Fayda fonksiyonuna daha fazla yapı verilmesi : Beklenen Fayda hipotezi:$U$

Olasılıksal bir ortamdaysak ve Neumann-Morgernstern aksiyomlarını kabul edersek , genel fayda fonksiyonu özel bir form almalıdır:$U$

$$U(\mathbf{y}) = E[u(y_i)] = \sum_i p_i u(y_i)$$ Burada , ve durumunun olasılığı içbükey bir yardımcı program işlevidir. Eğriliği riskten kaçınma ölçer. Sadece bu özel formunu değiştirerek elde edersiniz:$p_i$$i$$u$$u$$U$

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & \sum_i p_i u(y_i) \\ \mbox{subject to} & x \in X \\ & \mathbf{y} = f(x) \end{array}$$

Basit beklenen değeri en üst düzeye çıkardığını (yani riskten kaçınma yok).$u(y_i) = y_i$

Başka bir yaklaşım: ağırlıkları$\lambda$

Yapılacak başka bir şey:

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & \sum_i \lambda_i y_i \\ \mbox{subject to} & x \in X \\ & \mathbf{y} = f(x) \end{array}$$

Sezgisel, sen ağırlıkları seçebilir olasılığı daha büyük veya daha küçük olan bir devlet meydana gelen ve bir devletin bu yakalar önemi.$\lambda_i$$p_i$

Bu yaklaşımın daha derin gerekçesi, belirli teknik koşullar altında , yukarıdaki sorun ve daha önceki sorunların (örn. maksimize edilmesi) aynı çözüme sahip olacak şekilde lambda ağırlıkları olmasıdır .$\boldsymbol{\lambda}$$U(f(x))$