İyi bir Gibbs örnekleme dersi ve referansları

Gibbs Sampling'in nasıl çalıştığını öğrenmek istiyorum ve ara ödev için iyi bir temel arıyorum. Bilgisayar bilimi geçmişim ve temel istatistik bilgim var.

Etrafında iyi bir şeyler okuyan var mı? nereden öğrendin?

Teşekkürler

Şununla başlardım:

Casella, George; George, Edward I. (1992). " Gibbs örnekleyicisini açıklama ". Amerikan İstatistiği 46 (3): 167-174. ( ÜCRETSİZ PDF )

Özet : Gibbs örnekleyici gibi bilgisayar yoğun algoritmalar hem uygulamalı hem de teorik çalışmalarda giderek daha popüler istatistiksel araçlar haline gelmiştir. Bununla birlikte, bu tür algoritmaların özellikleri bazen açık olmayabilir. Burada Gibbs örnekleyicisinin nasıl ve neden çalıştığı hakkında basit bir açıklama yapacağız. Özelliklerini analitik olarak basit bir durumda oluşturuyoruz ve daha karmaşık durumlar için içgörü sağlıyoruz. Ayrıca birkaç örnek var.

Amerikan İstatistiği , konuyla ilgili önceden bilgi almayan kısa (ish) tanıtım makaleleri için iyi bir kaynaktır, ancak Amerikalı bir üyeden makul bir şekilde beklenebilecek olasılık ve istatistikte geçmişiniz olduğunu varsayıyorlar. İstatistiksel Derneği .

Gibbs Sampling'i anlamama gerçekten yardımcı olan çevrimiçi bir makale, Gregor Heinrich tarafından yazılmış metin analizi için Parametre tahminidir. Genel bir Gibbs örnekleme dersi değildir, ancak belge modellemesi için oldukça popüler bir Bayesian modeli olan gizli dirichlet tahsisi açısından tartışır. Matematiğe adil detaylarla giriyor.

Daha da ayrıntılı bir matematiksel ayrıntıya giren şey, İnisiyatifsiz Gibbs Sampling'dir . Ve çok değişkenli bir matematik hesapladığınızı ve sonra o noktadan itibaren her adımı attığınızı varsaydığı için yorucu demek istiyorum. Yani çok fazla matematik varken, hiçbiri ilerlemiyor.

Bunların sizin için daha faydalı olacağını sanıyorum, örneğin Gibbs örneklemesinin neden doğru dağılıma neden olduğunu kanıtlayanlar gibi daha gelişmiş sonuçlar ortaya çıkaran bir şey. İşaret ettiğim referanslar bunu kanıtlamaz.

Bilimsel Hesaplamada Monte Carlo Stratejileri kitabı mükemmel bir kaynaktır. Her şeyi matematiksel olarak titiz bir şekilde ele alır, ancak sizi ilgilendirmeyen matematik bölümlerini kolayca atlayabilir ve yine de tonlarca pratik tavsiye alabilirsiniz. Özellikle, Metropolis-Hastings ve Gibbs örneklemesini birbirine bağlamak çok önemlidir. Çoğu uygulamada, Gibbs örneklemesini kullanarak bir posterior dağılımdan çizim yapmanız gerekir ve bu nedenle genel olarak Metropolis mantığına nasıl uyduğunu bilmek faydalı olur.