"Tam Bayesli" ve "Bayesli"

20

Bayesci istatistikleri öğreniyorum ve sık sık makalelerde okudum

"Bayesci bir yaklaşımı benimsiyoruz"

Veya benzeri. Ayrıca, daha az sıklıkla fark ettim:

" tamamen Bayesci bir yaklaşım benimsiyoruz"

(benim vurgu). Bu yaklaşımlar arasında herhangi bir pratik veya teorik anlamda bir fark var mı? FWIW, MCMCglmmilgili olması halinde R'deki paketi kullanıyorum .

bayesian

— Joe King
kaynak

6

"Tamamen Bayesci" nin titiz bir anlamı olduğunu düşünmüyorum.

— Stéphane Laurent

4

@Stephane Tamamen Bayesci'nin Bayesci ile tamamen aynı olduğundan eminim ama sıfat tamamen ampirik Bayes olmadığını vurgulamak için kullanılıyor.

— Michael R. Chernick

1

@Michael bu mantıklı ama hala anlamın evrensel olmadığını düşünüyorum ve sorunun birkaç farklı cevabı tarafından onaylanmış gibi görünüyor. Bazı insanların bilgi vermeyen değil, öznel bir öncekiler kullandıklarını söylemek için "tamamen bayesci" dediğine şaşırmam. Başka bir olası durum, insanların "Bayesci-frekansçı öngörücü dağılımı" kullandıktan sonra tamamen Bayesci bir yaklaşıma geçmesidir.

— Stéphane Laurent

@Stephane Kararını kabul ediyorum. Bence Bayesci istatistiklerde benden daha çok çalışıyorsunuz ve muhtemelen insanların terimi çeşitli şekillerde kullandıklarını duymuşsunuzdur. En azından cevabım sinsi ve kısmen doğru.

— Michael R. Chernick

@MichaelChernick evet, cevabınız gerçek bir Bayesci yaklaşıma karşı sahte bir Bayesci yaklaşımın bir örneğidir, ancak başka durumlar da vardır

— Stéphane Laurent

19

"Tamamen Bayesci yaklaşım" terminolojisi , bağlama göre "kısmen" Bayesci bir yaklaşımdan "gerçek" Bayesci bir yaklaşıma geçtiğini göstermenin bir yoludur. Veya "sözde-Bayesci" bir yaklaşımı "kesinlikle" Bayesci bir yaklaşımdan ayırt etmek.

Örneğin bir yazar şöyle yazıyor: "RVM için genellikle Ampirik Bayes yaklaşımı kullanan ilgilenen diğer yazarların çoğundan farklı olarak , ampirik Bayes yaklaşımı" sözde Bayesci "bir yaklaşım olduğu için tamamen Bayesci bir yaklaşım benimsiyoruz. Bayes-frekansçı öngörücü dağılım (kantilleri frekansçı tahmin aralıklarının sınırları ile eşleşen bir dağılım) gibi başka sahte-Bayesci yaklaşımlar da vardır.

Gelen bu sayfayı Bayes çıkarsama için çeşitli Ar paketleri sunulmaktadır. MCMCglmm "tamamen Bayesci bir yaklaşım" olarak sunulur, çünkü kullanıcı diğer dağıtımların aksine önceki dağıtımı seçmelidir.

"Tamamen Bayesci" nin bir başka olası anlamı , Bayesci karar teorisi çerçevesinden türetilmiş bir Bayesci çıkarım gerçekleştirdiğinde, yani bir kayıp fonksiyonundan türetildiği zaman, Bayesci karar teorisi Bayesci çıkarım için sağlam bir temel çerçevedir.

— Stéphane Laurent
kaynak

Bunun için teşekkür ederim. teşekkür ederim, bu yüzden paket MCMCglmm"Tam Bayesian" olmak tahminleri türetmek için MCMC kullanarak hiçbir ilgisi yoktur ve ben posterior analitik olarak bulunabileceği önceki belirtmek zorunda kalırsanız yine de tamamen Bayesian olurdu? Sorum anlamsızsa özür dilerim - ben hala acemiyim ama öğrenmeye çalışıyorum!

— Joe King

1

MCMC sadece Bayesci istatistiklerde posterior dağılımları simüle etmek için yararlı bir tekniktir. Ancak Bayesci yaklaşımın kendisiyle hiçbir ilgisi yoktur.

— Stéphane Laurent

13

Terminolojinin Bayes yaklaşımı ile ampirik Bayes yaklaşımı arasında ayrım yapmak için kullanıldığını düşünüyorum. Tam Bayes önceden belirlenmiş bir yöntem kullanırken ampirik Bayes, öncekinin veri kullanılarak tahmin edilmesini sağlar.

— Michael R. Chernick
kaynak

Teşekkür ederim ! Burada ve orada "ampirik Bayes" i de gördüm, ama okuduğum şeylerde asla ne anlama geldiğini ciddi bir şekilde düşünmem gereken noktaya kadar yükselmedi. Sadece "maksimum marjinal olabilirlik" ve "hiyerarşik bir Bayes modelinin tamamen Bayesci tedavisine bir yaklaşım" olarak da bilinen wikipedia sayfasına baktım . Hmmm, dürüst olmak gerekirse, o sayfada ne olduğunu çok fazla anlamıyorum :(

— Joe King

@JoeKing Ampirik Bayes yöntemlerinin birçok ilginç ve önemli kullanımı vardır. Fikir 1960'larda Herbert Robbins'e geri dönüyor. 1970'lerde Efron ve Morris, çok değişkenli normal ortalama ve diğer benzer büzülme tahmin edicilerinin James-Stein tahmincisinin ampirik Bayes olduğunu gösterdi. Büyük Ölçekli Çıkarım ile ilgili yeni kitabında Brad Efron, ampirik Bayes yöntemlerinin bazen küçük n büyük p olarak adlandırılan problemler için nasıl kullanılabileceğini göstermektedir, çünkü birçok hipotez parametreler üzerinde nispeten küçük örnek boyutları ile test edilmiştir (yani p çok daha büyük olabilir ). Bu mikrodizilerle ortaya çıkıyor.

— Michael R. Chernick

1

Tekrar teşekkürler. İtiraf etmeliyim ki, az önce yazdıklarınızı anlamıyorum ama bu konuda daha fazla çalışma için başlangıç noktam olarak kullanacağım.

— Joe King

9

"Bayesian" gerçekten "yaklaşık Bayes" anlamına gelir.

"Tamamen Bayesci" aynı zamanda "yaklaşık Bayesci" anlamına gelir, ancak daha az yaklaşıma sahiptir.

Düzenleme : Açıklama.

Tamamen Bayesci yaklaşım, belirli bir model ve veriler için Bayes kuralı kullanarak arka olasılığı hesaplamak olacaktır.

p (θ ∣ Data) \propto p (Data ∣ θ) p (θ) .

$p(\theta \mid \text{Data}) \propto p(\text{Data} \mid \theta)p(\theta) \>.$

θ

$\theta$

— Arek Paterek
kaynak

Teşekkür ederim. Burada kullandığım MCMCglmmpaketin Tamamen Bayesci olduğunu okudum . Bunun nedeni MCMC'yi parametreler için bir öncekiyle birlikte kullanması mı?

— Joe King

@Arek Gerçekten ikna olmadım. Standart bir eşlenik kullandığım zaman Bayesian'ım? Ve neden bir nokta tahmininin arka simülasyonlardan daha az "doğru" olduğunu iddia ediyorsunuz?

— Stéphane Laurent

1

@ StéphaneLaurent Nokta tahmininin her zaman daha az doğru olduğunu iddia etmiyorum. Dünün cevabımın yorumları nerede?

— Arek Paterek

1

@ArekPaterek Kısa cevabınız bir şaka gibi göründüğünden, düzeltilmiş cevabınız için geçerli olmayan yorumlar revize edilen cevap için geçerli değildir. Benim tahminim bir moderatörün onları kaldırmasıdır. Hala tam Bayesian yaklaşık arama şaşırtıcı.

— Michael R. Chernick

1

Belki de silinmemiş ilk yorumum net değildi. Arek'in cevabı doğru olsaydı, o zaman tam posterior dağılıma (mümkünse basit bir eşlenik durum gibi) mümkün olduğunda durumu nasıl çağırmalıyız? "Tamamen fazla" Bayesci bir yaklaşım?

— Stéphane Laurent

8

"Tamamen Bayesci" yi, herhangi bir nükleer parametrenin optimize edilmektense analizden ötekileştirildiği anlamına gelirdi (örn. MAP tahminleri). Örneğin, marjinal olasılığını en üst düzeye çıkarmak için ayarlanmış hiper parametrelere sahip bir Gauss işlem modeli Bayesci olur, ancak sadece kısmen öyle olurken, kovaryans fonksiyonunu tanımlayan hiper parametreler bir hiper-öncekiyle entegre edilirse, bu tamamen Bayesci olur .

— Dikran Keseli
kaynak

4

Bu biraz daha genel bir cevap gibi görünüyor. Optimize etmek yerine marjinalize edilen daha fazla miktarlar, çözümün 'tam olarak Bayesci' olması demektir. Ampirik Bayes özel bir durumdur.

— konjugateprior

Evet, Michaels'ın cevabında sadece küçük bir uzantı; temelde optimizasyon temel olarak Bayesci değildir.

— Dikran Marsupial

3

Pratik bir örnek olarak:

Spline kullanarak bazı Bayesci modellemeler yapıyorum. Kamalarla ilgili ortak bir sorun düğüm seçimidir. Popüler bir olasılık, her bir yineleme sırasında bir düğüm eklemeyi, silmeyi veya taşımayı önerdiği Tersinir Atlama Markov Zinciri Monte Carlo (RJMCMC) şemasını kullanmaktır. Kamalar için katsayılar En Küçük Kare tahminleridir.

Ücretsiz Knot Spline

Bence bu sadece 'kısmen Bayes' yapar çünkü 'tamamen Bayesci' bir yaklaşım için bu katsayılara (ve her iterasyon sırasında önerilen yeni katsayılara) önceliklerin konulması gerekir, ancak daha sonra En Küçük Kareler tahminleri RJMCMC için çalışmaz ve işler çok daha zorlaşıyor.

— vadi
kaynak

(+1) Durumunuzu anlamıyorum ama sahte-Bayesci bir yaklaşımın durumu gibi görünüyor

— Stéphane Laurent

1

Şimdiye kadar bahsedilmeyen bir karakterizasyon ekleyeceğim. Tamamen Bayesci bir yaklaşım Bayes teoremi aracılığıyla bilinmeyen tüm miktarlardaki belirsizliği "tamamen" yayar. Öte yandan, ampirik Bayes gibi Pseudo-Bayes yaklaşımları tüm belirsizlikleri yaymaz. Örneğin, arka kestirimci miktarları tahmin ederken, tam bir Bayesci yaklaşım, hedef parametre için kestirimci dağılımı elde etmek için bilinmeyen model parametrelerinin arka yoğunluğunu kullanacaktır. EB yaklaşımı tüm bilinmeyenlerdeki belirsizliği hesaba katmaz - örneğin, hiper parametrelerin bazıları belirli değerlere ayarlanabilir, böylece genel belirsizliği hafife alır.

— user67724
kaynak