Bayesyalılar, yaklaşımlarının sıkça kullanılan yaklaşımla genelleştiği / örtüştüğü durumlar olduğunu hiç iddia ediyorlar mı?

12

Bayesyalılar yaklaşımlarının sıklıkçı yaklaşımı genelleştirdiğini hiç iddia ediyorlar mı, çünkü biri bilgilendirici olmayan öncelikler kullanabilir ve bu nedenle tipik bir sıklıkçı model yapısını kurtarabilir mi?

Herkes beni gerçekten kullanılmışsa, bu argüman hakkında okuyabileceğim bir yere yönlendirebilir mi?

EDIT: Bu soru belki tam olarak ifade etmek istediğim gibi değil ifade edilir. Soru şudur: "Bayesci yaklaşımın ve sıklıkçı yaklaşımın belirli bir önceliğin kullanılmasıyla ortak bir şeyin üst üste geldiği / kesiştiği / tartıştığı vakaların tartışılmasına herhangi bir atıf var mı?" Bir örnek yanlış önceki , ancak bunun sadece buzdağının ucunun ucu olduğundan eminim. $p(\theta) = 1$

bayesian references frequentist

— singelton
kaynak

2

Bu argümanın Greenberg'in Bayes Ekonometrisine Giriş bölümünde yapıldığını hatırlıyorum, ancak olumlu değilim ve daha iyi bir referans olup olmadığından emin değilim. Dahası, bunun sadece önceki seçim değil, aynı zamanda öncekine olan güven olduğuna inanıyorum.

— John

3

Sıkların Bayes yaklaşımını genelleştirdiği konusunda iyi bir argüman var! Bunun nedeni, sıkların, gerekçelendirildiği zaman (teori veya verilerle) öncelikleri kullanmaktan mutlu oldukları, ancak ek olarak Bayesianların dokunmayacağı yöntemleri kullandıklarıdır. :-)

— whuber

3

Bunlar, Olasılıkın yorumlanma biçiminden başlayarak tamamen farklı yaklaşımlardır (bkz. Örneğin bağlantı ). Buna ek olarak, hiçbir benzersiz (veya kabul) tanımı vardır önsel de çünkü hiçbir benzersiz (hatta daha az kabul) tanımı vardır bilgilere . Tahmin ediciler nicel olarak aynı olsalar bile, bir sık tahmincinin ve bir Bayes tahmincisinin yorumu farklıdır. Daha önce de söylediğim gibi "Portakalların elmaları genelleştirdiğini söylemek gibi bir şey."

1

@Prastrastinator Kesinlikle her zaman kesişmediklerine katılıyorum. Yaptıkları durumlarda argüman arıyorum. Şu soruyu yeniden çerçevelendireyim: "Bayesçi istatistiklerin ve sıklıkçı istatistiklerin bir öncekini kullanarak şu ya da bu şekilde örtüştüğü bir tartışmaya atıf var mı?" Bunun bir örneği yanlış önceki . Ama bu gerçekten buzdağının görünen kısmı.

p (θ) = 1

$p(\theta) = 1$

— singelton

1

@ Procrastinator evet, teşekkürler! tam da aradığım türden bir tartışma (yine de bunun buzdağının görünen kısmı olduğunu tahmin ediyorum). Sadece bunu iyice yapan bir kitap bulmam gerekiyor ve bir tane bulamadım. Bakmaya devam edeceğim. Tekrar teşekkürler. (kitapların çoğu ya

— frekanslı

11

Bayesian analizinin sıkça yapılan bir analizin genelleştirilmesi olduğunu ileri süren iki argüman gördüm. Her ikisi de biraz yanaktaydı ve daha çok insanı, öncelikleri bir bağlam olarak kullanarak regresyon modelleri hakkındaki varsayımları tanımalarını sağladı.

Tartışma 1: Sık analiz, önceden sıfır merkezli tamamen bilgilendirici olmayan Bayesci analizdir (evet, nerede ortalandığı önemli değildir, ancak bunu görmezden gelinir). Bu, hem Bayes'in sıkça yapılan bir analizin sonuçlarını çıkarabileceği bağlamı sağlar, maksimum olasılık yakınsamasının zor olduğu durumlarda sık sık tahminleri çıkarmak için MCMC gibi bazı "Bayes" tekniklerini kullanarak neden kaçabileceğinizi açıklar ve insanlar "Veriler kendileri için konuşurlar" ve benzerlerini söylediklerinde, gerçekte söyledikleri, önceden tüm değerlerin eşit derecede olası olduğunu fark ederler.

Argüman 2: Bir modele dahil etmediğiniz herhangi bir regresyon terimi , aslında, varyans olmadan sıfır merkezli bir önceliğe atanmıştır . Bu, "Bayes analizi genelleme" kadar, "Her yerde , sık modellerde bile öncelikler var" argümanı kadar değil.

— fomite
kaynak

3

+1 Argüman 2 ilginçtir. Tartışma 1: 1 hakkında iki yorum. Bilgisiz yerine düz öncelikler söyleyebilirim (ikincisi, eğer varsa, bir yanlış adlandırmadır). 2. MCMC'nin sık analizde kullanımını motive etmek için öncelikler hakkında konuşmaya gerek yoktur - bu sayısal teknikte doğası gereği Bayesian yoktur !

— MånsT

teşekkür ederim EpiGrad. Bahsettiğiniz iki argümanı tartışan referanslarınız var mı?

— singelton

1

+1 Tamam, insanlar bir nokta elde etmenin yanaktaki dil olduğunu anladığı sürece. Ama lütfen ciddiye almayın!

— Michael R.Chickick

@ MånsT - MCMC'nin kullanım için bir gerekçe gerektirmediğini kabul ettim, ancak bunun insanların zihninde, sadece sayısal bir teknikten ziyade, Bayes aleminde bir şey olarak var olduğunu düşünüyorum. Bu onları itmeye yardımcı olur.

— Fomite

@bayesianOrFREquentist Gerçekten hayır.

— Fomite

6

Kısa cevap muhtemelen "evet - ve bu argümanın gerçekleşmesi için bir daireye bile ihtiyacınız yok."

Örneğin, Maksimum A Posteriori (MAP) tahmini , bir önceliği içeren maksimum olasılığın genelleştirilmesidir ve bu değeri bulmaya analitik olarak eşdeğer olan frekansçı yaklaşımlar vardır. Sıklık, "öncekini" olasılık fonksiyonu üzerinde "kısıtlama" veya "ceza" olarak yeniden etiketler ve aynı cevabı alır. Dolayısıyla, hem frekansçılar hem de Bayesliler, felsefeler farklı olsa bile, en iyi parametre tahminleri ile aynı şeye işaret edebilirler. Bu sık yazılan makalenin 5. Bölümü eşdeğer oldukları bir örnektir.

Daha uzun cevap daha çok "evet, ancak analizin iki yaklaşımı birbirinden ayıran başka yönleri de vardır. Yine de, bu ayrımlar bile pek çok durumda demir kaplı değildir."

Örneğin, Bayesliler bazen uygun olduğunda MAP tahminini (arka mod) kullanırken, bunun yerine genellikle posterior ortalamayı vurgularlar. Öte yandan, posterior ortalamada, neredeyse ayırt edilemeyen "torbalanmış" tahmin ("bootstrap toplama" dan) olarak adlandırılan (bu argümanın bir örneği için bu pdf'ye bakınız) sık kullanılan bir analog vardır . Yani bu da gerçekten "zor" bir ayrım değil.

Uygulamada, tüm bunlar, bir frekansçı bir Bayesçinin tamamen yasadışı olarak kabul edeceği (veya tam tersi) bir şey yapsa bile, diğer kamptan neredeyse aynı tepkiyi verecek bir yaklaşımın (en azından prensipte) olduğu anlamına gelir.

Ana istisna, bazı modellerin sık sık bir bakış açısından sığması gerçekten zor olmakla birlikte, bu felsefi olandan daha pratik bir konudur.

— David J. Harris
kaynak

teşekkürler David. Cevabınız faydalı. Ben de bu noktayı uzunca tartışan bir referans arıyorum. Bayesliler'in bilgilendirici olmayan öncelikler hakkındaki tartışmasının ne olduğunu ve bunların sıklıkçı yaklaşıma indirgenme yollarını görmek istiyorum. Arkasındaki teknik noktayı mükemmel bir şekilde anlıyorum (örneğin, olasılığınızı 1 ile çarparsanız ... olasılığınızı alacaksınız :-)), ancak daha iyi bir tartışma arıyorum.

— singelton

1

Birçok gencin Bayes paradigmasının tarihini bilmediğini veya özünü anlamadığını fark ediyorum. Buna sıkça yaklaşan bir yaklaşımın genelleştirilmesi demek, bu paradigmaların karşılaştırılmasını yanlış bir şekilde ortaya koymaktadır. Procrastinators yorum ve biraz farklı bir şekilde koyarak, bu bir elma sadece büyük boy portakal olduğunu söylemek gibi olduğunu söyleyebilirim,

— Michael R. Chernick

@DavidJHarris Cevabını beğenmedim. Teknik olarak işaret ettiğiniz ilişkiler meşrudur ancak kısa cevapta "evet" demek yanlış bir izlenim vermektedir. Bayeslilerin paradigmalarına frequntist istatistiklerin bir genellemesi demek istemediklerini sanmıyorum. Terimler tamamen Bayes, ampirik Bayes ve muhtemelen Bayes ile ilgili paradigmaları ayırt eder, ancak bence Bayesliler Bayes paradigmasının bu dallarını çağırmaya itiraz edebilirler.

— Michael R.Chickick

2

@MichaelChernick Puanı alındı. Tüm Bayesci istatistiklerin ve felsefenin yakın frekans analogları olduğunu ve tam tersini ima etmek istemedim , sadece bir kişi her iki kamptan da aynı işi başaracak bir yöntem bulabilir ve Bayesçi yaklaşımın daha esnek. Belki de şunu vurgulamalıydım ki, iki okuldan aldığınız parametre tahminleri aynı olsa bile, Procrastinator başka bir yerde işaret ettiği gibi, yine de farklı yorumlanmalıdır.

— David J. Harris

@DavidJHarris. Söylediğin her şeye katılıyorum ama sadece genelleme terimini kullanmama izin vermiyorum.

— Michael R.Chernick

3

Edwin Jaynes, bayesci ve frekansçı çıkarım arasındaki bağlantıları vurgulayan en iyilerden biriydi. Onun kağıt güven aralığı vs bayes aralık (google arama getiriyor) çok kapsamlı bir karşılaştırma olarak - ve bence adil bir.

Küçük alan tahmini, ML / REML / EB / HB cevaplarının yakın olma eğiliminde olduğu başka bir alandır.

— probabilityislogic
kaynak

2

Bu yorumların birçoğu "frekansçı" nın "maksimum olabilirlik tahmini" anlamına geldiğini varsayar. Bazı insanlar farklı bir tanıma sahiptir: "frekansçı", herhangi bir çıkarım yönteminin uzun vadeli çıkarımsal özelliklerinin bir tür analizi anlamına gelir - ister Bayesian, ister anlar yöntemi veya maksimum olasılık veya olasılık dışı olarak algılanan bir şey terimler (örn. SVM'ler) vb.

— Brendan OConnor
kaynak

1

Bu konuda Stephane veya başka bir Bayes uzmanından haber almak istiyorum. Hayır diyebilirim çünkü bu genelleme değil, farklı bir yaklaşım. Başka bir bağlamda, bu daha önce burada tartışılmıştı. Düz öncüllerin maksimum düzeye yakın sonuçlar üretmesi nedeniyle düz önceliğe sahip bir Bayes yönteminin sık sık olduğunu düşünmeyin! Sanırım bu, önceden keyfi yaparak diğer olası önceliklere genelleme yaptığınızı düşünmenizi sağlayacak yanlış bir varsayım olurdu. Bu şekilde düşünmüyorum ve Bayesilerin çoğunun da yapmadığından eminim.

Bazı insanlar bunu savunuyor ama Bayesli olarak sınıflandırılmaları gerektiğini düşünmüyorum

rağmen Stephane güçlü sınıflandırma ile zorluk işaret etti. Kesinlikle konuşmak gerekirse, eğer kelime o zaman Bayez'i nasıl tanımladığınıza bağlı olabilir sanırım.

— Michael R. Chernick
kaynak

(+1) Tamamen farklı yaklaşımlardır. Portakalların elmaları genelleştirdiğini söylemek gibi.

5

Çok fazla portakal ve elma yemek, böyle düşünmez.

— Alfred M.

maksimum olasılık sık sık çıkarım yapmak için kullanılan birkaç genel prosedürden biri olmasına rağmen bu doğrudur. Bu yüzden sıkça kullanılan yöntemler hakkındaki genel tartışmalarda her zaman aşırı temsil edilecektir. GREG gibi anket örneklemelerinden bahsedilmediğine şaşırdım.

— probabilityislogic