Farklı cevaplar veren Bayes ve sıkça yaklaşım örnekleri


54

Not: Ben değilim farkında felsefi Bayes ve frequentist istatistikleri arasındaki farklar.

Örneğin, "masanın üzerindeki madalyonun kafalar olma olasılığı nedir" sık sık istatistiklerde bir anlam ifade etmiyor, çünkü zaten ya zaten çıkmış kafalar ya da kuyruklar vardı - bununla ilgili muhtemel bir şey yok. Dolayısıyla sorunun sıkça bir cevabı yok.

Ancak, böyle bir fark özellikle sorduğum türden bir fark değildir .

Aksine, yukarıda bahsedilen örnek gibi teorik / felsefi farklılıklar dışında , iyi biçimlendirilmiş sorular için tahminlerinin gerçekte gerçek dünyada nasıl farklılaştığını bilmek isterim.

Yani başka bir deyişle:

İçinde sorumlu, bir soru örneği nedir hem frequentist ve Yanıtını ikisi arasında farklı, Bayes istatistik?

(örneğin, belki bir tanesi belirli bir soruya "1/2", diğeri de "2/3" cevaplarına cevap verir.)

Bu tür farklılıklar var mı?

  • Eğer öyleyse, bazı örnekler nelerdir?

  • Olmazsa, o zaman belirli bir problemi çözerken Bayesian veya sıkça istatistik kullanıp kullanmamam ne zaman bir fark yaratır ?
    Neden birini diğerinin lehine alayım ki?


8
John Kruschke, Bayesian ve standart istatistiksel yöntemleri karşılaştırdığı iki video hazırladı. Bayesian yönteminin reddettiği birçok örnek var ama standart yöntem değil. Belki de aradığınızı tam olarak değil, ama yine de ... youtu.be/YyohWpjl6KU ve youtu.be/IhlSD-lIQ_Y .
Rasmus Bååth

4
Binom dağılımı, bazı durumlarda sık (olasılık temelli) çıkarımın ve Bayesian çıkarımın farklı olduğu başka bir örnek sunar. Parametrenin profili olasılığı eksilmesini etmez olarak ( bkz Bazı numuneler için). Bu, bazı olasılık-güven aralıklarının sonsuz uzunluğa sahip olduğu anlamına gelir. Öte yandan, marjinal posterior dağılımı her zaman bütünleştirilebilir olması olarak azalır . 0 N N 0 N N0NN0N

@Procrastinator: Teşekkürler, şu an bahsettiğim slaytlara bakıyorum. Bu matematiksel geçmişimden biraz daha yoğun görünüyor ama umarım bunun dışında bir şey bulurum. :)
Mehrdad

2
Stone'un örneğine bakmak isteyebilirsiniz. Blogumda burada açıklarım
Larry Wasserman

1
@mbq: Sadece merak ediyorum, bu neden topluluk wiki yaptı?
Mehrdad,

Yanıtlar:


9

Bu örnek buradan alınmıştır . (Bu bağlantıyı SO'dan aldığımı bile düşünüyorum, ancak artık bulamıyorum.)

Bir madeni para kez atıldı , başları kez atıldı . İki kez daha atılacak olsaydı, iki başa bahse girer miydin? İlk fırlatmanın sonucunu, ikinci fırlatmadan önceki (ve ayrıca bağımsız bir şekilde koşullu ) ve böylelikle iki atış arasında hakkındaki fikrinizi güncelleyemediğinizi varsayalım .n=14k=10θθ

Bağımsız olarak, Ardından, bir -prior verilen prediktif dağılım ,

f(yf,1=heads,yf,2=heads|θ)=f(yf,1=heads)f(yf,2=heads|θ)=θ2.
Beta(α0,β0) beta(1,1)(10/14)2.51
f(yf,1=heads,yf,2=heads|y)=f(yf,1=heads,yf,2=heads|θ)π(θ|y)dθ=Γ(α0+β0+n)Γ(α0+k)Γ(β0+nk)θ2θα0+k1(1θ)β0+nk1dθ=Γ(α0+β0+n)Γ(α0+k)Γ(β0+nk)Γ(α0+k+2)Γ(β0+nk)Γ(α0+β0+n+2)=(α0+k)(α0+k+1)(α0+β0+n)(α0+β0+n+1)
Üniforma öncesi için ( birBeta(1,1)-prior), bu kabaca 0,485 verir. Dolayısıyla, muhtemelen bahis yapmazsınız. 10/14 , iki başın olasılığını hesaplarsınız , ki böylece bahis mantıklı olur.(10/14)2.51

Tam olarak aradığım cevabı + 1'ledim, teşekkürler.
Mehrdad

5
Aslında cevabında referans verilen gönderide bir güncelleme oldu ... Postayı bıraktığı halde, "tekdüze dağılımı öncelikli olarak kullanmak yerine, daha da agnostik olabiliriz. Bu durumda, Beta'yı kullanabiliriz ( 0,0) bir önceki gibi dağıtım. Bu tür bir dağıtım, herhangi bir dağıtım ortalamasının eşit derecede muhtemel olduğu duruma karşılık gelir. Bu durumda, iki yaklaşım, Bayes ve sık görüşmeci aynı sonuçları verir. " !!! Bu yüzden hala bu soruyu cevaplamak için bir örneğe ihtiyacımız var! Bu nedenle, bu cevabın gerçek cevabı olarak aşağıdaki cevabı + 1'leyin.
user1745038

10

Benim soruya bakın burada (istatistiğinin gerçek değeri güven aralığı içinde hiçbir yerde yattığını kesin olarak bilmek amacıyla yeterli bilgi yoktur, doğru şekilde inşa frequentist güven aralığının, bir örnek verir Edwin Jaynes tarafından bir kağıt bahseder, ve böylece güven aralığı Bayesian güvenilir aralığından farklıdır).

Bununla birlikte, bunun nedeni, güven aralığı ve güvenilir bir aralık tanımındaki farktır; bu da, sıklık ve Bayesçi olasılık tanımlarındaki farkın doğrudan bir sonucudur. Bir Bayesyen'den Bayesçi bir güven (güvenilir değil) bir aralık oluşturmasını isterseniz, o zaman aralıkların aynı olacağı bir öncekinin olacağından şüpheleniyorum, bu nedenle farklar öncekinin seçimine bağlı.

Sıklıkçı veya Bayesçi yöntemlerin uygun olup olmadığı sormak istediğiniz soruya bağlıdır ve günün sonunda cevabı belirleyen felsefelerdeki farktır (gerekli hesaplama ve analitik çabanın dikkate alınmaması şartıyla).

Yanakta biraz dil olduğundan, uzun süreli bir frekansın, bir teklifin göreceli olarak uygunluğunu belirlemenin mükemmel bir makul yolu olduğu söylenebilir, bu durumda, sık sık istatistikler, sübvansiyonel Bayesianizm'in tuhaf bir altkümesidir; Öznelci bir Bayesian de aynı şekilde ya da farklı öncelikleri seçmeleri durumunda başka bir şekilde cevap verebilir. ;Ö)


4
"Sübjektif Bayesian" kullanımı biraz kendini sabote etmekten ibarettir ( bkz. ). Genel olarak modelleme öznellikle doludur, örnekleme modellemesi için dağılım seçimi de özneldir. Belirli bir modelin makul olup olmadığını kontrol etmek için bir uygunluk testi seçimi bile özneldir.

2
Birisi “öznel” olarak aldatıcı olduğunu düşünüyorsa, bu onların hatasıdır. Bazen olasılık demek istediğimizde, gerçekten öznel kişisel inanç demek istiyoruz - aslında bunun ne anlama geldiğini söylememek için bir neden görmüyorum (olasılık tanımı yalnızca öznel bir seçim olduğu için sadece uzun dönem frekansları kabul etmek).
Dikran Marsupial

1
+1 bağlantı için teşekkürler, çok aydınlatıcı. Ve ayrıca güven ve güvenilir aralıklar arasındaki farkın notu için de.
Mehrdad

8

Bu yazının, ikisi arasındaki gerçek uygulamalardaki takasların daha amaçlı bir anlam ifade ettiğini düşünüyorum. Bunun bir kısmı testler yerine tercihlerim nedeniyle olabilir.

Gustafson, P. ve Greenland, S. (2009). Dağınık Gözlem Verileri için Aralık Tahmini . İstatistiksel Bilim 24: 328–342.

Aralıklarla ilgili olarak, sık aralıklı güven aralıklarının tek bir kapsama alanı gerektirdiğini / talep ettiğini (sıfır olasılığı olmayan her parametre değeri için tam olarak veya en az% x'den büyükse) ve yapmamaları gerektiğini unutmayın. var - onlar gerçekten güven aralıkları değil. (Bazıları daha ileri gider ve kapsamı değiştiren ilgili altkümeleri hariç tutmaları gerektiğini söyler.)

Bayes kapsama alanı, genellikle, daha önce tam olarak doğru olduğu varsayıldığında verilen "ortalama kapsama alanı" na göre gevşetilerek tanımlanır. Gustafson ve Grönland (2009), bu açıklayıcı öncelikleri çağırmakta ve daha iyi bir değerlendirme sağlamak için yanılabilir olanları düşünmektedir.


1
+1 Bu farkı kısıtlama konusunda hiçbir zaman bilemedim, belirttiğiniz için teşekkürler.
Mehrdad

3

Birisi hem sıkça hem de Bayesian bir cevabı olan bir soru ortaya koyacak olsaydı, bir başkasının sorudaki belirsizliği tespit edebileceğinden şüpheleniyorum, bu yüzden "iyi şekillenmiş" değil.

Başka bir deyişle, sıkça bir cevaba ihtiyacınız olursa, sıkça kullanılan yöntemleri kullanın. Bir Bayesian cevabına ihtiyacınız varsa, Bayesian yöntemlerini kullanın. Hangisine ihtiyacınız olduğunu bilmiyorsanız, soruyu açıkça tanımlamamış olabilirsiniz.

Bununla birlikte, gerçek dünyada bir sorunu tanımlamanın veya bir soru sormanın birçok farklı yolu vardır. Bazen bu yollardan hangisinin tercih edilebileceği açık değildir. Bu, özellikle müşterisi istatistiksel olarak saf olduğunda yaygındır. Diğer zamanlarda bir soruyu diğerinden cevaplamak çok daha zordur. Bu gibi durumlarda, müşterileri tam olarak hangi soruyu sorduğu veya hangi sorunu çözdüğü konusunda hemfikir olmalarını sağlamaya çalışırken en kolay olanı seçer.


3

MacKay'ın serbestçe kullanabileceği ders kitabı Bilgi Teorisi, Çıkarım ve Öğrenme Algoritmalarının Alıştırma 3.15'ine bakmanızı tavsiye ederim .

Londra’nın 250 kez baskın geldiğinde, Belçika’nın bir euro para birimi 140 kez başını salladı ve 110 yılını takip etti. “Bana çok şüpheli gözüküyor”, dedi. “Madeni para tarafsız olsaydı, bunun% 7'den az olacağı kadar uç bir sonuç alma şansı”. Ancak bu veriler madalyonun adil değil önyargılı olduğuna dair kanıt veriyor mu?

Örnek ders kitabının 63-64. Sayfalarında ayrıntılı olarak çalışılmıştır. Sonuç, değerinin , ancak Bayesçi yaklaşımın öncekine bağlı olarak her iki hipotez için de farklı düzeylerde destek verdiğidir. Bu , yapay olarak aşırı bir öncekinin kullanılması durumunda madalyonun boş bir hipotezine karşı daha fazla olmayan bir cevaba, bozukluğun önyargılı olduğuna dair kanıt bulunmamasının tavsiye edilen bir cevabından değişir .0.07 6 : 1p0.076:1

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.