Güvenilir bölgeler ile Bayesian hipotez testleri arasındaki bağlantı nedir?

38

Sık sık istatistiklerde, güven aralıkları ve testler arasında yakın bir bağlantı vardır. İlgili çıkarımda kullanarak $\mu$ içinde $\rm N(\mu,\sigma^2)$ bir örnek olarak dağılım, $1-\alpha$ güven aralığı ,testitarafındananlamlılık düzeyindereddedilmeyen

\bar{x} \pm t_{α / 2} (n - 1) \cdot s / \sqrt{n}

$\bar{x}\pm t_{\alpha/2}(n-1)\cdot s/\sqrt{n}$ tüm

değerlerini içerir.

μ

$\mu$

t

$t$

α

$\alpha$

Sık sık güven aralıkları bu anlamda tersine çevrilmiş testlerdir. (Bu arada, bu yorumlayabileceğimiz anlamına gelir. $p$ değerini, parametrenin boş değerinin güven aralığındayer alacağıen küçük değeri olarak. Bunun, bunun ne olduğunu açıklamanın faydalı bir yolu olabileceğini düşünüyorum. değerleri gerçekten biraz istatistik bilenlere aittir.) $\alpha$ $1-\alpha$ $p$

Bayesian güvenilir bölgelerinin karar teorik temeli hakkında okurken , inanılır bölgeler ve Bayesian testleri arasında benzer bir bağlantı / denklik olup olmadığını merak etmeye başladım.

Genel bir bağlantı var mı?
Genel bir bağlantı yoksa, bağlantının olduğu örnekler var mı?
Genel bir bağlantı yoksa, bunu nasıl görebiliriz?

— MånsT
kaynak

Merak ettiğim ilgili bir soru - birisi bana oyuncak örneğinden ziyade gerçek bir problem üzerinde kullanılan Bayesian hipotez testinin "altın standardı" veya "kanonik örneği" olduğunu düşündüğü bir makaleye işaret edebilir. Bayesian hipotez testlerini gerçekten anlamadım ve kullanım öğreticisinin iyi bir örneğini bulacağımı düşünüyorum.

— Patrick Caldon

2

@PatrickCaldon Bu konuda bir "altın kağıt" olduğundan şüpheliyim çünkü Bayesian hipotez testleri karar teorik bir çerçevede formüle edildi (bu nedenle tek bir makalede ele geçirilemeyecek kadar geniş). MånsT'ın cevabında belirtilen kitap iyi bir materyal sunuyor, Berger'in kitapları ve konuşmaları da ilgi çekici olabilir.

Ba.stat.cmu.edu/vol03is01.php yazısının burada tartışmamızın çoğunu netleştireceğine inanıyorum .

— Carlos AB Pereira

Teşekkürler, @Carlos! Bağlantı şu anda işe görünmüyor, ama neden olduğunu tahmin senin 2008 kağıt içinde Bayes Analizi Stern ve Wechsler ile. Bunu çok ilginç bir okuma buldum!

— MånsT

Sayın MånsT: Bayesian Analizi Euclid Projesi'ne taşındı. Carlos gazetesi burada: projecteuclid.org/…

— Zen

19

Bir bağlantının var olduğu bir örnek bulmayı başardım . Bu benim büyük ölçüde kayıp işlev seçimime ve buna rağmen bileşik hipotezlerin kullanımına bağlı görünüyor.

Genel bir örnekle başlıyorum, ardından normal dağılım içeren basit bir özel durum izliyor.

Genel örnek

Bilinmeyen bir parametre için , let parametre uzayı olmak ve hipotez dikkate alternatif karşı $\theta$ $\Theta$ $\theta\in\Theta_0$ $\theta\in\Theta_1=\Theta\backslash\Theta_0$ .

Let , bir test fonksiyonu bulunan gösterim sistemini kullanarak Xi'an 'ın Bayes Seçim reddetme böylece, (ben en azından alışkınım ne tür geriye doğru taşımaktadır) ise ve kabul ise . Kayıp fonksiyonu göz önünde $\varphi$ $\Theta_0$ $\varphi=0$ $\Theta_0$ $\varphi=1$ Eğer Bayes testi

L (θ, φ) = {\begin{cases} 0, & if φ = I_{Θ_{0}} (θ) \\ a_{0}, & if θ \in Θ_{0} and φ = 0 \\ a_{1}, & if θ \in Θ_{1} and φ = 1. \end{cases}

$L(\theta,\varphi) = \begin{cases} 0, & \mbox{if } \varphi=\mathbb{I}_{\Theta_0}(\theta) \\ a_0, & \mbox{if } \theta\in\Theta_0 \mbox{ and }\varphi=0\\ a_1, & \mbox{if } \theta\in\Theta_1 \mbox{ and }\varphi=1. \end{cases}$

φ^{π} (x) = 1 i f P (θ \in Θ_{0} | x) \geq a_{1} (a_{0} + a_{1})^{- 1} .

$\varphi^\pi(x)=1\quad \rm if\quad P(\theta\in\Theta_0|x)\geq a_1(a_0+a_1)^{-1}.$

Al ve . Boş hipotezi , ise kabul edilir . $a_0=\alpha\leq 0.5$ $a_1=1-\alpha$ $\Theta_0$ $\rm P(\theta\in\Theta_0|x)\geq 1-\alpha$

Şimdi, güvenilir bir bölge , gibi bir bölgedir . Bu nedenle, tanım gereği , , yalnızca olduğunda güvenilir bir bölge olabilir . $\Theta_c$ $\rm P(\Theta_c|x)\geq 1-\alpha$ $\Theta_0$ $\rm P(\theta\in\Theta_0|x)\geq 1-\alpha$ $\Theta_c$ $\rm P(\Theta_0\cap\Theta_c|x)>0$

Boş hipotezi kabul edersek, eğer sadece her güvenilir bölge boş olmayan bir alt küme içeriyorsa kabul ederiz . $1-\alpha$ $\Theta_0$

Daha basit bir özel durum

Yukarıdaki örnekte ne tür bir test olduğunu daha iyi göstermek için, aşağıdaki özel durumu dikkate alın.

Let ile . Takım , ve , böylece test isteyen bu olup $x\sim \rm N(\theta,1)$ $\theta\sim \rm N(0,1)$ $\Theta=\mathbb{R}$ $\Theta_0=(-\infty,0]$ $\Theta_1=(0,\infty)$ $\theta\leq 0$ .

Standart hesaplamalar vermek buradastandart normal cdf'dir.

P (θ \leq 0 | x) = Φ (- x / \sqrt{2}),

$\rm P(\theta\leq 0|x)=\Phi(-x/\sqrt{2}),$

Φ (\cdot)

$\Phi(\cdot)$

Let şekilde olması . olduğunda kabul edilir $z_{1-\alpha}$ $\Phi(z_{1-\alpha})=1-\alpha$ $\Theta_0$ . $-x/\sqrt{2}>z_{1-\alpha}$

Bu, olduğunda kabul etmeye eşdeğerdirİçin,nedenle zaman reddedilir. $x\leq \sqrt{2}z_{\alpha}.$ $\alpha=0.05$ $\Theta_0$ $x>-2.33$

Bunun yerine, kullanımdan önce halinde , olduğunda reddedilir . $\theta\sim \rm N(\nu,1)$ $\Theta_0$ $x>-2.33-\nu$

Yorumlar

Yanlış sıfır varsayımını kabul etmenin yanlış olduğunu düşündüğümüz yukarıdaki kayıp işlevi, ilk bakışta biraz yapay görünebilir gibi görünebilir. Bununla birlikte, örneğin tehlikeli bulaşıcı hastalıkların veya teröristlerin taranması sırasında “yanlış negatiflerin” pahalı olabileceği durumlarda oldukça yararlı olabilir.

Tüm güvenilir bölgelerin bir kısmını içermesi şartı aslında biraz daha güçlü: sıklık durumunda, yazışma tek bir test ile tek bir test arasında değil, tek bir test arasındaki tek bir güven aralığı arasında. ve tüm aralıkları. $\Theta_0$ $1-\alpha$ $1-\alpha$

— MånsT
kaynak

2

+1 Güvenilirlik aralığı yerine güvenilirlik bölgesini kullanırdım .

1

Teşekkürler @Procrastinator! Cevabı değiştirdim ve ben varken "bölge" olarak değiştirdim. Çoğunlukla Unimodal posteriorların HPD bölgeleriyle çalışıyorum, bu yüzden güven bölgelerini aralık olarak düşünme eğilimindeyim. :)

— MånsT

12

Michael ve Fraijo , ilgilenilen parametre değerinin güvenilir bir bölgede olup olmadığını kontrol etmenin, Bayesian'nin güven güven aralıklarını tersine çevirdiğini gösteriyor . İlk başta bu konuda biraz şüpheliydim, çünkü bu prosedürün gerçekten bir Bayesian testiyle sonuçlandığı açık değildi (her zamanki anlamda).

Görünen o ki, öyle - en azından belirli bir kayıp fonksiyon tipini kabul etmeye istekli iseniz. HPD bölgeleri ve hipotez testleri arasında bağlantı kuran iki bildiriye referans veren Zen'e teşekkür ederiz :

Pereira & Stern (1999), Kanıt ve güvenilirlik: kesin hipotezler için tam Bayesian anlamlılık testi , Entropi
Madruga, Esteves & Wechsler (2001), Pereira-Stern Testlerinin Bayesitesi Üzerine , Test

H_{0} : θ \in Θ_{0} = {θ_{0}} and H_{1} : θ \in Θ_{1} = Θ ∖ Θ_{0},

$H_0: \theta\in\Theta_0=\{\theta_0\}\qquad \mbox{and}\qquad H_1: \theta\in\Theta_1=\Theta\backslash \Theta_0,$

Θ

$\Theta$

$\Theta_0$ $\Theta_1$

$\pi(\cdot)$ $\theta$

T (x) = {θ : π (θ | x) > π (θ_{0} | x)} .

$T(x)=\{ \theta:\pi(\theta|x)>\pi(\theta_0|x)\}.$

$T(x)$ $P(\theta\in T(x)|x)$

$\Theta_0$ $P(\theta\notin T(x)|x)$ $<0.05$ $\theta_0$ $\Theta_0$ $5~\%$ $95~\%$

$\varphi$ $1$ $\Theta_0$ $0$ $\Theta_0$

L (θ, φ, x) = {\begin{cases} a (1 - I (θ \in T (x)), & if φ (x) = 0 \\ b + c I (θ \in (T (x)), & if φ (x) = 1, \end{cases}

$L(\theta,\varphi,x) = \begin{cases} a(1-\mathbb{I}(\theta\in T(x)), & \mbox{if } \varphi(x)=0 \\ b+c\mathbb{I}(\theta\in(T(x)), & \mbox{if } \varphi(x)=1, \end{cases}$

a, b, c > 0

$a,b,c>0$

$\Theta_0$ $P(\theta\notin T(x)|x)<(b+c)/(a+c).$

$\theta_0$

$x$

Bu konuyla ilgili daha fazla bilgi için Madruga ve ark. makale .

Ekim 2012 Güncellemesi:

$x$

$q_{\alpha}(\theta|x)$ $\theta$ $P(\theta\leq q_{\alpha}(\theta|x))=\alpha$ $(q_{\alpha/2}(\theta|x),q_{1-\alpha/2}(\theta|x))$ $\Theta_0$ $x$

$\Theta_0=\{\theta_0\}$ $\Theta_0$ $\Theta_{-1}=\{\theta:\theta<\theta_0\}$ $\Theta_{1}=\{\theta:\theta>\theta_0\}$

$\varphi=i$ $\Theta_i$ $0-1$

L_{2} (θ, φ) = {\begin{cases} 0, & if θ \in Θ_{i} and φ = i, i \in {- 1, 0, 1}, \\ α / 2, & if θ \notin Θ_{0} and φ = 0, \\ 1, & if θ \in Θ_{i} \cup Θ_{0} and φ = - i, i \in {- 1, 1}, \end{cases}

$L_2(\theta,\varphi) = \begin{cases} 0, & \mbox{if } \theta\in\Theta_i\mbox{ and }\varphi=i, \quad i\in \{-1,0,1\}, \\ \alpha/2, & \mbox{if } \theta\notin\Theta_0 \mbox{ and }\varphi=0,\\ 1, & \mbox{if } \theta\in\Theta_{i}\cup\Theta_0 \mbox{ and }\varphi=-i,\quad i\in\{-1,1\},\end{cases}$

Θ_{0}

$\Theta_0$

θ_{0}

$\theta_0$

Bu bana oldukça makul bir kayıp işlevi gibi görünüyor. Ben bu kaybı, Madruga-Esteves-Wechsler kaybını ve arXiv'deki el yazmasında daha ilerideki setleri kullanarak test etmeyi tartışıyorum.

— MånsT
kaynak

2

(Bunu topluluk wiki olarak işaretliyorum)

— MånsT

L : {P a r a m e t e r S p a c e} \times {A c t i o n s} \to R

$L : \{Parameter\; Space\} \times \{Actions\} \to \mathbb{R}$

@Zen: Evet, elbette, yanlış yazdım. Gösterdiğin için teşekkürler. :)

— MånsT

3

@ MånsT: (+1) Bu ilginç bir cevap. Bu örnekte CW olarak işaretlemeyi seçtiniz gerçeğine çok saygı duyuyorum, ancak keşke olmasaydı. :-)

— cardinal

8

Bu soruya gelmeden önce arXiv makalenizi tesadüfen okudum ve üzerine bir blog yazısı yazdım ( 08 Ekim'de görünmesi planlanıyor ). Özetlemek gerekirse, teorik olarak ilgi duyduğunuz yapıyı buluyorum, fakat aynı zamanda tavsiye edilemeyecek kadar düşünülmüş olduğunu düşünüyorum. nokta-sıfır hipotezini çözemediği için geleneksel olarak nokta-null parametre değerine bir miktar kütle koyması gereken Bayesian test problemi.

$\varphi$ $H_0: \theta\le\theta_0$ $H_0: \theta= \theta_0$

$H_0$ $\Theta_0=\{\theta_0\}$

— Xi'an
kaynak

1

1 - α / 2

$1-\alpha/2$

α / 2

$\alpha/2$

φ = 0

$\varphi=0$

α / 2 < min (P (Θ_{- 1}), P (Θ_{1}))

$\alpha/2<\mbox{min}(P(\Theta_{-1}),P(\Theta_1))$

θ_{0}

$\theta_0$ güvenilir bir aralıkta. Bunu arXiv elyazmasında mümkün olan en kısa sürede değiştireceğim!

— MånsT

H_{0}

$H_0$

Θ_{0}

$\Theta_0$

1

H_{0}

$H_0$

P (θ \in Θ_{i} | x) > α / 2

$P(\theta\in\Theta_i|x)>\alpha/2$

3

Bayesian hipotez testleri için güvenilir bir aralık (veya HPD bölgesi) kullanabilirsiniz. Yaygın olduğunu sanmıyorum; Yine de adil olmak için fazla şey görmüyorum ya da uygulamada resmi Bayesian Hipotez Testlerini kullanmıyorum. Bayes faktörleri zaman zaman (ve Robert'in “Bayesian Core” da biraz övgüyle) hipotez testlerinde kullanılır.

— Fraijo
kaynak

1

Alkış @Fraijo! Belki de cevabınızın Michael Chernick’in cevabından ne kadar farklı olduğu hakkında biraz bilgi verebilir misiniz?

— MånsT

2

Bayes faktörlerinin hipotez testi için kullanılmasının "ara sıra" olduğunu düşünmüyorum, örneğin bu referansa bakın .

@ MånsT, takip ettiği süreçte Michael'ın tanımladığı süreç Bayes Factor testi gibi görünüyor. Temel olarak, hipotezinize dayanarak farklı önceliğe sahip iki model yaratır ve daha sonra önceliğe dayalı veri setinin olasılığını karşılaştırırsınız. Gönderilen referans Procrasinator bunun hızlı bir şekilde gözden geçirilmesini sağlar.

— Fraijo,

1

@Procrastinator Ara sıra söyledim, çünkü endüstrimde, hipotezi test etmek için Bayesian yöntemlerini kullanıp, yalnızca Bayesian yöntemlerini kullanan birkaç kişi görüyorum. Şahsen, modellerimi önceliğe duyarlılık açısından kontrol etmek için Bayes faktörlerini kullanıyorum, sanırım bir tür hipotez testi.

— Fraijo,

1

@ MånsT kısa cevap: hayır. Güvenilir bir aralık oluşturmak ve sıfır hipotezi içerip içermediğini bulmak, sıkça yapılan hipotez testleriyle karşılaştırılabilir tek doğrudan testtir. Bu yöntemle ilgili iki sorun vardır: 1) bazı durumlarda birden fazla bölge bulabileceğinizin açık olduğu (örneğin bir simetrik bölgeye karşı bir HPD) ve 2) bir nokta hipotezini test etme (theta = a) Bayesian parametrelerinin idealiyle çakışıyor dağılımları alarak (p = P (teta)).

— Fraijo

1

Güvenilir bir bölge, arka yoğunluğun bölge üzerindeki integralinin belirlenmiş bir olasılık olduğu, örneğin 0,95 olduğu bir bölgedir. Bir Bayesian hipotez testi oluşturmanın bir yolu, parametre (ler) in boş varsayılmış değer (ler) inin güvenilir bölgeye düşüp düşmediğini görmektir. Bu yolla, hipotez testleri ile aynı sıklıktaki kişilerin güven aralıkları ve hipotez testleri ile yaptığı gibi güvenilir bölgeler arasında benzer bir 1-1 yazışma yapabiliriz. Ancak hipotez testi yapmanın tek yolu bu değil.

— Michael Chernick
kaynak

Bu tür ad hoc Bayesian testleri pratikte sıklıkla kullanılıyor mu?

— MånsT

1

@MansT Sanmıyorum. Ben genellikle Bayesanların boş hipotezin doğru olup olmadığına dair önceden bir ihtimal koyduğunu düşünüyorum ve daha sonra posterior olasılıkları üzerine inşa ettik. Eğer arka oranlar boş hipoteze karşı fırtınalıysa o zaman reddedilir. Ben sık sık Bayesian çıkarım yapmadığım için sormam gereken en iyi insan değilim.

— Michael Chernick

2

Michael tarafından açıklanan test, Bayesian ekonometri konusundaki kitabında Zellner tarafından Lindley'e yatırılmaktadır.

— Zen,

1

Evet, bu tür testler kesinlikle Bayesian fikirlerinden kaynaklanıyor , ancak Bayesian karar teorisinde sağlam bir temeli olup olmadığından emin değilim . İkinci ayarda, testlerin tipik olarak bir test fonksiyonunu içeren bir kayıp fonksiyonundan türetilmesini beklerdim.

— MånsT

2

Sevgili MånsT, bu yazılara bir göz atın: mdpi.org/entropy/papers/e1040099.pdf w.ime.usp.br/~jstern/miscellanea/citacoes/swtest1.pdf

— Zen

-1

Bana verelim bunu nasıl aldığını okuma Tim'in cevabı .

Sütunlardaki hipotezli (tahmini parametre) tablo görünümlerine ve satırlardaki gözlemlere dayanmaktadır .

İlk tabloda, toplamda 1 olan sütun olasılıklarınız var, yani bunlar koşul olayını sütun olayına girmeden önce 'önceki' olarak adlandırılan koşullu olasılıklardır. Son tabloda, satırlar 1'e benzer şekilde toplanır ve ortada ortak olasılıklara sahip olursunuz, yani ilk ve son tabloda çarpı olasılık olasılığını, önceliğini bulduğunuz koşullu olasılıkları.

Tablolar temel olarak Bayesian dönüşümü gerçekleştirir: ilk tabloda, her sütunda gözlemlerin (satırların) pdf'sini, bu hipotez için önceliğin (evet, hipotez sütununun, bu hipotezin altındaki gözlemlerin pdf'si) verdiğini, Her sütun ve masa için önce ortak olasılık tablosuna, ardından gözlemlerle koşullandırılmış hipotezinizin olasılıklarına girer.

Tim'in cevabından aldığım gibi (yanılıyorsam düzelt), Kritik Aralık yaklaşımı ilk tabloya bakar. Yani, deney tamamlandıktan sonra, tablonun satırını biliyoruz (benim örneğimde baş veya kuyruklar var, ancak 100 jeton çevirme ve 2 ^ 100 satırlı bir masa almak gibi daha karmaşık deneyler yapabilirsiniz). Frequentialist, söylediğim gibi, hipotezin doğru soğuk olması koşuluyla olası sonuçların bir dağılımı olan sütunlarını inceler (örn. Madeni para benim örneğimde adildir) ve bu konuda çok düşük olasılık değeri veren hipotezi reddeder. gözlenen sıra.

Bayesyenist ilk önce olasılıkları ayarlar, satırları dönüştürür ve tablo 3'e bakar, gözlemlenen sonucun sırasını bulur. Aynı zamanda bir pdf olduğundan, deneme sonucu satırından geçer ve% 95'lik güvenilirlik cebi doluncaya kadar en yüksek prob hipotezini alır. Hipotezin geri kalanı reddedildi.

Beğendiniz mi? Hala öğrenme sürecindeyim ve grafik bana yardımcı oluyor. İki yaklaşımın farklılığını analiz ederken saygın bir kullanıcı aynı resmi verdiğinden beri doğru yolda olduğuma inanıyorum . Hipotez seçiminin mekaniğinin grafiksel bir görünümünü önerdim.

Herkesi Keith'in son cevabını okumasını teşvik ediyorum, ancak hipotez test teknisyeni resmim derhal şu anki cevabı doğrularken frekansçıların başka bir hipoteze bakmadığını söylerken, yüksek güvenilirlik hipotezinin dikkate alınmasının bayesce'deki diğer hipotezlerin kabul edilmesini / reddedilmesini oldukça etkilediğini söyleyebilirim. analizler, çünkü gözlemlenen verilerde zamanın% 95'ini oluşturan tek bir hipoteziniz varsa, verinin içinde ne kadar iyi olduğuna bakılmaksızın, hemen hemen tüm diğer hipotezleri atarsınız. Güven aralıkları ile örtüşen iki hipotezi tezat eden istatistiksel güç analizini bir kenara bırakalım.

Ancak, iki yaklaşım arasındaki benzerliği tespit etmiş gibiyim: P(A | B) > P(A) <=> P(B|A) > P(B)mülkle bağlanmış gibi görünüyorlar . Temel olarak, eğer A ve B arasında bir bağımlılık varsa, o zaman hem frekans hem de bayes tablolarında korelasyon olarak görünecektir. Bu yüzden, bir hipotez testi yapmak diğer ile ilişkilendirilirse, aynı sonuçları vermeleri gerekir. Korelasyonun köklerini incelemek, muhtemelen ikisi arasındaki bağlantıyı verecektir. Benim sorum var aslında ben neden mutlak korelasyon yerine farkın olduğunu soruyorum?

— Küçük yabancı
kaynak