Bayes tahmincisi seçim önyargısına karşı bağışıktır

Bayes tahmincileri seçim yanlılığından muaftır?

Tahminleri, örneğin tüm genom dizisi verileri gibi yüksek boyutta tartışan çoğu makale sıklıkla seçim yanlılığı konusunu gündeme getirecektir. Seçim yanlılığı, binlerce potansiyel öngörücümüz olmasına rağmen, sadece birkaçının seçileceği ve seçilen birkaçında çıkarımın yapıldığı gerçeğinden kaynaklanmaktadır. Böylece işlem iki adımda gerçekleşir: (1) öngörücülerin bir alt kümesini seçin (2), seçim kümeleri üzerinde çıkarım yapar, örneğin tahmin oran oranları. Dawid 1994 paradoks belgesinde tarafsız tahmin ediciler ve Bayes tahmin edicileri üzerinde durdu. Bir tedavi etkisi olabilecek en büyük etkiyi seçme problemini basitleştirir. Sonra tarafsız tahmin edicilerin seçim yanlılığından etkilendiğini söylüyor. Örneği kullandı: sonra her birini varsayalım

Z_{i} \sim N (δ_{i}, 1), i = 1, \dots, N

$Z_i\sim N(\delta_i,1),\quad i=1,\ldots,N$

Z_{i}

$Z_i$ için . Let , tahmin (ancak bastırılmaktadır pozitif)

. Bu ifade Jensen eşitsizliğiyle kolayca kanıtlanabilir. Bu nedenle, en büyük

dizini olan

bilseydik , tahmincisi tarafsız olan

kullanırız . Ancak bunu bilmediğimiz için, bunun yerine (pozitif) önyargılı olan

kullanıyoruz.

δ_{i}

$\delta_i$

Z = (Z_{1}, Z_{2}, \dots, Z_{N})^{T}

$\mathbf{Z}=(Z_1,Z_2,\ldots,Z_N)^T$

γ_{1} (Z) = max {Z_{1}, Z_{2}, \dots, Z_{N}}

$\gamma_1(\mathbf{Z})=\max\{Z_1,Z_2,\ldots,Z_N\}$

max {δ_{1}, δ_{2}, \dots, δ_{N}}

$\max\{\delta_1,\delta_2,\ldots,\delta_N\}$

i_{max}

$i_{\max}$

δ_{i}

$\delta_i$

Z_{i_{max}}

$Z_{i_{\max}}$

γ_{1} (Z)

$\gamma_1(\mathbf{Z})$

Ancak Dawid, Efron ve diğer yazarların endişe verici ifadesi Bayes tahmincilerinin seçim yanlılığına karşı bağışık olduklarıdır. Bundan önceki koymak ise , ki , Daha sonra Bayes tahmin ile verilir burada , ile standart Gaussian. $\delta_i$ $\delta_i\sim g(.)$ $\delta_i$

E {δ_{i} ∣ Z_{i}} = z_{i} + \frac{d}{d z_{i}} m (z_{i})

$\text{E}\{\delta_i\mid Z_i\}=z_i+\frac{d}{dz_i}m(z_i)$

m (z_{i}) = \int φ (z_{i} - δ_{i}) g (δ_{i}) d δ_{i}

$m(z_i)=\int \varphi(z_i-\delta_i)g(\delta_i)d\delta_i$

φ (.)

$\varphi(.)$

Biz, yeni tahmincisi tanımlarsak olarak ne olursa olsun seni tahmin etmek seçmek ile , seçim aynı olur. Bu, monoton olduğu için . Ayrıca biliyoruz ki daraltır terimiyle sıfıra doğru, $\delta_{i_{\max}}$

γ_{2} (Z) = max {E {δ_{1} ∣ Z_{1}}, E {δ_{2} ∣ Z_{2}}, \dots, E {δ_{N} ∣ Z_{N}}},

$\gamma_2(\mathbf{Z})=\max\{\text{E}\{\delta_1\mid Z_1\},\text{E}\{\delta_2\mid Z_2\},\ldots,\text{E}\{\delta_N\mid Z_N\}\},$

i

$i$

δ_{i_{max}}

$\delta_{i_{\max}}$

γ_{1} (Z)

$\gamma_1(\mathbf{Z})$

i

$i$

γ_{2} (Z)

$\gamma_2(\mathbf{Z})$

γ_{2} (Z)

$\gamma_2(\mathbf{Z})$

Z_{i}

$Z_i$

E {δ_{i} ∣ Z_{i}}

$\text{E}\{\delta_i\mid Z_i\}$

Z_{i}

$Z_i$

\frac{d}{d z_{i}} m (z_{i})

$\frac{d}{dz_i}m(z_i)$ bu da pozitif yanlılığın bir kısmını azaltır . Ancak Bayes tahmincilerinin seçim yanlılığına karşı bağışık olmadığı sonucuna nasıl ulaşabiliriz. Gerçekten anlamıyorum.

Z_{i}

$Z_i$

— Chamberlain Foncha
kaynak

Bir literatürde bir hak talebine atıfta bulunduğunuz göz önüne alındığında, bu hak talebinin tüm içeriğini okuyabilmemiz için lütfen tam bir durum ve sayfa referansı verebilir misiniz?

— Ben - Monica

Bir tahmin ediciyi, Bayes tahmincisinin maksimum değeri olarak tanımlamak hala bir Bayes tahmincisi mi?

— Xi'an

Örnek 1.

— Chamberlain Foncha

Yanıtlar:

Yukarıda açıklandığı gibi, sorun, Normal rvs örneğinin en büyük ortalaması olan indeks ve değer (i⁰, μ⁰) üzerinde çizim çıkarımıyla ilgilidir. Dawid'in sunumunda şaşırtıcı bulduğum şey, Bayes analizinin o kadar Bayesci gelmediğidir. Tüm örnek verilirse, Bayesci bir yaklaşım, i steps tahmininden ilişkili ortalamayı tahmin etmeye kadar, tahmin adımlarını takip etmek yerine (i⁰, μ⁰) üzerinde bir posterior dağılım üretmelidir. Gerekirse, tahminciler belirli bir kayıp fonksiyonunun tanımından gelmelidir. Bunun yerine, örnekteki en büyük nokta ve sadece bu nokta, dağılımı değiştiğinde, bu yüzden hiçbir ayarlama gerekli olmadığı ifadesi ile oldukça şaşkınım.

Önceki modelleme aynı zamanda, araçlardaki önceliklerin bağımsız Normallerin bir ürünü yerine eklem olması gerektiğinden oldukça şaşırtıcıdır, çünkü bu araçlar karşılaştırılır ve dolayısıyla karşılaştırılabilir. Örneğin, tüm verilerden konum ve ölçek tahmin edilecek şekilde, hiyerarşik bir önceki daha uygun görünmektedir. Araçlar arasında bir bağlantı oluşturulması ... Bağımsız uygun olmayan önceliklerin kullanımına ilişkin bir itiraz, maksimum ortalama μ⁰'nin iyi tanımlanmış bir ölçüye sahip olmamasıdır. Ancak, bazı önceliklerin diğerlerine karşı eleştirilmesinin bu "paradoks" a ilgili bir saldırı olduğunu düşünmüyorum.

— Xi'an
kaynak

Bana, tüm korumanın bilinmeyen tüm araçları bağlayandan önce kodlanması gerektiğini söylüyor. Eğer öncekiler araçlar arasında büyük farklar yaratmazsa, bu onu mükemmel kılan arkaya yansıyacaktır.

— Frank Harrell

@ Xi'an a nasıl öncülük yapacağınıza dair bir örnek verebilir misiniz ?

(i, μ)

$(i,\mu)$

— Chamberlain Foncha

@Frank Harrel, örneğin ve . Tarafsız tahmincisi olduğunu . Arasında Bayes tahmincisi olan . Eğer en büyük ise , çünkü Bayes tahmincisi . Öncesi ne kadar bilgilendirici olursa olsun, bu değişmeyecektir. Ancak, , içindeki pozitif Bayes'i azaltır . Ancak yanlış seçilirse, Bayes tahmincisi bunu düzeltemez.

δ_{i} \sim N (a, 1)

$\delta_i \sim N(a,1)$

Z_{i} \sim N (δ_{i}, 1)

$Z_i\sim N(\delta_i,1)$

δ_{i}

$\delta_i$

Z_{i}

$Z_i$

δ_{i}

$\delta_i$

E (δ_{i} | Z_{i})

$E(\delta_i|Z_i)$

Z_{i^{0}}

$Z_{i^0}$

Z_{i}

$Z_i$

E (δ_{i^{0}} | Z_{i^{0}})

$E(\delta_{i^0}|Z_{i^0})$

Z_{i}

$Z_i$

E (δ_{i^{0}} | Z_{i^{0}})

$E(\delta_{i^0}|Z_{i^0})$

Z_{i^{0}}

$Z_{i^0}$

i^{0}

$i^0$

— Chamberlain Foncha

@ChamberlainFoncha: Bayes tahmin sadece zaman sitesindeki önsel bağımsızdır. ve 'den önceki bir eklem onları aslında bağımlı hale getirir.

E [δ_{i} | Z_{i}]

$\mathbb{E}[\delta_i|Z_i]$

δ_{i}

$\delta_i$

i

$i$

μ_{i}

$\mu_i$

— Xi'an

Ve daha önce herhangi bir Bayesci bakış açısından kabul edilebilir, örneğin, indeks üzerinde tekdüze bir dağılım ve ' önce bir hiyerarşik .

μ_{i}

$\mu_i$

— Xi'an

Biraz sezgisel olsa bile ifade doğrudur. Bu deney için olduğunu varsayalım , için posterior gerçekten . Bu sezgisel gerçek, Bayes'in (gizli) erken durmaya karşı bağışık olmasına (biraz da sezgisel) biraz benzer. $i^*=5$ $\mu_5$ $N(x_5,\sigma^2)$

Bayesian akıl yürütme, bu tür her deney için (birkaç kez tekrarladığınızı hayal edin), sadece en iyi çeşitliliğin sonuçları korunursa yanlış sonuçlara yol açacaktır. Veri seçimi olacaktır ve Bayesian yöntemleri açıkça (gizli) veri seçiminden muaf değildir. Aslında hiçbir istatistiksel yöntem veri seçiminden etkilenmez.

Böyle bir seçim yapılmışsa, bu seçimi dikkate alan eksiksiz bir Bayes mantığı, illüzyonu kolayca düzeltir.

Ancak "Bayes tahmincisi seçim yanlılığına karşı bağışıktır" cümlesi biraz tehlikelidir. "Seçim" in, örneğin açıklayıcı değişkenlerin seçimi veya veri seçimi gibi başka bir şey ifade ettiği durumları hayal etmek kolaydır. Bayes buna açıkça bağışık değil.

— Benoit Sanchez
kaynak