Sıklık istatistiklerinde örtük öncelikler nelerdir / nelerdir?

Jaynes'in sık sık “örtük bir öncekiyle” çalıştığını iddia ettiği fikrini duydum.

Bu örtük öncelikler nedir veya bunlar mı? Bu, sık kullanılan modellerin, Bayesian modellerinin bulunmasını bekleyen özel vakaları anlamına mı geliyor?

Sıkça verilen karar teorisinde, kabul edilebilir prosedürleri Bayes prosedürleri veya Bayes prosedürlerinin sınırları olarak niteleyen tam sınıf sonuçları vardır . Örneğin, Stein gerekli ve yeterli koşulu (Stein. 1955; Farrell, 1968b), aşağıdaki varsayımlar altında

1. Örnekleme yoğunluğu $f(x|\theta)$ sürekli olan $\theta$ ve sıkı sıkıya pozitif $\Theta$ ; ve
2. $L$$E\subset\Theta$ $$\lim_{\|\delta\|\rightarrow +\infty} \inf_{\theta\in E}L(\theta,\delta) =+\infty.$$

bir tahmin edicinin ancak var ise kabul edilebilir$\delta$

• , artan kompakt kümeler dizisi ,Θ = ⋃ n F $(F_n)$$\Theta=\bigcup_n F_n$
• Bir dizi desteği ile, sonlu önlemler veF $(\pi_n)$$F_n$

• Bir dizi ile bağlantılı Bayes tahmincilerinin şekildedirπ $(\delta_n)$$\pi_n$

  1. Kompakt bir grubu vardır şekildeinf n- π n ( e 0 ) ≥ $E_0\subset \Theta$$\inf_n \pi_n(E_0) \ge 1$
  2. Eğer kompakt,sup n π n ( E ) < + $E\subset \Theta$$\sup_n \pi_n(E) <+\infty$
  3. $\lim_n r(\pi_n,\delta)-r(\pi_n) = 0$ ve
  4. $\lim_n R(\theta,\delta_n)= R(\theta,\delta)$ .

[kitabımdan kopyalandı, Bayesian Seçimi , Teorem 8.3.0, s.407]

Bu kısıtlı anlamda, kabul edilebilirliğin sıklık özelliği, Bayes kökenli bir arka planla donatılır, dolayısıyla her bir kabul edilebilir tahmin ediciyle örtük bir önceliği (veya bunların sırasını) ilişkilendirir.

Sidenote: Üzücü bir tesadüfle, Charles Stein 25 Kasım'da Kaliforniya, Palo Alto'da vefat etti. 96 yaşındaydı.

Değişmez ya da equivariant tahmini için de benzer bir (matematiksel olarak ilişkili varsa) sonucu vardır, yani en iyi equivariant tahmin doğru Haar ölçüsüyle bağlantılı bir istatistik modelinden hareket eden her geçişli grubu, bir Bayes tahmin olduğunu , indüklenen on tarafından bu grup ve ilgili değişmez kayıp. İlgili ayrıntılar için Pitman (1939), Stein (1964) veya Zidek (1969) 'a bakınız. Muhtemelen Jaynes'in aklında olan şeydi , çünkü zorla marjinalleşme paradokslarının değişmezlik ilkeleriyle çözülmesini tartıştı .$\pi^*$$\Theta$

Ayrıca, civilstat cevabında detaylandırıldığı gibi , sıklıktaki başka bir iyimserlik kavramı, yani minimeksite , maksimum hatayı minimuma indiren minimoks prosedürünün (parametre alanı üzerinden) genellikle minimum hatayı (maks. önceki dağıtımlar üzerinde), bu nedenle bir Bayes veya Bayes prosedür (ler) inin sınırıdır.

S .: Bayesci sezgilerimi sık kullanılan modellere aktarmak için kullanabileceğim bir püflük paket servisi var mı?

Örnekleme modelleri olduğu gibi Önce dönem "frequentist modeli" kullanılarak önleyeceğini (veri bir hayata geçirilmesidir parametre değeri için )X ∼ f ( x | θ ) $x$$X\sim f(x|\theta)$$\theta$ ve frequentist prosedürler (en iyi yansız tahmin, asgari varyans güven aralığı & tc.)95 95İkincisi, frekansçı yöntemleri sınırda düşünmek veya Bayes yöntemlerini sınırlamak için zorlayıcı bir metodolojik veya teorik neden görmüyorum. Sıkça yapılan bir prosedürün gerekçesi, mevcut olduğunda, örnekleme alanındaki bazı optimallik özelliklerini, yani gözlemleri tekrarlarken tatmin etmektir. Bayes prosedürleri için birincil gerekçe, örnekleme modelinden bir önceki dağılım ve bir gerçekleşme göz önüne alındığında, [belirli bir kriter veya kayıp fonksiyonu altında] optimal olmaktır. Bazen, sonuçta ortaya çıkan prosedür bazı sık rastlanan özellikleri karşılar ( % güvenilir bölge % güven bölgesidir)$95$$95$ , ancak bu tercihliliğin Bayes modeliyle ilişkili tüm prosedürlere aktarılmamasıdır.

@ Xi'an'ın cevabı daha eksiksiz. Ama siz de özlü bir kalkış istediniz, işte bir tane. (Bahsettiğim kavramlar, yukarıdaki kabul edilebilirlik ayarıyla tam olarak aynı değildir.)

Sıklıkla (ancak her zaman değil) sık sık "minimax" olan tahmin ediciler kullanmak ister: tahmin etmek istersem, tahmin edicimin 'nın en kötü durum riski, diğer tahmin edicilerin en kötü durum riskinden daha iyi olmalıdır . MLE'lerin genellikle (yaklaşık) minimaks olduğu ortaya çıkıyor. Ayrıntılara bakınız, örneğin burada veya burada .$\theta$$\hat{\theta}$

Bir sorun için minimaks tahmincisi bulmak amacıyla, tek yönlü bir an için Bayes düşünmek ve "az elverişli önce" bulmaktır . Bu, Bayes tahmincisi diğer tüm Bayes tahmincisinden daha yüksek ortalama riske sahip olanıdır. Eğer bulabilirseniz, o zaman 's Bayes tahmincisi minimax olduğu ortaya çıkıyor .$\pi$$\pi$

Bu anlamda merakla şöyle diyebilirsiniz: A (minimax kullanan) Frequentist, en az olumlu olanı seçen (temel alınan tahmin) bir Bayesci gibidir.

Belki bunu şöyle söyleyebilirsiniz: Böyle bir Frequentist muhafazakar bir Bayesçidir, öznel öncelikleri, hatta bilgilendirici olmayan öncelikleri değil, (bu özel anlamda) en kötü durum önceliklerini seçer.

Son olarak, diğerlerinin söylediği gibi, Frequentists ve Bayesian'ları bu şekilde karşılaştırmak bir streç. Frequentist olmak, mutlaka belirli bir tahminci kullandığınız anlamına gelmez . Bu sadece tahmincinizin örnekleme özellikleri hakkında sorular sormanız anlamına gelir , oysa bu sorular Bayesian'ın en önemli önceliği değildir. (Yani Bayes örn iyi örnekleme özellikleri, umut her kim "kalibre Bayes" olduğunu da bir frequentist.)
Kimin tahmincileri hep var biri olarak frequentist tanımlamak bile optimum örnekleme özelliklerini tür birçok özellikleri vardır ve her zaman olamaz hepsiyle bir araya gel. Bu yüzden genel olarak "tüm Frequentist modeller" hakkında konuşmak zor.