Belirsiz bir önceki bilgi bilgilendirici olmayan bir öncekiyle aynı mıdır?


27

Bu terminoloji ile ilgili bir sorudur. "Belirsiz bir önceki", bilgilendirici olmayan bir öncekiyle aynı mıdır, yoksa ikisi arasında bir fark var mı? Benim izlenimim, aynı oldukları (birlikte belirsiz ve bilgilendirici olmayanları aramaktan) olduğu, ancak emin olamadığım.


1
Belirsiz: Evet. Bilgilendirici olmayan: Hayır
kardinal

Yanıtlar:


18

Gelman ve diğ. (2003) şöyle diyor:

arka dağılımda asgari bir rol oynayacağının garantilenmesi mümkün olan önceki dağıtımlar için uzun zamandır bir istek olmuştur. Bu tür dağılımlara bazen 'önceki dağıtımlara referans' denir ve önceki yoğunluk belirsiz, düz veya bilgi içermeyen olarak tanımlanır .

Jeffreys 'in Gelman ve ark. (2003, s.62ff, gerçekten bilgilendirici olmayan bir önceliğin varlığı konusunda bir fikir birliği yoktur ve yeterince belirsiz / yassı / dağınık önceliklerin yeterli olduğu konusunda yeterli fikir birliği yoktur.

Aldıkları noktalardan bazıları:

  1. Herhangi bir öncel, hiçbir bilginin bilinmediğini bildiren öncelikleri de içeren bilgileri içerir.
    • Örneğin, söz konusu parametre hakkında hiçbir şey bilmediğimizi biliyorsak, bunun hakkında bir şey biliyoruz.
  2. Uygulanan bağlamların çoğunda, yeterince önceden belirsiz yeterli olduğunda, gerçekten bilgilendirici olmayan bir öncekine yönelik belirgin bir avantaj yoktur ve birçok durumda, bir konjugatın önceden tanımlanmamış bir parametresini kullanmanın uygun bir önceliği bulma gibi bir avantajı vardır.
  3. Jeffrey'in ilkesi, tek değişkenli modellerde Fisher'ın bilgi içeriğini en aza indiren öncelikleri oluşturmak için yararlı olabilir, ancak çok değişkenli durum için analog yoktur
  4. Modelleri karşılaştırırken, Jeffrey’lerin önceliği olasılığın dağılımına bağlı olarak değişecek, bu yüzden öncelikler de değişmek zorunda kalacaktı.
  5. genellikle bilgilendirici olmayan bir önceliğin var olup olmadığı hakkında pek çok tartışma olmuştur (1 nedeniyle, ancak bu tartışmanın tarihçesi için Gelman ve diğerlerinde s.66'daki tartışma ve referanslara bakınız).

Bunun topluluk wiki olduğunu not edin - Temel teori benim anlayışımın sınırlarında ve bu cevaba katkıları için teşekkür ederim.

Gelman ve diğ. 2003 Bayesian Veri Analizi, Chapman ve Salon / CRC


1
Gelman'ın kendisi "bilgi vermeyen" önceliklerin ötesine geçti, bkz. Örneğin stat.columbia.edu/~cook/movabletype/archives/2007/07/… ve cevabımda referans gösterdiğim yazılar ve diğer çalışmaları. Bu tutum uygulamalı istatistikçiler arasında giderek daha yaygın görülmektedir.
JMS

@ JMS Gelman ve diğ. ark. 2003 bu noktaya değindi ve onu özetlemeye çalıştım, arka plan / teorik / sezgisel amaçlar için bilgi vermeyen öncelikleri göz önünde bulunduruyorlar
David LeBauer

Evet, Bayesian istatistiklerine ilişkin bir ders kitabı kesinlikle onları görmezden gelemez. Sadece uygulamalı istatistiklerdeki eğilimin o zamandan beri bu geleneksel seçimlerden uzaklaşmak olduğunu, yani çalışmaların “objektif Bayes” de devam ettiğini eklemek istemiştim
JMS

İnsanların, bilgileri tarif ederken, gayrı resmi ve bilgi teorik anlamda iki şekilde kullanma eğiliminde olduğunu düşünüyorum. Böylece, bir bilgi teorik anlamda mümkün olduğu kadar az bilgi içeren bir maksimum entropi uygulayabilirsiniz. Bu dağıtımı kullanarak (belki) “parametre hakkında hiçbir şey bilmediğinizi” işaret edersiniz, bu daha resmi olmayan bir anlamda oldukça bilgilendirici olabilir ...
Rasmus Bååth

9

Kesinlikle hayır, sık sık birbirlerinin yerine kullanılsalar da. Bir parametre ( ) üzerinde belirli bir şekilde belirsiz olan (nispeten bilgisiz, gerçekten bazı değerleri başkalarına göre değil) aslında başka bir dönüşüm öncesinde çok bilgilendirici olabilir . Bu, başlangıçta mümkün olduğunca bilgilendirici olmayacak şekilde inşa edilen, Jeffreys’in önceliği için motivasyonun bir parçası.f ( θ )θf(θ)

Belirsiz öncelikler, modelinize oldukça sefil şeyler de yapabilir. Şimdi-klasik bir örneği kullanarak olarak bir hiyerarşik model içerisinde varyans parçaları üzerinde önceki değerler.ε 0InverseGamma(ϵ,ϵ)ϵ0

Uygun olmayan sınırlama önceliği, bu durumda uygunsuz bir posterior verir. Popüler bir alternatif, gerçekten küçük olacaktı ve bu da neredeyse tekdüze görünen bir açtı . Ancak, aynı zamanda neredeyse uygunsuz olan bir posteriorla sonuçlanır ve model uyumu ve çıkarımlar zarar görür. Tam bir açıklama için hiyerarşik modellerde varyans parametreleri için Gelman's Prior dağılımlarına bakınız .R +ϵR+

Düzenleme: @ csgillespie (haklı!) Sorunuzu tam olarak cevaplamadığımı belirtiyor. Aklıma göre, bilgilendirici olmayan bir öncelik, özellikle parametre alanın bir alanını diğerine göre tercih etmemesi bakımından belirsizdir, ancak bunu yaparken diğer parametrelerde bilgilendirici öncelikleri tetiklememelidir. Dolayısıyla, bilgilendirici olmayan bir öncelik belirsizdir, ancak belirsiz bir öncelik mutlaka zorunlu değildir. Bunun devreye girdiği bir örnek Bayesian değişken seçimidir; değişken dahil etme olasılıkları öncesinde bir "belirsiz", modelde yer alan toplam değişken sayısından önce oldukça bilgilendirici olabilir!

Bana öyle geliyor ki, gerçekten bilgisiz olan öncelikleri araştırmanın sessiz olduğu söylenebilir (birçoğu aynı fikirde değildir); "zayıf" olarak adlandırılan bilgilendirici öncelikleri kullanmak daha iyidir (sanırım, genellikle bir anlamda belirsizdir). Gerçekten, söz konusu parametre hakkında ne sıklıkta hiçbir şey bilmiyoruz ?


Yanıtınız çok güzel, ama aslında devlet yok ne "Bilgilendirici olmayan öncesinde" ve bir "belirsiz önce" nasıl farklı;)
csgillespie

@cgillespie: Haklısın, düzenlenmiş :)
JMS

son paragrafınızdan sonra ve aramanın sessiz yapısını destekleyerek: eğer söz konusu parametre hakkında hiçbir şey bilmediğimizi biliyorsak , o zaman onun hakkında bir şeyler biliyoruz.
David LeBauer

Oldukça! Büyük ironi, daha önce kendi tercihlerine el sıkmak için çok fazla enerji harcayanların olasılığını azaltmadan önce iki kez düşünmemeleridir. Yanlış tanımlanmış bir olasılık, genellikle sorunlara neden olmaktan çok daha sorumludur. Ama bu tamamen başka bir soru ...
JMS,

5

Lambert ve arkadaşları (2005) "Belirsiz Ne Kadar Belirsizdir? WinBUGS kullanarak MCMC'de belirsiz önceki dağıtımların kullanımının etkisine dair bir simülasyon çalışması ". Şöyle yazıyorlar: “Bilgilendirici olmayan önceki dağıtım terimini, bazı bilgileri katkıda bulunmak için tüm öncelikleri düşündüğümüz için kullanmayı savunmuyoruz”. Katılıyorum ama kesinlikle Bayesian istatistiklerinde uzman değilim.


2
Bu benim öznel önceliğime, bilgilendirici olmayan bir öncek diye bir şey olmadığı fikrine katılıyor.
58’de

@onestop lütfen CW cevabıma katkıda bulunmayı düşünün
David LeBauer

IG(ϵ,ϵ)ϵ0

3

"Belirsiz belirsiz" ifadesinin, bir parametrenin gerçek değeriyle ilgili küçük, ancak sıfır olmayan bir miktar bilgiyi kodladığı bilinen bir önceliğin kullanıldığından şüpheleniyorum, oysa "cehaletsiz bir önceki" tam cehalet anlamına gelecektir Bu parametrenin değeri ile ilgili olarak. Belki de analizin tamamen objektif olmadığını göstermek için kullanılabilir .

Örneğin, çok geniş bir Gaussian, bilgilendirici olmayan bir önceliğin tek tip olacağı bir parametre için önceden belirsiz olabilir. Gaussian, ilgi ölçeğinde neredeyse tamamen düz olacaktır, ancak yine de belirli bir değeri diğerlerinden biraz daha fazla tercih edecektir (ancak sorunu matematiksel olarak daha izlenebilir hale getirebilir).


Bu üniforma gerçekten bilgilendirici olmaz mıydı diye soruyor. bilgilendirici olmayan üniformanın azami ve asgari miktarı ne olur? Öncelik, başka bir ölçeğe dönüştürüldükten sonra bilgilendirici olmaz mıydı?
David LeBauer

1
Üniforma öncelikleri, zorunlu olarak bilgilendirici değildir ve bunun tersi de doğrudur, sorunun mahiyetine bağlıdır. Asgari derecede bilgilendirici bir önceki fikrin, bilinen kısıtlamalarla (asgari ölçeklendirme için değişmez olması gerektiği gibi) asgari miktarda bilgiyi ileten bir önceki dağıtıma karar vermek için MAXENT ve dönüşüm gruplarını kullanarak genellikle daha gerçekçi olduğunu düşünüyorum. Pek çok sorun için, uygun olmayan öncelikler iyi çalışır, bu yüzden iyi tanımlanmış bir minimum ve maksimum olması için mutlaka bir ihtiyaç yoktur.
Dikran Marsupial

2

Bilgilendirici olmayan öncelikler farklı şekillerdedir. Bu formlar belirsiz öncelikleri ve uygun olmayan öncelikleri içerir. Yani belirsiz olan önceki bilgi, bilgilendirici olmayan öncekilerin bir parçasıdır.

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.