Tam olarak bir Bayesian modeli nedir?


34

Bayes Teoreminin "Bayesian modeli" kullanıldığı bir model diyebilir miyim? Korkarım böyle bir tanım çok geniş olabilir.

Peki tam olarak bir Bayesian modeli nedir?


9
Bayesian modeli, önceki x olabilirlik = posterior x marjinal çiftinden oluşan istatistiksel bir modeldir. Bayes teoremi biraz önceki kavramına ikincildir.
Xi'an

Yanıtlar:


18

Temel olarak, çıkarımın, ilgili miktar veya miktar miktarları için bir posterior dağılım elde etmek için Bayes teoremini kullanmaya dayandığı biri, ilgili bilinmeyen parametreler ve modele ait olabilirliği için önceki bir dağıtıma dayanarak bir model (parametre değerleri gibi) oluşturur.

yani ve önceki bir bazı formların dağıtım modelinden biri, posterior .f(Xi|θ)p(θ)p(θ|X)

Bir Bayes modelin basit bir örnek olarak ele alınmıştır Bu sorunun ve yorumlarında bu bir - Bayes regresyon, doğrusal, Wikipedia daha ayrıntılı olarak ele burada . Aramalar burada birçok Bayesian modeline ilişkin tartışmalara yol açıyor.

Ancak, yalnızca bir modele uymanın yanı sıra, bir Bayesian analiziyle yapılabilecek başka şeyler de var; örneğin, Bayesian karar teorisi.


Doğrusal regresyonda, burada vektörüne eşittirθ ? Eğer değilse, nedir? [β0,β1,...,βn]
BCLC

1
@BCLC Genellikle da içerecektir . σ
Glen_b -Reinstate Monica

1
@BCLC Sık ve Bayesci çıkarımı birleştiriyor görünüyorsunuz. Bayesian çıkarımı, ilgilendiğiniz miktarlara odaklanır. Parametreler (örneğin, belirli katsayılar hakkındaki çıkarımlar) ile ilgileniyorsanız, fikir posterior dağılımları aramak olacaktır [parametreler | veriler]. Eğer (ortalama fonksiyonu ile ilgilenen ediyorsanız ), o zaman (bir (çok değişkenli) dağıtım tabii bir fonksiyonun olduğunu bir arka dağılımını arayacağını P ). μY|Xβ
Tahminde


1
Bu hesaplama bazen çeşitli nedenlerle ortaya çıkar ( veya ϕ dediğiniz olsun ). Benim önceki yorumum bu hesaplama ile hiçbir şekilde çelişmiyor. σ (veya eşdeğerde σ 2 veya ϕ ) bir parametredir ve diğer parametrelerle birlikte ele almanız gerekir. Ancak, σ bildiğiniz nadir olsa da ; örneğin, Gibbs örneklemesi yapıyorsanız, şartlı konuyla ilgili olacaktır. Sadece β çıkarımını istiyorsanız , σ (veya σ 2 etc) θ | σ yerine koşul yerine yσ2φσσ2φσβσσ2θ|yσ.
Glen_b -Reinstate Monica

11

Bir Bayesian modeli, çıkarımlarını posterior dağılımdan alan bir modeldir, başka bir deyişle, önceki bir dağıtımı ve Bayes teoremiyle ilişkili bir olasılıktan yararlanır.


7

Bayes Teoreminin "Bayesian modeli" kullanıldığı bir model diyebilir miyim?

Yok hayır

Korkarım böyle bir tanım çok geniş olabilir.

Haklısın. Bayes teoremi, marjinal olay olasılıkları ile koşullu olasılıklar arasındaki meşru bir ilişkidir. Olasılık yorumunuzdan bağımsız olarak geçerlidir.

Peki tam olarak bir Bayesian modeli nedir?

Açıklamanız veya yorumunuzda herhangi bir yerde önceki ve arka kavramları kullanıyorsanız , o zaman muhtemelen Bayesian modelini kullanıyor olmalısınız, ancak bu mutlak kural değildir, çünkü bu kavramlar Bayesian dışı yaklaşımlarda da kullanılır.

Daha geniş bir anlamda, olasılıkla öznel bir inanç olarak olasılıkla Bayesian yorumuna abone olmalısınız. Bayes Bu küçük teoremi, genişletilmiş ve bu tüm dünya görünümüne bazı kişiler tarafından gerilmiş ve hatta, ben diyeyim edildi felsefesi . Eğer bu kampa aitseniz Bayesian'sınız. Bayes'in bunun teoremine geleceği hakkında hiçbir fikri yoktu. Dehşete kapılırdı, beni düşünüyor.


4
İlk satırında ortaya çıkan önemli noktayı ortaya koyan ilk cevap bu gibi görünüyor: Bayes Teoreminin yalnızca kullanımı Bayesyen bir model yapmaz. Bu düşünceyle daha ileri gitmeniz için sizi cesaretlendirmek isterim. "Önceki ve arkadaki kavramları kullanarak" ifadesinin Bayesian modelini oluşturduğunu söylediğiniz yere geri kalmış gibi görünüyorsunuz. Bu, Bayes Teoremini tekrar uygulamakla yetinmiyor mu? Olmazsa, bu pasajda "kavramlar" ile ne demek istediğinizi açıklayabilir misiniz? Sonuçta, klasik (Bayesian olmayan) istatistikler, birçok prosedürün kabul edilebilirliğini kanıtlamak için önceleri ve posterleri kullanır.
whuber

@whuber, basit bir kural gibiydi. Ne zaman gazetede "önceliği" görürsem, biti Bayes bakış açısına sahip oluyor veya iddia ediyor. Yine de amacımı netleştireceğim.
Aksakal

5

İstatistiksel bir model, bazı verilerin nasıl ortaya çıktığını açıklayan bir prosedür / hikaye olarak görülebilir. Bir Bayesian modeli , modeldeki tüm belirsizliği temsil etme olasılığını kullandığınız , hem çıktıya ilişkin belirsizliği hem de modeldeki girdi (aka parametreleri) ile ilgili belirsizliği temsil ettiğiniz istatistiksel bir modeldir. Tüm önceki / posterior / Bayes teoremi meselesi bunu takip ediyor, ama bence herşeyin olasılığını kullanmak onu Bayesian yapan (ve aslında daha iyi bir kelime belki de olasılıksal model gibi bir şey olabilir ).

Bu, diğer pek çok istatistiksel modelin, her yerde olasılık kullanacaklarını değiştirerek bir Bayesian modelini "kullanabileceği" anlamına geliyor. Bu, maksimum olasılıklara bağlı modeller için geçerlidir, çünkü maksimum olasılık modeli uydurma, Bayesian model uydurma için katı bir altkümedir.


MLE, Bayesian modelinin dışında kullanıldı ve geliştirildi, bu nedenle "Bayesian model uydurma için sıkı bir alt küme" derken neyi kastettiğiniz net değil.
Aksakal

Bayesian perspektifinden bakıldığında, MLE, düz öncelikleri varsaydığınızda, modele uyduğunuzda ve en muhtemel parametre konfigürasyonunu nokta tahmini olarak kullandığınızda elde ettiğiniz şeydir. Bunun Bayeses'in özel bir durum olup olmadığı "istatistik felsefesi" nin başkalarının konuşması için ayrılıyorum, ama kesinlikle Bayesyen model uydurma için özel bir durum.
Rasmus Bååth

Bu ifadedeki sorun, MLE'yi kullanmak için bir çeşit Bayesian düşüncesine abone olmanız gerektiği izlenimini bırakmasıdır.
Aksakal

1
Neyi kastettiğinden emin değilim. IMO, Bayesian istatistiklerini kullanırken normal bir dağılım kullanırken doğrusal cebir yaparken veya Gauss düşüncesinde matris düşüncesine abone olmanız gerekenden daha fazla olduğunda Bayesian düşüncesine abone olmanıza gerek yoktur. Ben de MLE demiyorum vardır (o bana oldukça doğal düşüyor olsa bile) Bayes modeli takılmasının bir alt kümesi olarak yorumlanmalıdır.
Rasmus Bååth

3

Sorunuz anlamsal tarafta daha fazla: ne zaman "Bayesian" modelini arayabilirim?

Bu mükemmel makaleden sonuçlar çıkarmak:

Fienberg, SE (2006). Bayesian çıkarım ne zaman "bayesian" oldu? Bayesian Analizi, 1 (1): 1-40.

2 cevap var:

  • Modeliniz, Bayes kuralını kullanıyorsa ilk Bayesian'dır (bu "algoritma" dır).
  • Daha genel olarak, eğer sisteminizin üretken bir modelinden kaynaklanırsa (saklanırsa), o zaman Bayesian (“işlev” i) sizsiniz.

Şaşırtıcı bir şekilde, alanın her yerinde kullanılan "Bayesian modelleri" terminolojisi sadece 60'ların etrafına oturmuştur. Makine öğrenimi hakkında sadece geçmişine bakarak öğrenecek çok şey var!


"İki cevaptan" yalnızca birinden söz ediyor gibisin. Belki her ikisi hakkında da bir şeyler yazabilirsin?
Tim

not için teşekkürler, cezamın 2 bölümünü ayırmak için cevabımı düzenlemiştim.
meduz
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.