Olabilirlik konusundaki Wikipedia yazısı belirsiz görünüyor

"Koşullu olasılık" ve "Olabilirlik" ile ilgili basit bir sorum var. (Bu soruyu burada zaten araştırdım ancak boşuna yok.)

Olasılıkla ilgili Wikipedia sayfasından başlar . Bunu söylüyorlar:

Olabilirlik parametre değerlerinin bir dizi, , sonuçlar verilen , olduğu bileşiklerdir parametre değerleri verilenlerden gözlenen sonuçların olasılık, eşittir$\theta$$x$

$$\mathcal{L}(\theta \mid x) = P(x \mid \theta)$$

Harika! Bu yüzden İngilizce olarak şunu okudum: "Verileri X = x, (sol taraftaki) verilen, tata eşitleme olasılığı , parametrelerin verilmiş olması durumunda , X verilerinin x'e eşit olma olasılığına eşittir. teta'ya eşittir ". ( Kalın vurgu için benimdir ).

Ancak, aynı sayfada en az 3 satır sonra, Wikipedia girdisi şöyle devam eder:

Parametre bağlı olarak ayrık olasılık dağılımlı ile rastgele bir değişken olmasına izin verin . Sonra işlev$X$$p$$\theta$

$$\mathcal{L}(\theta \mid x) = p_\theta (x) = P_\theta (X=x), \,$$

bir fonksiyonu olarak kabul edilir , olasılık fonksiyonu ( rasgele değişkeninin sonucunu verilen) verilen fonksiyonu olarak adlandırılır . Bazen değeri olasılığı ve parametre değeri olarak yazılır ; bunun genellikle koşullu bir olasılık olmayan ' den farklı olduğunu vurgulamak için olarak yazılır , çünkü bir parametredir ve rastgele bir değişken değildir.$\theta$$\theta$$x$$X$$x$$X$$\theta$$P(X=x\mid\theta)$$P(X=x;\theta)$$\mathcal{L}(\theta \mid x)$$\theta$

( Kalın vurgu için benimdir ). Bu yüzden, ilk alıntıda, kelimenin tam anlamıyla koşullu bir olasılıktan bahsediyoruz , ancak hemen sonra, bunun aslında koşullu bir olasılık OLMADIĞINI ve aslında ?$P(x\mid\theta)$$P(X = x; \theta)$

Peki hangisi? Olabilirlik aslında ilk teklifin alabileceği koşullu bir olasılığı ifade ediyor mu? Yoksa ikinci teklifin alabileceği basit bir olasılık mı?

DÜZENLE:

Şimdiye kadar aldığım tüm faydalı ve anlayışlı cevaplara dayanarak, sorumu ve şu ana kadarki anlayışımı özetledim:

• In İngilizce "olabilirlik gözlenen verilerin VERİLEN, parametrelerin bir fonksiyonudur.": Biz demek Olarak matematik : biz olarak yazmak .$L(\mathbf{\Theta}= \theta \mid \mathbf{X}=x)$
• Olasılık bir olasılık değildir.
• Olasılık bir olasılık dağılımı değildir.
• Olasılık bir olasılık kütlesi değildir.
• Olasılığı olarak, ancak bir İngilizce "burada olasılık dağılımları bir ürünü, (sürekli durumda), veya olasılık kitlelerin bir ürünü, (ayrık durum), ve parametreli tarafından . " Olarak matematik , o zaman örneğin yazmak: ( bir PDF olduğu sürekli durum ) ve (ayrık durum, bir olasılık kütlesidir). Burada paket servisi olan restoran burada hiçbir noktada hiçbir şekildeΘ = θ L ( Θ = θ ∣ X = x ) = f ( X = x ; Θ = θ ) f L ( Θ = θ ∣ X = x ) = P ( X = x ; Θ = θ ) $\mathbf{X} = x$$\mathbf{\Theta}= \theta$$L(\mathbf{\Theta}= \theta \mid \mathbf{X}=x) = f(\mathbf{X}=x ; \mathbf{\Theta}= \theta)$$f$
  $L(\mathbf{\Theta}= \theta \mid \mathbf{X}=x) = P(\mathbf{X}=x ; \mathbf{\Theta}= \theta)$$P$ hiç bir şarta bağlı koşullu olasılık.
• Bayes teoreminde, biz var: . Sonuç olarak, " bir ihtimaldir" deniliyor, ancak, bu doğru değil , çünkü bir gerçek rastgele değişken. Bu nedenle, doğru söyleyebileceğimiz şey, bu teriminin bir olasılıkla "benzer" olmasıdır. (?) [Bu konuda emin değilim.] P(X=x∣Θ=θ)ΘP(X=x∣Θ=θ$P(\mathbf{\Theta}= \theta \mid \mathbf{X}=x) = \frac{P(\mathbf{X}=x \mid \mathbf{\Theta}= \theta) \ P(\mathbf{\Theta}= \theta)}{P(\mathbf{X}=x)}$$P(\mathbf{X}=x \mid \mathbf{\Theta}= \theta)$$\mathbf{\Theta}$$P(\mathbf{X}=x \mid \mathbf{\Theta}= \theta)$

EDIT II:

@Amoebas'ın cevabına dayanarak son yorumunu yazdım. Bence oldukça aydınlatıcı ve bence sahip olduğum ana çekişmeyi temizliyor. (Resme yorumlar).

EDIT III:

@Amoebas'ın yorumlarını Bayesian davasına şimdi de genişlettim:

Bunun büyük ölçüde gereksiz bölünmüş kıllar olduğunu düşünüyorum.

Şartlı olasılık bir verilen , iki rasgele değişken için tanımlandığı ve değerleri alınarak ve . Ama aynı zamanda olasılık bahsedebiliriz ait verilen nerede değil rastgele değişken ama bir parametredir.x y X Y x y P ( x ∣ θ ) x θ $P(x\mid y)\equiv P(X=x \mid Y=y)$$x$$y$$X$$Y$$x$$y$$P(x\mid\theta)$$x$$\theta$$\theta$

Her iki durumda da aynı "verilen" terimin ve aynı notasyonun kullanılabileceğini unutmayın. Farklı notasyonlar icat etmeye gerek yoktur. Ayrıca, "parametre" olarak adlandırılan ve "rastgele değişken" olarak adlandırılan şey, felsefenize bağlı olabilir, ancak matematik değişmez.$P(\cdot\mid\cdot)$

Wikipedia'dan yapılan ilk alıntı, tanım gereği olduğunu belirtir . Burada bir parametre olduğu varsayılmaktadır . İkinci alıntı söylüyor olduğu değil bir koşullu olasılık. Bu, verilen bir koşullu bir olasılık olmadığı anlamına gelir ; ve gerçekten de olamaz, çünkü burada bir parametre olduğu kabul edilir.θ L ( θ ∣ x ) θ x $\mathcal{L}(\theta \mid x) = P(x \mid \theta)$$\theta$$\mathcal{L}(\theta \mid x)$$\theta$$x$$\theta$

Bayes teoremi bağlamında her ikisi de ve rasgele değişkenlerdir. Fakat yine de “ihtimal” ( ) denebilir , ve şimdi aynı zamanda iyi niyetli koşullu olasılık ( ). Bu terminoloji Bayesian istatistiklerinde standarttır. Kimse olasılığa "benzer" bir şey demiyor; insanlar basitçe buna ihtimal diyorlar.

Not 1: Son paragrafta, açıkça şartlı bir olasılıktır . Bir olasılığı olarak bu bir fonksiyonu olarak görülmektedir ; ama ! 'nın olasılık dağılımı (veya koşullu olasılık) değildir ! Üzerinde Onun ayrılmaz mutlaka eşit değildir . (Oysa üzerindeki integrali vardır .)b L ( a | b ) bir a , bir 1 $P(b\mid a)$$b$$\mathcal L(a\mid b)$$a$$a$$a$$1$$b$

Not 2: Bazen olabilirlik, @MichaelLew'in vurguladığı gibi, rasgele bir orantılılık sabiti ile tanımlanır (çünkü çoğu zaman insanların olasılık oranları ile ilgilenir ). Bu yararlı olabilir, ancak her zaman yapılmaz ve şart değildir.

Ayrıca bakınız "Olasılık" ile "olasılık" arasındaki fark nedir? ve özellikle @ whuber'un cevabı orada.

@ Tim'in bu konudaki cevabı ile de tamamen aynı fikirdeyim (+1).

Zaten iki güzel cevabın var, ama hala belirsiz gözüktüğünden bir tane vermeme izin ver. Olabilirlik olarak tanımlanır

bu yüzden sahip olasılığını bir parametre değeri verilen veri x . Bu olasılık (ayrık durum) ya da yoğunluğu (sürekli durum) fonksiyonları çarpımına eşittir f arasında X parametrize İçeride ISTV melerin RWMAIWi'nin . Olabilirlik, verilere verilen parametrenin bir fonksiyonudur. Θ'nın , rastgele bir değişken değil , optimize ettiğimiz bir parametre olduğuna dikkat edin , bu nedenle kendisine atanmış herhangi bir olasılık yoktur. Bu nedenle Wikipedia, koşullu olasılık gösterimini kullanmanın, rastgele bir değişkeni şartlandırmadığımız için belirsiz olabileceğini belirtmiştir. Başka bir taraftan, Bayesian içinde ayar θ olduğu$\theta$ $X$$f$$X$$\theta$$\theta$$\theta$ rastgele bir değişken ve dağılımı var, onunla diğer rastgele değişkenlerde olduğu gibi çalışabilir ve posterior olasılıkları hesaplamak için Bayes teoremini kullanabiliriz. Bayesian olabilirlik hala olasılık olabilir, çünkü parametre verilen verinin olasılığını bize bildirir, tek fark parametrenin rasgele değişken olarak kabul edilmesidir.

Programlamayı biliyorsanız, programlamada aşırı yüklü fonksiyon olarak olabilirlik fonksiyonunu düşünebilirsiniz . Bazı programlama dilleri, farklı parametre tipleri kullanılarak çağrıldığında farklı şekilde çalışan bir işleve sahip olmanızı sağlar. Bunun gibi bir olasılık olduğunu düşünüyorsanız, varsayılan olarak bazı parametre değerlerini argüman olarak alır ve bu parametreye verilen verilerin olasılığını döndürür. Diğer yandan, bu tür bir işlevi, parametrenin rasgele değişken olduğu Bayes ayarında kullanabilirsiniz, bu temelde aynı çıktıya yol açar, ancak rasgele değişkeni koşullandırdığımız için koşullu olasılık olarak anlaşılabilir. Her iki durumda da fonksiyon aynı şekilde çalışır, sadece onu kullanır ve biraz farklı şekilde anlarsınız.

// likelihood "as" overloaded function
Default Likelihood(Numeric theta, Data X) {
    return f(X, theta); // returns likelihood, not probability
}

Bayesian Likelihood(RandomVariable theta, Data X) {
    return f(X, theta); // since theta is r.v., the output can be
                        // understood as conditional probability
}

Dahası, Bayes teoremini yazan Bayesanlar'ı bulamazsınız.

... bu çok kafa karıştırıcı olurdu . Öncelikle, olurdu Denklemin her iki tarafında da X ve fazla bir anlamı olmazdı. İkincisi, elimizdeki posterior olasılığı hakkında bilmek olasılık θ verilen veri (yani o şey istiyorum likelihoodist çerçevede bilmek, ama ne zaman değil mi θ rastgele değişken değildir). Üçüncüsü, θ rastgele bir değişken olduğundan, onu koşullu olasılık olarak yazdık ve yazdık. $\theta|X$$\theta$$\theta$$\theta$$L$-notation genellikle olabilirlikçi ayar için ayrılmıştır. İsim olasılığı, benzer bir şeyi belirtmek için her iki yaklaşımda da konvansiyon tarafından kullanılır: Bu tür verilerin gözlemlenme olasılığı, modelinize ve parametrenize göre verilmiştir.

Ortak ihtimal tanımlarının, kesin olmayan veya kafa karışıklığına neden olacak şekilde ayrıntı vermeyen bazı yönleri vardır. Wikipedia girişi güzel bir örnek.

İlk olarak, olabilirlik genellikle parametre değeri verilen verinin olasılığına eşit olamaz , çünkü olabilirlik yalnızca bir orantılılık sabiti ile tanımlanır. Fisher, olasılığını ilk kez resmileştirirken açıktı (Fisher, 1922). Bunun nedeni, bir olasılık fonksiyonunun integralinde (veya toplamında) bir kısıtlama olmaması ve parametrenin (değerlerinin) herhangi bir değeri verilen istatistiksel bir modelde veriyi gözlemleme olasılığı olduğu gibi görünüyor. veri değerlerinin ve parametre değerlerinin belirtilmesinin ayrıntı derecesinin kesinliği.$x$

İkincisi, olabilirlik fonksiyonunu düşünmek, bireysel olabilirliklerden daha yararlıdır. Olabilirlik işlevi, bir olabilirlik işlevinin grafiğinden açıkça görüldüğü gibi model parametre değerlerinin bir işlevidir. Böyle bir grafik, olasılıkların, modelin bu parametre değerlerine ayarlandığında verileri ne kadar iyi tahmin ettiğine göre parametrelerin çeşitli değerlerinin sıralanmasına izin verdiğini görmeyi kolaylaştırır. Olabilirlik fonksiyonlarının araştırılması, verilerin ve parametre değerlerinin rollerini, bence orijinal soruda verilen çeşitli formüllerin bir araya gelmesinden daha açık bir şekilde ortaya koymaktadır.

Olasılıkta olasılık çiftleri oranının kullanılması, parametre değerleri için (model dahilinde) gözlemlenen veriler tarafından sunulan göreceli destek derecesinin, göreceli orantılılık sabitleri problemi ile karşı karşıya kalması nedeniyle, bu sabitler oranla iptal edilir. Sabitlerin, ayrı olabilirlik fonksiyonlarından (yani farklı istatistiksel modellerden) gelen olasılıklar oranında mutlaka iptal edilmeyeceğini not etmek önemlidir.

Son olarak, istatistiksel modelin rolü konusunda açık olmak yararlıdır, çünkü veriler olasılıkla istatistiksel model tarafından da belirlenir. Farklı bir model seçerseniz, farklı bir olabilirlik işlevi elde edersiniz ve farklı bir bilinmeyen orantı sabiti elde edebilirsiniz.

Dolayısıyla, asıl soruya cevap vermek için, olasılıklar herhangi bir tür olasılık değildir. Kolmogorov'un olasılık aksiyomlarına uymuyorlar ve çeşitli olasılık türlerinin oynadığı rollerin çıkarımını istatistiksel olarak desteklemekte farklı bir rol oynuyorlar.

1. Fisher (1922) İstatistiğin matematiksel temelleri üzerine http://rsta.royalsocietypublishing.org/content/222/594-604/309

$L(\theta)$$\theta$$\theta$$\theta$

"Bunu okudum:" Verilerde, verilere X = x, (sol taraftaki) verilen teta eşitleme olasılığı, parametrelerin eşit olması koşuluyla, X verilerinin x'e eşit olma olasılığına eşittir. theta ". (Kalın vurgu için benimdir)."

$P(x|\theta)$$\mathcal{L}(\theta|x)$

$\theta$$\theta=\theta$$\theta$