De Finetti'nin temsil teoreminde bu kadar havalı olan ne?

55

Gönderen İstatistik Teorisi Mark J. Schervish (sayfa 12) tarafından:

Her ne kadar DeFinetti'nin temsil teoremi 1.49 parametrik modelleri motive etmek için merkezi olsa da, uygulamalarında kullanılmaz.

Teorem parametrik modellerde nasıl merkezidir?

— gui11aume
kaynak

2

Bayesian modellerinin merkezi olduğunu düşünüyorum. Bunu sadece Singleton ile tartışıyordum. Bayesan istatistiklerinde önemi, deFinetti'nin takipçisi olan Bayezliler dışında göz ardı edilir. 1980'den itibaren Diaconis ve Freedman'ın

— Michael Chernick

1

@cardinal: sayfa 12 (Soruyu güncelledim).

— gui11aume

2

Schervish'in "... parametrik modelleri

etmek için merkezi ..." dediğini unutmayın .

motivating

$\textbf{motivating}$

— Zen

1

Temsilciliğin ne kadarının "gerçek" olduğunu ve teoremin yorumlarına ne kadar dayandığını merak ettim. Bir modeli tanımlamak için önceki bir dağıtımı tanımlamak için olduğu kadar kolay bir şekilde kullanılabilir.

— Olasılık

79

De Finetti'nin Temsil Teoremi, olasılıkların öznelci yorumunda , istatistiksel modellerin yükselişini ve parametrelerin anlamını ve önceki dağılımlarını açıklar.

Rastgele değişkenler olduğunu varsayalım değerlerine sahip, bir madeni para ardışık fırlatır sonuçlarını temsil ve ise, sonuç "kafa" ve "kuyrukları" a karşılık gelir. Analiz, olasılık olarak bir hesap, öznel yorumlanması altında normal frequentist modeli anlamı kapsamında s' birbirinden bağımsız ve özdeş dağıtılır De Finetti bağımsızlık durum, örneğin, anlamına geldiği olacağı gözlemlenmiştir $X_1,\dots,X_n$ $1$ $0$ $X_i$ Ve bu nedenle ilk sonuçları fırlatır sonucu hakkında benim belirsizliği değiştirmek olmaz atmak oyunu bırakanların. İnanıyorum Örneğin, bu ilk bilgilerin aldıktan sonra, o zaman, dengeli bir sikke olduğunu fırlatır "Başlar" olduğu ortaya çıktı, hala "alma olasılığı, koşullu olarak bu bilgiler ışığında; inansın Çarpma 1000 üzerindeki başlıklar eşittir . Etkili, bağımsızlığı hipotez ler onun fırlatır sonuçlarını gözlemleyerek madalyonun hakkında bir şey öğrenmek imkansız olduğu anlamına geliyor''.

P {X_{n} = x_{n} | X_{1} = x_{1}, ..., X_{n - 1} = x_{n - 1}} = P {X_{n} = x_{n}},

$P\{X_n=x_n\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = P\{X_n=x_n\} \, ,$

n - 1

$n-1$

n

$n$

a priori

$\textit{a priori}$

999

$999$

1 / 2

$1/2$

X_{i}

$X_i$

Bu gözlem, De Finetti'yi bu görünür çelişkiyi çözen bağımsızlıktan daha zayıf bir durumun ortaya çıkmasına neden olmuştur. De Finetti'nin çözümünün anahtarı, değişebilirlik olarak bilinen bir tür dağılım simetrisidir.

Belirli bir sonlu setiçin rastgele nesnelerin , eklem dağılımlarını belirtir. Bu sonlu küme , her permütasyon için $\textbf{Definition.}$ $\{X_i\}_{i=1}^n$ $\mu_{X_1,\dots,X_n}$ $\mu_{X_1,\dots,X_n} = \mu_{X_{\pi(1)},\dots,X_{\pi(n)}}$ . Sonlu alt-kümelerinin her birinin değiştirilebilmesi durumunda, rastgele nesnelerinbir dizisi değiştirilebilir. $\pi:\{1,\dots,n\}\to\{1,\dots,n\}$ $\{X_i\}_{i=1}^\infty$

Sadece rasgele değişken dizisinin değişebilir olduğunu varsayarak , De Finetti, yaygın olarak kullanılan istatistiksel modellerin anlamını aydınlatan önemli bir teoremi kanıtladı. Özel durumda iken s' değerleri alır ve , De Finetti en Temsil Teoremi söylüyor değiştirilebilir ise rastgele değişken olduğunu ve ancak , dağıtımla $\{X_i\}_{i=1}^\infty$ $X_i$ $0$ $1$ $\{X_i\}_{i=1}^\infty$ $\Theta:\Omega\to[0,1]$ , öyle ki $\mu_\Theta$ ki burada . Dahası, biz var

P {X_{1} = x_{1}, ..., X_{n} = x_{n}} = \int_{[0, 1]} θ^{s} (1 - θ)^{n - s} d μ_{Θ} (θ),

$P\{X_1=x_1,\dots,X_n=x_n\} = \int_{[0,1]} \theta^s(1-\theta)^{n-s}\,d\mu_\Theta(\theta) \, ,$

s = \sum_{i = 1}^{n} x_{i}

$s=\sum_{i=1}^n x_i$

ki bu De Finetti'nin Büyük Sayılarlı Güçlü Yasası olarak bilinir.

{\bar{X}}_{n} = \frac{1}{n} Σ_{ben = 1}^{n} X_{ben} \to_{n \to \infty}^{} Θ neredeyse kesinlikle,

$\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow[n\to\infty]{} \Theta \qquad \textrm{almost surely},$

Modelleri Bayesian bağlamında nasıl ortaya çıktığı istatistiksel Bu gösterim teoremi gösterir: gözlenebilirlerin değiştirilebilirliği hipotezi altında , bir değeri göz önüne alındığında, bu tür , gözlenebilirler olan bağımsız ve aynı şekilde dağıtılmış. Ayrıca, De Finetti en güçlü yasası gözlemlenemeyen hakkındaki önceki görüşü göstermektedir dağılımı ile temsil edilen, , sınırı hakkında görüşü $\{X_i\}_{i=1}^\infty$ $\textbf{there is}$ $\textit{parameter}$ $\Theta$ $\Theta$ $\textit{conditionally}$ $\Theta$ $\mu_\Theta$ $\bar{X}_n$ Biz herhangi birinin gerçekleşmeleri değerleri hakkında bilgi sahibi önce s'. parametresi , yalnızca gibi ilişkiler yoluyla gözlemlenebilir durumları içeren koşullu olasılıkları elde etmemizi sağlayan kullanışlı bir iştirak yapısının rolünü oynar. $X_i$ $\Theta$

P {X_{n} = 1 | X_{1} = x_{1}, ..., X_{n - 1} = x_{n - 1}} = E [Θ | X_{1} = x_{1}, ..., X_{n - 1} = x_{n - 1}] .

$P\{X_n=1\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = \mathrm{E}\left[\Theta\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\right] \, .$

— Zen
kaynak

2

Bu anlayışlı cevap için teşekkür ederim! Bağımsızlık konusundaki düşünceniz, ilk defa anladığım çok önemli bir konu.

— gui11aume

("yararlı" daha iyiydi :))

— Neil G

1

Θ

$\Theta$

Θ

$\Theta$

X_{i}

$X_i$

E [θ^{s} (1 - θ)^{s}] = E [P (X_{i} = x_{i} \forall i | θ)]

$E [\theta^s (1-\theta)^s] = E[P(X_i = x_i \, \forall \, i | \theta) ]$

θ

$\theta$

Pr {X_{1} = x_{1}, \dots, X_{n} = x_{n} ∣ Θ = θ}

$\Pr\{X_1=x_1,\dots,X_n=x_n\mid\Theta=\theta\}$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

X_{i}

$X_i$

Θ = θ

$\Theta=\theta$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

17

Zen'in cevabında her şey matematiksel olarak doğru. Ancak bazı noktalara katılmıyorum. Lütfen bakış açımın iyi olduğunu iddia etmediğime / inanmadığımı unutmayın; Aksine, bu noktaların benim için henüz tam olarak net olmadığını düşünüyorum. Bunlar tartışmak istediğim (ve benim için iyi bir İngilizce alıştırması) hakkında biraz felsefi sorular ve ayrıca herhangi bir tavsiyeyle de ilgileniyorum.

$999$ $X_i$ $\theta$ $\theta$ $999$ $999$ $\theta$ $1$ $\Pr(X_n=1)$
$\Theta$ $\theta = \bar X_\infty$ $\theta$ $\bar X_\infty$ $\Theta$ $0$ $1$
$(X_i\mid\Theta=\theta)\sim_\text{iid} \text{Bernoulli}(\theta)$ $\Theta \sim \text{Beta}(a,b)$ $a$ $b$ $\Theta$ $\Theta$

Geç...

— Stéphane Laurent
kaynak

4

"this is not true from the frequentist perspective"

$\textbf{"this is not true from the frequentist perspective"}$

4

Θ

$\Theta$

{\bar{X}}_{n}

$\bar{X}_n$

Θ

$\Theta$

μ_{Θ}

$\mu_\Theta$

a posteriori

$\textit{a posteriori}$

Θ

$\Theta$

θ

$\theta$

1

Verilen üçüncü merminiz hakkında: 1) Schervish'in Bayesçi bir istatistikçi olduğu; 2) Kitabındaki değişebilirliği tartışmak için harcadığı zaman ve enerjinin miktarı; Ona De Finetti'nin teoreminin rolünün, serinliğin ötesine geçen çok derin olduğuna inanıyorum. Ama yine de çok havalı olduğuna katılıyorum!

— Zen,

2

θ

$\theta$

θ

$\theta$

Θ

$\Theta$

a

$a$

b

$b$

11

Bu konuyla ilgili bir makale ile ilgilenebilirsiniz (erişim için dergi aboneliği gereklidir - üniversitenizden erişmeyi deneyin):

O'Neill, B. (2011) Değişebilirlik, korelasyon ve Bayes Etkisi. Uluslararası İstatistiksel Değerlendirme 77 (2), sayfa 241-250.

Bu makale, temsil teoremini hem Bayesyen hem de frekansçı IID modellerinin temeli olarak ele almakta ve aynı zamanda bir bozuk para örneği olarak uygulamaktadır. Frekansist paradigmanın varsayımlarının tartışılmasını netleştirmelidir. Aslında binom modelinin ötesine geçen temsil teoremine daha geniş bir uzantı kullanıyor, ancak yine de faydalı olması gerekiyor.

— İstatistikleri
kaynak

Bunun bir çalışma kağıdı versiyonu var mı? Erişim atmına sahip değilim :-(

— IMA 20

1

@Stats Cevabınızı gördükten sonra bu kağıdı okudum. Söylemeliyim ki, şu ana kadar gördüğüm bu konuda Bayesian ve Frequentist'i gösteren en iyi makale. Keşke bu makaleyi daha önce okumuş olsaydım. (+1)

— KevinKim