Fisher Information matrisi neden yarı yarıya pozitif?


19

Let θR,n . Fisher Bilgi Matrisi şu şekilde tanımlanır:

ben(θ)ben,j=-E[2günlük(f(X|θ))θbenθj|θ]

Fisher Information Matrix'in pozitif semidefinite olduğunu nasıl kanıtlayabilirim?


7
Puanın dış ürününün kendisiyle beklenen değeri değil mi?
Neil G

Yanıtlar:


20

Şuna bir göz atın: http://en.wikipedia.org/wiki/Fisher_information#Matrix_form

Tanımdan, elimizde

Iij=Eθ[(ilogfXΘ(Xθ))(jlogfXΘ(Xθ))],
İçini,j=1,,k , hangii=/θi . Iij için ifadeniz,düzenlilik koşulları altında bunu izler.

Boş olmayan bir vektör için u=(u1,,uk)Rn ,

i,j=1kuiIijuj=i,j=1k(uiEθ[(ilogfXΘ(Xθ))(jlogfXΘ(Xθ))]uj)=Eθ[(i=1kuiilogfXΘ(Xθ))(j=1kujjlogfXΘ(Xθ))]=Eθ[(i=1kuiilogfXΘ(Xθ))2]0.

Bu bileşen, akıllı gösterim çok kötü ise, Fisher bilgi matris not bu H=(Iij) olarak yazılabilir H=Eθ[SS] vektör puanları olan, S olarak tanımlanır

S=(1günlükfX|Θ(X|θ),...,kgünlükfX|Θ(X|θ)).

Bu nedenle, tek astarımız var

u'Hu=uEθ[SS]u=Eθ[uSSu]=Eθ[||Su||2]0.


3
(+1) Güzel cevaplar ve tekrar hoş geldiniz Zen. Endişeleniyordum ki, ara sıra uzunluğuna bağlı olarak seni kalıcı olarak kaybedebilirdik. Bu gerçek bir utanç olurdu!
kardinal

5

UYARI: genel bir cevap değil!

tam dereceli üstel bir aileye karşılık geliyorsa , log-olasılığın negatif Hessianı, yeterli istatistiğin kovaryans matrisidir. Kovaryans matrisleri her zaman pozitif yarı tanımlıdır. Fisher bilgisi pozitif yarı-tanımlanmış matrislerin dışbükey bir kombinasyonu olduğundan, pozitif yarı-tanımlamalı da olmalıdır.f(X|θ)

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.