Karşılıklı bilgi nasıl hesaplanır?


10

Biraz kafam karıştı. Birisi bana iki terim arasındaki karşılıklı bilginin, ikili terim olarak ağırlıklar içeren bir terim belgesi matrisine dayalı olarak nasıl hesaplanacağını açıklayabilir mi?

WhyHowWhenWhereDocument11111Document21010Document31110

I(X;Y)=yYxXp(x,y)log(p(x,y)p(x)p(y))

teşekkür ederim


Nelerdir ve Y ? XY
Dilip Sarwate

X ve Y terimlerdir. X "Neden" ve Y "Nasıl" olabilir.
user18075

Yanıtlar:


7

Belgelerdeki normalleştirilmiş ortak oluşumları tutan bir ortak olasılık tablosu oluşturmaya ne dersiniz. Daha sonra tabloyu kullanarak eklem entropisi ve marjinal entropiler elde edebilirsiniz. Son olarak,

ben(X,Y)='H(X)+'H(Y)-'H(X,Y).

1
Eklem ve marjinal dağılımlar belirlendiğinde, , H ( Y ) ve H ( X , Y ) ' yi hesaplamak ve sergilediğiniz formülü kullanmak neden gereklidir ? Karşılıklı bilgi OP tarafından verilen formülle doğrudan belirlenemez, çünkü "takmak" için gereken her şey, viz. p ( x , y ) , p ( x ) ve p ( y ) bu noktada biliniyor mu? 'H(X)'H(Y)'H(X,Y)p(x,y),p(x)p(y)
Dilip Sarwate

2
ilk bakışta daha fazla yorumlanabilir olması dışında formüller eşdeğerdir.
Zoran
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.