«mutual-information» etiketlenmiş sorular

Karşılıklı bilgiler kullanarak A ve B değişkenleri arasındaki ilişkiyi ölçmek istiyorum. Bunu hesaplamanın yolu gözlemleri bölmektir (aşağıdaki örnek Python koduna bakınız). Ancak, hangi sayıda kutunun makul olduğunu hangi faktörler belirler? Hızlı olmak için hesaplamaya ihtiyacım var, bu yüzden güvenli tarafta olmak için çok fazla kutu kullanamıyorum. from sklearn.metrics import mutual_info_score …

10 information-theory  mutual-information  binning 

Normalleştirilmiş karşılıklı bilgi formunu anlamaya çalışıyorum. npmi=pmi(x,y)log(p(x,y))npmi=pmi(x,y)log(p(x,y))npmi = \frac{pmi(x,y)}{log(p(x,y))} Günlük eklemi olasılığı, noktasal karşılıklı bilgiyi neden [-1, 1] arasında normalleştiriyor? Noktasal karşılıklı bilgi: pmi=log(p(x,y)p(x)p(y))pmi=log(p(x,y)p(x)p(y))pmi = log(\frac{p(x,y)}{p(x)p(y)}) p (x, y) [0, 1] ile sınırlıdır, bu nedenle log (p (x, y)) (, 0] ile sınırlıdır. pay, ama tam olarak nasıl olduğunu anlamıyorum.Ayrıca …

9 entropy  information-theory  mutual-information 

Eklem entropisi hakkında bazı sezgiler oluşturmakta zorlanıyorum. = eklem dağılımındaki belirsizlik ; = belirsizlik ; = belirsizlik .'H( X, Y)'H(X,Y)H(X,Y)p ( x , y)p(x,y)p(x,y)'H( X)'H(X)H(X)px( x )px(x)p_x(x)'H( Y)'H(Y)H(Y)py( y)py(y)p_y(y) H (X) yüksekse, dağılım daha belirsizdir ve böyle bir dağılımın sonucunu biliyorsanız daha fazla bilgiye sahipsiniz! Böylece H (X) aynı zamanda …

9 information-theory  mutual-information 

Diyelim ki 4 olası olayın sıklık örneğine sahibim: Event1 - 5 E2 - 1 E3 - 0 E4 - 12 ve olaylarımın gerçekleşmesi için beklenen olasılıklarım var: p1 - 0.2 p2 - 0.1 p3 - 0.1 p4 - 0.6 Dört olayın gözlemlenen frekanslarının toplamı ile (18) Olayların beklenen frekanslarını hesaplayabilir …

9 r  statistical-significance  chi-squared  multivariate-analysis  exponential  joint-distribution  statistical-significance  self-study  standard-deviation  probability  normal-distribution  spss  interpretation  assumptions  cox-model  reporting  cox-model  statistical-significance  reliability  method-comparison  classification  boosting  ensemble  adaboost  confidence-interval  cross-validation  prediction  prediction-interval  regression  machine-learning  svm  regularization  regression  sampling  survey  probit  matlab  feature-selection  information-theory  mutual-information  time-series  forecasting  simulation  classification  boosting  ensemble  adaboost  normal-distribution  multivariate-analysis  covariance  gini  clustering  text-mining  distance-functions  information-retrieval  similarities  regression  logistic  stata  group-differences  r  anova  confidence-interval  repeated-measures  r  logistic  lme4-nlme  inference  fiducial  kalman-filter  classification  discriminant-analysis  linear-algebra  computing  statistical-significance  time-series  panel-data  missing-data  uncertainty  probability  multivariate-analysis  r  classification  spss  k-means  discriminant-analysis  poisson-distribution  average  r  random-forest  importance  probability  conditional-probability  distributions  standard-deviation  time-series  machine-learning  online  forecasting  r  pca  dataset  data-visualization  bayes  distributions  mathematical-statistics  degrees-of-freedom 

Çapraz Korelasyon ve Karşılıklı Bilgi arasındaki fark nedir? Bu önlemler kullanılarak ne tür sorunlar çözülebilir ve ne zaman diğerinin üzerinde kullanılması uygundur. Yorumlar için teşekkürler. Açıklığa kavuşturmak için, soru, zaman serileri analizinden ziyade iomage analizine olan ilgi ile sorulsa da, bu alandaki herhangi bir aydınlanma da takdir edilecektir.

9 cross-correlation  mutual-information