«mutual-information» etiketlenmiş sorular

Neden ve ne zaman karşılıklı bilgileri "Pearson", "spearman" veya "Kendall's tau" gibi istatistiksel korelasyon ölçümleri üzerinde kullanmalıyız?

51 correlation  mathematical-statistics  mutual-information 

Daha yakın zamanlarda iki makale okudum. Birincisi korelasyonun tarihiyle, ikincisi ise Maksimal Bilgi Katsayısı (MIC) adı verilen yeni yöntemle ilgilidir. Değişkenler arasındaki doğrusal olmayan korelasyonları tahmin etmek için MIC yöntemini anlama konusunda yardımınıza ihtiyacım var. Dahası, R'de kullanımıyla ilgili talimatlar yazarın web sitesinde ( İndirmeler altında ) bulunabilir: Umarım bu …

20 correlation  nonparametric  bioinformatics  information-theory  mutual-information 

Diyelim ki iki küme ve Y ve bu kümeler üzerinde ortak olasılık dağılımı p (x, y) . P (x) ve p (y) 'nin sırasıyla X ve Y üzerindeki marjinal dağılımları göstermesine izin verin .X XXY YYp ( x , y ) p(x,y)p(x,y)p ( x ) p(x)p(x)p ( y ) p(y)p(y)X …

18 entropy  mutual-information  information-theory 

Permütasyon testleri (randomizasyon testi, yeniden randomizasyon testi veya kesin test olarak da adlandırılır) çok faydalıdır ve örneğin normal dağıtım varsayımı t-testkarşılanmadığında ve değerlerin parametrik olmayan test Mann-Whitney-U-test, daha fazla bilginin kaybolmasına neden olur. Bununla birlikte, bu tür bir test kullanılırken bir ve sadece bir varsayım göz ardı edilmemelidir, örneklerin sıfır …

16 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information 

sorum özellikle ağın yeniden yapılandırılması için geçerlidir

15 correlation  mutual-information 

Bir süredir karşılıklı bilgilerle çalıştım. Ancak, "mesafe korelasyonu" (Brownian korelasyonu olarak da adlandırılır) denilen dağıtım bağımsızlığını ölçmek için de kullanılabilecek "korelasyon dünyasında" çok yeni bir önlem buldum: http://en.wikipedia.org/wiki/Brownian_covariance . Bu tedbirin uygulandığı kağıtları kontrol ettim, ancak karşılıklı bilgilere herhangi bir gerekçe bulamadan. Yani, sorularım: Aynı sorunu çözüyorlar mı? Değilse, problemler …

15 correlation  mutual-information  distance-covariance 

Kovaryans matrisinin özvektörlerine bakarken, maksimum varyansın yönlerini alırız (ilk özvektör, verilerin en çok değiştiği yöndür, vb.); buna ana bileşen analizi (PCA) denir. Karşılıklı bilgi matrisinin özvektörlerine / değerlerine bakmanın ne anlama geldiğini merak ediyordum, maksimum entropi yönüne işaret ederler miydi?

14 pca  entropy  mutual-information  eigenvalues 

Başlığa gelince, fikir, sürekli bir değişken ile kategorik bir değişken arasında "korelasyon" ("B'yi Bildiğimde ne kadar biliyorum" olarak tanımlanır) olarak tanımlamak için MI ve sonrasında karşılıklı bilgileri kullanmaktır. Bu konuyla ilgili düşüncelerimi bir an sonra anlatacağım, ancak CrossValidated ile ilgili diğer bazı soruları / cevapları okumanızı tavsiye etmeden önce , …

13 correlation  information-theory  mutual-information 

Ortak entropi üzerinde karşılıklı bilgi olabilir mi: 0 ≤ Ben( X, Y)'H( X, Y)≤ 10≤ben(X,Y)'H(X,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 "X'den Y'ye bir parça bilgi aktarma olasılığı" olarak tanımlanabilir mi? Çok naif olduğum için üzgünüm, ama hiçbir zaman bilgi teorisi üzerinde çalışmadım ve sadece bununla ilgili bazı kavramları anlamaya çalışıyorum.

11 information-theory  mutual-information 

Çok temel bir şüphem var. Bu çok az rahatsız ederse özür dilerim. Karşılıklı Bilgi değerinin 0'dan büyük, ancak 1'den küçük olması gerektiğini biliyorum. Herhangi bir üst değer tarafından sınırlanmış mı? Teşekkürler Amit.

11 information-theory  mutual-information 

Kelime düğünleri oluşturmanın bir yolu aşağıdaki gibidir ( ayna ): Bir şirket alın, örneğin "Uçmayı seviyorum. NLP'yi seviyorum. Derin öğrenmeyi seviyorum." Bundan cooccurrence matrisi kelimesini oluşturun: SVD gerçekleştirin ve U'nun ilk sütunlarını koruyun.XXXkkk alt her satırı , satırın temsil ettiği kelimenin gömme sözcüğü olacaktır (satır 1 = "I", satır 2 …

11 natural-language  svd  mutual-information  word-embeddings  language-models 

Burada, "kanıt ağırlığı" (WOE) yayınlanmış bilimsel ve politika belirleme literatüründe, çoğunlukla risk değerlendirmesi bağlamında görülen ve aşağıdakilerle tanımlanan yaygın bir terimdir: w ( e : h ) = günlükp ( e | h )p ( e | h¯¯¯)w(e:h)=log⁡p(e|h)p(e|h¯)w(e : h) = \log\frac{p(e|h)}{p(e|\overline{h})} burada kanıttır, hipotezdir.heeehhh Şimdi PMI ile ana farkın …

11 probability  bayesian  mutual-information 

İstatistikçi olmayanlar tarafından, regresyon (veya eşdeğer / yakından ilişkili istatistiksel testler) yerine karşılıklı bilgi kullanarak korelasyon önlemlerini yeniden icat ettikleri birkaç konuşma gördüm. İstatistikçilerin bu yaklaşımı benimsemelerinin iyi bir nedeni olduğunu düşünüyorum. Layman'ın anlayışı entropi / karşılıklı bilgi tahmin edicilerinin problemli ve kararsız olma eğiliminde olduğudur. Sonuç olarak gücün de …

10 correlation  mutual-information 

Biraz kafam karıştı. Birisi bana iki terim arasındaki karşılıklı bilginin, ikili terim olarak ağırlıklar içeren bir terim belgesi matrisine dayalı olarak nasıl hesaplanacağını açıklayabilir mi? D e c u m e n t 1D e c u m e n t 2D e c u m e n t 3'Wh …

10 python  information-theory  mutual-information  numpy  pandas 

Karşılıklı bilgi fikrini bu ders notlarında (sayfa 5) açıklandığı gibi özellik seçimine uygulamaya çalışıyorum . Platformum Matlab. Ampirik verilerden karşılıklı bilgi hesaplarken bulduğum bir problem, sayının her zaman yukarıya doğru eğimli olmasıdır. Matlab Central'da MI değerini hesaplamak için yaklaşık 3 ~ 4 farklı dosya buldum ve bağımsız rastgele değişkenlerle beslendiğimde …

10 matlab  feature-selection  information-theory  mutual-information