İki sürekli değişkenin bağımsız olduğunu nasıl test ederim?

Bir örnek olduğunu varsayalım ortak dağıtım X ve Y . Bunu nasıl hipotezini test edebilirim X ve Y olan bağımsız ?$(X_n,Y_n), n=1..N$$X$$Y$$X$$Y$

ve Y'nin ortak ya da marjinal dağıtım yasaları üzerinde bir varsayım yapılmaz (en azından ortak normallik, çünkü bu durumda bağımsızlık 0 ile korelasyonla aynıdır ).$X$$Y$$0$

ve Y arasındaki olası bir ilişkinin doğası hakkında bir varsayımda bulunulmaz ; doğrusal olmayabilir, bu nedenle değişkenler birbiriyle ilişkili değildir ( r = 0 ), fakat yüksek oranda bağımlıdır ( I = H ).$X$$Y$$r=0$$I=H$

İki yaklaşımı görebiliyorum:

1. Her iki değişkeni de depolayın ve Fisher'in kesin testini veya G testini kullanın .

   • Pro: iyi bilinen istatistiksel testleri kullanın
   • Con: çekmeye bağlı

2. Tahmin bağımlılık ve ve Y : I ( x , Y )$X$$Y$$\frac{I(X;Y)}{H(X,Y)}$ (bu,birbirlerini tamamen belirlediklerindebağımsızXveYve1için).$0$$X$$Y$$1$

   • Pro: net bir teorik anlamı olan bir sayı üretir
   • Con: yaklaşık entropi hesaplamasına bağlıdır (yani, tekrar binmek)

Bu yaklaşımlar mantıklı geliyor mu?

İnsanların başka hangi yöntemleri kullandığı?

Bu genel olarak çok zor bir sorundur, ancak değişkenleriniz görünüşte yalnızca 1d olmasına yardımcı olur. Elbette, ilk adım (mümkün olduğunda) verileri çizmek ve size bir şey çıkıp çıkmadığını görmek olmalıdır; 2d içindesiniz, bu yüzden bu kolay olmalı.

$\mathbb{R}^n$

• Bahsettiğiniz gibi, karşılıklı bilgileri entropilerle tahmin edin. Bu en iyi seçeneğiniz olabilir; en yakın komşu temelli tahminciler düşük boyutlarda iyidirler ve histogramlar bile 2d'de korkunç değildir. Tahmin hatası hakkında endişeleniyorsanız, bu tahmin edici basittir ve size sınırlı örnek sınırlar verir (diğerleri sadece asimptotik özellikler kanıtlar):

  Sricharan, Raich ve Kahraman. Entropi fonksiyonalitelerinin ampirik olarak tahmin edilmesi. arXiv: 1012.4188 [matematik]

  Alternatif olarak, karşılıklı bilgi için benzer doğrudan tahminciler vardır, örn.

  Pál, Póczos ve Svepesári. Rényi Entropisi ve Genelleştirilmiş En Yakın Komşu Grafiklerine Dayalı Karşılıklı Bilgilerin Tahmini , NIPS 2010.

• Hilbert-Schmidt bağımsızlık kriteri: çekirdek (RKHS anlamında, KDE değil) temelli bir yaklaşım.

  Gretton, Bousqet, Smola ve Schölkopf, Hilbert-Schmidt Normları ile İstatistiksel Bağımsızlığı Ölçmek , Algoritmik Öğrenme Teorisi 2005.

• Schweizer-Wolff yaklaşımı: copula dönüşümlerine dayanıyor ve monoton artan dönüşümler için değişmez. Buna pek aşina değilim, ama bence hesaplama açısından daha basit ama belki daha az güçlü.

  Schweizer ve Wolff, Rastgele Değişkenlere İlişkin Parametrik Olmayan Bağımlılık Ölçütleri Üzerine , İstatistiklerin Anneleri 1981.

$H_{0}: H(x,y) = F(x)G(y)$Hmischoeffd

Bu kağıttan ne haber:

http://arxiv.org/pdf/0803.4101.pdf

"Mesafelerin korelasyonuyla bağımlılığın ölçülmesi ve test edilmesi". Székely ve Bakirov'un her zaman ilginç şeyleri vardır.

Uygulama için matlab kodu var:

http://www.mathworks.com/matlabcentral/fileexchange/39905-distance-correlation

Bağımsızlık için başka herhangi bir (uygulaması basit) bir test bulursanız bize bildirin.

Çalışmada Mesafe Kovaryansı ve çekirdek testleri (Hilbert-Schmidt bağımsızlık kriterine göre) arasındaki bağlantı verilmiştir:

Sejdinovic, D., Sriperumbudur, B., Gretton, A. ve Fukumizu, K., Hipotez Testlerinde Uzaklık ve RKHS-Bazlı İstatistiğin Eşitliği, İstatistik Annals, 41 (5), s.2263-2702, 2013

Uzaklık kovaryansının, belirli bir çekirdek ailesi için çekirdek istatistiğinin özel bir durumu olduğu gösterilmiştir.

Karşılıklı bilgileri kullanmak niyetindeyseniz, MI'nin ikili tahminini temel alan bir test:

Gretton, A. ve Gyorfi, L., Tutarlı Parametrik Olmayan Bağımsızlık Testleri, Makine Öğrenimi Araştırmaları Dergisi, 11, s.1391 - 1423, 2010.

En iyi test gücüne sahip olmak ilginizi çekiyorsa, bining ve karşılıklı bilgiler yerine, çekirdek testlerini kullanmaktan daha iyi olursunuz.

Dedi ki, değişkenleriniz tek değişkenlik gösterdiğinde, Hoeffding'inki gibi klasik parametrik olmayan bağımsızlık testleri muhtemelen iyidir.

İstatistiklerde nadiren (asla?), Örnek istatistik durumunuzun = bir puan değeri olduğunu gösterebilir misiniz? Puan değerlerine karşı test edebilir ve bunları hariç tutabilir ya da hariç tutabilirsiniz. Ancak istatistiklerin niteliği, değişken verilerin incelenmesiyle ilgilidir. Her zaman bir varyans olduğu için, o zaman mutlaka bir şeyin tam olarak ilişkili, normal, gauss vb. Olmadığını bilmenin bir yolu olmayacaktır. Bir değerin makul değerler aralığının dışında olup olmadığını öğrenebilirsiniz. Örneğin, hiçbir ilişkiyi dışlamak ve ilişkinin ne kadar büyük olduğuna dair çeşitli değerler vermek kolaydır.

Bu nedenle, hiçbir ilişki göstermemeye çalışmak, esasen asıl değeri relationship = 0başarı ile karşılamayacak. Yaklaşık 0 olarak kabul edilebilecek bir dizi ilişki ölçüsü varsa, o zaman bir test hazırlamak mümkündür.

Bu sınırlamayı kabul edebileceğinizi varsayarsak, düşük bir eğriye sahip bir saçılma grafiği sağlamanıza yardımcı olmaya çalışan kişilerin yararı olacağını düşünelim. Aradığınız R çözümleri deneyin çünkü:

scatter.smooth(x, y)

Şimdiye kadar verdiğiniz sınırlı bilgiye dayanarak, genelleştirilmiş bir katkı modelinin bağımsız olmama testi için en iyi şey olabileceğini düşünüyorum. Bunu CI'ler ile öngörülen değerler etrafında çiziyorsanız, bir bağımsızlık inancı hakkında açıklamalar yapabilirsiniz. Check out gammgcv paketinde. Yardım oldukça iyi ve burada CI ile ilgili yardım var .

İlginç olabilir ...

Garcia, JE; Gonzalez-Lopez, VA (2014) En uzun artan sıralamaya göre sürekli rastgele değişkenler için bağımsızlık testleri. Çok Değişkenli Analiz Dergisi, v. 127 s. 126-146.

http://www.sciencedirect.com/science/article/pii/S0047259X14000335