Kolmogorov-Smirnov testi neden çalışıyor?

2 örnekli KS testi hakkında okurken, tam olarak ne yaptığını biliyorum ama neden işe yaradığını anlamıyorum .

Başka bir deyişle, ampirik dağılım fonksiyonlarını hesaplamak, D istatistiklerini bulmak için ikisi arasındaki maksimum farkı bulmak, kritik değerleri hesaplamak, D istatistiklerini bir p değerine dönüştürmek vb.

Ancak, bunların hiçbirinin neden iki dağıtım hakkında bir şey söylediğini bilmiyorum.

Birisi bana bir eşeğe atlamam gerektiğini ve ne kadar hızlı kaçtığını ve hızın 2 km / s'den daha az olması durumunda null hipotezini reddettiğimi söyleyebilir. Yapmamı istediğin şeyi yapabilirim, fakat bunların boş hipotezle ne ilgisi var?

2 örnekli KS testi neden çalışıyor? ECDF'ler arasındaki maksimum farkın, iki dağıtımın ne kadar farklı olduğu ile ilgili ne yapması gerekir?

Herhangi bir yardım takdir edilmektedir. Ben istatistikçi değilim, mümkünse aptal olduğumu varsayalım.

— Darcy
kaynak

CV'ye hoş geldin, Darcy! Harika soru!

— Alexis

Bir eşeğin üzerinden atla ... :)

— Richard Hardy

Yanıtlar:

Temel olarak, test, ampirik süreçlerin ve belki de istatistiklerin en önemli sonuçlarından biri olan Glivenko Cantelli teoreminin doğrudan bir sonucu olarak tutarlıdır.

GC, Kolmogorov Smirnov test istatistiğinin , sıfır hipotezi altında olarak 0'a gittiğini söyledi . Gerçek analizle boğuşana ve teoremleri sınırlayana kadar sezgisel görünebilir. Bu bir vahiydir, çünkü işlem sayılmaz bir şekilde sınırsız sayıda rastgele işlem olarak düşünülebilir, bu nedenle yasalar veya olasılık her zaman epsilon sınırını aşabilecek bir noktanın olduğuna inanır, ancak hayır, supremum'un yakınlaşacağına inanır. uzun koşu. $n \rightarrow \infty$

Ne kadar? Mmyyeeaa bilmiyorum. Testin gücü biraz şüpheli. Asla gerçek hayatta kullanmam.

http://www.math.utah.edu/~davar/ps-pdf-files/Kolmogorov-Smirnov.pdf

— Adamo
kaynak

+1 Merhaba AdamO! İktidarı "biraz şüpheli" olmakla bir ila iki cümle mi aldın? Bu perspektifi sevmek isterdim (Testin kolayca "aşırı güç" sayıldığı sonucuna vardım).

— Alexis

Test etkisiz hale edilmez @Alexis, neredeyse boş gerçek olmasını bekliyoruz asla RL, daha doğrusu biz sadece umurumda değil arasındaki 0,1 bakış açılarından farklı yüzdelik 99,999-th olmadığını ve ., Bu yüzden gördüklerinde dan KS testi, bence bütün "bir yanlış negatif olduğunu" ve ben gördüklerinde olduğu bence "dee-do çığlık-Senin o kadar ne söylenebilir ki bu ?". Güçlü boş hipotezin testleri bilimsel kanıt sunmanın zorlayıcı bir yolu değildir.

F_{1}

$F_1$

F_{2}

$F_2$

p > 0.05

$p > 0.05$

p < 0.05

$p < 0.05$

F_{1} = F_{2}

$F_1 = F_2$

— AdamO

Tamam. Farklılık için hipotez testlerinden endişe duyuyorum. Peki iktidar hakkındaki endişeniz neredeyse kesinlikle ' nin basit ontolojik inancından mı kaynaklanıyor? ya da asimptotikle ilgili daha fazla matematik var mı, yoksa başka bir şey var mı?

F_{1}

$F_{1}$

\neq F_{2}

$\ne F_{2}$

— Alexis

@Alexis hayır, testin matematiği ile ilgili endişelerim yok. Aslında, bence oldukça zarif ve limit teoremi sonucu çok etkileyici.

— AdamO

Ben diyecekler @Alexis, bu ayarlarda olduğu için olası tam olarak eşit olacak şekilde test oldukça kullanışlı olabilir. Pek çok önemli bilimsel uygulamanın bu tasarıya uymadığını, ancak yazdığınız bazı yazılımların bilinen bir dağıtımdan sözde rasgele sayılar ürettiğini doğrulamak istediğiniz istatistiksel bir hesaplama bağlamında kabul ediyorum. Olasılık alanlarına bakmaktan alacağınız sezgiyi etkili bir şekilde kodlar.

F_{1}

$F_1$

F_{2}

$F_2$

— jcz

İki bağımsız, tek değişkenli örneğimiz var:

\begin{aligned} X_{1}, X_{2}, . . ., X_{N} & \overset{i i d}{\sim} F \\ Y_{1}, Y_{2}, . . ., Y_{M} & \overset{i i d}{\sim} G, \end{aligned}

$\begin{align} X_1,\,X_2,\,...,\,X_N&\overset{iid}{\sim}F\\ Y_1,\,Y_2,\,...,\,Y_M&\overset{iid}{\sim}G, \end{align}$ burada ve sürekli kümülatif dağılım fonksiyonlarıdır. Kolmogorov-Smirnov testi, Boş hipotez doğruysa, ve aynı dağıtımdan örneklerdir. Bunun için gereken tüm ve olmak farklı dağılımlarının çizer içindir ve

G

$G$

F

$F$

\begin{aligned} H_{0} & : F (x) = G (x) for all x \in R \\ H_{1} & : F (x) \neq G (x) for some x \in R . \end{aligned}

$\begin{align} H_0&:F(x) = G(x)\quad\text{for all } x\in\mathbb{R}\\ H_1&:F(x) \neq G(x)\quad\text{for some } x\in\mathbb{R}. \end{align}$

{X_{i}}_{i = 1}^{N}

$\{X_i\}_{i=1}^N$

{Y_{j}}_{j = 1}^{M}

$\{Y_j\}_{j=1}^M$

X_{i}

$X_i$

Y_{j}

$Y_j$

F

$F$

G

$G$ en az bir değerinde herhangi bir miktarda farklılık göstermek için . Bu yüzden, KS testi ve her numunenin ampirik CDF'leriyle tahmin ediyor , ikisi arasındaki en büyük nokta farkına dayanıyor ve bu farkın sonucuna varmak için "yeterince büyük" olup olmadığını soruyor. bazı .

x

$x$

F

$F$

G

$G$

F (x) \neq G (x)

$F(x)\neq G(x)$

x \in R

$x\in\mathbb{R}$

— jcz
kaynak

Sezgisel bir çekim:

Kolmogorov-Smirnov testi, temelde dağıtım yoluyla gözlemlerin sırasına dayanıyor. Mantık, eğer iki temel dağılım aynıysa, o zaman - örneklem büyüklüğüne bağlı olarak - sıralamanın ikisi arasında oldukça iyi bir şekilde karıştırılması gerektiğidir.

Numune siparişi yeterince aşırı bir şekilde "karıştırılmamışsa" (örneğin, dağılımındaki gözlemlerin tamamı veya çoğu , dağılımını çok daha büyük hale getirecek olan dağılımındaki gözlemlerden önce gelir ) temel dağılımların aynı olmadığı hipotezi. $Y$ $X$ $D$

İki örnek dağılımının iyi karıştırılması durumunda, çok büyük olma fırsatına sahip olmaz, çünkü ve sıralı değerleri birbiriyle eşleşme eğiliminde olur ve boş değeri reddetmek için yeterli kanıtınız olmaz . $D$ $X$ $Y$

— Alexis
kaynak