Yüksek p değerine sahip güçlü korelasyon katsayısı örneği

Merak ediyorum, çok güçlü bir korelasyon katsayısına sahip olmak mümkün mü (örneğin, 9 veya daha yüksek), p değeri yüksek (örneğin .25 veya daha yüksek) olabilir mi?

İşte p değeri yüksek, düşük korelasyon katsayısı örneği:

set.seed(10)
y <- rnorm(100)
x <- rnorm(100)+.1*y
cor.test(x,y)

kor = 0.03908927, p = 0.6994

Yüksek korelasyon katsayısı, düşük p değeri:

y <- rnorm(100)
x <- rnorm(100)+2*y
cor.test(x,y)

kor = 0.8807809, p = 2.2e-16

Düşük korelasyon katsayısı, düşük p değeri:

y <- rnorm(100000)
x <- rnorm(100000)+.1*y
cor.test(x,y)

kor = 0.1035018, p = 2.2e-16

Yüksek korelasyon katsayısı, yüksek p değeri: ???

Alt çizgi

Gerçek (Pearson) korelasyon katsayısının sıfır olduğu hipotezini reddetmek için gereken örnek korelasyon katsayısı, örneklem büyüklüğü arttıkça oldukça hızlı bir şekilde küçülür. Yani, genel olarak hayır, aynı anda büyük (büyüklükte) bir korelasyon katsayısına ve aynı anda büyük bir değerine sahip olamazsınız$p$ .

Üst Çizgi (Ayrıntılar)

fonksiyonunda Pearson korelasyon katsayısı için kullanılan test, aşağıda tartıştığım yöntemin çok az değiştirilmiş bir versiyonudur.$R$cor.test

Varsayalım bağıntı ile istatistiksel bağımsız iki değişkenli normal rasgele vektörlerdir p'ye . O Biz Sıfır hipotezini test etmek istiyorum ρ = 0 versus ρ ≠ 0 . Örnek korelasyon katsayısı r olsun . Standart doğrusal regresyon teorisi kullanılarak, test istatistiğinin, T = r √ olduğunu göstermek zor değildir. $(X_1,Y_1), (X_2,Y_2),\ldots,(X_n,Y_n)$$\rho$$\rho = 0$$\rho \neq 0$$r$ bir yer alırtn-2geçersiz hipoteze göre dağılımı. Büyükn için,tn-2dağılımı standart normale yaklaşır. Dolayısıyla,T2, yaklaşık bir derece serbestlik ile dağıtılmış yaklaşık olarak ki-karedir. (Yaptığımız varsayımlar altında,gerçeklikteT2∼F1,n-2, ancakχ21yaklaşımı olan biteni daha açık bir hale getiriyor, sanırım.)

$$T = \frac{r \sqrt{n-2}}{\sqrt{(1-r^2)}}$$ $t_{n-2}$$n$$t_{n-2}$$T^2$$T^2 \sim F_{1,n-2}$$\chi^2_1$

Yani, Burada q, 1 - α olduğu ( 1 - α ) miktarsal bir serbestlik derecesine sahip olan bir ki-kare dağılım.

$$\mathbb P\left(\frac{r^2}{1-r^2} (n-2) \geq q_{1-\alpha} \right) \approx \alpha \>,$$ $q_{1-\alpha}$$(1-\alpha)$

Şimdi, not bu olarak artmaktadır r 2 artar. Olasılık beyanındaki miktarı yeniden düzenleyerek, hepsine sahibiz | r | ≥ $r^2/(1-r^2)$$r^2$ seviyesindeki boş hipotezireddederiz. Açıkça sağ tarafnile azalır.

$$|r| \geq \frac{1}{\sqrt{1+(n-2)/q_{1-\alpha}}}$$ $\alpha$$n$

Bir entrika

İşte red bölgesi örneklem büyüklüğünün bir fonksiyonu olarak. Bu nedenle, örneğin, örneklem büyüklüğü 100'ü aştığında, (mutlak) korelasyonun, boş değeri α = 0,05 düzeyinde reddetmek için sadece yaklaşık 0.2 olması gerekir .$|r|$$\alpha = 0.05$

Bir simülasyon

Kesin bir korelasyon katsayısına sahip bir çift sıfır ortalama vektör çifti üretmek için basit bir simülasyon yapabiliriz . Kod aşağıda. Bundan çıktısına bakabiliriz cor.test.

k <- 100
n <- 4*k

# Correlation that gives an approximate p-value of 0.05
# Change 0.05 to some other desired p-value to get a different curve
pval <- 0.05
qval <- qchisq(pval,1,lower.tail=F)
rho  <- 1/sqrt(1+(n-2)/qval)

# Zero-mean orthogonal basis vectors
b1 <- rep(c(1,-1),n/2)
b2 <- rep(c(1,1,-1,-1),n/4)

# Construct x and y vectors with mean zero and an empirical
# correlation of *exactly* rho
x <- b1
y <- rho * b1 + sqrt(1-rho^2) * b2

# Do test
ctst <- cor.test(x,y)

Yorumlarda istendiği gibi, yukarıdaki kodu izleyen derhal çalıştırılabilen arsa reprodüksiyonu için kod buradadır (ve burada tanımlanan değişkenlerin bazılarını kullanır).

png("cortest.png", height=600, width=600)
m  <- 3:1000
yy <- 1/sqrt(1+(m-2)/qval)
plot(m, yy, type="l", lwd=3, ylim=c(0,1),
     xlab="sample size", ylab="correlation")
polygon( c(m[1],m,rev(m)[1]), c(1,yy,1), col="lightblue2", border=NA)
lines(m,yy,lwd=2)
text(500, 0.5, "p < 0.05", cex=1.5 )
dev.off()

cor.test(c(1,2,3),c(1,2,2))

kor = 0.866, p = 0.333

Yüksek p-değeri olan korelasyon katsayısının yüksek bir tahmini ancak çok küçük bir örneklem büyüklüğü ile gerçekleşebilir. Bir örnek vermek üzereydim, ama Aaron bunu yaptı!

Fisher RZ dönüşümü ile null altında örnek korelasyonunun hiperbolik arkı, sıfır ve ortalama hata ile yaklaşık normal olduğuna inanıyorum.$1 / \sqrt{n-3}$$\hat{\rho} > 0$$p$

$$p = 2 - 2 \Phi\left(\operatorname{atanh}(\hat{\rho})\sqrt{n-3}\right),$$ $\Phi$$H_0: \rho = 0$

$n$$\hat{\rho}$$p$

 #get n for sample correlation and p-value, 2-sided test of 0 correlation
 n.size <- function(rho.hat,p.val) {
   n <- 3 + ((qnorm(1 - 0.5 * p.val)) / atanh(rho.hat))^2
 }

$\hat{\rho} = 0.5$$p = 0.2$

print(n.size(0.5,0.2))

[1] 8.443062

$n, p$$\hat{\rho}$

Evet. Bir p değeri numune büyüklüğüne bağlıdır, bu nedenle küçük bir örnek bunu verebilir.

Gerçek efekt boyutunun çok küçük olduğunu ve küçük bir örnek çizdiğini söyleyin. Şansınız varsa, çok yüksek korelasyon ile birkaç veri noktaları elde edersiniz. P değeri olması gerektiği gibi yüksek olacaktır. Korelasyon yüksektir, ancak bu çok güvenilir bir sonuç değildir.

R'nin cor () 'undaki örnek korelasyonu size korelasyonun en iyi tahminini (örnek verilen) söyleyecektir. P değeri korelasyonun gücünü ölçmez. Numunenin büyüklüğü göz önüne alındığında, aslında etkisinin olmaması durumunda ne kadar muhtemel olabileceğini ölçer.

Bunu görmenin başka bir yolu: Aynı etki büyüklüğüne sahipseniz, ancak daha fazla örnek alıyorsanız, p değeri her zaman sıfıra gider.

(Tahmini etki büyüklüğü ve tahmine ilişkin güven kavramlarını daha yakından bütünleştirmek istiyorsanız, güven aralıklarını kullanmak daha iyi olabilir veya Bayesian tekniklerini kullanmak daha iyi olabilir.)