Etkili nokta, yüksek kaldıraç noktası ve aykırı değerlerin tam anlamı ve karşılaştırması?

Wikipedia'dan

Etkili gözlemler , regresyon modelinin tahminleri üzerinde nispeten büyük etkisi olan gözlemlerdir.

Wikipedia'dan

Kaldıraç noktaları , varsa, bağımsız değişkenlerin aşırı veya dış değerlerinde yapılan gözlemlerdir, böylece komşu gözlemlerin eksikliği, yerleştirilmiş regresyon modelinin söz konusu gözleme yakın olacağı anlamına gelir.

Aşağıdaki Wikipedia neden karşılaştırması

Etkili bir nokta tipik olarak yüksek kaldıraç oranına sahip olsa da , yüksek kaldıraç noktası mutlaka etkili bir nokta değildir .

Bazı verilere uygun herhangi bir regresyon çizgisini düşünün.

Şimdi fazladan bir veri noktası, verinin ana gövdesinden biraz uzakta, ama bu regresyon çizgisi boyunca bir yerde olan bir uzak nokta hayal edin.

Eğer regresyon çizgisi yeniden yerleştirilecek olsaydı, katsayılar değişmezdi. Tersine, ekstra aykırı değerlerin silinmesinin katsayılar üzerinde sıfır etkisi olacaktır.

Bu nedenle, bir aykırı değer veya kaldıraç noktasının, verilerin geri kalanıyla ve geri kalan modelle mükemmel şekilde tutarlı olması durumunda sıfır etkiye sahip olacaktır.

İsterseniz "çizgi" için "düzlem" veya "hiper düzlem" i okuyun, ancak iki değişkenin ve en basit dağılımın en basit örneği burada yeterlidir.

Bununla birlikte, tanımlara düşkün olduğunuz gibi - çoğu zaman, onlara çok fazla okuma eğilimi gösteriyor - işte benim aykırı değerlerin en sevdiğim tanımı:

"Aykırı değerler, numunenin çoğunluğu ile ilgili sürpriz oluşturan örnek değerleridir" (WN Venables ve BD Ripley. 2002. S. New York ile modern uygulamalı istatistikler : Springer, s.119).

En önemlisi, sürpriz seyircinin zihnindedir ve verilerin örtük veya açık bir modeline bağlıdır. Aykırı değerlerin hiç şaşırtıcı olmadığı başka bir model olabilir, örneğin verilerin normalden ziyade lognormal veya gama olup olmadığını söyleyin.

PS O kaldıraç noktaları sanmıyorum mutlaka komşu gözlemlerini yoksundur. Örneğin, çiftler halinde ortaya çıkabilirler.

Basit bir doğrusal model söz konusu olduğunda, yüksek kaldıraç noktasının nasıl etkili olmayabileceğini göstermek kolaydır:

Mavi çizgi tüm verilere dayanan bir regresyon çizgisidir, kırmızı çizgi grafiğin sağ üstündeki noktayı yok sayar.

Bu nokta, verilerin geri kalanından çok uzakta olduğu için, sağladığınız yüksek bir kaldıraç noktasının tanımına uyar. Bu nedenle, regresyon çizgisi (mavi olan) ona yakın geçmelidir. Ancak konumu, verilerin geri kalanında gözlenen forma büyük ölçüde uyduğundan, diğer model bunu çok iyi tahmin edecektir (yani, kırmızı çizgi zaten her durumda ona yakın geçer) ve bu nedenle özellikle etkili değildir.

Bunu aşağıdaki dağılım grafiğiyle karşılaştırın:

Burada, grafiğin sağındaki nokta hala yüksek bir kaldıraç noktasıdır, ancak bu kez verilerin geri kalanında gözlemlenen kalıba gerçekten uymuyor. Mavi çizgi (tüm verilere dayanan doğrusal uyum) çok yakın geçer, ancak kırmızı çizgi geçmez. Bu bir noktayı dahil etmek veya hariç tutmak, parametre tahminlerini önemli ölçüde etkiler: Çok fazla etkisi vardır.

Belirttiğiniz tanımların ve az önce verdiğim örneklerin yüksek kaldıraç / etkili noktaların bir anlamda tek değişkenli “aykırı değerler” olduğunu ve takılan regresyon hattının en yüksek etkiye sahip noktalara yakın geçeceğini ima ettiğini düşünebilirsiniz. durum böyle değil.

Bu son örnekte, sağ alt taraftaki gözlem, modelin uyumu üzerinde (nispeten kırmızı) ve mavi çizgiler arasındaki farktan tekrar görülebilir) büyük bir etkiye sahiptir, ancak yine de regresyon çizgisinden uzak gibi görünmektedir. tek değişkenli dağılımlarda tespit edilemezken (burada eksenler boyunca “kilimler” ile temsil edilir).