Kollearlığı tespit etmek için farklı yaklaşımların faydaları nelerdir?

OLS regresyonumda eşdoğrusallığın bir sorun olup olmadığını tespit etmek istiyorum. Varyans enflasyon faktörlerinin ve durum endeksinin yaygın olarak kullanılan iki önlem olduğunu anlıyorum, ancak her yaklaşımın esası ya da puanların ne olması gerektiği konusunda kesin bir şey bulmakta zorlanıyorum.

Hangi yaklaşımın yapılacağını ve / veya hangi puanların uygun olduğunu gösteren önemli bir kaynak çok faydalı olacaktır.

Benzer bir soru "Belirli bir çoklu-doğrusallık ölçüsünü tercih etmek için bir neden var mı?" ama ideal olarak alıntı yapabileceğim bir referanstan sonra geliyorum.

Belsley, Kuh ve Welsch olduğu sorusuna bu tür gitmek için metni. Bunlar, "Tarihi Perspektif" başlıklı bir bölümde daha eski teşhislerin kapsamlı bir şekilde tartışılmasını içermektedir. VIF konusunda yazıyorlar

... verilerinin ortalandığını ve birim uzunluğa sahip olacak şekilde ölçeklendiğini varsayarsak, korelasyon matrisi basitçe . ...$X$$R$$X^\prime X$

Biz düşünen . , nin köşegen elemanlarına genellikle varyans enflasyon faktörleri denir, ve tanı değerleri ilişkisinden sonra gelir. burada , kalan açıklayıcı değişkenler üzerinde gerileyen çoklu korelasyon katsayısıdır . Açıkça yüksek bir VIF, birliğe yakın bir olduğunu gösterir ve bu nedenle işaret eder. Bu nedenle, bu önlem, genel olarak müşterekliğin bir göstergesi olarak kullanılmaktadır. gibi zayıf yönleri$R^{-1} = (X^\prime X)^{-1}$$R^{-1}$$r^{ii}$$\text{VIF}_i$

$$\text{VIF}_i = \frac{1}{1 - R_i^2}$$ $R_i^2$$X_i$$R_i^2$$R$, var olan birçok yakın bağımlılığı birbirinden ayırt edememesi ve yüksek olarak kabul edilebilecek ve düşük olarak değerlendirilebilecek VIF değerleri arasında ayrım yapmak için anlamlı bir sınır bulunmaması nedeniyle yatmaktadır.

(veya ) analiz etmek yerine BKW, Tekil Değer Ayrışmasının dikkatli ve kontrollü bir incelemesini önerir . Bunlar en küçük tekil değerlerin en büyük oranı olduğunu göstererek bu motive durum numarası arasında ve durum numarası (sıkı zamanlarda) içerir nasıl regresyon tahminlerinin hesaplanması hataları işlem çoğaltılma sınırlarını göstermektedir. parametre tahminlerinin varyanslarının tekil değerlerle ilişkili bileşenlere yaklaşık olarak ayrıştırılmasını . Bu ayrışmanın gücü (çoğu durumda) doğayı ortaya çıkarma yeteneğinde yatar$R$$R^{-1}$$X$$X$$\hat\beta_i$ sadece varlığını göstermek yerine kollearlık.

Yüzlerce değişkeni olan regresyon modelleri yapan herkes bu özelliği takdir edecektir! Yazılımın "verileriniz doğru, ilerleyemiyorum" ve hatta "verileriniz doğru, aşağıdaki değişkenleri atıyorum" demek için bir şey var. " değişken grubunun hesaplamalarda kararsızlığa neden olduğunu söyleyebilmesi çok daha yararlı bir şey : bu değişkenlerden hangisini onsuz yapabileceğinizi veya dikkate alabileceğinizi görün sayılarını azaltmak için temel bileşenler analizi yapmak. "$X_{i_1}, \ldots, X_{i_k}$

Nihayetinde, BKW kollearliği teşhis etmeyi öneriyor

... aşağıdaki çift durum:

1. Yüksek bir durum indeksine sahip olduğuna karar verilen ve bununla ilişkili tekil bir değer
2. İki veya daha fazla tahmini regresyon katsayısı varyansı için yüksek varyans-ayrışma oranları .

(1) 'de büyük kabul edilen koşul indekslerinin sayısı (örneğin, büyük ) veri matrisinin sütunları arasındaki yakın bağımlılıkların sayısını tanımlar ve bu yüksek koşullu indekslerin büyüklükleri, göreceli "sıkılıklarının bir ölçüsünü sağlar. " Ayrıca, her bir yüksek koşul indeksi ile ilişkili büyük varyans-ayrışma oranlarının (2'den büyük ) saptanması, buna karşılık gelen yakın bağımlılıkta yer alan değişkenleri ve bu oranların yüksekliğini durum indeksi, karşılık gelen regresyon tahmininin eş-doğrusallık mevcudiyeti ile ayrılma derecesinin bir ölçüsünü sağlar.$30$$X$$0.5$

• Varyans Enflasyon Faktörlerinin (VIF) anlaşılması kolaydır. Tasarım matrisi sütunlarınızın her birini diğerlerine bastırın , bu modelin 2'sini not edin, hesaplayın ve işte devam edin. 10'luk bir VIF, diğer tüm regresörleri kullanarak bir öngörücünün varyansının% 90'ını açıklayabileceğiniz anlamına gelir. Bu tipik olarak eşzamanlılık için başparmak eşiği kuralı olarak kullanılır.$R^2$$1/(1-R^2)$

  Bununla birlikte, tipik olarak uygulandığı şekliyle VIF'ler, kesişme genellikle bu "yardımcı" regresyonlara sessizce dahil edildiğinden, kesişme ile eş-doğrusallıktan bahsedemez. Ayrıca, bir regresörün yüksek bir VIF'si varsa, kollearlıktan hangi diğer regresörlerin sorumlu olduğunu hemen bilmezsiniz . Yardımcı regresyonlardaki standart katsayılara bakmanız gerekir.

• Belsley, Kuh & Welsch'in (Belsley, DA; Kuh, E. & Welsch, RE Regresyon Teşhisi: Etkili Verileri ve Kollektifliğin Kaynaklarını Belirleme. John Wiley & Sons, 1980) durum indeksleri ve eşdüzey ayrışma oranlarını anlamak çok daha zordur . John Wiley & Sons, 1980) . Birkaç yıl önce bunlarla çalışıyordum, ama onları bir tazeleme ;-) almadan burada açıklamaya çalışmayacağım.

  Bu teşhis do kesişmesine ile doğrudaşlığa tespit izin verir. Ve belirli bir regresörün eşbiçimliğinden hangi diğer regresörlerin sorumlu olduğunu bulmak için kollearlık ayrışma oranlarını araştırabilirsiniz.

Alıntı için yaygın olarak bulunan referanslar için, 117. sayfadaki Faraway kitabı , koşul numaralarına dayalı sorunları tespit etmek için 30'un üzerinde bir kural sağlar ve İstatistiksel Öğrenmeye Giriş , sayfa 101, 5 veya 10'un üzerindeki VIF değerlerinin bir sorunu gösterdiğini söylüyor .

Muhtemelen, çoklu bağlantıyı tanımlamak için hangi yöntemi kullandığınızdan daha önemlidir.