Sağlam yöntemler gerçekten daha mı iyi?

Her biri yaklaşık 400 ve yaklaşık 300 tahmin ediciye sahip iki grup denek var, A ve B. Amacım ikili yanıt değişkeni için bir tahmin modeli oluşturmak. Müşterim, A'dan B'ye inşa edilen modeli uygulamanın sonucunu görmek istiyor. güç ve hassasiyet --- bakınız sayfa 90, Harici Doğrulama: Sahip olduğum veri türünün toplanmasının çok pahalı ve zaman alıcı olduğunu göz önünde bulundurarak onunla hemfikirim. .) Tahmincilerimin çoğu yüksek derecede ilişkilidir ve ayrıca çok çarpıktır. Tahmin modelimi oluşturmak için lojistik regresyon kullanıyorum.

Tahmincilerim esas olarak mekanikten geliyor. Örneğin, toplam zaman konusu daha yüksek bir eşik daha stres altında süre boyunca [ t 1 , t 2 ] çeşitli değerleri için, α > 0 ve 0 ≤ t 1 < t 2 . Sadece tanımlarından, bu toplam sürelerin çoğunun cebirsel olarak birbiriyle ilişkili olduğu açıktır. Cebirsel olarak ilişkili olmayan yordayıcıların çoğu, doğası gereği ilişkilidir: bir zaman dilimi boyunca yüksek stres altında olan özneler [ t 1 , t 2$\alpha$$[t_1, t_2]$$\alpha > 0$$0 \leq t_1 < t_2$$[t_1, t_2]$[ t 1 , t 2 ] ∩ [ t 3 , t 4 ] = ∅ olsa bile , zaman diliminde yüksek stres altında olma eğilimindedir . Verilerin boyutunu azaltmak için, ilgili tahmin edicileri birlikte kümelendirdim (örneğin, tüm toplam stres sürelerini birlikte) ve her kümeyi temsil etmek için temel bileşen analizini kullandım. Değişkenler çarpık olduğundan, iki alternatif yol denedim:$[t_3,t_4]$$[t_1,t_2] \cap [t_3,t_4] = \emptyset$

• PCA yapmadan önce, değişkenlerdeki çarpıklığı azaltmak için logaritmik bir dönüşüm kullandım.
• Sağlam ana bileşenleri bulmak için R, (PcaHubert) içindeki rrcov paketi tarafından uygulanan Mia Hubert'in ROBPCA algoritmasını kullandım.

Performans ölçütlerim olarak ROC eğrisinin genel şeklini, hassas geri çağırma eğrisinin şeklini ve ROC eğrisinin (AUC) altındaki alanı kullanıyorum ve A ve B veri kümelerinin her ikisi için de benzer sonuçlar almak istiyorum Sağlam temel bileşenleri kullanmaktan çok daha iyi bir sonuç almayı bekliyordum, ama şaşırdım, ilk yöntem daha iyi oldu: Her iki A ve B veri kümesi için daha iyi AUC değeri, ROC eğrileri arasında daha fazla benzerlik ve daha benzer hassas hatırlama eğrileri.

Bunun açıklaması nedir? Verilerimin normal görünmesini sağlamak yerine sağlam temel bileşenleri nasıl kullanabilirim? ROBPCA yerine önerebileceğiniz sağlam PCA yöntemleri var mı?

Kısacası ve açıklamanızdan, elmayı portakalla .... karşılaştırıyorsunuz.

İlk karşılaştırılabilirlik konusunu kısaca ele alalım. Günlük bir dönüşüm değil Aykırı sorunu çözmek. Bununla birlikte, yoğun çarpık verileri daha simetrik hale getirmeye yardımcı olabilir ve herhangi bir PCA yönteminin uyumunu iyileştirebilir. Kısacası, verilerinizin almak sağlam bir analiz yapmanın yerini tutmaz ve bazı durumlarda (çarpık veriler) tamamlayıcı olabilir. Bu ilk karışıklığı bir kenara koymak için, bu yazının geri kalanında bazı asimetrik iki değişkenli verilerin log dönüştürülmüş sürümünü kullanıyorum.$\log$

Bu örneği düşünün:

library("MASS")
library("copula")
library("rrcov")
p<-2;n<-100;

eps<-0.2
l1<-list()
l3<-list(rate=1)
#generate assymetric data
model<-mvdc(claytonCopula(1,dim=p),c("unif","exp"),list(l1,l3));
x1<-rMvdc(ceiling(n*(1-eps)),model);
#adding 20% of outliers at the end:
x1<-rbind(x1,mvrnorm(n-ceiling(n*(1-eps)),c(7,3),1/2*diag(2))) 

Şimdi, iki modeli takın (ROBPCA ve klasik pca her ikisi de verilerin günlüğüne):

x2<-log(x1)
v0<-PcaClassic(x2)
v1<-PcaHubert(x2,mcd=FALSE,k=2)

Şimdi, her yöntem tarafından bulunan en küçük varyasyon eksenini düşünün (burada, kolaylık sağlamak için, log dönüşümlü alana çizdim ama orijinal alanda aynı sonuçları elde edersiniz).

Görünür olarak, ROBPCA verilerin kirlenmemiş kısmını (yeşil noktalar) ele almak için daha iyi bir iş çıkarır:

Ama şimdi, ikinci noktama geliyorum.

$H_u$$z_i$$w_i$

buna sahipsiniz (bu yukarıdaki grafikte görülebilir):

Ama şaşıracaksınız:

- test prosedürünüzü tanımladığınız şekilde, tüm veri kümesinde uygunluk değerlendirme kriterini hesaplarsınız, bu nedenle değerlendirme kriteriniz (2) 'nin monoton bir fonksiyonu olması gereken monoton bir işlevdir -

Başka bir deyişle, sağlam bir uyumun, tam veri kümenizdeki sağlam olmayan bir yordamdan daha az toplam kare ortogonal kalıntıya sahip olmasını beklemeyin: sağlam olmayan tahminci, zaten tam veri kümesindeki SSOR'un benzersiz minimize edicisidir.