Popülasyonlar arasındaki farklılıkları inceleme

Diyelim ki iki popülasyondan bir örnek aldık: Ave B. Bu popülasyonların bireylerden oluştuğunu varsayalım ve bireyleri özellikler açısından tanımlamayı seçiyoruz. Bu özelliklerin bazıları kategoriktir (örn. İşe giderler mi?) Ve bazıları sayısaldır (örn. Boyları). Şu özellikleri çağıralım: . Bu özelliklerden yüzlerce (örneğin n = 200) toplarız, basitlik olduğunu varsayalım, tüm bireylerde hata veya gürültü olmadan.$X_1 \ldots X_n$

İki popülasyonun farklı olduğunu varsayıyoruz. Amacımız aşağıdaki iki soruyu cevaplamaktır:

1. Aslında önemli ölçüde farklı mı?
2. Aralarında önemli ölçüde farklı olan nedir?

Karar ağaçları (örneğin rastgele ormanlar) ve doğrusal regresyon analizi gibi yöntemler yardımcı olabilir. Örneğin, bu grupları neyin ayırt edebileceğini anlamak ve özellikler ile popülasyonlar arasındaki ilişkileri incelemek için rastgele ormanlarda özellik önemine veya doğrusal regresyondaki uygun katsayılara bakılabilir.

Bu rotaya geçmeden önce, burada seçeneklerim hakkında iyi bir fikir edinmek istiyorum. Lütfen amacımın kendi başına bir tahmin olmadığını, ancak gruplar arasında önemli farklılıkları test edip bulduğunu unutmayın.

Bu sorunu ele almak için bazı ilkeli yaklaşımlar nelerdir ?

İşte bazı endişelerim var:

• Doğrusal regresyon analizi gibi yöntemler tam olarak cevap vermeyebilir (2), değil mi? Örneğin, tek bir uyum, bazı farklılıkları bulmanıza yardımcı olabilir, ancak tüm önemli farklılıkları değil . Örneğin, çoklu eşzamanlılık, tüm özelliklerin gruplar arasında nasıl değiştiğini (en azından tek bir uyumda) bulmamızı engelleyebilir. Aynı nedenden ötürü, ANOVA'nın (2) 'ye de tam bir cevap veremeyeceğini umuyorum.

• Öngörülü bir yaklaşımın nasıl cevap vereceği tam olarak açık değildir (1). Örneğin, hangi sınıflandırma / tahmin kaybı işlevini en aza indirmeliyiz? Uygun olduğumuzda grupların önemli ölçüde farklı olup olmadığını nasıl test edebiliriz? Son olarak, (1) için aldığım cevabın kullandığım belirli sınıflandırma modelleri setine bağlı olabileceğinden endişe ediyorum.

Sorunu aşağıdaki gibi düşünelim.

Diyelim ki ve popülasyon için geçerli bir ikili değişken: ilk popülasyon, ikinci popülasyon anlamına geliyor. Sıfır hipotezi birkaç eşdeğer şekilde ifade edilebilir:$X=(X_1,X_2,..X_n)$$Y$$Y=0$$Y=1$

• $H_0$ : popülasyonlar aynı
• $H_0$ : dağılımı verilen dağılımı ile aynı olan verilen$X$$Y=0$$X$$Y=1$
• $H_0$ : ve bağımsız$X$$Y$
• $H_0$ : Herhangi bir fonksiyon için içine , ve bağımsız olarak$f$$\{0,1\}$$f(X)$$Y$

Rastgele ormanlar hakkında fazla bir şey bilmiyorum, ancak bunlar aşırı uyumu önleyen çok amaçlı bir öngörücü olarak düşünülebilir. Onları biraz idealize edersek: bu, ile her türlü özelliği arasındaki herhangi bir ilişkiyi aşırı uydurmadan tespit edebilen bir şeydir .$Y$$X$

Buna dayanarak bir şey denemek mümkündür. Orijinal veri kümesini bir eğitim setine ve bir test setine ayırın. Sonra:

• rastgele orman yetiştirmek tahmin den eğitim setinde.$f$$Y$$X$
• test setinde ve arasında basit bir ki-kare bağımsızlık testi yapın (risk )$\alpha$$f(X)$$Y$

Bu test oldukça tutucu. Rastgele orman kötü bir , en kötü şekilde aptal bir çıktısı , zaten daha düşük bir olasılıkla reddeder ( doğru olduğunda ). Bir test ve bir eğitim seti kullandığımız için fazla uydurma bir sorun bile olmaz. Bununla birlikte, testin gücü doğrudan rastgele orman yönteminin (veya kullanılan herhangi bir öngörücünün) zekasına bağlıdır.$f(X)$$H_0$$\alpha$$H_0$

Birkaç olası öngörücüyü kullanabileceğinizi unutmayın: önce düz eski lojistik regresyon, daha sonra bazı çapraz özelliklere sahip lojistik regresyon, sonra birkaç karar ağacı, sonra rastgele bir orman ... Ancak bunu yaparsanız , sayıya ayarlamanız gerekir. yanlış keşiflerden kaçınmak için yapılan testler. Bakınız: Çoklu testler için alfa ayarı$\alpha$

Veride kaç özellik bulunduğunu söylemezsiniz. Az, çok, muazzam? Bunların hepsi aynı araçlar, yöntemler ve yöntemler kullanılarak ölçülen popülasyonlar arasında aynı özellikler olduğunu varsayabilir miyiz? Değilse, değişkenlerdeki hataların ölçüm modelinin çalışabileceği daha büyük bir sorununuz vardır .

@benoitsanchez 1 numaralı soruyu cevaplamış gibi görünüyor).

Wrt # 2), RF'lerin yardımcı olabileceğinden emin değilim. Bir kerede bir özelliğe uygulanan tek yönlü ANOVA gibi daha resmi bir model kullanılarak, özellikler için popülasyonlar arasındaki farkın bir testi geliştirilebilir. Bu testlerin sonuçlarını, testin büyüklüğüne ve önemine bağlı olarak özetleyerek, popülasyonların özellikler arasında nasıl farklılaştığının açıklayıcı bir profili mümkün hale gelir. Bu, zevkinize, tercihlerinize ve eğitiminize yeterince titiz olmayabilecek, kuşkusuz geçici ve sezgisel bir çözümdür.

Lateks tipi gösterimlerinde iyi olmamak, bu testlerin nasıl çalışabileceğini basitçe açıklayayım: ilk olarak, tüm özellikleri bir seferde bir özellikten geçiren bir tür makro döngü oluşturun. Döngünün her geçişinde, yeni özellik, popülasyon için bir kukla değişkenin yanı sıra uygun olan kontrol değişkenlerinden oluşan X ile hedef veya DV olur . Her özellik için aynı kontrollerin kullanıldığından ve temel verilerin tüm ANOVA'lar için tamamen aynı olduğundan emin olun ve sonlu veri örneklerinin yakınlıklarına atfedilebilen varyasyonu ortadan kaldırın. Her özellik için yapay değişken için F testi değerlerini toplayın. Bu, özellikler arasında karşılaştırma yapılmasını sağlayan standartlaştırılmış bir metrik sağlayacaktır. F-testleri donatılmış tercih edilir betalar yana betalarstandartlaştırılmamış, her bir özelliğin birim ve standart geliştirmelerinde ifade edilmiştir.

Son yorumunuz, "(1) yanıtımın kullandığım belirli sınıflandırma / regresyon modellerine bağlı olabileceğinden endişe ediyorum" her zaman doğrudur. Cevapların, kullanılan model (ler) in bir fonksiyonu olarak değişmesi muhtemeldir. Aynı zamanda, uygulanan istatistiksel modellemenin deterministik olmayan doğası konusunda rahat olmayan veya kabul etmekte zorlanan daha güçlü teorik ve klasik olarak eğitilmiş istatistikçiler arasında yaygın olarak gözlemlenen bir rahatsızlığın ifadesidir. Bu belirtiler için mükemmel bir panzehir Efron ve Hastie'nin son zamanlarda Bilgisayar Çağı İstatistiksel Çıkarım adlı kitabıdır . Herkesin yinelemesini yineleyen, yaklaşan, sezgisel doğasını samimi bir şekilde kabul ederek, veri bilimi ve makine öğrenimi çağının 21. c'sine istatistiksel modelleme getiriyorlar.hata terimine sahip modeller. Bu gözlemin doğasında var olan gerçeği tanımak için Bayesili olmak gerekmez. Onlarınki, örneğin bir çapraz ürünler matrisi tersine çevrilmediğinde ve / veya bazı bilgiçlik modeli varsayımları karşılanmadığında ellerini uzatan klasik, 20. c istatistik uygulamasının katı determinizminden farklı bir canlandırıcı perspektiftir.