Makine öğrenimi probleminin regresyon çerçevesine çevrilmesi

I , için açıklayıcı değişkenlerinin bir panelinin yanı sıra ikili sonucuna bağlı değişkenlerin bir vektörüne sahip olduğunu . Bu nedenle , daha önceki bir zamanda değil , yalnızca son zamanında gözlenir . Tamamen genel durum, her seferinde her birim için için birden fazla , ama kısalık için durumuna odaklanalım . $X_{it}$ $i = 1 ... N$ $t = 1 ... T$ $Y_{iT}$ $Y$ $T$ $X_{ijt}$ $j=1...K$ $i$ $t$ $K=1$

Zamansal korelasyonlu açıklayıcı değişkenlere sahip bu tür "dengesiz" çiftlerinin uygulamaları, örneğin (günlük hisse senedi fiyatları, üç aylık temettüler), (günlük hava raporları, yıllık kasırgalar) veya (her hareketten sonra satranç pozisyonu özellikleri, oyunun sonu). $(X, Y)$

tahmini yapmak için (muhtemelen doğrusal olmayan) regresyon katsayıları ile , eğitim verilerinde, için erken gözlemleri verildiğinde , bunun nihai sonuca yol açtığını $\beta_t$ $Y_{it}$ $X_{it}$ $t < T$ $Y_{iT}$

$\hat{Y}_{it} = f(\sum_{k=1}^{t} X_{ik} \beta_k), \quad t = 1 ... T$

Bir ekonometri geçmişinden geldiğimde, bu tür verilere uygulanan fazla regresyon modellemesi görmedim. OTOH, bu verilere aşağıdaki makine öğrenme tekniklerinin uygulandığını gördüm:

veri kümesinin tamamında denetimli öğrenme yapmak , örneğin en aza indirmek

$\sum_{i,t}\frac{1}{2}(Y_{it} - f(X_{it} \beta_t))^2$

gözlemlenen önceki tüm noktalara basitçe tahmin ederek / engelleyerek $Y$

$Y_{it} \equiv Y_{iT}, \quad t = 1... T-1$

Bu "yanlış" hissettirir çünkü zaman içindeki farklı noktalar arasındaki zamansal korelasyonu dikkate almayacaktır.

ve discount parametresi öğrenme parametresi ile zamansal fark gibi takviye öğrenimi yapmak ve başlayarak geri yayılım yoluyla için özyineli olarak çözme $\alpha$ $\lambda$ $\beta_t$ $t=T$

$\Delta \beta_{t} = \alpha (\hat{Y}_{t+1} - \hat{Y}_{t}) \sum_{k=1}^{t} \lambda^{t-k} \nabla_{\beta} \hat{Y}_{k}$

ile gradyanı ile ilgili olarak . $\nabla_{\beta} \hat{Y}$ $f()$ $\beta$

Bu daha "doğru" gibi görünüyor çünkü geçici yapıyı dikkate alıyor, ancak ve parametreleri bir tür "ad hoc". $\alpha$ $\lambda$

Soru : Yukarıdaki denetimli / güçlendirici öğrenme tekniklerinin klasik istatistik / ekonometride kullanılan bir regresyon çerçevesine nasıl eşleştirileceğine dair literatür var mı? Özellikle, (doğrusal olmayan) en küçük kareler veya maksimum olabilirlik yaparak "tek seferde" (yani tüm eşzamanlı olarak) parametrelerini tahmin edebilmek istiyorum gibi modellerde $\beta_{t}$ $t=1...T$

$Y_{iT} = f(\sum_{t=1}^T X_{it} \beta_{t}) + \epsilon_{i}$

Ayrıca, ve meta-parametrelerini öğrenmenin zamansal farkının maksimum olabilirlik formülasyonundan kurtarılıp kurtarılamayacağını öğrenmek isterim . $\alpha$ $\lambda$

regression machine-learning reinforcement-learning

— TemplateRex
kaynak

Üçüncü paragraftaki formülasyonu açıklığa kavuşturabilir misiniz? Sen tahmin etmek istediğinizi yazmak dan , , ancak aşağıdaki formül ne yapacağı tahmin istediğini, .

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

t < T

$t < T$

Y_{i t}

$Y_{it}$

— NRH

@NRH aslında, sadece gözlemliyorum , ancak literatürde gözetimli öğrenme ile ilgili olarak gördüğüm şey , gözlemlenmeyen eşit olmasını ve sonra açıklamak için uygun yapmalarıdır. den bu sahte (bu, oyunun nihai sonucuna her pozisyon için bir değerlendirme fonksiyonunun yerleştirildiği oyun oynama uygulamalarında yapılır). Bu benim ilk formülasyonumdan net değilse üzgünüm. Her durumda, , gözlemlenen olaylar göz önüne alındığında tahmin edilen "sonuç" (oyun uygulamalarında) olacaktır .

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$

X_{i t}

$X_{it}$

— TemplateRex

Düzeni ve gözlemlediklerinizi anlıyorum, ancak sorudaki formülasyonunuz belirsiz. tahmin etmek için bir model mi eğitmek istiyorsunuz , yoksa formüllerin önerdiği gibi tüm için tahmin etmek için bir model mi eğitmek istiyorsunuz ? Belki de sadece bir yazım hatasıdır. Eğer yazarken "... tahmini ait ..." demek istiyorsun "... tahmini ait ..."?

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

t

$t$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

— NRH

bunu neden yapmak istediğiniz belli değil. Eğer gerçek pratik uygulamayı açıklayabilirseniz daha net cevaplar alabilirsiniz. Genel olarak, her bir zaman için en iyi tahmin, her bir t için ayrı ayrı mevcut verileri üzerinde gerilemesi yapmak olacaktır . Eşzamanlı bir yaklaşımın herhangi bir faydası olduğu açık değildir. Veri kümeniz için istatistiksel modeli belirtmeniz gerektiğini düşünüyorum ve belki de faydaları daha açık olacaktır.

Y_{T}

$Y_T$

X_{1}, \dots, X_{t}

$X_1,\dots,X_t$

— seanv507

@NRH, evet, tahmin etmek istiyorum den o sonucun neden bilerek Ben de gözlemlemek nerede test verileri için en uygun eylemleri için, eğitim verisinde ancak sonucu henüz gözlemlememiştir. Formülasyonumu güncelleyeceğim.

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

— TemplateRex

Sorunun açıklaması benim için tamamen açık değil, bu yüzden bazı varsayımları tahmin etmeye çalışıyorum. Bu, sorunuza cevap vermezse, en azından sorunları daha iyi açıklığa kavuşturmaya yardımcı olabilir.

Benim için net olmayan ilk şey, tahmininizi dayandırmak istediğiniz verilerdir. Eğer tahmin etmek isterseniz dek gözlenen verilere dayalı bu yani gelecek verilerini kullanmak olacağından ardından yöntemde 2'deki gibi bir özyinelemeli yaklaşım mantıklı değil ile . $Y_T$ $t<T$ $X_\tau$ $\tau>t$

İkincisi, tahmin ettiğiniz özelliklerinin ne olacağını belirtmezsiniz. Genel olarak, bilgi verilir zamanında koşullu beklenen "en iyi tahmin" olduğu L2 anlamda. Koşullu beklentiyi gerçekten tahmin etmek istiyorsanız, normal en küçük kareler pratik tahmin için tercih edilen yöntemdir. $Y_t$ $X_1,\ldots, X_t$ $t<T$ $Y_t=\text{E}[Y_T \mid X_1,\ldots, X_t]$ $Y_T$

Dahası, dayalı regresyon tarafından yansıtılmayan korelasyonlar hakkındaki görüşünüzü anlamıyorum . Bu kadar bildiğiniz her şeyi içeriyor gözlemleriniz arasındaki korelasyon dahil. $X_1, \ldots, X_t$ $t$

Bunu özetlemek ve bir cevap olarak ifade etmek: Eğer L2 anlamda en uygun tahmini yapmak istiyorsanız, sadece kadar gözlemlenen verilere dayanarak en küçük kareler regresyonunu kullanabilirsiniz. $t<T$

— İyi oyun
kaynak

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$

Y_{i T}

$Y_{iT}$

$\alpha$
$\gamma$ $\gamma=1$

— nsweeney
kaynak

α

$\alpha$

γ

$\gamma$

α

$\alpha$

γ

$\gamma$