“Hedeflenen Maksimum Olabilirlik Beklentisi” nedir?

Mark van der Laan'ın makalelerini anlamaya çalışıyorum. Berkeley'de makine öğrenimi ile büyük ölçüde örtüşen problemler üzerinde çalışan teorik bir istatistikçi. Benim için bir problem (derin matematiğin yanı sıra) genellikle tamamen farklı bir terminoloji kullanarak tanıdık makine öğrenme yaklaşımlarını tanımlamasıdır. Temel kavramlarından biri "Hedeflenen Maksimum Olabilirlik Beklentisi" dir.

TMLE, kontrolsüz bir deneyden sansürlenen gözlemsel verileri, kafa karıştırıcı faktörlerin varlığında bile etki tahminine izin verecek şekilde analiz etmek için kullanılır. Aynı kavramların çoğunun diğer alanlardaki diğer isimler altında bulunduğundan şüpheleniyorum, ancak bunu doğrudan herhangi bir şeyle eşleştirecek kadar iyi anlamıyorum.

"Hesaplamalı Veri Analizi" konusundaki boşluğu kapatmaya yönelik bir girişim burada:

Veri Bilimi Çağına Girmek: Hedefli Öğrenme ve İstatistik ve Hesaplamalı Veri Analizinin Entegrasyonu

Ve istatistikçiler için bir giriş burada:

Hedeflenen Maksimum Olabilirliğe Dayalı Nedensel Çıkarım: Bölüm I

İkincisi:

Bu yazıda, çoklu zaman noktası müdahalelerinin nedensel etkilerinin belirli bir hedefli maksimum olabilirlik tahmin edicisini geliştiriyoruz. Bu, G-hesaplama formülünün bilinmeyen faktörlerinin ilk tahminini elde etmek ve daha sonra, her bir tahmini faktöre bir hedef parametreye özgü optimal dalgalanma fonksiyonu (en az uygun parametrik alt model) uygulamak için kayıp temelli süper öğrenmenin kullanımını içerir, dalgalanma parametrelerini maksimum olasılık tahmini ile tahmin etmek ve yakınsamaya kadar başlangıç faktörünün bu güncelleme adımını tekrarlamak. Bu yinelemeli hedeflenmiş maksimum olabilirlik güncelleme adımı, ilk tahmin edicinin tutarlı olması durumunda tutarlı olması açısından nedensel etkinin sonuç tahmin edicisini iki kat daha sağlam kılar, veya optimal dalgalanma fonksiyonunun tahmincisi tutarlıdır. Nedensel grafikteki düğümlerin koşullu dağılımları, üzerine müdahale edildiği takdirde, optimum dalgalanma fonksiyonu doğru bir şekilde belirtilir.

Terminolojisinde "süper öğrenme", teorik olarak sağlam, negatif olmayan bir ağırlık şeması ile topluluk öğrenmesidir. Ancak, "her bir tahmini faktöre bir hedef parametreye özgü optimal dalgalanma fonksiyonu (en az uygun parametrik alt model) uygulanarak" ne anlama gelir?

Ya da üç ayrı soruya bölünerek, TMLE'nin makine öğreniminde bir paraleli var mı, "en az uygun parametrik alt model" nedir ve diğer alanlarda "dalgalanma fonksiyonu" nedir?

— Nathan Kurz
kaynak

Terminolojinin yabancı olmasının bir nedeni, TMLE'nin amacının tahmini değil ortalama tedavi etkisini - nedensel çıkarım - tahmin etmektir. TMLE ile ilgili makalelerde "süper öğrenen" i okuduğumda, yazarların terimi topluluk modelleri oluşturmak için R'deki SuperLearner paketinden ödünç aldıklarını düşündüm.

— RobertF

Van der Laan'ın zaten var olan fikirler için yeni isimler oluşturma eğiliminde olduğunu kabul ediyorum (örneğin süper öğrenen), ancak TMLE bildiğim kadarıyla bunlardan biri değil. Aslında çok zekice bir fikir ve Machine Learning topluluğundan benzer görünen hiçbir şey görmedim (ancak cahil de olabilirim). Fikirler, yarı istatistiki-verimli tahmin denklemleri teorisinden geliyor, ki bu istatistikçilerin ML insanlarından çok daha fazla düşündüklerini düşünüyorum.

$P_0$ $\Psi(P_0)$

\sum_{i} φ (Y_{i} ∣ θ) = 0,

$\sum_i \varphi(Y_i \mid \theta) = 0,$

$\theta = \theta(P)$ $P$ $\Psi$ $\varphi$ $E_{P} \varphi(Y \mid \theta) = 0$ $\theta$ $P_0$ $\Psi(P_0)$ (Not: Sadece sezgisel olarak tanımladığım için "verimli" terimi ile biraz gevşek oluyorum.) Bu tür tahmin denklemlerinin arkasındaki teori oldukça zariftir, bu kitap kanonik referanstır. Burası "en az uygun alt modellerin" standart tanımlarını bulabilir; bunlar van der Laan'ın icat ettiği terimler değil.

$P_0$ $P_0$ $\Psi(P_0)$ $P_0$ $\hat P$ $\Psi(\hat P)$ $\sqrt n$ $P_0$ $\Psi$

$\hat p$

{\hat{p}}_{1, ϵ} = \frac{\hat{p} \exp (ϵ φ (Y ∣ θ))}{\int \hat{p} \exp (ϵ φ (y ∣ θ)) d y}

$\hat p_{1, \epsilon} = \frac{\hat p \exp(\epsilon \ \varphi(Y \mid \theta))}{\int \hat p \exp(\epsilon \ \varphi(y \mid \theta)) \ dy}$

$\epsilon$ $\epsilon$ $\epsilon = 0$ $\hat p$ $\Psi$ $\epsilon \ne 0$ $\hat p_1$ $\hat p$

{\hat{p}}_{2, ϵ} \propto {\hat{p}}_{1, \hat{ϵ}} \exp (ϵ φ (Y ∣ θ) .

$\hat p_{2, \epsilon} \propto \hat p_{1, \hat \epsilon} \exp(\epsilon \ \varphi(Y \mid \theta).$

ve böylece etkili tahmin denklemini sağlayan bir şey elde edene kadar.

— insan
kaynak

"Van der Laan'ın zaten var olan fikirler için yeni isimler icat etme eğilimi olduğunu kabul ediyorum" - Evet, TMLE'nin şu tanıtımına bakın: biostats.bepress.com/ucbbiostat/paper252 , burada van der Laan "rastgele rastgele" kullanıyor değişebilirlik ve "deneysel tedavi ataması (ETA) varsayımı" anlamına gelir. :-) Alanımızda çok sıradışı değil. Veri bilimcileri, üniversitede duyarlılık, pozitif tahmin değeri ve hipotez testi olarak öğrendiğim hatırlama, kesinlik ve A / B testi gibi terimler kullanmaktadır.

— RobertF

@RobertF CAR, Heitjan ve Rubin'den kaynaklanmaktadır ve MAR'nın genellemesidir. Rubin MAR'yı icat etti ve potansiyel sonuçlar çerçevesini popülerleştirdi, bu nedenle CAR'ı cahillik / değiştirilebilirlik tipi varsayımlar için bir yakalama olarak kullanmak benim için adil görünüyor.

— adam