Karışık modellerden tahminler yaparken belirsizliği rastgele etkilere dahil etmek neden zordur?

Birkaç konu vardır R-sig-ME kullanıyorsanız tahminler için güven aralıkları edinme konusunda lme4ve nlmeÖrneğin R. içinde burada ve burada Dougals Bates, hem paketlerin yazarlardan biri tarafından bazı açıklamalar dahil olmak üzere 2010 yılında. Ona kelimesi kelimesine alıntı yapmaktan çekinmeyin, çünkü bağlamdan çıkarılma korkusu, ama yine de yaptığı bir yorum

"Parametreleri ve rastgele değişkenleri tahminlerinizde birleştiriyorsunuz ve bu tahminlerin değişkenliğini değerlendirmenin ne anlama geleceğinden emin değilim. Bayesli bir anlam ifade edebilir, ancak kafamı bulamıyorum. " https://stat.ethz.ch/pipermail/r-sig-mixed-models/2010q1/003447.html

Bayesian glmm paketinin MCMCglmmtahminler için güvenilir aralıklar üretebileceğini biliyorum .

Son zamanlarda, lme4github'ın geliştirme versiyonuna bir predictyöntem verildi , ancak aşağıdaki yorum eşlik ediyor:

"@note Varyans parametrelerinde belirsizliği içeren etkili bir yöntem tanımlamak zor olduğundan, standart tahmin hatalarını hesaplama seçeneği yoktur; bu görev için \ code {\ link {bootMer}} öneririz." https://github.com/lme4/lme4/blob/master/R/predict.R

Öyleyse, sık modellerde karışık modellerden tahminler yaparken belirsizliği rastgele etkilere dahil etmek neden zordur?

mixed-model

— P Sellaz
kaynak

Yanıtlar:

Tahmin yöntemi yorum hakkında emin değilim ama birincil bir konu, kendi başına varyans ölçüleri değil, kolayca yorumlanabilir varyans ölçümleri üretmek ile ilgilidir. Bates ilk alıntıda bunu yapıp yapamayacağınızı, ne anlama geldiğini yorumlamıyor.

İki seviyeli tekrarlanan ölçüm tasarımının basit bir çok seviyeli modelini alın. Diyelim ki her satırın konu olduğu aşağıdaki veriler var:

resim açıklamasını buraya girin

Gelen lmerbir model olarak ifade edilebilir:

y ~ x + (1|subject)

Sabit bir efekt olarak x'den y değerini tahmin ediyorsunuz (A ve B arasındaki fark); ve kesişme rastgele bir etki **. Grafiğe dikkatlice bakın ve her özne için x efektinde değişkenlik olsa da (her satırın eğimi), özneler arasındaki değişkenliğe (her satırın yüksekliği) kıyasla nispeten küçük olduğunu unutmayın.

Model bu iki değişkenlik kümesini ayrıştırır ve her biri anlamlıdır. Çizgilerin yüksekliğini tahmin etmek için rastgele efektleri kullanabilir ve eğimleri tahmin etmek için x'in sabit efektlerini kullanabilirsiniz. Hatta bu iki komiteyi bireysel y değerlerimiz için de kullanabilirsiniz. Ancak yapamayacağınız şey , eğimlerin ve çizgilerin yüksekliklerinin değişkenliğini bir araya getirdiğinizde modelinizle ilgili anlamlı bir şey söylemek . Eğimlerinizin değişkenliği ve çizgilerin yükseklikleri hakkında ayrı ayrı konuşmanız gerekir. Bu , modelin bir özelliği , bir yükümlülük değil.

X'in etkisinde nispeten kolayca tahmin edilebilen bir değişkenliğe sahip olacaksınız. Bunun etrafındaki güven aralığı hakkında bir şeyler söyleyebilirsiniz. Ancak, bu güven aralığının herhangi bir y değerinin tahminiyle küçük bir ilişkisi olacağına dikkat edin, çünkü y değeri, sadece etkinin değişkenliğinden farklı bir efekt ve konu varyansı kombinasyonundan etkilenir.

Bates alıntıladığınız gibi bir şeyler yazdığında, bunun bile yaklaşmayacağı çok daha karmaşık çok seviyeli tasarımlar düşündüğünü hayal ediyorum. Ancak bu basit örneği göz önünde bulundursanız bile, tüm varyans ölçümlerini bir araya getirerek ne tür bir gerçek anlamın çıkarılabileceğini merak ediyorsunuz.

** Kesinliğin sadelik için sabit etkisini görmezden geldim ve sadece rastgele bir etki olarak değerlendirdim. Sadece rastgele ve sabit bir kesişme ile daha basit bir modelden benzer sonuçlar çıkarabilirsiniz, ancak iletmenin daha zor olacağını düşünüyorum. Bu durumda, yine, sabit etki ve rastgele etki bir nedenden dolayı ayrıştırılır ve farklı şeyler ifade eder ve değişkenliklerini öngörülen değerler için tekrar bir araya getirmek, değişkenliğin modele göre çok az anlam ifade etmesine neden olur.

— John
kaynak

Söylediğimi duyduğum şey, bunun konu varyansına hata olarak mı davranmak yoksa ayrı olarak bölümlemek mi ve yokmuş gibi davranmak isteyip istemediğimizden emin olmama konusunda aynı eski testere geliyor. Bu doğru mu?

— russellpierce

O eski testereyi hiç duymadım. Konu varyansı yokmuş gibi davranmanız gerektiğini hiç duymadım. Ama sanırım bu özel örnekle ilgili. Model varyansı ayrıştırır. Modelleme sürecinin bu özelliği modeli nasıl anlayabileceğinizdir. Varyansı tekrar birleştirirseniz, modelin amacını ilk etapta yenersiniz. Denek sapmasını göz ardı etmiyorum, sadece öznenin rastgele etkisi ayrıdır. Blouin & Riopelle (2005) 'i okumak ve varyansı birleştirdiğinizde SE'nin anlamının nasıl değiştiğini görmek isteyebilirsiniz.

— John

Belki bir şey eksikim, ama bu ileri geri insanlar, Konularda / Tekrarlanan Ölçümler ANOVA için hangi etki büyüklüğünün en iyi kullanıldığına ve bu güven aralıklarının en iyi nasıl çizildiğine benziyor ... bana işaret ettiğin şeyi oku, artık eksik olduğum her şeyi kaçırmayacağım. :) Teşekkürler.

— russellpierce

Dediğim gibi, onlar ilişkilidir. Bir ileri geri olduğunu bilmiyordum, referans görmek isterdim. Gerçek şu ki, bahsettiğiniz iki CI ve efekt farklı şeyler ifade ediyor. Yani, ne demek istediğini ileteni kullanıyorsun. Ve onları mantıklı göstermelisiniz. [Tekrarlanan ölçüm tasarımında özne varyansı içeren bir CI'nın bir ortalamaya yerleştirilmesinin ve tekrarlanan ölçümler etkisi hakkında bir şey söylemek için kullanılmasının mantıklı olduğunu iddia etmek zor (bazılarına rağmen).]

— John

Literatürde hiçbir şey görmedim, sadece gayri resmi el sıkma ve gözden geçiren du jour'un ne düşüneceğini tahmin etme girişimleri.

— russellpierce

Uzun zamandır, (genellikle doğrusal olmayan) karışık efekt modelleri için sabit ve rastgele etkilerde bazı temel farklar olduğu düşünülmektedir. Bu inanç örneğin Bates tarafından aşağıdaki yanıtta belirtilmiştir

https://stat.ethz.ch/pipermail/r-sig-mixed-models/2010q1/003447.html

$L(x,u)$ $g(x,u)$ $P_g(t)$ $g$

P_{g} (t) = max_{x, u} {L (x, u) | g (x, u) = t} \eqno (1)

$P_g(t)=\max_{x,u} \{L(x,u)\ |\ g(x,u)=t \} \eqno(1)$

Kimsenin bununla tartışmayacağına inanıyorum. Şimdi diyelim ki için önceden olasılık dağılımımız . Sonra için profil olasılığının hala mantıklı olduğunu iddia ediyorum , ancak (1) 'i önceden ekleyerek değiştirmeliyiz. $p(u)$ $g$

P_{g} (t) = max_{x, u} {L (x, u) p (u) | g (x, u) = t} \eqno (2)

$P_g(t)=\max_{x,u} \{L(x,u)p(u)\ |\ g(x,u)=t \} \eqno(2)$ Not bu yana olan bir parametredir önceden rastgele etki olarak adlandırılanla tamamen aynıdır. Öyleyse neden birçok insan rastgele etki parametrelerinin bir şekilde farklı olduğunu düşünüyor? Bence fark, onlar için parametre tahmininin olağan uygulamasından geliyor. Rastgele etkileri `` farklı '' yapan şey, birçok modelde birçoğunun olmasıdır. Sonuç olarak, sabit etkiler (veya diğer parametreler) için yararlı tahminler elde etmek için rastgele etkileri farklı bir şekilde ele almak gerekir. Yaptığımız şey onları modelin dışına entegre etmektir. Yukarıdaki modelde genel olarak olabilirlik oluşturacak Şimdi

u

$u$

F (x)

$F(x)$

F (x) = \int L (x, u) p (u) d u

$F(x) = \int L(x,u)p(u)du$

u

$u$ Gittiler. Yani eğer elimizde varsa, bazı fonksiyonları için profil olasılığı hakkında konuşmak mantıklı görünmemektedir .

F (x)

$F(x)$

g (x, u)

$g(x,u)$

Yani fonksiyonu hakkında bilgi almak için biz parametresini üzerinde entegre olmamalıdır . Ancak birçok rastgele etki parametresinin olduğu durumda ne olur. Sonra `` en '' üzerine entegre etmemiz gerektiğini iddia ediyorum, ancak hepsini kesinleştireceğim bir anlamda değil. motive etmek için rastgele efekt . fonksiyonunun sadece bağlı olduğu ve aslında en basit fonksiyon olan . Rasgele etkiler üzerinde entegre olsun $g(x,u)$ $u$ $n$ $u=(u_1,u_2,...,u_{n-1},u_n)$ $g(x,u)$ $u_n$ $g(x,u)=u_n$ $u_1,u_2,...,u_{n-1}$

F (x, u_{n}) = \int L (x, u_{1}, . . ., u_{n}) p (u_{1}, . . ., u_{n})) d u_{1} d u_{2} . . . d u_{n - 1} \eqno (4)

$F(x,u_n) = \int L(x,u_1,...,u_n)p(u_1,...,u_n))du_1du_2...du_{n-1}\eqno(4)$ daha önce olduğu gibi profil olasılığını Rasgele fonksiyon için anlamlı olması için nasıl genelleştirilir . Nedir? O de bildirim içinde ile aynıdır basit bir durum için, bu not için, bkz , ile aynıdır

P_{g} (t) = max_{x, u_{n}} {F (x, u_{n}) | u_{n} = t} \eqno (3)

$P_g(t)=\max_{x,u_n} \{F(x,u_n) | u_n=t \} \eqno(3)$

(3)

$(3)$

g (x, u)

$g(x,u)$

F (x, u_{n})

$F(x,u_n)$

(4)

$(4)$

F (x, s) = lim_{ϵ \to 0} \frac{1}{ϵ} \int_{{(x, u_{n}) | s - ϵ / 2 < g (x, u_{n}) < s + ϵ / 2}} L (x, u_{1}, . . ., u_{n}) p (u_{1}, . . ., u_{n})) d u_{1} d u_{2} . . . d u_{n} \eqno (5)

$F(x,s) = \lim_{\epsilon\rightarrow 0}{1\over\epsilon} \int_{\{(x,u_n) | s-\epsilon/2<g(x,u_n)<s+\epsilon/2\}} L(x,u_1,...,u_n)p(u_1,...,u_n))du_1du_2...du_n\eqno(5)$

g (x, u) = u_{n}

$g(x,u)=u_n$

(5)

$(5)$

F (x, s) = lim_{ϵ \to 0} \frac{1}{ϵ} \int_{{(x, u_{n}) | s - ϵ / 2 < u_{n} < s + ϵ / 2}} F (x, u_{n}) d u_{n} \eqno (6)

$F(x,s)=\lim_{\epsilon\rightarrow 0}{1\over\epsilon} \int_{\{(x,u_n) | s-\epsilon/2<u_n<s+\epsilon/2\}} F(x,u_n)du_n\eqno(6)$

Genel bir fonksiyonu için ile tanımlanan fonksiyonunu oluşturur ve profil olasılığını hesaplarız $g(x,u)$ $F(x,s)$ $(5)$

P_{g} (s) = max_{x, u} {F (x, s) | g (x, u) = s} \eqno (3)

$P_g(s)=\max_{x,u} \{F(x,s) | g(x,u)=s \} \eqno(3)$

Bu profil olasılığı iyi tanımlanmış bir kavramdır ve kendi başına durmaktadır. Bununla birlikte, pratikte yararlı olmak için, kişinin değerini en azından yaklaşık olarak hesaplayabilmesi gerekir. Birçok model için fonksiyonunun Laplace yaklaşımının bir varyantı kullanılarak yeterince iyi tahmin edilebileceğine inanıyorum. Tanımlama ile H ve parametrelerine göre fonksiyonunun kütüğünün kendir olsun . $F(x,s)$ $\hat x(s),\hat u(s)$

\hat{x} (s), \hat{u} (s) = max_{x, u} {L (x, u) p (u) | g (x, u) = s}

$\hat x(s),\hat u(s)= \max_{x,u} \{L(x,u)p(u)\ |\ g(x,u)=s\}$

- L (x, u) p (u)

$-L(x,u)p(u)$

x

$x$

u

$u$

Düzeyi kümeleri olan , bir boyutsal altmanifoldları vardır boyutlu uzayda sabit etkiler ve rasgele etkileri. Bir form , bunların hepsi da doğrusallaştırıldığı bu manifold üzerine entegre etmemiz gerekir. Bu, biraz temel diferansiyel geometri içerir. Varsayalım ki Yeniden parametrelendirerek ve olduğunu varsayabiliriz . O zaman haritayı düşünün $g$ $m+n-1$ $n+m$ $m$ $n$ $n$ $du_1\wedge du_2\wedge\ldots\wedge du_n$ $\hat x(s),\hat u(s)$ $g_{x_n}(\hat x(s),\hat u(s))\ne 0$ $\hat x(s)=0$ $\hat u(s)=0$

(x_{1}, x_{2}, \dots, x_{m - 1}, u_{1}, u_{2}, \dots, u_{n}) \to (x_{1}, x_{2}, \dots, x_{m - 1}, \frac{- \sum_{i = 1}^{m - 1} g_{x_{i}} x_{i} - \sum_{i = 1}^{n} g_{u_{i}} u_{i}}{g_{x_{m}}}, u_{1}, u_{2}, \dots, u_{n})

$(x_1,x_2,\ldots,x_{m-1},u_1,u_2,\ldots,u_n) \rightarrow (x_1,x_2,\ldots,x_{m-1}, {-\sum_{i=1}^{m-1}g_{x_i}x_i-\sum_{i=1}^ng_{u_i}u_i\over g_{x_m}}, u_1,u_2,\ldots,u_n)$ burada için kullanılan kısmi derivatvie ifade göre maksimum noktasında değerlendirilir. Bu, boyutlu boşluğun, seviye kümesinin teğet boşluğuna doğrusal bir haritasıdır . İstenilen integrali hesaplamak için kullanabiliriz. Önce 1 formun geri çekilmesi basitçe kendileridir.

g_{x_{i}}

$g_{x_i}$

g

$g$

x_{i}

$x_i$

m + n - 1

$m+n-1$

g

$g$

d u_{i}

$du_i$

Hessian'ın geri çekilmesi, kuadratik formdur

T_{i, j} = H_{i + m, j + m} + \frac{g_{u_{i}} g_{u_{j}}}{{g_{x_{m}}}^{2}} H_{m, m} \rm for 1 <= i, j <= n

$T_{i,j} =H_{i+m,j+m}+{g_{u_i}g_{u_j}\over {g_{x_m}}^2}H_{m,m}\quad \hbox{\rm for} \ 1<=i,j<=n$

Böylece integral , Cholesky ayrışması yoluyla hesaplanan belirleyicisinin logaritmasını içeren olağan formül olan Laplace yaklaşımı yoluyla hesaplanabilir (veya yaklaşık olarak) . İntegralin Laplace yaklaşımının değeri buradabelirleyicidir. hala gibi seviye kümesinin genişliği ile ilgilenmemiz gerekiyor. İlk sipariş için bunun burada , kısmi türevlerinin vektörüdür $T$

L (\hat{x} (s), \hat{u} (s)) | - T |^{\frac{1}{2}}

$L(\hat x(s),\hat u(s))|-T|^{1\over2}$

| \cdot |

$|\cdot|$

g

$g$

ϵ \to 0

$\epsilon\rightarrow 0$

ϵ / ‖ \nabla g (\hat{x} (s), \hat{u} (s)) ‖

$\epsilon/\|\nabla g(\hat x(s),\hat u(s))\|$

\nabla g (\hat{x} (s), \hat{u} (s)))

$\nabla g(\hat x(s),\hat u(s)))$

g

$g$

(g_{x_{1}}, g_{x_{2}}, \dots, g_{x_{m}}, g_{u_{1}}, g_{u_{2}}, \dots, g_{u_{n}})

$( g_{x_1}, g_{x_2}, \ldots, g_{x_m}, g_{u_1}, g_{u_2}, \ldots, g_{u_n})$ böylece düzey kümesindeki olasılık değeri verilir : Bu, profil olasılığını hesaplamak için kullanılacak doğru yaklaşımdır.

g

$g$

\frac{L (\hat{x} (s), \hat{u} (s)) | - T |^{\frac{1}{2}}}{‖ \nabla g (\hat{x} (s), \hat{u} (s)) ‖}

${L(\hat x(s),\hat u(s))|-T|^{1\over2}\over \|\nabla g(\hat x(s),\hat u(s))\|}$

— dave fournier
kaynak