Ortogonal polinom regresyonundan ham katsayıları ve varyansları kurtarma

Görünüşe göre gibi bir regresyon modelim varsa $y_i \sim \beta_0 + \beta_1 x_i+\beta_2 x_i^2 +\beta_3 x_i^3$ Ham bir polinomu sığdırabilirim ve güvenilir olmayan sonuçlar elde edebilirim veya dik bir polinomu sığdırabilirim ve doğrudan fiziksel bir yorumu olmayan katsayıları alabilirim (örneğin, ekstremin orijinal ölçekte yerlerini bulmak için kullanamam). Her iki dünyanın en iyisini elde edebilmeli ve yerleştirilmiş dikey katsayıları ve varyanslarını ham ölçeğe dönüştürebilmeliyim gibi görünüyor. Uygulamalı doğrusal regresyon konusunda yüksek lisans dersi aldım (Kutner, 5ed kullanarak) ve Draper'daki (3ed, Kutner tarafından atıfta bulunulan) polinom regresyon bölümüne baktım, ancak bunun nasıl yapılacağı hakkında bir tartışma bulamadım. İçin yardım metnipoly()R'deki fonksiyon bunu yapmaz. Web aramamda, burada da dahil olmak üzere hiçbir şey bulamadım. Ortogonal bir polinoma takılan katsayılardan ham katsayıları yeniden yapılandırıyor (ve varyanslarını elde ediyor) ...

yapmak imkansız ve zamanımı boşa harcıyorum.
belki mümkündür ama genel durumda nasıl bilinmez.
mümkün ama tartışılmadı çünkü "kim ister ki?"
mümkün ama tartışılmadı çünkü "açık".

Cevap 3 veya 4 ise, birisinin bunu nasıl yapacağını açıklamak veya bunu yapan bir kaynağa işaret etmek için sabrı olursa çok minnettar olurum. 1 veya 2 ise, yine de engelin ne olduğunu merak ediyorum. Bunu okuduğunuz için çok teşekkür ederim. Açık bir şeye bakmazsam şimdiden özür dilerim.

— f1r3br4nd
kaynak

Ne demek istediğini anlamıyorum. x, x ve x dikey değildir. Bu nedenle korelasyonludurlar ve regresyon parametreleri kararsız olabilir, ancak güvenilir olmadıkları otomatik olarak durum böyle değildir. Ortognonal polinomlara dönüşüm daha güvenilir olabilir. Fakat x'in orijinal güçlerinin katsayısını, ortogonal polinomların katsayılarından daha yorumlanabilir yapan nedir? X, y = a + bx modelindeki tek değişkense, ∆y = yi-yi-1 = b∆x ve b, birim başına y'deki değişiklik x olarak değişir. Fakat güçler söz konusu olduğunda bu yorum kaybolur.

^{2}

$^2$

^{3}

$^3$

— Michael R. Chernick

Basitlik için değişken olarak sadece x olan bir model kullandım, ancak gerçekte tedavi grupları arasındaki eğrileri karşılaştırıyorum. Bu yüzden, bu bağlı şartlar anlamlıdır ve bunların büyüklüğü, I olabilir , örneğin, bir yukarı / aşağı doğru genel bir kayma ya da daha büyük bir / daha az, başlangıçtaki eğimi them-- yorumlar. Ayrıca, sorumun söylediği gibi, eğriler arasında yapılacak doğal bir karşılaştırma, maxima / minima'nın yeri olup, orijinal ölçekte olup olmadığını yorumlamak daha kolaydır. Öyleyse, oyunuz 3. seçim içindir, kabul ediyorum?

— f1r3br4nd

Hayır Henüz mümkün olup olmadığını anlayamadım. Neden bunu yapmak istediğini anladım.

— Michael R. Chernick

Dik polinomlara uyan modelin, ham polinom terimlerine uyan modelle tam olarak aynı (yani aynı , aynı yerleştirilmiş değerler, vb.) Yani, bunu orijinal verilerle ilişkilendirmek istiyorsanız, ham terimlerin katsayılarına bakabilirsiniz, ancak aralarındaki bağımlılığı "açıklayacak" şekilde bireysel terimler için çıkarım yapmak için dikey polinomları kullanabilirsiniz. .

R^{2}

$R^2$

— Makro

Görünen o ki, kübik spline'lar ve B-spline'lar kendi başlarına bir sınıftalar ve iki dünyanın en iyileri.

— Carl

Evet mümkün.

$z_1, z_2, z_3$ $x_i$ $x_i$ $z_j$ $\gamma_{ij}$

z_{i j} = γ_{j 0} + x_{i} γ_{j 1} + x_{i}^{2} γ_{j 2} + x_{i}^{3} γ_{j 3} .

$z_{ij} = \gamma_{j0} + x_i\gamma_{j1} + x_i^2\gamma_{j2} + x_i^3\gamma_{j3}.$

$4\times 4$ $\Gamma$ $X=\pmatrix{1;&x;&x^2;&x^3}$

\begin{matrix} (1) & Z = (\begin{matrix} 1; & z_{1}; & z_{2}; & z_{3} \end{matrix}) = X Γ . \end{matrix}

$Z=\pmatrix{1;&z_1;&z_2;&z_3} = X\Gamma.\tag{1}$

Modeli taktıktan sonra

E (Y) = Z β

$\mathbb{E}(Y) = Z\beta$

$\hat\beta$ $(1)$

\hat{Y} = Z \hat{β} = (X Γ) \hat{β} = X (Γ \hat{β}) .

$\hat Y = Z\hat\beta = (X\Gamma)\hat\beta = X(\Gamma\hat\beta).$

$\Gamma\hat\beta$ $x$

Aşağıdaki Rkod bu prosedürleri gösterir ve sentetik verilerle test eder.

n <- 10        # Number of observations
d <- 3         # Degree
#
# Synthesize a regressor, its powers, and orthogonal polynomials thereof.
#
x <- rnorm(n)
x.p <- outer(x, 0:d, `^`); colnames(x.p) <- c("Intercept", paste0("x.", 1:d))
z <- poly(x, d)
#
# Compute the orthogonal polynomials in terms of the powers via OLS.
#
xform <- lm(cbind(1, z) ~ x.p-1)
gamma <- coef(xform)
#
# Verify the transformation: all components should be tiny, certainly
# infinitesimal compared to 1.
#
if (!all.equal(as.vector(1 + crossprod(x.p %*% gamma - cbind(1,z)) - 1), 
    rep(0, (d+1)^2)))
  warning("Transformation is inaccurate.")
#
# Fit the model with orthogonal polynomials.
#
y <- x + rnorm(n)
fit <- lm(y ~ z)
#summary(fit)
#
# As a check, fit the model with raw powers.
#
fit.p <- lm(y ~ .-1, data.frame(x.p))
#summary(fit.p)
#
# Compare the results.
#
(rbind(Computed=as.vector(gamma %*% coef(fit)), Fit=coef(fit.p)))

if (!all.equal(as.vector(gamma %*% coef(fit)), as.vector(coef(fit.p))))
  warning("Results were not the same.")

— whuber
kaynak

Γ

$\Gamma$

1

$1$

10^{- 16}

$10^{-16}$

1

$1$

İki yıl sonra ... @, bunu katsayıların% 95 CI'lerine de genişletmek mümkün mü?

— user2602640

@ user2602640 Evet. Sen (kullanım katsayılarının varyans-kovaryans matrisi ayıklamak gerekir vcovyılında Ryeni bazda varyansları ile bir bazda hesaplanan varyanslannın dönüştürmek için) ve sonra normal şekilde elle CI'ler hesaplamak.

— whuber

@whuber yorumunuzu yarıya kadar takip ettim, sonra sizi tamamen kaybettim ... matematiksel olarak meydan okuyan bir biyoloğa acıma ve kodla yazma şansınız var mı?

— user2602640