Doğrusal regresyonda doğrusal ne anlama gelir?

11

R harfiyle yazarsam

lm(a ~ b + c + b*c)

bu hala doğrusal bir gerileme olur mu?

R'de diğer regresyon türleri nasıl yapılır? Ders kitapları veya öğreticiler için herhangi bir öneri için teşekkür ederiz?

r regression

— suprvisr
kaynak

Sorunuzu biraz yeniden düzenlemeye çalıştım. Korkarım iki farklı soru soruyor gibisin. İkincisi için, bu sitede değil, aynı zamanda CRAN'da da birçok kaynak mevcuttur .

— chl

@chl, yeap, teşekkürler, net değildim. Benim sorularım gerçekten: R'ye LM yazarsam, R onu doğrusal olarak algılar mı yoksa herhangi bir modele uymaya çalışır mı, zorunlu olarak doğrusal regresyon değil, herhangi bir regresyon mu?

— suprvisr

Hayır, lm()doğrusal bir gerileme anlamına gelir. İşletme model üç parametre (eksi kesişmesini) içerir b, cve bunların etkileşim b:canlamına gelir, b + c + b:cya da b*c(R, istatistiksel model için Wilkinson gösterimini aşağıdaki) KISA için. Genelleştirilmiş bir Doğrusal Modelin takılması (yani bağlantı fonksiyonunun, yukarıda ifade edilen lineer modelde olduğu gibi kimlik olmadığı durumlarda) istenir glm().

— chl

24

Doğrusal, tahmin ettiğiniz parametreler (örn., ) ve sonuç (ör . ) arasındaki ilişkiyi belirtir . Bu nedenle, doğrusaldır, ancak değildir. Parametreniz vektörü için tahmin yazılabilir olduğu bir doğrusal model vasıtası , burada $\beta$ $y_i$ $y=e^x\beta+\epsilon$ $y=e^\beta x + \epsilon$ $\hat{\beta} = \sum_i{w_iy_i}$ $\{w_i\}$ tahmin prosedürünüz tarafından belirlenen ağırlıklardır. Doğrusal modeller kapalı formda cebirsel olarak çözülebilirken, birçok doğrusal olmayan modelin bir bilgisayar kullanılarak sayısal maksimizasyon ile çözülmesi gerekir.

— Charlie
kaynak

6

+1 Spesifik olarak, bir "doğrusal modelde" bağımlı değişken

parametrelerin doğrusal bir fonksiyonudur, ancak verilerin zorunlu olarak olması gerekmez.

y

$y$

— whuber

Birincisi doğrusal mı? gerçekten - x'in gücüne mi?

— 16'da suprvisr

2

Evet, çünkü

, ilgi miktarı (optimize ettiğiniz) değil ,

. Bu nedenle, doğrusal olan

.

x

$x$

β

$\beta$

β

$\beta$

— bayerj

+1, ancak bu cevap sorudaki formül hakkında yorum yapılarak geliştirilebilir.

— naught101

1

İkinci bir okumada, bu cevabın ikinci yarısının "lineer model" i "lineer tahmin edici" ile karıştırdığını fark ettim. İki kavram ayrı ve farklıdır. Doğrusal olmayan modeller genellikle doğrusal tahmin edicilere sahiptir ve doğrusal modeller doğrusal olmayan tahmin edicilere sahip olabilir (örneğin GLM'leri düşünün).

— whuber

5

Minitab.com'daki bu yazı çok açık bir açıklama sunuyor:

Bir model bu biçimde yazılabildiğinde doğrusaldır:
- Response = constant + parameter * predictor + ... + parameter * predictor
  - (Modelinde), her bir terimin bir sabit veya iki olduğunda bu, bir ürünün , bir parametrenin bir belirleyici olarak.
- Yani bunların ikisi de doğrusal modellerdir:
  - $Y = B_0 + B_1X_1$
  - $Y = B_0 + B_1X_1^2$
Model yukarıdaki format kullanılarak ifade edilemiyorsa doğrusal değildir.
- Doğrusal olmayan modellere örnekler:
  - $Y = B_0 +$ $X_1^{B_1}$
  - $Y = B_0 \centerdot \cos (B_1 \centerdot X_1)$

— Patrick Ng
kaynak

4

Bunu "R lineer regresyon" sorusuna karşı "R lineer regresyon" sorusu olarak sormakta dikkatli olurum. R'deki formüllerin farkında olabileceğiniz veya bilmediğiniz kurallar vardır. Örneğin:

http://wiener.math.csi.cuny.edu/st/stRmanual/ModelFormula.html

Aşağıdaki denklemin doğrusal olup olmadığını sorduğunuzu varsayarsak:

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * (b*c))

Bunun gibi yeni bir bağımsız değişken toplarsanız cevap evettir:

newv = b * c

Yukarıdaki yeni denklemi orijinal denkleme koymak, muhtemelen doğrusal bir denklem için beklediğiniz gibi görünür:

a = coeff0 + (coeff1 * b) + (coeff2 * c) + (coeff3 * newv)

Referanslar söz konusu olduğunda, Google'ın "regresyonu" veya sizin için uygun olabileceğini düşündüğünüz her şey.

— bill_080
kaynak

Bir şeyi yeniden adlandırmak onu nasıl doğrusal hale getirir? Anlamıyorum, eğer newv = b * c kimliği tutarsa, hiç lineer değildir. Kafam karıştı.

— bayerj

@bayer: newv yeni bir değişkendir. Yeni denklem, katsayıların doğrusal bir ilişki sağladığı üç değişkenin (b, c, newv) doğrusal bir fonksiyonudur. Her iki denklem de sadece iki değişkenin doğrusal bir kombinasyonu değildir.

— bill_080

@bayer Tarafından cevap @Charlie. Mevcut örnekte, her iki model de doğrusaldır (R'nin bu şekilde görüp görmediği), çünkü her ikisinde ade dört katsayının doğrusal bir fonksiyonudur.

— whuber

teşekkürler, mantıklı ... Ben sadece veritabanında (tıbbi) her vaka için b * c olmak yeni değişken neww eklemek ve daha sonra doğrusal regresyon olarak tedavi miyim?

— suprvisr

2

Doğrusal regresyonu (doğrusal) matris denklemi olarak yazabilirsiniz.

$\left[ \matrix{a_1 \\a_2 \\a_3 \\a_4 \\a_5 \\ ... \\ a_n} \right] = \left[ \matrix{b_1 & c_1 & b_1*c_1 \\ b_2 & c_2 & b_2*c_2 \\b_3 & c_3 & b_3*c_3 \\b_4 & c_4 & b_4*c_4 \\b_5 & c_5 & b_5*c_5 \\ &...& \\ b_n & c_n & b_n*c_n } \right] \times \left[\matrix{\alpha_b & \alpha_c & \alpha_{b*c}} \right] + \left[ \matrix{\epsilon_1 \\\epsilon_2 \\\epsilon_3 \\\epsilon_4 \\\epsilon_5 \\ ... \\ \epsilon_n} \right]$

veya bunu daraltırsanız:

$\mathbf{a} = \alpha_b \mathbf{b} + \alpha_c \mathbf{c} + \alpha_{b*c} \mathbf{b*c} + \mathbf{\epsilon}$

$\mathbf{b}$ $\mathbf{c}$ $\mathbf{b*c}$ $\mathbf{a}$

$\mathbf{a}$ $\mathbf{b}$ $\mathbf{c}$ $\mathbf{b*c}$

$y=a e^{ct} + b e^{dt}$ $y=u(e^{c(t-v)}+e^{d(t-v)})$ $a$ $b$

— Sextus Empiricus
kaynak

Bunun en iyi cevap olduğunu hissediyorum, çünkü sadece Ne yerine Neden sorusunu cevaplıyor. "Ne" ile cevap vermek daha iyi sezgiye yol açmaz.

— Hexatonic