Doğrusal ve doğrusal olmayan model arasındaki ayrım

13

Doğrusal ve doğrusal olmayan modellerin özellikleri hakkında bazı açıklamalar okudum, ancak yine de eldeki bir modelin doğrusal mı yoksa doğrusal olmayan bir model mi olduğundan emin değilim. Örneğin, aşağıdaki model doğrusal mı doğrusal mı?

y_{t} = β_{0} + β_{1} B (L; θ) X_{t} + ε_{t}

$y_t=\beta_0 + \beta_1B(L;\theta)X_t+\varepsilon_t$

İle:

B (L; θ) = \sum_{k = 1}^{K} b (k; θ) L^{k}

$B(L;\theta)=\sum_{k=1}^{K}b(k;\theta)L^k$

L^{k} X_{t} = X_{t - k}

$L^kX_t=X_{t-k}$

Burada (çürüyen) formun Üstel Almon Polinom fonksiyonunu temsil eder: $b(k;\theta)$

b (k; θ) = \frac{\exp (θ_{1} k + θ_{2} k^{2})}{\sum_{k = 1}^{K} \exp (θ_{1} k + θ_{2} k^{2})}

$b(k;\theta)=\frac{\exp(\theta_1 k+\theta_2k^2)}{\sum_{k=1}^{K}\exp(\theta_1k+\theta_2k^2)}$

Benim görüşüme göre, ana denklemim (birincisi) göre doğrusaldır , çünkü bu terim sadece bir ağırlıkla çarpılır. Ama ağırlıklandırma fonksiyonunun (son denklem) ans parametrelerine göre doğrusal olmadığını . $X_t$ $\theta_1$ $\theta_2$

Birisi bana ana fonksiyonumun doğrusal veya doğrusal olmayan bir fonksiyon olduğunu ve tahmin prosedürü için ne anlama geldiğini açıklayabilir mi - doğrusal veya doğrusal olmayan en küçük kareler yöntemini uygulamak zorunda mıyım? Ayrıca, bir fonksiyonun doğrusal olmayan veya doğrusal bir fonksiyon olup olmadığını kesinlikle belirleyebileceğim ayırt edilebilir özellik nedir?

linear-model nonlinear-regression nonlinear

— Veri Madencisi
kaynak

17

Modellemeye ilişkin doğrusal ve doğrusal olmayan genel tanımlarla, kritik yönü öngörenlere göre doğrusallık değil, parametrelere göre doğrusallıktır. Doğrusal olmayan bir model doğrusal değildir çünkü parametrelerde doğrusal değildir.

Örneğin, ilk cümle burada diyor ki:

İstatistiklerde, doğrusal olmayan regresyon, gözlemsel verilerin model parametrelerinin doğrusal olmayan bir kombinasyonu olan ve bir veya daha fazla bağımsız değişkene bağlı olan bir fonksiyonla modellendiği bir regresyon analizi biçimidir.

Buna karşılık, Genelleştirilmiş Doğrusal Modeller genellikle yanıt ve öngörücüler arasında doğrusal olmayan bir ilişkiye sahiptir, ancak bağlantı dönüşümü ortalama yanıtı ( doğrusal öngörücü , ) parametrelerde doğrusaldır. $\eta$

[Bu tanıma göre, modelinizin doğrusal olmadığına inanıyorum , ancak belirtilmişse (biliniyorsa), doğrusal olmama durumu tahminle ilgili değildir. Takılıyorlarsa, model doğrusal değildir.] $\theta$ $\theta$

— Glen_b-Monica'yı eski durumuna döndür
kaynak

"Parametrelere göre" ne demek? Doğrusal ve doğrusal olmayan için 2 örnek verebilir misiniz?

— NoName

1

Yani doğrusal bir eşlemenin argümanı olması gereken parametreler ; Biz yazarken ve , ve eşleme bağımsız değişkenleri (girdi) katsayıları gibi parametre vektörleri (vardır örneğin bir regresyonda veya bir GLM'deki lineer prediktörde). Bu Not lineerdir amaçlanan anlamda (örn doğrusal bir eşleme). Örnek olarak, . Bu x cinsinden doğrusal değil, doğrusal .

f (c v) = c f (v)

$f(cv)=cf(v)$

f (u + v) = f (u) + f (v)

$f(u+v) = f(u)+f(v)$

u

$u$

v

$v$

f

$f$

η = X β

$\eta=X\beta$

β

$\beta$

η (β)

$\eta(\beta)$

E [Y] = β_{0} + β_{1} x + β_{2} \log (x)

$E[Y]=\beta_0+\beta_1x+\beta_2 \log(x)$

β

$\beta$

— Glen_b-Monica'yı eski durumuna döndür

1

Bu sırada değil doğrusal üçüncü bileşeni için, lineer olmayan .. girer

E [Y] = β_{0} + β_{1} \exp (β_{2} x)

$E[Y]=\beta_0+\beta_1\exp(\beta_2 x)$

β

$\beta$

β

$\beta$

— Glen_b -Reinstate Monica

9

Glen_b ile hemfikirim. Regresyon problemlerinde ana odak, bağımsız değişken veya yordayıcı değil, parametreler üzerindedir, x. Ve sonra kişi basit dönüşümler kullanarak problemi doğrusallaştırmak mı, yoksa bu şekilde mi devam etmek istediğine karar verebilir.

Doğrusal problemler: probleminizdeki parametre sayısını sayın ve hepsinin gücünün olup olmadığını kontrol edin 1. Örneğin, . Bu işlev cinsinden doğrusal değildir . Ama regresyon problemleri için, içinde nonlineerlik bir sorun değildir. Parametrelerin doğrusal mı doğrusal mı olduğu kontrol edilmelidir. Bu durumda, , , , .. hepsinin gücü 1'dir. Yani, doğrusaldırlar. $y = ax + bx^2 + cx^3 + d x^{2/3} + e/x + f x^{-4/7}$ $x$ $x$ $a$ $b$ $c$ $f$

İçinde, o Remark o gücü 1 var, ama genişletilmiş zaman böyle bir görünüm olsa da, . A'nın 1'den fazla bir güce sahip olması nedeniyle doğrusal olmayan bir parametre olduğunu açıkça görebilirsiniz. Ancak, bu sorun logaritmik bir dönüşüm başlatılarak doğrusallaştırılabilir. Yani, doğrusal olmayan regresyon problemi doğrusal regresyon problemine dönüştürülür. $y = \exp(ax)$ $\exp(ax) = 1 + ax/ 1! + (ax)^2 / 2! + \dots$

Benzer bir şekilde, üç parametre, yani yer alır. Lojistik fonksiyonu olan , ve parametreleri. ve 1 'den daha fazla güce sahip ve her biri çok-katlı onlar genişlediğinde Yani doğrusal değiller, ama önce ayarlayarak ve sonra her iki tarafta logaritmik bir işlevi doğrusallaştırmak için uygun bir ikame kullanılarak doğrusallaştırılabilirler. $y = a / (1+b \exp(cx)$ $a$ $b$ $c$ $b$ $c$ $(a/y)-1 = Y$

Şimdi . Bu, parametrelerle ilgili olarak bir kez daha doğrusal değildir. Ancak, doğrusallaştırılamaz. Kişinin doğrusal olmayan bir regresyon kullanması gerekir. $y = a_1 / (1+b_1\exp(c_1x)) + a_2 / (1+b_2\exp(c_2x))$

Prensip olarak, doğrusal olmayan bir regresyon problemini çözmek için doğrusal bir strateji kullanmak iyi bir fikir değildir. Bu nedenle, doğrusal regresyon kullanarak doğrusal problemleri (tüm parametrelerin gücü 1 olduğunda) ve parametreleriniz doğrusal değilse doğrusal olmayan regresyonu kabul edin.

Sizin durumunuzda, ağırlıklandırma fonksiyonunu ana fonksiyona geri koyun. Parametresi güç 1. All ile tek parametre olacağını diğer parametrelerdir doğrusal olmayan ( sonunda çarpar ile ve (bu iki doğrusal olmayan parametrelerdir) o doğrusal olmayan da yapım. Bu nedenle, doğrusal olmayan regresyon sorundur . $\beta_0$ $\beta_1$ $\theta_1$ $\theta_2$

Bunu çözmek için doğrusal olmayan en küçük kareler tekniğini benimseyin. Başlangıç değerlerini akıllıca seçin ve global minimi bulmak için çoklu başlatma yaklaşımını kullanın.

Bu video yardımcı olacaktır (küresel çözüm hakkında konuşmasa da): http://www.youtube.com/watch?v=3Fd4ukzkxps

Excel elektronik tablosunda GRG doğrusal olmayan çözücüyü kullanma (seçenekler - Eklentiler - Excel Eklentileri'ne gidip sonra Çözücü Eklentisi'ni seçerek ve parametrelere aralık yazarak ve talep ederek seçenekler listesinde çoklu başlatmayı çağırarak çözücü araç paketini yükleyin kısıtlama hassasiyeti ve yakınsamanın küçük olması, küresel bir çözüm elde edilebilir.

Matlab kullanıyorsanız, global optimizasyon araç kutusunu kullanın. Çoklu başlangıç ve global arama seçeneklerine sahiptir. Burada, burada ve burada global bir çözüm için bazı kodlar mevcuttur .

Mathematica kullanıyorsanız, buraya bakın .

R kullanıyorsanız, burada deneyin .

— bipi
kaynak

1

@Bipi, örnekler için teşekkürler! İkincisiniz için, Y = (a / y - 1) ayarladıysanız, parametreyi y değişkeninden nasıl izole edebilirsiniz?

— Vivek Subramanian

0

Ana işlev doğrusaldır.

Denklemlerde doğrusal olmayan bilinen fonksiyonların ==> <== görünmesi önemli değildir. $B(L;\theta)$

Ben olsaydım, doğrusal en küçük karelerle devam ederdim.

Doğrusallığı şu şekilde onaylar veya reddedersiniz:

https://en.wikipedia.org/wiki/Non-linear#Definition

Bunları da beğenebilirsin:

https://en.wikipedia.org/wiki/Linear_combination

https://en.wikipedia.org/wiki/Least_squares

http://en.m.wikipedia.org/wiki/Linear_least_squares_(mathematics)

— Ace Frahm
kaynak

0

Fonksiyonlar bağlamında açıklarsam anlamak kolay olacaktır.

Doğrusal: Sabit eğime sahip bir işlev. Cebirsel olarak, 1'e eşit en yüksek üsse sahip bir polinom. Grafiği çizgi olan bir fonksiyon. Örneğin,y=2x+3

Doğrusal Olmayan: Doğrusal bir işlevin zıt özelliklerine sahip bir işlev. Değişken eğime sahip bir fonksiyon. Üstü 2 veya daha fazla olan bir polinom. Grafiği bir çizgi değil. Örneğin,y=x^2

[ http://study.com/academy/lesson/nonlinear-function-definition-examples.html yetersiz [1 ]

— irfanullah
kaynak

Doğrusal istatistiksel modeller doğrusal işlevlerle aynı değildir. Katkı gürültüsüne sahip doğrusal olmayan bir fonksiyon hala doğrusal bir model olabilir, çünkü doğrusallık tahmin parametreleriyle değil, model parametreleri tarafından belirlenir.

— Michael R.Chernick