Üstel modelin tahmini

Üstel model, aşağıdaki denklemle açıklanan bir modeldir:

$$\hat{y_{i}}=\beta_{0}\cdot e^{\beta_{1}x_{1i}+\ldots+\beta_{k}x_{ki}}$$

Bu modeli tahmin etmek için kullanılan en yaygın yaklaşım, her iki tarafın logaritmalarını hesaplayarak kolayca yapılabilen doğrusallaştırmadır. Diğer yaklaşımlar nelerdir? Özellikle bazı gözlemlerde başa ilgileniyorum .$y_{i}=0$

31.01.2011 Güncellemesi
Bu modelin sıfır üretemediğinin farkındayım. Modellediğim şeyi ve bu modeli neden seçtiğimi biraz ayrıntılandıracağım. Diyelim ki bir müşteri bir mağazada ne kadar para harcadığını tahmin etmek istiyoruz. Tabii ki birçok müşteri sadece bakıyor ve hiçbir şey satın almıyorlar, bu yüzden 0 var. Doğrusal modeli kullanmak istemedim çünkü çok fazla negatif değer üretiyor, bu da mantıklı değil. Diğer neden ise bu modelin gerçekten iyi, doğrusaldan çok daha iyi çalışmasıdır. Bu parametreleri tahmin etmek için genetik algoritma kullandım, bu yüzden 'bilimsel' bir yaklaşım değildi. Şimdi daha bilimsel yöntemler kullanarak problemle nasıl başa çıkılacağını bilmek istiyorum. Ayrıca, değişkenlerin çoğunun, hatta hepsinin ikili değişkenler olduğu varsayılabilir.

Burada birkaç sorun var.

(1) Modelin açıkça olasılıklı olması gerekir . Neredeyse her durumda olacak hiçbir lhs tüm verileriniz için rhs maçları hangi parametrelerin set: artıklar olacaktır. Bu artıklar hakkında varsayımlar yapmanız gerekiyor. Ortalama olarak sıfır olmalarını mı bekliyorsunuz? Simetrik olarak dağıtılacak mı? Yaklaşık olarak normal dağıtılacak mı?

Aşağıda belirtilen model ile aynı fikirde olan ancak büyük ölçüde farklı kalıntı davranışlara izin veren iki model bulunmaktadır (ve bu nedenle genellikle farklı parametre tahminleriyle sonuçlanacaktır). Bu modelleri nin ortak dağılımı hakkındaki varsayımları değiştirerek değiştirebilirsiniz :$\epsilon_{i}$

B: y i = β 0 exp ( β 1 x 1 i + … + β k x k i ) + ϵ i

$$\text{A:}\ y_{i} =\beta_{0} \exp{\left(\beta_{1}x_{1i}+\ldots+\beta_{k}x_{ki} + \epsilon_{i}\right)}$$ $$\text{B:}\ y_{i} =\beta_{0} \exp{\left(\beta_{1}x_{1i}+\ldots+\beta_{k}x_{ki}\right)} + \epsilon_{i}.$$

(Bunların verileri için modeller olduğunu ; genellikle tahmini veri değeri diye bir şey yoktur .)^ y $y_i$$\hat{y_i}$

(2) y değerleri için sıfır değerlerinin ele alınması ihtiyacı , belirtilen model (A) 'nın hem yanlış hem de yetersiz olduğunu ima eder , çünkü rastgele hatanın değeri ne olursa olsun sıfır değeri üretemez. (B) 'nin üzerindeki ikinci model, y'lerin sıfır (hatta negatif) değerlerine izin verir. Ancak, sadece böyle bir temelde bir model seçilmemelidir. 1'i tekrarlamak için: hataları makul bir şekilde modellemek önemlidir.

(3) Doğrusallaştırma modeli değiştirir . Tipik olarak, (A) gibi, ancak (B) gibi olmayan modellerle sonuçlanır. Bu değişikliğin parametre tahminlerini önemli ölçüde etkilemeyeceğini bilmek için verilerini analiz eden kişiler ve neler olduğunu bilmeyen kişiler tarafından kullanılır. (Farkı söylemek birçok kez zordur.)

(4) Sıfır değerinin olasılığını ele almanın yaygın bir yolu , (ya da karekök gibi bir miktar yeniden ifadesinin) kesinlikle pozitif olarak eşit sıfır şansına sahip olmasını önermektir . Matematiksel olarak, bir nokta kütlesini (bir "delta fonksiyonu") başka bir dağılımla karıştırıyoruz. Bu modeller şöyle görünür:$y$

$$\eqalign{ f(y_i) &\sim F(\mathbf{\theta}); \cr \theta_j &= \beta_{j0} + \beta_{j1} x_{1i} + \cdots + \beta_{jk} x_{ki} }$$

burada , vektöründe örtük parametrelerden biridir , , parametrelendirilmiş bazı dağıtım ailesidir tarafından ve yeniden ekspresyonuna olan (: giderebilirsiniz yanıtını bakın genelleştirilmiş lineer modelin 'bağlantı' fonksiyonu) 'in. (Tabi ki, daha sonra, = zaman ). Örnekler sıfır şişirilmiş Poisson ve Negatif Binom modelleri .$\Pr_{F_\theta}[f(Y) = 0] = \theta_{j+1} \gt 0$$\mathbf{\theta}$$F$$\theta_1, \ldots, \theta_j$$f$$y$$\Pr_{F_\theta}[f(Y) \le t]$$(1 - \theta_{j+1})F_\theta(t)$$t \ne 0$

(5) Bir model oluşturma ve uydurma konuları birbiriyle ilişkilidir ancak farklıdır . Basit bir örnek olarak, sıradan bir regresyon modeli bile en az kareler (Maksimum Olabilirlik ve neredeyse aynı standart hatalarla aynı parametre tahminlerini veren) birçok yönden sığabilir, iteratif en küçük kareler yeniden ağırlıklandırmalı , çeşitli diğer formları " sağlam azından kareler " vb uydurma seçimi genellikle rahatlık çıkar dayanmaktadır ( örn , yazılımın kullanılabilirliği), aşinalık, alışkanlık veya kongre, fakat en azından bazı düşünce olmalıdır hata terimlerinin varsayılan dağılımı için neyin uygun olduğuna,ϵ $Y = \beta_0 + \beta_1 X + \epsilon$$\epsilon_i$sorun için kayıp fonksiyonu makul olabilir ve ek bilgilerden yararlanma olasılığı ( parametreler için önceki dağıtım gibi ) olabilir.

Bu, günlük bağlantısı işlevine sahip genelleştirilmiş doğrusal bir modeldir (GLM) .

Sıfıra sıfır olmayan yoğunluk üzerinde herhangi bir olasılık dağılımı bazı gözlemlerde başa ; en yaygın olanı Poisson dağılımı, Poisson regresyonu , yani log-lineer modelleme. Başka bir seçenek negatif bir binom dağılımı olacaktır .y i = $[0,\infty)$$y_i=0$

Sayım verileriniz yoksa veya tamsayı olmayan değerler , için tam bir dağılım belirtmeden genelleştirilmiş doğrusal modeller çerçevesini kullanmaya devam edebilirsiniz, bunun yerine sadece yarı olasılıkla ortalama ve varyans arasındaki ilişkiyi belirtmek . P ( y i | x$y_i$$\operatorname{P}(y_i|\bf{x})$

Her zaman doğrusal olmayan en küçük kareleri kullanabilirsiniz . O zaman modeliniz:

$$y_i=\beta_0\exp(\beta_1x_{1i}+...+\beta_kx_{ki})+\varepsilon_i$$

Bu durumda içindeki sıfırlar doğrusal olmayan eğilimden sapmalar olarak ele alınacaktır.$y_i$