Doğrusal olmayan regresyon için güven şekli ve tahmin aralıkları

Doğrusal olmayan bir regresyon etrafındaki güven ve tahmin bantlarının regresyon çizgisi etrafında simetrik olması mı gerekiyor? Yani doğrusal regresyon bantlarında olduğu gibi saat camı şeklini almazlar. Neden?

Söz konusu model:
İşte şekil:

ve işte denklem:

Güven ve tahmin bantlarının tipik olarak uçlara yaklaşması ve sıradan regresyonda her zaman yaptıkları gibi genişlemesi beklenmelidir; genellikle parametre belirsizliği, uçların yakınında ortadakinden daha geniş aralıklara yol açar

Bunu, belirli bir modelden verileri simüle ederek veya parametre vektörünün örnekleme dağılımından simüle ederek yeterince kolayca simülasyonla görebilirsiniz.

Doğrusal olmayan regresyon için yapılan olağan (yaklaşık olarak doğru) hesaplamalar, yerel bir doğrusal yaklaşım (bu Harvey'nin cevabında verilir) almayı içerir, ancak bunlar olmadan bile neler olduğu hakkında bir fikir edinebiliriz.

Ancak, gerçek hesaplamaları yapmak önemsizdir ve programlar bu etkiyi görmezden gelen hesaplamada bir kısayol alabilir. Bazı veriler ve bazı modeller için etkinin nispeten küçük ve görülmesi zor olması da mümkündür. Gerçekten, tahmin aralıklarında, özellikle büyük varyansla, ancak çok fazla veriyle, eğriyi sıradan lineer regresyonda görmek zor olabilir - neredeyse düz görünebilirler ve düzlükten sapmayı ayırt etmek nispeten kolaydır.

Ortalama için bir güven aralığı ile görmenin ne kadar zor olabileceğine bir örnek (tahmin aralıklarını görmek çok daha zor olabilir, çünkü göreceli varyasyonları çok daha azdır). İşte bazı veriler ve popülasyon ortalaması için bir güven aralığı ile doğrusal olmayan en küçük kareler uyuyor (bu örnekte, gerçek modeli bildiğimden örnekleme dağılımından üretildi, ancak asimptotik yaklaşım veya önyükleme ile çok benzer bir şey yapılabilir):

Mor sınırlar neredeyse mavi tahminlere paralel görünüyor ... ama değil. İşte bu ortalama tahminlerin örnekleme dağılımının standart hatası:

ki bu açıkça sabit değil.

Düzenle:

Gönderdiğiniz bu "sp" ifadeleri doğrudan doğrusal regresyon için tahmin aralığından gelir !

Doğrusal olmayan regresyona uyan eğrilerin hesaplanması matematiğinin ve tahmin bantlarının matematiği bu Çapraz Doğrulanmış sayfada açıklanmaktadır . Bantların her zaman / genellikle simetrik olmadığını gösterir.

Ve işte daha fazla kelime ve daha az matematik içeren bir açıklama:

İlk olarak, belirli bir X değerindeki parametrelerin gradyanı olan ve parametrelerin en iyi uyan değerlerini kullanan G | x'i tanımlayalım. Sonuç, parametre başına bir öğe içeren bir vektördür. Her parametre için, dY / dP olarak tanımlanır; burada Y, X'in belirli değeri ve tüm en uygun parametre değerleri verildiğinde eğrinin Y değeri ve P parametrelerden biridir.)

G '| x, transpoze edilen gradyan vektörüdür, dolayısıyla bir değer sırası yerine bir sütundur. Cov kovaryans matrisidir (son iterasyondan Hessen'i tersine çevirir). Parametre sayısına eşit satır ve sütun sayısının bulunduğu kare bir matristir. Matristeki her öğe iki parametre arasındaki kovaryanstır. Her bir değerin -1 ile 1 arasında olduğu normalleştirilmiş kovaryans matrisini belirtmek için Cov kullanırız .

Şimdi hesapla

c = G '| x * Cov * G | x.

Sonuç, herhangi bir X değeri için tek bir sayıdır.

Güven ve tahmin bantları en uygun eğri üzerinde merkezlenir ve eğrinin üstüne ve altına eşit miktarda uzanır.

Güven bantları eğrinin üzerinde ve altında uzanır:

= sqrt (c) * sqrt (SS / DF) * KritikT (Güven%, DF)

Tahmin bantları, eğrinin üzerinde ve altında, aşağıdakilere eşit bir mesafe daha uzatır:

= sqrt (c + 1) * sqrt (SS / DF) * KritikT (Güven%, DF)

Her iki denklemde de, c'nin (yukarıda tanımlanan) değeri X'in değerine bağlıdır, bu nedenle güven ve tahmin bantları eğriden sabit bir mesafe değildir. SS değeri uyum için karelerin toplamıdır ve DF serbestlik derecesi sayısıdır (veri noktası sayısı eksi parametre sayısı). CriticalT, istediğiniz güven düzeyine (geleneksel olarak% 95) ve serbestlik derecesine bağlı olarak t dağılımından bir sabittir. % 95 sınırlar ve oldukça büyük bir df için bu değer 1,96'ya yakındır. DF küçükse, bu değer daha yüksektir.