Regresyon için doğal kübik spline tanımı

Hastie ve ark. Tarafından yayınlanan "İstatistiksel Öğrenme Veri Madenciliği, Çıkarım ve Tahmin Öğeleri" kitabındaki spline'ları öğreniyorum. 145. sayfada Doğal kübik kamaların sınır düğümlerinin ötesinde doğrusal olduğunu buldum. Orada knot, içinde spline'lar ve şu kitapta böyle bir spline hakkında bilgi verilmektedir.Karsılık 1 , ξ 2 , . . . ξ $K$$\xi_1, \xi_2, ... \xi_K$

Soru 1: 4 serbestlik derecesi nasıl serbest bırakılır? Bu kısmı anlamıyorum.

Soru 2 : tanımında ne sonra . Yazar bu formülde ne yapmaya çalışıyor? Bu, yivlerin sınır düğümlerinin ötesinde doğrusal olmasını sağlamaya nasıl yardımcı olur?k = K d K ( X ) = $d_k(X)$$k=K$$d_K(X) = \frac 0 0$

1. Sıradan kübik spline'ları düşünerek başlayalım. Her bir düğüm çifti arasında kübik ve sınır düğümlerinin dışındaki kübik. İlk kübik (ilk sınır düğümünün solu) için 4df ile başlıyoruz ve her düğüm bir yeni parametre ekliyor (çünkü kübik spline ve türevlerinin ve ikinci türevlerin sürekliliği üç kısıtlama ekliyor, bir serbest parametre bırakarak) için parametreler knot.$K+4$$K$

   Doğal bir kübik spline her iki uçta lineerdir. Kübik ve ikinci dereceden parçaları vardır 0 bu sınırları nedeniyle, her bir indirgeyici eğrisinin iki ucundan her biri 2 df, bu 1 ile df indirgeme için .$K+4$$K$

   Parametrik olmayan eğri tahmininiz için toplam serbestlik derecesi ( , diyelim) harcayabileceğinize karar verdiğinizi düşünün . Doğal bir spline empoze etmek, sıradan bir kübik spline'dan (aynı sayıda düğüm için) 4 daha az serbestlik derecesi kullandığından, bu parametreleriyle sınır knotları arasındaki eğriyi modellemek için 4 daha fazla knot (ve böylece 4 parametre daha) olabilir .$p$$p$

2. Not tanım bu içindir (vardır çünkü baz fonksiyonları tüm). Bu listedeki son temel işlev . En yüksek Böylece tanımları için gerekli içindir . (Yani, bazı ne yapabileceğini anlamaya gerekmez, çünkü onu kullanmıyoruz.)$N_{k+2}$$k=1,2,...,K-2$$K$$N_{K}=d_{K-2}-d_{K-1}$$k$$d_k$$k=K-1$$d_K$

knot ile bir örnekte "Bu, dört serbestlik derecesini serbest bırakır (her iki sınır bölgesinde iki kısıtlama) . İlgili aralıklar , ve (yani aralık ve düğüm vardır).$2$$\xi_1, \xi_2$$]-\infty, \xi_1[$$]\xi_1, \xi_2[$$]\xi_2, +\infty[$$|I|=3$$|I|-1=2$

(Ortak) kübik splinelar için

Düzenlilik kısıtlamaları olmadan denklemimiz vardır:$4|I|=12$

$$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~\mathbf{1}(X < \xi_1)X^2~~;~~\mathbf{1}(X < \xi_1)X^3~~;$$ $$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$$ $$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X~~;~~\mathbf{1}(\xi_2 \leq X)X^2~~;~~\mathbf{1}(\xi_2 \leq X)X^3.$$

Kısıtlamalar ekleyerek (kübik spline'lar ile düzenliliği olduğunu varsayar ), Doğrusal katsayılar üzerindeki kısıtlama.$\mathcal{C}^r$$r=2$$(r+1)\times(|I|-1) = 3\times(|I|-1) = 6$

Sonunda serbestlik derecesi elde ediyoruz .$12-6=6$

Doğal kübik kamalar için

" Doğal bir kübik yivler ek sınırlamalar ekler, yani fonksiyon sınır düğümlerinin ötesinde doğrusaldır."

Düzenlilik kısıtlamaları olmadan, sahip denklemler (biz kaldırdık denklemler, onlar kuadratik ve kübik polinomları içerdikleri için hem sınır bölgelerde her):$4|I|-4=12-4$$4$$2$

$$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~$$ 1 ( ξ 2 ≤ X ) ; 1. ( ξ 2 ≤ x ) x $$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$$ $$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X.$$

Kısıtlamalar öncekilerle aynıdır, bu nedenle doğrusal katsayılara hala kısıtlama eklememiz gerekir .$3\times(|I|-1) = 6$

Sonunda serbestlik derecesi ile karşılaşıyoruz.$8-6=2$