Birden fazla bilinmeyen düğüm ile parçalı doğrusal regresyon nasıl yapılır?

Çoklu düğümleri otomatik olarak algılayabilen parçalı doğrusal regresyon yapmak için herhangi bir paket var mı? Teşekkürler. Yapısal paketini kullandığımda. Değişim noktalarını tespit edemedim. Değişim noktalarını nasıl tespit ettiği hakkında hiçbir fikrim yok. Parsellerden, onları seçmeme yardımcı olabileceğim birkaç nokta olduğunu görebiliyordum. Burada bir örnek verilebilir mi?

Misiniz MARS uygulanabilir? R'nin earthonu uygulayan paketi var.

Genel olarak, bir şeyi parça-bilge doğrusal olarak sığdırmak istemek biraz tuhaf. Ancak, bunu gerçekten yapmak istiyorsanız, MARS algoritması en doğrudan olanıdır. Her seferinde bir düğüm olan bir işlev oluşturacaktır; ve daha sonra aşırı uydurma ala karar ağaçlarıyla savaşmak için düğüm sayısını geri alır. MARS algotitmasına R ile earthveya üzerinden erişebilirsiniz mda. Genel olarak, şu ana kadar diğer bilgi kriterlerinden (AIC, BIC vb.) Kaldırılmayan GCV'ye uygundur.

Düğümler her seferinde bir tane yetiştirildiği için MARS size gerçekten "optimum" bir uyum vermeyecektir. Düğüm yerleşimlerinin olası permütasyonları hızla patlayacağından, gerçekten "optimal" bir düğüm sayısına uymak gerçekten zor olurdu.

Genellikle, bu nedenle insanlar spline'ları yumuşatmaya yönelirler. Çoğu düzleştirici spline kübiktir, böylece bir insan gözünü süreksizliklerin eksikliğini kandırabilirsiniz. Bununla birlikte, doğrusal bir düzeltme spline yapmak oldukça mümkün olacaktır. Yivleri düzleştirmenin en büyük avantajı, optimize edilecek tek parametreleridir. Bu, permütasyonlar arasında arama yapmak zorunda kalmadan gerçekten "optimal" bir çözüme hızlı bir şekilde ulaşmanızı sağlar. Ancak, gerçekten bükülme noktaları aramak istiyorsanız ve bunu yapmak için yeterli veriye sahipseniz, MARS gibi bir şey muhtemelen en iyi bahistir.

R'deki cezalandırılmış doğrusal düzleştirme spline'ları için bazı örnek kod:

require(mgcv);data(iris);
gam.test <- gam(Sepal.Length ~ s(Petal.Width,k=6,bs='ps',m=0),data=iris)
summary(gam.test);plot(gam.test);

Bununla birlikte, seçilen gerçek düğümlerin herhangi bir gerçek bükülme noktası ile ilişkili olması gerekmez.

Bunu birkaç yıl önce sıfırdan programladım ve bilgisayarımda parça halinde doğrusal regresyon yapmak için bir Matlab dosyam var. Yaklaşık 20 ölçüm noktası için yaklaşık 1 ila 4 kesme noktası hesaplanabilir. 5 veya 7 kesme noktası gerçekten çok fazla olmaya başlar.

Gördüğüm gibi saf matematiksel yaklaşım, sorunuzun altındaki yorumda bağlantılı soruda mbq kullanıcısı tarafından önerilen tüm olası kombinasyonları denemektir.

Takılan hatların hepsi ardışık ve bitişik (çakışma yok) olduğundan, birleştiriciler Paskal üçgenini takip edecektir. Hat bölümleri tarafından kullanılan veri noktaları arasında çakışmalar olsaydı, birleştiricilerin bunun yerine ikinci tür Stirling numaralarını izleyeceğine inanıyorum.

Aklımdaki en iyi çözüm, takılan hatların R ^ 2 korelasyon değerlerinin en düşük standart sapmasına sahip takılan hatların kombinasyonunu seçmektir. Bir örnekle açıklamaya çalışacağım. Verilerde kaç kırılma noktası bulunması gerektiğini sormanın, "Britanya sahili ne kadar sürer?" Sorusunu sormaya benzer olduğunu unutmayın. Benoit Mandelbrots'un (matematikçi) fraktallarla ilgili makalelerinde olduğu gibi. Ve kırılma noktası sayısı ile regresyon derinliği arasında bir denge vardır.

Şimdi örneğe bakalım.

Varsayalım ki bir fonksiyonu olarak mükemmel verisine sahibiz ( ve tamsayılardır):$y$$x$$x$$y$

$$\begin{array}{|c|c|c|c|c|c|} \hline &x &y &R^2 line 1 &R^2 line 2 &sum of R^2 values &standard deviation of R^2 \\ \hline &1 &1 &1,000 &0,0400 &1,0400 &0,6788 \\ \hline &2 &2 &1,000 &0,0118 &1,0118 &0,6987 \\ \hline &3 &3 &1,000 &0,0004 &1,0004 &0,7067 \\ \hline &4 &4 &1,000 &0,0031 &1,0031 &0,7048 \\ \hline &5 &5 &1,000 &0,0135 &1,0135 &0,6974 \\ \hline &6 &6 &1,000 &0,0238 &1,0238 &0,6902 \\ \hline &7 &7 &1,000 &0,0277 &1,0277 &0,6874 \\ \hline &8 &8 &1,000 &0,0222 &1,0222 &0,6913 \\ \hline &9 &9 &1,000 &0,0093 &1,0093 &0,7004 \\ \hline &10 &10 &1,000 &-1,978 &1,000 &0,7071 \\ \hline &11 &9 &0,9709 &0,0271 &0,9980 &0,6673 \\ \hline &12 &8 &0,8951 &0,1139 &1,0090 &0,5523 \\ \hline &13 &7 &0,7734 &0,2558 &1,0292 &0,3659 \\ \hline &14 &6 &0,6134 &0,4321 &1,0455 &0,1281 \\ \hline &15 &5 &0,4321 &0,6134 &1,0455 &0,1282 \\ \hline &16 &4 &0,2558 &0,7733 &1,0291 &0,3659 \\ \hline &17 &3 &0,1139 &0,8951 &1,0090 &0,5523 \\ \hline &18 &2 &0,0272 &0,9708 &0,9980 &0,6672 \\ \hline &19 &1 &0 &1,000 &1,000 &0,7071 \\ \hline &20 &2 &0,0094 &1,000 &1,0094 &0,7004 \\ \hline &21 &3 &0,0222 &1,000 &1,0222 &0,6914 \\ \hline &22 &4 &0,0278 &1,000 &1,0278 &0,6874 \\ \hline &23 &5 &0,0239 &1,000 &1,0239 &0,6902 \\ \hline &24 &6 &0,0136 &1,000 &1,0136 &0,6974 \\ \hline &25 &7 &0,0032 &1,000 &1,0032 &0,7048 \\ \hline &26 &8 &0,0004 &1,000 &1,0004 &0,7068 \\ \hline &27 &9 &0,0118 &1,000 &1,0118 &0,6987 \\ \hline &28 &10 &0,04 &1,000 &1,04 &0,6788 \\ \hline \end{array}$$

Bu y değerleri şu grafiğe sahiptir:

Açıkça iki kırılma noktası var. Argüman olarak R ^ 2 korelasyon değerlerini (Excel hücre formülleriyle (Avrupa nokta-virgül stili)) hesaplayacağız:

=INDEX(LINEST(B1:$B$1;A1:$A$1;TRUE;TRUE);3;1)
=INDEX(LINEST(B1:$B$28;A1:$A$28;TRUE;TRUE);3;1)

iki takılmış hattın çakışan olası tüm kombinasyonları için . Olası tüm R ^ 2 değer çiftlerinin grafiği vardır:

Soru, hangi çift R ^ 2 değerini seçmeliyiz ve başlıkta istendiği gibi birden fazla kırılma noktasına nasıl genelleme yapabiliriz? Bir seçenek, R-kare korelasyonunun toplamının en yüksek olduğu kombinasyonu seçmektir. Bunu çizerken, aşağıdaki üst mavi eğriyi elde ederiz:

R kare değerlerinin toplamı olan mavi eğri, ortadaki en yüksek değerdir. Bu, en yüksek değer olarak değerine sahip tablodan daha açık bir şekilde görülebilir . Bununla birlikte, kırmızı eğrinin minimumunun daha doğru olduğunu düşünüyorum. Yani, takılan regresyon hatlarının R ^ 2 değerlerinin standart sapmasının minimum değeri en iyi seçim olmalıdır.$1,0455$

Parça bilge doğrusal regresyon - Matlab - çoklu kırılma noktaları

Tomé ve Miranda'da (1984) açıklanan oldukça hoş bir algoritma var .

Önerilen metodoloji, kesme noktaları arasındaki minimum mesafe ve her kesme noktasındaki minimum eğilim değişikliği üzerindeki bir takım kısıtlamalara tabi olarak, belirli bir zaman serisine uyan en iyi sürekli düz çizgi kümesini hesaplamak için en küçük kareler yaklaşımını kullanır.

Kod ve GUI, Fortran ve IDL'de web sitelerinden edinilebilir: http://www.dfisica.ubi.pt/~artome/linearstep.html

... her şeyden önce bunu iterasyonlarla ve AIC AICc BIC Cp gibi bazı bilgilendirici kriterler altında yapmanız gerekir; çünkü "ideal" bir uyum elde edebilirsiniz, eğer düğüm sayısı K = veri noktası sayısı N ise, tamam. ... önce K = 0; L = K + 1 regresyonlarını tahmin edin, örneğin AICc'yi hesaplayın; ayrı bir segmentte minimum sayıda veri noktası olduğunu varsayın, diyelim ki L = 3 veya L = 4, tamam ... koymak K = 1; ilk düğüm olarak L-th verilerinden başlayın, SS veya MLE'yi hesaplayın ... ve bir sonraki veri noktasını bir düğüm, SS veya MLE olarak adım adım N-L verilerindeki son düğüme kadar; AICc'yi hesaplamak için en uygun (SS veya MLE) düzenlemeyi seçin ... ... koymak K = 2; ... önceki tüm regresyonları kullanın (SS veya MLE'dir), ancak tek bir segmenti olası tüm parçalara adım adım bölün ... AICc'yi hesaplamak için en uygun (SS veya MLE) düzenlemeyi seçin ... Son AICc bir öncekinden daha büyükse: yinelemeleri durdurun! Bu AICc kriteri altında en uygun çözümdür, tamam

Bir keresinde Joinpoint adlı bir programla karşılaştım . Web sitelerinde "birleşme noktalarında birkaç farklı çizginin birbirine bağlandığı" bir birleşim noktası modeline uyduğunu söylüyorlar. Ve ayrıca: "Kullanıcı minimum ve maksimum birleşme noktası sayısını sağlar. Program, minimum birleşme noktası sayısıyla (örn. Düz bir çizgi olan 0 birleşme noktası) başlar ve daha fazla birleşim noktasının istatistiksel olarak anlamlı olup olmadığını ve modele eklenmesi gerekip gerekmediğini test eder. (bu maksimum sayıya kadar). "

NCI bunu kanser oranlarının trend modellemesi için kullanıyor, belki de ihtiyaçlarınıza uygun.

Verilere parçalı bir fonksiyon sığdırmak için:

burada yaklaşık olarak hesaplanacak bilinmeyen parametrelerdir, çok basit bir yöntem vardır (yinelemeli değil, ilk tahmin yok, herhangi bir matematik bilgisayar dilinde kodlanması kolay). Sayfa 29'da verilen teori: https://fr.scribd.com/document/380941024/Regression-par-morceaux-Piecewise-Regression-pdf ve sayfa 30:$a_1 , a_2 , p_1 , q_1, p_2 , q_2 , p_3 , q_3$

Örneğin, Mats Granvik tarafından sağlanan kesin verilerle sonuç şöyledir:

Dağınık veri olmadan, bu örnek çok anlamlı değildir. Dağılmış verilere sahip diğer örnekler, başvurulan makalede gösterilmiştir.

mcpÇıkarılacak değişiklik noktalarının sayısını biliyorsanız , paketi kullanabilirsiniz . Mükemmel modelleme esnekliği ve değişim noktaları ve regresyon parametreleri hakkında çok fazla bilgi verir, ancak hız pahasına.

Mcp web sitesi birçok uygulamalı örnek içerir, ör.

library(mcp)

# Define the model
model = list(
  response ~ 1,  # plateau (int_1)
  ~ 0 + time,    # joined slope (time_2) at cp_1
  ~ 1 + time     # disjoined slope (int_3, time_3) at cp_2
)

# Fit it. The `ex_demo` dataset is included in mcp
fit = mcp(model, data = ex_demo)

Ardından şunları görselleştirebilirsiniz:

plot(fit)

Veya özetleyin:

summary(fit)

Family: gaussian(link = 'identity')
Iterations: 9000 from 3 chains.
Segments:
  1: response ~ 1
  2: response ~ 1 ~ 0 + time
  3: response ~ 1 ~ 1 + time

Population-level parameters:
    name match  sim  mean lower  upper Rhat n.eff
    cp_1    OK 30.0 30.27 23.19 38.760    1   384
    cp_2    OK 70.0 69.78 69.27 70.238    1  5792
   int_1    OK 10.0 10.26  8.82 11.768    1  1480
   int_3    OK  0.0  0.44 -2.49  3.428    1   810
 sigma_1    OK  4.0  4.01  3.43  4.591    1  3852
  time_2    OK  0.5  0.53  0.40  0.662    1   437
  time_3    OK -0.2 -0.22 -0.38 -0.035    1   834

Yasal Uyarı: Ben mcp geliştiricisiyim.