İstatistikler ve Büyük Veri

En küçük kareler ve doğrusal regresyon arasındaki fark nedir? Aynı şey mi?

13 regression  least-squares  terminology 

Geçmişte birçok biyomedikal makalede kademeli olarak regresyon aşırı kullanılmıştı, ancak bu, birçok konunun daha iyi eğitimi ile gelişiyor gibi görünüyor. Birçok eski yorumcular, ancak yine de bunu sormak. Kademeli regresyonun rolü olduğu ve varsa kullanılması gereken durumlar nelerdir?

13 regression  multiple-regression  feature-selection  model-selection  stepwise-regression 

Öncül: bu aptalca bir soru olabilir. Sadece MLE asimptotik özellikleriyle ilgili açıklamaları biliyorum, ama kanıtları hiç çalışmadım. Eğer yapsaydım, belki bu soruları sormayacaktım, ya da belki de bu soruların anlamsız olduğunu fark ederdim ... bu yüzden lütfen bana kolay davran :) Bir modelin parametrelerinin MLE tahmincisinin asimptotik olarak normal ve …

13 maximum-likelihood  model  asymptotics 

Bir sırt regresyon modelinin AICc'sini hesaplamak istiyorum. Sorun parametre sayısıdır. Doğrusal regresyon için, çoğu insan parametre sayısının tahmini katsayı sayısına artı sigma'ya (hatanın varyansı) eşit olduğunu önerir. Sırt regresyonu söz konusu olduğunda, şapka matrisinin izinin - özgürlük derecesi (df) - sadece AIC formülünde (örneğin burada veya burada ) parametre sayısı …

13 regression  aic  ridge-regression  degrees-of-freedom 

Diyelim ki X şekilli (2, 5) ve y şekilli (2,) Bu çalışıyor: np.linalg.lstsq(X, y) Bunun sadece X şeklindeyse (N, 5) N> = 5 olduğunda çalışmasını bekleriz Ama neden ve nasıl? Beklendiği gibi 5 ağırlık geri alıyoruz, ancak bu sorun nasıl çözüldü? 2 denklem ve 5 bilinmeyen varmış gibi değil mi? …

13 least-squares  linear-algebra  numpy 

Ampirik CDF fonksiyonları genellikle bir basamak fonksiyonu ile tahmin edilir. Bunun doğrusal bir enterpolasyon kullanarak değil, böyle yapılmasının bir nedeni var mı? Adım fonksiyonunun bizi tercih eden ilginç teorik özellikleri var mı? İşte ikisinin bir örneği: ecdf2 <- function (x) { x <- sort(x) n <- length(x) if (n < …

13 r  distributions  ecdf 

Model kullanarak ayar yapıyordum caret, ancak gbmpaketi kullanarak modeli yeniden çalıştırıyorum . Anladığım kadarıyla caretpaketin kullandığı gbmve çıktı aynı olmalı. Bununla birlikte, sadece hızlı bir test çalıştırması data(iris), değerlendirme metriği olarak RMSE ve R ^ 2 kullanılarak modelde yaklaşık% 5 tutarsızlık gösterir. Kısmi bağımlılık grafiklerini kullanmak için en iyi model …

13 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

Gauss süreçleri ve bunların makine öğreniminde nasıl uygulandıkları konusunda oldukça yeniyim. Bu yöntemlerin ana cazibesi olan kovaryans fonksiyonları hakkında okumaya ve duymaya devam ediyorum. Öyleyse, herkes bu sezgisel işlevlerde neler olduğunu sezgisel bir şekilde açıklayabilir mi? Aksi takdirde, bunları açıklayan belirli bir öğreticiye veya belgeye işaret edebilirseniz.

13 machine-learning  probability  bayesian 

ÖNSÖZ: Bir kesme kullanmanın ya da kullanmamanın yararları ya da nasıl bir kesme seçmesi gerektiği umurumda değil. Benim sorum tamamen matematiksel ve meraktan kaynaklanıyor. Lojistik regresyon, A sınıfı ile B sınıfı arasındaki arka koşullu olasılığı modellemektedir ve posterior koşullu olasılıkların eşit olduğu bir hiper düzleme uymaktadır. Teorik olarak, 0.5 sınıflandırma …

13 logistic  predictive-models  unbalanced-classes 

Kombinatoryal optimizasyon problemleri için derin öğrenmeyi kullanmaya yönelik araştırma grupları var mı?

13 optimization  deep-learning 

Arka fon: Princeton'ın GLM için MLE tahminini incelemeye çalışıyorum . Ben MLE tahmin temellerini anlamak: likelihood, score, gözlenen ve beklenen Fisher informationve Fisher scoringtekniği. Ve MLE tahmini ile basit doğrusal regresyonun nasıl gerekçelendirileceğini biliyorum . Soru: Bu yöntemin ilk satırını bile anlayamıyorum :( çalışma değişkenlerinin arkasındaki sezgi nedir :ziziz_i zi=η^i+(yi−μ^i)dηidμizi=η^i+(yi−μ^i)dηidμi …

13 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Let üzerinde düzgün dağılımı rasgele numune olduğu , . Let ve büyük ve en küçük mertebeden bir istatistik. İstatistiğin , parametresi için müştereken tam bir istatistik olduğunu gösterin . X=(x1,x2,…xn)X=(x1,x2,…xn)\mathbf{X}= (x_1, x_2, \dots x_n)(a,b)(a,b)(a,b)a&lt;ba&lt;ba < bY1Y1Y_1YnYnY_n(Y1,Yn)(Y1,Yn)(Y_1, Y_n)θ=(a,b)θ=(a,b)\theta = (a, b) Çarpanlara ayırma yöntemiyle yeterlilik göstermek benim için sorun değil. Soru: …

13 self-study  uniform  sufficient-statistics  complete-statistics 

Doğrusal regresyon modelini düşünün y = X β+ uy=Xβ+u\mathbf{y}=\mathbf{X\beta}+\mathbf{u} , u ∼N( 0 , σ2I )u∼N(0,σ2I)\mathbf{u}\sim N(\mathbf{0},\sigma^2\mathbf{I}) , E( u ∣ X ) = 0E(u∣X)=0E(\mathbf{u}\mid\mathbf{X})=\mathbf{0} . Let vs .H 1 : σ 2 0 ≠ σ 2'H0: σ20= σ2H0:σ02=σ2H_0: \sigma_0^2=\sigma^2'H1: σ20≠ σ2H1:σ02≠σ2H_1: \sigma_0^2\neq\sigma^2 Biz anlamak ki , burada dim (\ …

13 regression  hypothesis-testing  mathematical-statistics  inference 

Grup kementinin bir değişken grubunda değişken seçimi ve seyrekliği için kullanıldığını okudum. Bu iddianın ardındaki sezgiyi bilmek istiyorum. Kement grubu neden kemente tercih edilir? Grup kement çözüm yolu neden parça parça doğrusal değil?

13 regression  feature-selection  lasso  regularization 

Bu basit bir açıklama olabilir (yine de umuyorum). Regresyon araç kutusunu kullanarak Matlab'da bazı regresyon analizleri yaptım. Ancak, bunu belirten bir çalışma ile karşılaştım: "Regresyon analizi kullanılarak, varyansın% 60'ını açıklayan sadece dört sonik özellik kullanılarak bir öngörücü model oluşturmak mümkün oldu" Makaleye link gerekirse: Makale Bunun ne anlama geldiğinden% 100 …

13 variance