İstatistikler ve Büyük Veri

Makine öğrenmeyi öğrenen bir yazılım mühendisiyim, özellikle Andrew Ng'nin makine öğrenim kursları aracılığıyla . Düzenlemeyle doğrusal regresyon çalışırken , kafa karıştırıcı terimler buldum: L1 düzenlenmesi veya L2 düzenlenmesi ile regresyon KEMENT Ridge regresyonu Yani benim sorularım: L1 düzenlileşmesi ile yapılan regresyon, LASSO ile tamamen aynı mıdır? L2 düzenlileşmesi ile regresyon …

33 regression  terminology  lasso  regularization  ridge-regression 

Göreceli değişken öneminin aşırı genel / basit olmayan Gradient Boostted Trees içinde nasıl hesaplandığına dair bir açıklama arıyorum: Ölçümler, bir değişkenin bölünme için seçilme sayısına dayanır, her bölünmenin sonucu olarak karenin iyileştirilmesiyle ağırlıklandırılır ve tüm ağaçların ortalaması alınır . [ Elith ve diğ. 2008, Regresyon ağaçlarının güçlendirilmesi için bir çalışma …

33 machine-learning  data-mining  predictive-models  cart  boosting 

Tikhonov düzenlenmesi ve sırt regresyonu genellikle aynımış gibi kullanılan terimlerdir. Aradaki farkın tam olarak ne olduğunu belirtmek mümkün müdür?

33 regression  terminology  regularization  ridge-regression  tikhonov-regularization 

Ben dahil olmak üzere birkaç kaynaklardan okudum bu bir Rastgele Ormanlar (örneğin, Lojistik Regresyon ve diğer ML yöntemlerdir bu şekilde) uçlara karşı duyarlıdır olmadığını. Ancak iki sezgi bana aksini söylüyor: Bir karar ağacı ne zaman yapılırsa, bütün puanların sınıflandırılması gerekir. Bu, aykırıların bile sınıflandırılacağı ve dolayısıyla yükseltme sırasında seçildikleri karar …

33 random-forest  bootstrap  outliers  cart 

Sırt, LASSO ve esnek ağ regülasyon metotları nasıl karşılaştırılır? Avantajları ve dezavantajları nelerdir? Herhangi bir iyi teknik makale veya ders notu da takdir edilecektir.

33 references  lasso  regularization  ridge-regression  elastic-net 

Bir OLS doğrusal regresyonu ile ilişkili kavisli şekilli güven bantlarının kökenini ve regresyon parametrelerinin (eğim ve kesişme) güven aralıklarıyla nasıl ilişkili olduğunu anlamaya çalışıyorum, örneğin (R kullanarak): require(visreg) fit <- lm(Ozone ~ Solar.R,data=airquality) visreg(fit) Grubun,% 2,5 kesmeyle ve% 97,5 eğim ile hesaplanan çizgilerin sınırları ile,% 97,5 kesmeyle ve% 2,5 eğim …

33 regression  confidence-interval 

HMM'lerin (Gizli Markov Modelleri) üretken modeller olduğunu ve CRF'nin ayırt edici modeller olduğunu anlıyorum. Ayrıca CRF'lerin (Koşullu Rastgele Alanlar) nasıl tasarlandığını ve kullanıldığını da biliyorum. Anlamadığım şey, bunların HMM'lerden farklı olmaları mı? HMM durumunda, sadece bir sonraki durumumuzu önceki düğümde, mevcut düğümde ve geçiş olasılığına göre modelleyebildiğimizi okudum, ancak CRF'ler …

33 machine-learning  hidden-markov-model  natural-language  conditional-random-field 

4'ü ayrık değerler olan 10 boyuta sahip bir veri kümesi X'e sahibim. Aslında, bu 4 ayrı değişken sıralıdır, yani daha yüksek bir değer daha yüksek / daha iyi bir anlam ifade eder. Bu ayrık değişkenlerin 2'si, bu değişkenlerin her biri için, örneğin 11 ila 12 arasındaki mesafenin, 5 ila 6 …

33 clustering  k-means  discrete-data  continuous-data  gaussian-mixture 

Bunun kimsenin gerçekten basit bir cevap veremediği çok sıcak bir konu olduğunu biliyorum. Bununla birlikte, aşağıdaki yaklaşımın faydalı olup olmayacağını merak ediyorum. Önyükleme yöntemi yalnızca, örneğin orijinal popülasyonla aynı dağılımı en az veya daha az takip ederse (tam olarak okuyun) kullanışlıdır. Emin olmak için bu, örnek büyüklüğünüzü yeterince büyük yapmanız …

33 bootstrap  sample-size  methodology 

Andrew More bilgi kazancını şöyle tanımlar : IG(Y|X)=H(Y)−H(Y|X)IG(Y|X)=H(Y)−H(Y|X)IG(Y|X) = H(Y) - H(Y|X) burada olan koşullu entropi . Ancak, Wikipedia yukarıdaki miktar karşılıklı bilgileri çağırır .H(Y|X)H(Y|X)H(Y|X) Vikipedi, bilgi kazancını iki rastgele değişken arasındaki Kullback – Leibler ayrıntısı (aka bilgi ayrışması veya göreceli entropi) olarak tanımlar : DKL(P||Q)=H(P,Q)−H(P)DKL(P||Q)=H(P,Q)−H(P)D_{KL}(P||Q) = H(P,Q) - H(P) …

33 information-theory 

Babam matematik meraklısıdır, ancak istatistiklerle pek ilgilenmez. Bu temiz olurduBazı harika istatistik parçalarını göstermeye çalışmak doğru ve CLT birinci sınıf bir adaydır. Merkezi limit teoreminin matematiksel güzelliği ve etkisini istatistikçilere nasıl aktarırsınız?

33 theory  central-limit-theorem 

Öyleyse ne olmuş? Değilse neden olmasın? Çizgideki bir örnek için, medyan toplam mutlak sapmayı en aza indirir. Tanımı R2'ye vb. Yaymak doğal görünebilir, ancak daha önce hiç görmedim. Ama sonra uzun zamandır sol alandayım.

33 multivariate-analysis  spatial  median 

Posterior kestirim dağılımının ne olduğunu anlıyorum ve posterior kestirim kontrolleri hakkında okudum , ancak henüz ne yaptığım henüz net değil. Posterior prediktif kontrol tam olarak nedir? Bazı yazarlar neden posterior öngörücü kontroller yapmanın “verileri iki kez kullanmak” olduğunu ve kötüye kullanılmaması gerektiğini söylüyor? (ya da Bayesian olmadığını bile)? (örneğin bkz …

33 bayesian  model-selection  posterior 

Andrew Ng'un Yapay Sinir Ağları ve Coursera'daki Derin Öğrenme kursunda kullanmanın neredeyse her zaman kullanmanın tercih edildiğini söylüyor .tanhtanhtanhsigmoidsigmoidsigmoid O verir nedeni çıkışları kullanarak olmasıdır daha etrafında 0 ziyade merkezi 'ın 0.5, ve bu 'biraz daha kolay bit sonraki katman için öğrenme yapar'.tanhtanhtanhsigmoidsigmoidsigmoid Aktivasyonun çıkış hızını merkezlemek neden öğreniyor? Sanırım …

33 machine-learning  neural-networks  backpropagation  sigmoid-curve 

SVD ve PCA'yı anlayan biri için kısmi en küçük kareler regresyonunun (çevrimiçi olarak erişilebilir) arkasındaki teorinin iyi bir şekilde açıklanmasını tavsiye edebilir miyim? Çevrimiçi olarak birçok kaynağa baktım ve doğru titizlik ve erişilebilirlik kombinasyonuna sahip hiçbir şey bulamadım. İçine baktım İstatistiksel Öğrenme Elements üzerine sorulan bir soru üzerine yorumunda öne …

33 regression  references  regularization  svd  partial-least-squares