İstatistikler ve Büyük Veri

Çıkıntı regresyonunu, nin birim kareler toplamına sahip olmasını gerektiren ek bir kısıtlama ile düşünün (eşdeğerde birim sapma); Gerekirse, kişi birim toplamı da olduğu varsayılabilir :y^y^\hat{\mathbf y}yy\mathbf y β^∗λ=argmin{∥y−Xβ∥2+λ∥β∥2}s.t.∥Xβ∥2=1.β^λ∗=arg⁡min{‖y−Xβ‖2+λ‖β‖2}s.t.‖Xβ‖2=1.\hat{\boldsymbol\beta}_\lambda^* = \arg\min\Big\{\|\mathbf y - \mathbf X \boldsymbol \beta\|^2+\lambda\|\boldsymbol\beta\|^2\Big\} \:\:\text{s.t.}\:\: \|\mathbf X \boldsymbol\beta\|^2=1. β^∗λβ^λ∗\hat{\boldsymbol\beta}_\lambda^* ne zaman \ lambda \ to \ infty sınırı …

21 pca  regularization  ridge-regression  partial-least-squares  constrained-regression 

Wikipedia'nın makalesinde, etki büyüklüğüyle ilgili bir iddiada bulunmaktan korkuyorum . özellikle: [...] boş olmayan bir istatistiksel karşılaştırma, popülasyon etki büyüklüğü tamamen sıfır olmadıkça her zaman istatistiksel olarak anlamlı sonuçlar gösterecektir. Bunun ne anlama geldiği / ne anlama geldiğinden emin değilim, onu destekleyecek bir tartışma bırakalım. Sonuçta, bir etkinin bir istatistiği, …

21 hypothesis-testing 

Lojistik regresyon kullanarak verilerimin bir analizini yaptım, ancak raporumda açıklayıcı bir İstatistik bölümüne de ihtiyacım var. Dürüst olmak gerekirse bu konuyu anlamıyorum ve birinin neden gerekli olduğunu açıklayabileceğini umuyordum. Örneğin, bağımsız sürekli değişkenlerimden birinin histogramını çizersem ve normallik gösterirse ya da eğriliği gösteriyorsa, bu rapora nasıl bir değer katacaktır? Verilerim, …

21 descriptive-statistics  reporting 

Kısa versiyon: Lojistik regresyon ve probit regresyonunun, gözlemden önce bir miktar sabit eşiğe göre ayrıklaştırılan sürekli bir gizli değişken içerdiği şeklinde yorumlanabileceğini biliyoruz. Poisson regresyonu için benzer bir latent değişken yorumu mevcut mu? İkiden fazla farklı sonuç olduğunda Binom regresyonuna (logit veya probit gibi) ne dersiniz? En genel düzeyde, herhangi …

21 logistic  generalized-linear-model  poisson-regression  probit  latent-variable 

Son zamanlarda t-SNE ( t-Dağıtılmış Stokastik Komşu Yerleşimi ) ile ilgili bazı soruları okudum ve ayrıca MDS ( Çok Boyutlu Ölçeklendirme ) ile ilgili bazı soruları da ziyaret ettim . Genellikle benzer şekilde kullanılırlar, bu yüzden burada her ikisinde de (veya PCA ile karşılaştırıldığında ) birçok soru olduğunu görünce bu …

21 data-visualization  dimensionality-reduction  multidimensional-scaling  tsne 

Arka fon: Evet, Sınırlı Boltzmann Makinesi (RBM) bir sinir ağının ağırlığını başlatmak için CAN kullanılabilir. Ayrıca derin inanç ağı oluşturmak için bir "tabaka-katman" şekilde kullanılamaz CAN bir yetiştirmek olduğunu ( üstünde ıncı katmanı , 'inci katmanın ardından tren üstünde inci tabaka -inci tabaka durulama ve tekrar ...)nnn( n - 1 …

21 machine-learning  neural-networks  deep-learning  deep-belief-networks  rbm 

İstatistiklerde, bağımsız ve rastgele aynı özellikleri açıklar mı? Aralarındaki fark nedir? Sıklıkla "iki bağımsız rastgele değişken" veya "rastgele örnekleme" gibi bir tanımla karşılaşıyoruz. Aralarındaki farkın ne olduğunu merak ediyorum. Birisi bunu açıklayıp bazı örnekler verebilir mi? Mesela bağımsız değil ama rastgele süreç?

21 distributions  sampling  randomness 

Birçok PDF eksi'den pozitif sonsuzluğa kadar değişmektedir, ancak bazı araçlar tanımlanmıştır, bazıları değildir. Hangi ortak özellik bazılarını hesaplanabilir kılıyor?

21 distributions  mean 

Bir konferansta aşağıdaki ifadeye kulak misafiri oldum: 5 konu için 100 ölçüm, 100 konu için 5 ölçümden çok daha az bilgi sağlar. Bunun doğru olduğu çok açık, ama bunun matematiksel olarak nasıl kanıtlanabileceğini merak ediyordum ... Doğrusal bir karma modelin kullanılabileceğini düşünüyorum. Ancak, onları tahmin etmek için kullanılan matematik hakkında …

21 mixed-model  variance  repeated-measures  sample-size  intraclass-correlation 

MCMC (Markov zinciri Monte Carlo) yöntemleri üzerine sahip olduğum az bilgiye dayanarak, örneklemenin yukarıda belirtilen tekniğin çok önemli bir parçası olduğunu anlıyorum. En sık kullanılan örnekleme yöntemleri Hamiltonian ve Metropolis'tir. Daha verimli bir MCMC örnekleyici oluşturmak için makine öğrenimini veya hatta derin öğrenmeyi kullanmanın bir yolu var mı?

21 machine-learning  mcmc  monte-carlo  markov-process 

Bağımsız değişkenleri / özellikleri ne zaman ayrılmalı / atmalıyız ve ne zaman yapmamalıyız? Soruma cevap verme girişimlerim: Genelde, binmemeliyiz çünkü binicilik bilgi kaybeder. Çekme aslında modelin serbestlik derecesini arttırıyor, bu nedenle çekmeden sonra aşırı sığmaya neden olmak mümkündür. Eğer bir "yüksek önyargı" modelimiz varsa, kırma kötü olmayabilir, fakat "yüksek sapma" …

21 machine-learning  continuous-data  feature-construction  binning 

Sorum, @whuber ile farklı bir sorunun yorumunda yapılan bir tartışmadan kaynaklandı . Özellikle, @whuber adlı kullanıcının yorumu şöyle: Sizi şaşırtabilmesinin bir nedeni, bir korelasyon testi ve regresyon eğimi testi altında yatan varsayımların farklı olmasıdır - bu yüzden korelasyon ve eğimin gerçekten aynı şeyi ölçtüğünü anlasak bile, p değerleri neden aynı …

21 regression  correlation  p-value  assumptions 

Son zamanlarda, adaboost, gradient boost gibi artırıcı algoritmalar öğrenmeye çalışıyordum ve en yaygın kullanılan zayıf öğrenicinin ağaçlar olduğu gerçeğini biliyordum. Gerçekten bilmek istiyorum, sinir ağlarını temel öğrenici olarak kullanmak için bazı başarılı örnekler (bazı makaleleri veya makaleleri kastediyorum) var mı?

21 neural-networks  deep-learning  boosting  ensemble  dropout 

Anladığım kadarıyla, uygun çapraz doğrulama ve model seçim prosedürlerini takip ederken bile , model karmaşıklığı üzerine bir kısıtlama getirmediği sürece, bir modeli yeterince zor arayacaksa , fazladan takma gerçekleşecek . Dahası, çoğu kez insanlar, sağlayabilecekleri korumayı baltalayan verilerden model karmaşıklığı ile ilgili cezaları öğrenmeye çalışırlar. Sorum şu: Yukarıdaki açıklamaya ne …

21 machine-learning  cross-validation  goodness-of-fit  scikit-learn  caret 

İnsanlar neden çekirdek SVM'lerle uğraşırken Kuadratik Programlama tekniklerini (SMO gibi) kullanıyor? Gradyan İnişinin nesi yanlış? Çekirdekle kullanmak imkansız mı yoksa çok mu yavaş (ve neden?). İşte biraz daha fazla bağlam: SVM'leri biraz daha iyi anlamaya çalışırken, aşağıdaki maliyet işlevini kullanarak doğrusal bir SVM sınıflandırıcısını geliştirmek için Gradient Descent kullandım: J( …

21 svm  kernel-trick  gradient-descent