İstatistikler ve Büyük Veri

Klasik bir kupon Collector problemi , iyi zaman olduğu bilinmektedir gerekli bir dizi tamamlamak için rastgele seçilmiş kuponlar tatmin , ve .TTTnnnE[T]∼nlnnE[T]∼nln⁡nE[T] \sim n \ln n Var(T)∼n2Var(T)∼n2Var(T) \sim n^2Pr(T&gt;nlnn+cn)&lt;e−cPr(T&gt;nln⁡n+cn)&lt;e−c\Pr(T > n \ln n + cn) < e^{-c} Bu üst sınır, kabaca olan Chebyshev eşitsizliğinin verdiği sınırdan daha iyidir .1/c21/c21/c^2 Sorum …

20 probability  probability-inequalities  coupon-collector-problem 

Denek içi testler için post-hocs yapmak için tercih edilen yöntem nedir? Tukey'in HSD'sinin kullanıldığı yayınlanmış çalışmaları gördüm, ancak Keppel ve Maxwell &amp; Delaney'nin bir incelemesi, bu tasarımlardaki sferikliğin olası ihlallerinin hata terimini yanlış ve bu yaklaşımı sorunlu hale getirdiğini gösteriyor. Maxwell ve Delaney, kitaplarındaki soruna bir yaklaşım sağlar, ancak herhangi …

20 r  repeated-measures  multiple-comparisons  post-hoc  sphericity 

Bir modeli verilere uydurmak ve verileri modele uydurmak arasında kavramsal veya prosedürel bir fark var mı? İlk ifadeler bir örneği görülebilir https://courses.washington.edu/matlab1/ModelFitting.html , ve ikinci https://reference.wolfram.com/applications/eda/FittingDataToLinearModelsByLeast-SquaresTechniques.html .

20 terminology 

Geleneksel frekansçı istatistik alanındaki tahmin modellerini doğrulamak için yöntem ve yazılım geliştirmeye çok zaman ayırdım. Daha fazla Bayesci fikri hayata geçirirken ve öğretirken kucaklamak için bazı önemli farklılıklar görüyorum. Birincisi, Bayes öngörülü modelleme analistten aday özelliklerine göre özelleştirilebilen önceki dağılımlar hakkında çok düşünmesini ister ve bu öncelikler modeli kendilerine çeker …

20 bayesian  cross-validation  predictive-models  validation  regression-strategies 

Son zamanlarda, ML sorunlarına daha iyi çözümler bulmanın yollarından birinin özelliklerin oluşturulması olduğunu öğrendim. Örneğin iki özelliği toplayarak bunu yapabiliriz. Örneğin, bir tür kahramanın iki “saldırı” ve “savunması” özelliğine sahibiz. Daha sonra "saldırı" ve "savunma" nın toplamı olan "toplam" adı verilen ek bir özellik oluştururuz. Şimdi bana garip görünen şey, …

20 machine-learning  feature-construction 

Seyrek veriler ile eksik veriler arasındaki temel farklar nelerdir? Ve makine öğrenmesini nasıl etkiler? Daha spesifik olarak, seyrek veriler ve eksik verilerin sınıflandırma algoritmaları ve regresyon (sayıları tahmin etme) algoritma türleri üzerindeki etkisi. Eksik veri yüzdesinin önemli olduğu ve eksik veri içeren satırları bırakamayacağımız bir durumdan bahsediyorum.

20 machine-learning  dataset  missing-data  sparse 

Son zamanlarda, uygulanan ekonometri literatüründe, özellik seçim problemleri ile uğraşırken, LASSO ve ardından seçilen değişkenleri kullanarak bir OLS regresyonu gerçekleştirmenin nadir olmadığını gördüm. Böyle bir prosedürün geçerliliğini nasıl nitelendirebileceğimizi merak ediyordum. Atlanan değişkenler gibi sorunlara neden olur mu? Daha etkili olduğunu veya sonuçların daha yorumlanabilir olduğunu gösteren kanıtlar var mı? …

20 regression  feature-selection  econometrics  least-squares  lasso 

Bu muhtemelen önemsiz bir soru, ancak bu wikipedia makalesi ve "Dağıtımlar Özeti" belgesi dahil olmak üzere aramam şimdiye kadar sonuçsuz kaldı . Eğer bir tekdüze dağılım vardır, demek bir üslü dağılımı aşağıdaki gibidir?e XXXXeXeXe^X Benzer şekilde, üstel bir dağılımı , eşit bir dağılımı izliyor mu?L , n ( Y )YYYl …

20 distributions  data-transformation  exponential  uniform 

Zaman serisi verilerine uygulanacak farklı Tekrarlayan sinir ağı (RNN) mimarilerini anlamaya çalışıyorum ve RNN'leri tanımlarken sıklıkla kullanılan farklı isimlerle biraz karışıyorum. Uzun kısa süreli bellek (LSTM) ve Geçitli Tekrarlanan Birim (GRU) yapısı temelde bir geri besleme döngüsüne sahip bir RNN mi?

20 neural-networks  lstm  rnn 

Derin bir sinir ağı modelim var ve bunu yaklaşık 100.000 örnekten oluşan veri kümemde eğitmem gerekiyor, doğrulama verilerim yaklaşık 1000 örnek içeriyor. Her bir örneği eğitmek zaman aldığından (her örnek için yaklaşık 0,5s) ve aşırı sığmayı önlemek için, gereksiz hesaplamayı önlemek için erken durdurma uygulamak istiyorum. Ancak sinir ağımı erken …

20 neural-networks  deep-learning 

Sezgisel olarak, ortalama sadece gözlemlerin ortalamasıdır. Varyans, bu gözlemlerin ortalamadan ne kadar farklı olduğudur. Varyansın tersinin neden hassasiyet olarak bilindiğini bilmek istiyorum. Bundan ne tür bir sezgi yapabiliriz? Duyarlılık matrisi neden çok değişkenli (normal) dağılımda kovaryans matrisi kadar yararlı? Öngörüler lütfen?

20 normal-distribution  multivariate-analysis  terminology  intuition 

Derin ve sığ sinir ağlarının eğitiminde, gradyan yöntemleri (örneğin, gradyan inişi, Nesterov, Newton-Raphson) neden diğer meta-sezgilerin aksine yaygın olarak kullanılmaktadır? Meta-sezgisel olarak, yerel bir minimada sıkışmayı önlemek için geliştirilen benzetilmiş tavlama, karınca kolonisi optimizasyonu vb. Yöntemleri kastediyorum.

20 neural-networks  optimization  deep-learning  gradient-descent  backpropagation 

İstatistiksel öğrenmenin unsurlarının önyargı-varyans dengesi bölümünü okuyorum ve 29. sayfadaki formülde şüphe duyuyorum. Veriler, bir modelden , rasgele olduğu beklenen değere sahip sayı ve Varyans . Modelin hatanın beklenen değeri olsun burada öngörülmesi olup eden öğrencinin. Kitaba göre hata Y=f(x)+ϵY=f(x)+ϵ Y = f(x)+\epsilonε = E [ ε ] = 0 …

20 machine-learning  unbiased-estimator  mse  bias-variance-tradeoff 

LSTM'leri denemek için theano kullanıyorum ve LSTM'ler için hangi optimizasyon yöntemlerinin (SGD, Adagrad, Adadelta, RMSprop, Adam, vb.) En iyi sonucu merak ediyordum? Bu konuda herhangi bir araştırma makalesi var mı? Ayrıca, cevap LSTM için kullandığım uygulamanın türüne bağlı mı? Eğer öyleyse, metin sınıflandırma (metnin ilk kelime vektörlerine dönüştürüldüğü yer) için …

20 machine-learning  neural-networks  optimization  lstm 

OLS regresyonu bağlamında, sabit varyansın test edilmesi ve model spesifikasyonunun değerlendirilmesi için geleneksel olarak bir artık grafiğin (takılan değerlere karşı) görüntülendiğini anlıyorum. Kalanlar neden değerlerine değil, uyumlara karşı çizilir ? Bilgiler bu iki grafikten nasıl farklı?YYY Aşağıdaki artık grafikleri üreten bir model üzerinde çalışıyorum: Dolayısıyla, yerleştirilen değerlere karşı grafik hızlı …

20 regression  residuals