İstatistikler ve Büyük Veri

Bunun hakkında birkaç laboratuvar üyesi ile tartışıyordum ve birkaç kaynağa gittik, ancak yine de tam olarak cevabımız yok: Bir GLM'nin bir poisson ailesine sahip olduğunu söylediğimizde, diyelim ki artıkların dağılımı veya cevap değişkeni hakkında mı konuşalım? Çekişme noktaları Okuma bu o GLM varsayımlar gözlemlerin istatistiksel bağımsızlık, olduğunu bildiren makale bağlantı …

13 generalized-linear-model  residuals  assumptions 

Her biri tam verinin bir alt kümesine dayanan, birden çok OLS modelinin ortalaması olan bir regresyon modeli oluşturmak istiyorum. Bunun arkasındaki fikir bu makaleye dayanmaktadır . K kıvrımları oluşturuyorum ve her biri kıvrımlardan biri olmayan verilerde k OLS modelleri oluşturuyorum. Daha sonra son modeli elde etmek için regresyon katsayılarını ortalarım. …

13 regression  least-squares  ensemble 

Son zamanlarda olasılık sınıflandırıcıları için uygun puanlama kurallarını öğreniyorum. Bu web sitesindeki bazı konular, doğruluğun uygun olmayan bir puanlama kuralı olduğunu ve lojistik regresyon gibi olasılıklı bir model tarafından üretilen tahminlerin kalitesini değerlendirmek için kullanılmaması gerektiğini vurgulamaktadır. Ancak, okuduğum oldukça az sayıda akademik makale, bir ikili sınıflandırma ortamında (katı olmayan) …

13 probability  accuracy  scoring-rules 

Diyelim ki yükseklik hesaplıyorum (cm cinsinden) ve sayılar sıfırdan yüksek olmalıdır. İşte örnek liste: 0.77132064 0.02075195 0.63364823 0.74880388 0.49850701 0.22479665 0.19806286 0.76053071 0.16911084 0.08833981 Mean: 0.41138725956196015 Std: 0.2860541519582141 Bu örnekte, normal dağılıma göre, değerlerin% 99,7'si ortalamadan standart sapmanın ± 3 katı arasında olmalıdır. Bununla birlikte, standart sapmanın iki katı bile …

13 probability  mathematical-statistics  normal-distribution  standard-deviation 

Halmos-vahşi teoremi söyleyen bir hakim istatistiksel modeli bir istatistik , tüm ( için (ancak eğer) Radon Nikodym türevinin ' ölçülebilir bir sürümü varsa yeterlidir, burada bir ayrıcalıklı ölçüsü öyle ki için ve .(Ω,A,P)(Ω,A,P)(\Omega, \mathscr A, \mathscr P)T:(Ω,A,P)→(Ω′,A′)T:(Ω,A,P)→(Ω′,A′)T: (\Omega, \mathscr A, \mathscr P)\to(\Omega', \mathscr A'){P∈P}{P∈P}\{P \in \mathscr{P} \} TTTdPdP∗dPdP∗\frac{dP}{dP*}dP∗dP∗dP*P∗=∑∞i=1PiciP∗=∑i=1∞PiciP*=\sum_{i=1}^\infty P_i c_i …

13 probability  mathematical-statistics  intuition  measure-theory 

RNN'lerin (ve özellikle LSTM üniteleri ile) nasıl çalıştığı hakkında temel bilgiye sahibim. Değerlerin akışını düzenleyen bir hücre ve birkaç kapı olan bir LSTM biriminin mimarisi hakkında resimsel bir fikrim var. Bununla birlikte, görünüşe göre, LSTM'nin geleneksel bir RNN zaman içinde geri yayılım kullanarak, eğitim sırasında ortaya çıkan "yok olan ve …

13 neural-networks  lstm  rnn  backpropagation 

İçinde R, glmfonksiyonu kullanarak bir lojistik regresyon için giriş verilerini formatlamak için üç yöntem vardır : Veriler her gözlem için "ikili" bir formatta olabilir (örneğin her gözlem için y = 0 veya 1); Veriler, "Wilkinson-Rogers" formatında (örneğin y = cbind(success, failure)), her sıra bir tedaviyi temsil eder; veya Veriler her …

13 r  logistic  generalized-linear-model 

Diyelim ki veri setimizde 1 milyon örnek var, yani ve bu veri setinde lojistik veya doğrusal bir regresyon gerçekleştirmek için degrade iniş kullanmak istiyoruz.x1, … , X106x1,…,x106x_1, \ldots, x_{10^6} Verimsiz hale getiren degrade iniş yöntemiyle nedir? zamanında degrade iniş adımının aşağıdakiler tarafından verildiğini hatırlayın :ttt wt + 1= wt+ ηt∇ …

13 machine-learning  gradient-descent  large-data 

İlk kez Bayes istatistiklerini öğrenmek; MCMC'yi anlamaya yönelik bir açı olarak merak ettim: temelde başka bir şekilde yapılamayan bir şey mi yapıyor yoksa alternatiflerden çok daha verimli bir şey mi yapıyor? Örnekleme yoluyla, verilerinin tersini hesaplayan bir model verilen parametrelerimizin olasılığını hesaplamaya çalıştığımızı varsayalım . Bunu doğrudan Bayes teoremiyle hesaplamak …

13 bayesian  mcmc 

Bu doğru yığın sitesi olup olmadığından emin değilsiniz, ama işte gidiyor. .Similiarity yöntemi nasıl çalışır? Vay canına, harika! Onun tfidf modeli daha kolay olabilir, ama sadece bir kod satırı ile w2v ?! Onun içinde Spacy 10 hat öğretici andrazhribernik gösterisi bize jeton, rak yüzlerce, kelime parçaları ve dokümanlar üzerinde çalıştırılabilir …

13 natural-language  word2vec  tf-idf  nltk 

Cousera'nın DeepAI kursuna gidiyorum (Hafta3 video 1 "Sinir Ağlarına Genel Bakış") ve Andrew Ng, bir sinir ağındaki her katmanın nasıl başka bir lojistik regresyon olduğunu açıklıyor, ancak bir şeyi nasıl daha doğru hale getirdiğini açıklamıyor. Peki, 2 katmanlı bir ağda, lojistiği birçok kez hesaplamak onu nasıl daha doğru hale getirir?

13 logistic  neural-networks 

Naive Bayes sınıflandırıcısı, sınıf üyeliği için arka değerini en üst düzeye çıkararak öğelerini bir sınıfına atayan ve öğelerin özelliklerinin bağımsız olduğunu varsayan sınıflandırıcıdır .C P ( C | x )xxxCCCP(C|x)P(C|x)P(C|x) 0-1 kaybı, herhangi bir yanlış sınıflandırmaya "1" kaybı ve doğru sınıflandırmaya "0" kaybı atayan kayıptır. Sık sık (1) "Naive Bayes" …

13 machine-learning  bayesian  optimization  naive-bayes  loss-functions 

Temel Bileşen Analizi (PCA) objektif fonksiyonu L2 norm yöntemi hatasını minimize edilir (bölüm 2.12 bakınız burada başka görüş projeksiyonda varyansı maksimize etmeye çalışıyor Biz de burada mükemmel bir yazı var.:. PCA nesnel işlevi nedir ? ). Benim sorum şu ki PCA optimizasyonu dışbükey mi? ( Burada bazı tartışmalar buldum , …

13 machine-learning  pca  optimization  convex 

Son zamanlarda Yann Dauphin ve ark. Saddle-Free Newton adında ilginç bir iniş algoritması getirdikleri, yüksek boyutlu dışbükey olmayan optimizasyonda eyer noktası problemini tanımlama ve saldırı , bu da sinir ağı optimizasyonu için tam olarak uyarlanmış gibi görünür ve eyer noktalarında sıkışmaktan muzdarip olmamalıdır vanilya SGD gibi birinci dereceden yöntemler gibi. …

13 optimization  deep-learning  gradient-descent 

Gelen Bir ampiristin Companion: Çoğunlukla Zararsız Ekonometri (Angrist ve Pischke 2009: sayfa 209) Aşağıdaki okuyun: (...) Aslında, sadece tanımlanmış 2SLS (basit Wald tahmincisi) yaklaşık olarak tarafsızdır . Bunun resmi olarak gösterilmesi zordur, çünkü sadece tanımlanan 2SLS'nin momentleri yoktur (yani örnekleme dağılımının yağ kuyrukları vardır). Bununla birlikte, zayıf enstrümanlarla bile, sadece …

13 regression  self-study  multiple-regression  econometrics  instrumental-variables