İstatistikler ve Büyük Veri

Bir partide 10 örnek söylersek, her örnek için kaybı toplayabileceğimizi anlıyorum, ancak backpropagation her örnek için ağırlıkların güncellenmesinde nasıl çalışır? Örneğin: Örnek 1 -> kayıp = 2 Örnek 2 -> kayıp = -2 Bu ortalama 0 (E = 0) kaybıyla sonuçlanır, bu yüzden bu her bir ağırlığı nasıl güncelleyip birleşir? …

12 neural-networks  gradient-descent  backpropagation  tensorflow 

Arka plan: Ian Goodfellow ve Yoshua Bengio ve Aaron Courville'in Deep Learning'in 6. bölümünü inceliyorum. Bölüm 6.2.2.2 olarak (sayfa 183 182 buradan görülebilir ) çıkışı sigmoid kullanımı harekete geçirilir.P(y=1|x)P(y=1|x)P(y=1|x) Malzemenin bazılarını özetlemek için, etkinleştirme uygulanmadan önce bir çıkış nöronu olmasını sağlarlar; burada , önceki gizli katmanın çıktısıdır, , ağırlıkların bir …

12 neural-networks  deep-learning 

Ben 2500 değişken ve 142 gözlem gibi büyük veri seti var. Değişken X ve diğer değişkenler arasında bir korelasyon çalıştırmak istiyorum. Ancak birçok sütun için eksik girişler var. Bunu "çift-tamamlanmış" argüman ( use=pairwise.complete.obs) kullanarak R'de yapmaya çalıştım ve bir sürü korelasyon çıktı. Ancak daha sonra StackOverflow'daki birisi bu makaleye bir …

12 r  correlation  missing-data  correlation-matrix 

I son sorulan bir soru : Numune ortalama ve varyans ilgili temel denklem arkasında bir matematiksel yorumu / sezgi arayan , geometrik ya da başka şekilde.E[X2]=Var(X)+(E[X])2E[X2]=Var(X)+(E[X])2 E[X^2] = Var(X) +(E[X])^2 Ama şimdi yüzeysel olarak benzer yanlılık-varyans tradeoff denklemini merak ediyorum. MSE(θ^)=E[(θ^−θ)2]==E[(θ^−E[θ^])2]+(E[θ^]−θ)2Var(θ^)+Bias(θ^,θ)2MSE(θ^)=E[(θ^−θ)2]=E[(θ^−E[θ^])2]+(E[θ^]−θ)2=Var(θ^)+Bias(θ^,θ)2 \begin{eqnarray} \text{MSE}(\hat{\theta}) = E [(\hat{\theta}-\theta)^2 ] &=& E[(\hat{\theta} - …

12 variance  bias 

İşte küçük bir örnek: MyDf<-data.frame(x=c(1,2,3,4), y=c(1.2, .7, -.5, -3)) Şimdi base::lm: > lm(y~x, data=MyDf) %>% summary Call: lm(formula = y ~ x, data = MyDf) Residuals: 1 2 3 4 -0.47 0.41 0.59 -0.53 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 3.0500 0.8738 3.491 0.0732 . x -1.3800 0.3191 …

12 r  regression  p-value  linear-model 

Düzenli bir makine öğrenme analizinde lineer regresyon ile "derin öğrenme" ortamında lineer regresyon arasındaki farkı bilmek istiyorum. Derin öğrenme ortamında doğrusal regresyon için hangi algoritmalar kullanılır.

12 regression  machine-learning  deep-learning 

Hem "üst örnekleme" hem de "devrik evrişim" terimleri, "dekonvolüsyon" yaparken kullanılır (<- iyi bir terim değil, burada kullanayım). Başlangıçta, aynı anlama geldiklerini düşündüm, ancak bu makaleleri okuduktan sonra farklı oldukları bana geliyor. Herkes açıklığa kavuşturabilir mi? Geçişli evrişim : Görünüşe göre konvoltonal sinir ağı yoluyla kaybı propoagize ettiğimizde kullanabiliriz. http://andrew.gibiansky.com/blog/machine-learning/convolutional-neural-networks/#Backward-Propagation …

12 machine-learning  neural-networks  conv-neural-network  transposed-convolution 

Bireysel kurbağa yavrularının "aktivite seviyesini" ölçen oranlardan oluşan bir veri setim var, bu nedenle değerleri 0 ile 1 arasında bağlı hale getiriyorum. Bu veriler, bireyin belirli bir zaman aralığında (hareket için 1, Hiçbir hareket için 0) ve ardından kişi başına bir değer oluşturmak için ortalaması alınır. Ana sabit etkim "yoğunluk …

12 r  mixed-model  random-effects-model  beta-distribution  beta-regression 

Görüntü Tanıma için Derin Artık Öğrenme makalesini okuyordum ve artık bir bloğun hesaplamalı olarak neleri gerektirdiğini% 100 kesin olarak anlamakta zorlanıyordum. Kağıtlarını okurken şekil 2 var: Artık Blok'un ne olması gerektiğini gösterir. Bir artık bloğun hesaplanması sadece aşağıdakilerle aynı mıdır: y=σ(W2σ(W1x+b1)+b2+x)y=σ(W2σ(W1x+b1)+b2+x) \mathbf{y} = \sigma( W_2 \sigma( W_1 \mathbf{x} + b_1 …

12 machine-learning  neural-networks  deep-learning  conv-neural-network  residual-networks 

Temel Bileşen Analizi ile Tekil Değer Ayrışması arasındaki ilişkiyi cebirsel / tam düzeyde anlıyorum. Benim sorum scikit-learn uygulaması hakkında . Dokümantasyonda: " [TruncatedSVD] PCA'ya çok benzer, ancak her iki yaklaşım arasındaki cebirsel farkı yansıtan örnek vektörler üzerinde bir kovaryans matrisi yerine doğrudan çalışır. " Ancak, daha sonra şöyle der: " …

12 pca  scikit-learn  svd  scipy 

Kruschke'nin Bayesli kitabı, bir bozuk parayı çevirmek için beta dağıtımının kullanılmasıyla ilgili olarak, Örneğin, madalyonun bir kafa tarafı ve bir kuyruk tarafı olduğu bilgisinden başka önceden bilgimiz yoksa, bu daha önce bir = 1 ve b = 1'e karşılık gelen bir kafa ve bir kuyruğu gözlemlemekle eşdeğerdir. Neden hiçbir bilgi …

12 probability  bayesian  beta-distribution 

Açık bu yazı , şu ifadeyi okuyabilirsiniz: Modeller genellikle sonlu boyutlu bir manifoldda noktalar ile temsil edilir .θθ\theta On Diferansiyel Geometri ve İstatistik Michael K Murray ve John W Rice bu kavramlar okunabilir bile matematiksel ifadeler görmezden nesir açıklanmıştır. Ne yazık ki, çok az örnek var. MathOverflow'daki bu yazı için …

12 distributions  manifold-learning  information-geometry  topologies 

Makine öğreniminde (regresyon sorunları için) genellikle ortalama kare hatası (MSE) veya ortalama-mutlak hata (MAE) işlevini en aza indirgemek için (artı normalleştirme terimini) hata olarak kullanıyorum. Korelasyon katsayısının kullanılmasının daha uygun olacağı durumlar olup olmadığını merak ediyorum. böyle bir durum varsa, o zaman: Hangi durumlarda korelasyon katsayısı MSE / MAE'ye göre …

12 regression  machine-learning  svm  optimization  deep-learning 

Burada istatistiksel modeller hakkındaki Wikipedia makalesini okuyorum ve özellikle "parametrik olmayan istatistiksel modeller" anlamına gelince biraz şaşkınım: İstatistiksel bir modeldir parametrik olmayan parametre seti ise boyutlu sonsuzdur. İstatistiksel model hem sonlu boyutlu hem de sonsuz boyutlu parametrelere sahipse yarı parametriktir. Resmi olarak, boyutu ve örnek sayısı ise, hem yarı parametrik …

12 nonparametric  model 

Sonuç olasılığının oldukça düşük olduğu bir ikili sınıflandırma görevi yapıyorum (yaklaşık% 3). AUC veya log-loss ile optimize olup olmadığına karar vermeye çalışıyorum. Anladığım kadarıyla, AUC, modelin sınıflar arasında ayrım yapma yeteneğini en üst düzeye çıkarırken, mantık gerçek ve tahmini olasılıklar arasındaki farklılığı cezalandırıyor. Benim görevimde hassas doğruluğu kalibre etmek son …

12 classification  binary-data  auc  log-loss