İstatistikler ve Büyük Veri

bağlam Çok Değişkenli Gauss, Makine Öğreniminde sıkça görülür ve aşağıdaki sonuçlar, türevleri olmayan birçok ML kitap ve dersinde kullanılır. Bir matris şeklinde verilen veriler XX\mathbf{X} boyutları m×pm×p m \times p , biz veri aşağıdaki varsayarsak ppp -variate Gauss parametrelerle dağılımı ortalama μμ\mu ( p×1p×1p \times 1 ) ve kovaryans matrisi …

20 normal-distribution  maximum-likelihood  estimators  multivariate-normal 

XGBoost'un nasıl çalıştığını anlamaya çalışıyorum. Degrade artırılmış ağaçların Python sklearn'de nasıl çalıştığını zaten anlıyorum. Benim için net olmayan şey, XGBoost'un aynı şekilde, ancak daha hızlı çalışması veya python uygulaması arasında temel farklılıklar olup olmadığıdır. Bu makaleyi okuduğumda http://learningsys.org/papers/LearningSys_2015_paper_32.pdf Bana öyle geliyor ki XGboost'tan çıkan sonuç Python uygulamasında olduğu gibi, ancak …

20 scikit-learn  boosting  gbm  xgboost 

Sinir ağı lingo açısından (y = Ağırlık * x + önyargı) hangi değişkenlerin diğerlerinden daha önemli olduğunu nasıl bilebilirim? 10 giriş, 1 düğüm 20 düğüm ve 1 düğüm olan 1 çıkış katmanı ile bir sinir ağı var. Hangi giriş değişkenlerinin diğer değişkenlerden daha etkili olduğunu nasıl bileceğimden emin değilim. Düşündüğüm …

20 machine-learning  neural-networks  bias  tensorflow  theano 

Genetik algoritmalar bir optimizasyon yöntemidir. Genellikle stokastik gradyan inişi ve türevleri fonksiyon optimizasyonu için en iyi seçimdir, ancak bazen genetik algoritmalar hala kullanılmaktadır. Örneğin, NASA'nın ST5 uzay aracının anteni genetik bir algoritma ile oluşturuldu: Genetik optimizasyon yöntemleri ne zaman daha yaygın gradyan iniş yöntemlerinden daha iyi bir seçimdir?

20 machine-learning  optimization  gradient-descent  genetic-algorithms 

Let rastgele değişken verilen, bir olasılık uzay ve \ Sigma cebiri \ mathscr {G} \ subseteq \ mathscr {F} şartlı beklenti olan yeni bir rastgele değişken E [\ xi | \ mathscr {G}] oluşturabiliriz.( Ω , F , μ ) (Ω,F,μ)(\Omega,\mathscr{F},\mu)ξ : Ω → Rξ:Ω→R\xi:\Omega \to \mathbb{R} σ σ\sigmaG ⊆ …

20 probability  conditional-probability  conditional-expectation  conditioning  sigma-algebra 

Son zamanlarda LSTM'lerle ilgilenmeye başladım ve ağırlıkların zaman içinde paylaşıldığını öğrenmek beni şaşırttı. Ağırlıkları zaman içinde paylaşırsanız, giriş zamanı dizilerinizin değişken bir uzunluk olabileceğini biliyorum. Paylaşılan ağırlıklarla antrenman yapmak için daha az parametreye sahipsiniz. Anladığım kadarıyla, bir başka öğrenme yöntemine karşı bir LSTM'ye dönüşmesinin nedeni, verilerinizde öğrenmek istediğiniz bir tür …

20 machine-learning  lstm  rnn 

Optimizasyonda yeniyim. Bir normun sağ tarafında üst simge 2 ve alt simge 2 olan denklemleri görmeye devam ediyorum . Örneğin, en küçük kareler denklemi min||Ax−b||22||Ax−b||22 ||Ax-b||^2_2 Üst simge 2'yi anlıyorum: normun değerini kare yapmak anlamına geliyor. Ama alt simge 2 nedir? Bu denklemleri nasıl okumalıyım?

20 regression  optimization  notation 

Topluluk öğreniminin k-kat çapraz doğrulaması için verilerin nasıl bölümleneceği konusunda kafam karıştı. Sınıflandırma için bir topluluk öğrenme çerçevem ​​olduğunu varsayarsak. İlk katmanım svm, karar ağaçları gibi sınıflandırma modellerini içeriyor. İkinci katmanım, ilk katmandaki tahminleri birleştiren ve son tahmini veren bir oylama modeli içeriyor. 5 kat çapraz doğrulama kullanırsak, 5 kat …

20 classification  cross-validation  ensemble 

Özellikle 2.11 ve 2.12 türetilmesinde (şartlandırma, minimum noktaya doğru adım), aşağıda tahmin edilen tahmin hatasının (ESL) türetilmesini anlamak için uğraşıyorum. Herhangi bir işaretçi veya bağlantılar çok takdir. Aşağıda ESL s. 18. İlk iki denklem sırasıyla 2.11 ve 2.12 denklemleridir. Let gerçek değerli rasgele giriş vektörü ve göstermektedirler ortak dağılım gerçek …

20 regression  prediction  error 

"Uzaktan denetim", sınıflandırıcının zayıf etiketlenmiş eğitim seti (eğitim verileri sezgisel yöntemlere / kurallara göre otomatik olarak etiketlenir) verildiğinde öğrenildiği bir öğrenme programıdır. Etiketli verileri sezgisel / otomatik olarak etiketlenmişse, hem denetimli öğrenme hem de yarı denetimli öğrenmenin böyle bir "uzaktan denetim" içerebileceğini düşünüyorum. Ancak, bu sayfada , "uzaktan denetim", "yarı-denetimli …

20 machine-learning  data-mining  dataset  references  unsupervised-learning 

Diyelim ki bir "böbrek kateter" veri setim var. Bir Cox modeli kullanarak bir hayatta kalma eğrisi modellemeye çalışıyorum. Bir Cox modeli düşünürsem: temel tehlike tahminine ihtiyacım var. Yerleşik paket R işlevini kullanarak, bunu kolayca yapabilirim:h ( t , Z) = h0tecrübe( b'Z) ,h(t,Z)=h0tecrübe⁡(b'Z),h(t,Z) = h_0 \exp(b'Z),survivalbasehaz() library(survival) data(kidney) fit <- …

20 r  cox-model  hazard 

Uyku aşaması sınıflandırması üzerinde çalışıyorum. Birçoğu SVM veya topluluk yöntemi kullandığı bu konuyla ilgili bazı araştırma makalelerini okudum. Tek boyutlu EEG sinyalini sınıflandırmak için evrişimli sinir ağını kullanmak iyi bir fikir mi? Bu tür işlerde yeniyim. Yanlış bir şey sorarsam özür dilerim?

20 neural-networks  svm  conv-neural-network  signal-processing 

Varyasyonel oto-kodlayıcının ve normal (deterministik) oto-kodlayıcının temel yapısını ve bunların arkasındaki matematiği anlıyorum, ama ne zaman ve neden bir tip otomatik kodlayıcıyı diğerine tercih ederim? Aklıma gelen tek şey, varyasyonel oto-kodlayıcının gizli değişkenlerinin önceki dağılımı, gizli değişkenleri örneklememize ve sonra yeni görüntüyü oluşturmamıza izin veriyor. Varyasyonel otoenkoderin stokastikliğinin deterministik otoenkodere …

20 deep-learning  autoencoders  variational-bayes 

Farklı MCMC algoritmaları vardır: Metropolis-Hastings Gibbs Önem / ret örneklemesi (ilgili). Metropolis-Hastings yerine neden Gibbs örneklemesi kullanılır? Şüpheliyim, Gibbs örneklemesinde Metropolis-Hastings'e göre çıkarımın daha izlenebilir olduğu durumlar var, ancak ayrıntılarda net değilim.

20 bayesian  simulation  mcmc  gibbs  metropolis-hastings 

Çoğunlukla teorik soru. İlk dört momenti normalinkine eşit olan normal olmayan dağılım örnekleri var mı? Teoride var olabilirler mi?

20 normal-distribution  skewness  moments  theory  kurtosis