İstatistikler ve Büyük Veri

Ridge veya Lasso'daki lambda düzenleme parametresini seçerken önerilen yöntem lambda'nın farklı değerlerini denemek, Doğrulama Kümesindeki hatayı ölçmek ve son olarak en düşük hatayı döndüren lambda değerini seçmektir. F (lambda) = hatası Convex ise bu benim için bir sorun değil. Böyle olabilir mi? Bu eğrinin birden fazla yerel minimi olabilir (bu, …

11 cross-validation  error  regularization  validation  optimization 

Ortak entropi üzerinde karşılıklı bilgi olabilir mi: 0 ≤ Ben( X, Y)'H( X, Y)≤ 10≤ben(X,Y)'H(X,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 "X'den Y'ye bir parça bilgi aktarma olasılığı" olarak tanımlanabilir mi? Çok naif olduğum için üzgünüm, ama hiçbir zaman bilgi teorisi üzerinde çalışmadım ve sadece bununla ilgili bazı kavramları anlamaya çalışıyorum.

11 information-theory  mutual-information 

Steven Scott'ın BSTS R paketi hakkındaki slaytlarını okuyorum (onları burada bulabilirsiniz: slaytlar ). Bir noktada, yapısal zaman serisi modeline birçok regresörün dahil edilmesinden bahsederken, regresyon katsayılarının başak ve slab önceliklerini tanıtır ve cezalandırılmış yöntemlerle karşılaştırıldığında daha iyi olduklarını söyler. Scott, 100 öngörücü içeren bir veri kümesi örneğine atıfta bulunarak şöyle …

11 r  bayesian  feature-selection  penalized  bsts 

F masamdaki serbestlik derecesi büyük örneğim için yeterince yükselmiyor. Örneğin, 5 ve 6744 derecelik serbestliğe sahip bir F'ye sahipsem, bir ANOVA için% 5'lik kritik değeri nasıl bulurum? Büyük serbestlik dereceli ki-kare testi yapsaydım ne olurdu? [Bu gibi bir soru bir süre önce yayınlandı, ancak OP bir hata yaptı ve aslında …

11 chi-squared  degrees-of-freedom  f-distribution  tables 

Ölçek eşdeğerliğinin resmi bir tanımı yok, ama burada İstatistiksel Öğrenmeye Giriş bu konuda s. 217: Standart en küçük kareler katsayıları ... ölçek : sabit bir çarpmak , en küçük kareler katsayısı tahminlerinin faktörüyle ölçeklenmesine yol açar .XjXjX_jccc1/c1/c1/c Basit olması için, genel doğrusal modelini varsayalım , burada \ mathbb {R} ^ …

11 least-squares  linear-model 

Bir cümlede soru: Birisi rastgele bir orman için iyi sınıf ağırlıklarının nasıl belirleneceğini biliyor mu? Açıklama: Dengesiz veri kümeleriyle oynuyorum. RPaketi randomForest, çok az pozitif örnek ve çok sayıda negatif örnekle çok çarpık bir veri kümesi üzerinde bir model eğitmek için kullanmak istiyorum . Biliyorum, başka yöntemler var ve sonunda …

11 r  random-forest 

Netflix, önerilerini kullanıcının gönderdiği diğer filmler / şovlara dayandırırdı. Bu derecelendirme sisteminin beş yıldızı vardı. Artık Netflix, kullanıcıların filmleri / şovları beğenmesine / beğenmemesine (beğenmeme / beğenmeme) izin veriyor. Filmleri derecelendirmenin daha kolay olduğunu iddia ediyorlar. Bu 2 yönlü sınıflandırma, 5 yönlü sınıflandırma sisteminden istatistiksel olarak daha az öngörücü olmaz …

11 variance  predictive-models  prediction 

Bir Kruskal Wallis testi yaptım ve bazı sorular için p değeri önemli değil. Bunu, df, test istatistiği ve p-değerini belirterek anlamlıymış gibi rapor eder miyim? Bu yüzden böyle bir şey olurdu, bir Kruskal Wallis testi yapıldı, ancak sonuçların anlamlı olmadığı bulundu H (3) = 2.119, p> 0.05 (ya da burada …

11 spss  kruskal-wallis  reporting 

Hem Kement hem de Ridge ile bir regresyon modeli kullanıyorum (0-5 arasında değişen ayrı bir sonuç değişkenini tahmin etmek için). Modeli çalıştırmadan önce, kullandığım SelectKBestyöntemi scikit-learngelen özellik kümesi azaltmak için 250 ile 25 . İlk özellik seçimi olmadan, hem Kement hem de Ridge daha düşük doğruluk puanlarına neden olur [bu, …

11 regression  predictive-models  feature-selection  lasso  ridge-regression 

Kapalı formda ifade edilebilir sürekli bir dağılım var mıdır, ortalamaları numunelerin geometrik ortalaması bu ortalama için tarafsız bir tahmin edicidir? Güncelleme: Az önce örneklerimin pozitif olması gerektiğini fark ettim (ya da geometrik ortalama olmayabilir) belki de sürekli doğru kelime değildir. Rastgele değişkenin negatif değerleri için sıfır olan ve pozitif değerler …

11 distributions  geometric-mean 

Youtube'da video izledikten sonra, varyasyonel çıkarımın ne olduğunu gerçekten tanımlayamıyorum gibi hissediyorum. Video derslerini izlerken prosedürleri takip edebilirim. Ama gerçekte ne olduğunu tanımlamak zor. Bunu duymayı umuyorum.

11 machine-learning  mathematical-statistics  data-mining 

Bu kutu ve bıyık planına baktığımızı varsayalım: Perşembe ve Cuma günleri arasında, çoğu zaman uyuduğunda önemli bir fark olduğu görüşünde. Peki bu istatistiksel olarak geçerli bir varsayım mı? İç çeyrek aralıklarının hiçbirinin Perşembe ve Cuma günleri arasında çakışmamasından dolayı önemli farklılıkları fark edebilir miyiz? Perşembe ve Cuma günlerinin üst ve …

11 anova  data-visualization  boxplot 

için polinom regresyonu yaparken , insanlar bazen ham polinomları, bazen de ortogonal polinomları kullanırlar. Ama kullandıklarında tamamen keyfi görünüyor.XYYYXXX Burada ve burada ham polinomlar kullanılır. Fakat burada ve burada , dik polinomlar doğru sonuçları veriyor gibi görünüyor. Ne, nasıl, neden ?! Bunun aksine, bir ders kitabından (örneğin ISLR ) polinom …

11 regression  polynomial 

Bayesian İstatistik için temel MCMC (R ile) hakkında pratik ve teorik örnekler içeren bazı makaleler veya kitaplar arıyorum . Simülasyon hakkında hiç çalışmadım ve bu yüzden "temel" bilgi arıyorum. Bana tavsiye veya tavsiye verebilir misiniz?

11 bayesian  references  mcmc 

Aynı parametrenin tutarlı tahmin edicileri olan ve iki tahmincim olduğunu ve ile anlamında . Dolayısıyla, asimptotik olarak daha etkilidir . Bu iki tahminci farklı kayıp fonksiyonlarına dayanmaktadır. β 2β0√βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2β0β0\beta_0V1≤V2 β 1 β 2n−−√(βˆ1−β0)→dN(0,V1),n−−√(βˆ2−β0)→dN(0,V2)n(β^1−β0)→dN(0,V1),n(β^2−β0)→dN(0,V2)\sqrt{n}(\widehat{\beta}_1 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_1), \quad \sqrt{n}(\widehat{\beta}_2 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_2)V1≤V2V1≤V2V_1 \leq V_2βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2 Şimdi, tahmincilerimin sonlu örnek özelliklerini …

11 regression  ridge-regression  shrinkage  penalized