İstatistikler ve Büyük Veri

Sırt regresyonunun katsayıları nasıl geometrik olarak sıfıra indirdiğini anladım. Üstelik bunu özel "Ortonormal Durum" da nasıl kanıtlayacağımı biliyorum ama bunun genel vakada "Spektral ayrışma" yoluyla nasıl çalıştığı konusunda kafam karıştı.

20 regression  multiple-regression  regularization  ridge-regression  svd 

Makine öğrenimi araştırma makaleleri genellikle öğrenmeyi ve çıkarımları iki ayrı görev olarak ele alır, ancak bana göre bu ayrımın ne olduğu açık değildir. Örneğin bu kitapta her iki görev için Bayesci istatistik kullanıyorlar, ancak bu ayrım için bir motivasyon sağlamıyorlar. Ne hakkında olabileceğine dair bazı belirsiz fikirlerim var, ancak sağlam …

20 machine-learning  terminology 

Hedef verilerin bir açı vektörü (0 ile 2 * pi arasında) olduğu bir sinir ağını (ayrıntılar önemli değil) eğitiyorum. Bu verilerin nasıl kodlanacağı konusunda tavsiye arıyorum. İşte şu anda çalışıyorum (sınırlı bir başarı ile): 1) C-1 kodlaması: Kurulum olası açılarını 1000 veya daha fazla farklı açılara oturttum ve sonra ilgili …

20 neural-networks  circular-statistics 

Simetrik pozitif tanımlı (SPD) matrisin tanımını biliyorum, ama daha fazla anlamak istiyorum. Sezgisel olarak neden bu kadar önemli? İşte bildiklerim. Başka? Belirli bir veri için Ko-varyans matrisi SPD'dir. Ko-varyans matrisi önemli bir metriktir, sezgisel açıklama için bu mükemmel gönderiye bakın . SPD ise, ikinci dereceden form dışbükeydir . Konveksite, yerel …

20 mathematical-statistics  optimization  covariance-matrix  intuition  linear-algebra 

İlk olasılık sınıfımdan beri aşağıdakileri merak ediyorum. Olasılıkların hesaplanması genellikle "tercih edilen olayların" toplam olası olaylara oranı ile verilir. İki 6 taraflı zarın yuvarlanması durumunda, olası olayların miktarı aşağıdaki tabloda gösterildiği gibi .363636 1234561(1,1)(2,1)(3,1)(4,1)(5,1)(6,1)2(1,2)(2,2)(3,2)(4,2)(5,2)(6,2)3(1,3)(2,3)(3,3)(4,3)(5,3)(6,3)4(1,4)(2,4)(3,4)(4,4)(5,4)(6,4)5(1,5)(2,5)(3,5)(4,5)(5,5)(6,5)6(1,6)(2,6)(3,6)(4,6)(5,6)(6,6)1234561(1,1)(1,2)(1,3)(1,4)(1,5)(1,6)2(2,1)(2,2)(2,3)(2,4)(2,5)(2,6)3(3,1)(3,2)(3,3)(3,4)(3,5)(3,6)4(4,1)(4,2)(4,3)(4,4)(4,5)(4,6)5(5,1)(5,2)(5,3)(5,4)(5,5)(5,6)6(6,1)(6,2)(6,3)(6,4)(6,5)(6,6)\begin{array} {|c|c|c|c|c|c|c|} \hline &1 & 2 & 3 & 4 & 5 & 6 \\ \hline 1 …

20 probability  dice 

Normal bir dağılım Monte Carlo simülasyonu yaptığımda ilk kez bana bir şok geldi ve hepsi sadece örnek büyüklüğüne sahip numuneden standart sapmanın ortalamasının çok daha az olduğunu keşfetti yani, defadan daha fazla, popülasyonu oluşturmak için kullanılan . Bununla birlikte, bu nadiren hatırlanırsa iyi bilinir ve bir çeşit biliyordum, ya da …

20 normal-distribution  standard-deviation  expected-value  unbiased-estimator  umvue 

Hepimiz literatürde iyi belgelenmiş, LASSO optimizasyonunun (basitlik uğruna burada dikkatleri doğrusal regresyon örneğiyle sınırladığı) biliyoruz , parametrelere Laplace'dan önce verilen Gauss hataları olan doğrusal modele eşdeğerdir \ exp (- \ lambda \ | \ beta \ | _1) Ayrıca yüksek olanın ayarlama parametresini ayarladığını, \ lambda , parametrelerin büyük bölümü …

20 lasso  laplace-distribution 

Verilerin mülkiyeti konusunda özel olduğu için spesifik olamam, ancak bunun gibi verilerimiz olduğunu varsayalım: Her ay, bazı insanlar bir hizmete kaydoluyor. Daha sonra, sonraki her ay, bu kişiler hizmeti yükseltebilir, hizmeti durdurabilir veya hizmeti reddedebilir (örn. Ödeme başarısızlığı nedeniyle). Verilerimizdeki en erken grup için yaklaşık 2 yıllık veri (24 ay) …

20 panel-data  splines  mars 

Andrew Ng'nin Coursera aracılığıyla Machine Learning konusundaki kursunu alıyorum . Denklemler için abonelikler yerine üst simgeler kullanılır. Örneğin, aşağıdaki denklemde yerine kullanılır : x ix( i )x(i)x^{(i)}xbenxix_i J( θ0, θ1) = 12 mΣi = 1m( sθ( x( i )) - y( i ))2J(θ0,θ1)=12m∑i=1m(hθ(x(i))−y(i))2J(\theta_0, \theta_1) = \frac{1}{2m} \sum\limits_{i=1}^{m}{(h_\theta(x^{(i)}) - y^{(i)})^2} Görünüşe …

20 machine-learning  notation 

Düğüm boyutunun ne anlama geldiğini tam olarak anlamıyorum. Karar düğümünün ne olduğunu biliyorum, ama düğüm büyüklüğünün ne olduğunu bilmiyorum.

20 machine-learning  random-forest  bagging 

Oradan örnek varyansının standart hatasının olduğunu okudum SEs2= 2 σ4N-- 1------√SEs2=2σ4N--1SE_{s^2} = \sqrt{\frac{2 \sigma^4}{N-1}} Örnek standart sapmanın standart hatası nedir? Tahmin etmek ve söylemek cazip olurdu ama emin değilim.SEs= SEs2----√SEs=SEs2SE_{s} = \sqrt{SE_{s^2}}

20 sampling  standard-deviation  standard-error 

Math SE ile ilgili bu soruya bakınız . Kısa hikaye: Okuduğum İstatistiksel Öğrenme Element ve ben örneğin verilen sonuçların bazılarını doğrulamak için çalışıyordu zaman var sinirli ardından RSS(β)=(y−Xβ)T(y−Xβ),RSS(β)=(y−Xβ)T(y−Xβ),\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,} Geleneksel matematik kitabınız gibi yazılmış bir matris matematik kitabı arıyorum (yani teoremlerin ispatı, örnekler, hesaplama alıştırmaları, vb.). Bu soruyudaha önce …

20 references  matrix  matrix-calculus 

Stein'ın Paradoksu , aynı anda üç veya daha fazla parametre tahmin edildiğinde, parametreleri ayrı ayrı ele alan herhangi bir yönteme göre ortalama olarak daha doğru birleşik tahminciler (yani, daha düşük ortalama kare hatası) demektir. Bu çok mantıksız bir sonuçtur. Aynı sonuç, normu (beklenen ortalama kare hatası) yerine normu (beklenen ortalama …

20 paradox  steins-phenomenon 

İstatistiksel bir öğrenme algoritması çalıştırmadan önce özellik seçim yöntemlerini (Rastgele ormanlar önem değeri veya Tek değişkenli özellik seçim yöntemleri vb.) Kullanmayla ilgili bir sorum var. Aşırı kilo vermekten kaçındığımızı biliyoruz, ağırlık vektörleri üzerinde düzenleyici ceza verebiliriz. Eğer lineer regresyon yapmak istersem, o zaman L2 veya L1 hatta Elastik ağ regülasyon …

20 regression  machine-learning  feature-selection  lasso  regularization 

Çıktı değişkeni sıralı olduğu bir şey tahmin etmek için ayarlanmış bir sinir ağı var. Aşağıda üç olası çıkış A <B <C kullanarak açıklayacağım. Kategorik verileri çıkarmak için bir sinir ağının nasıl kullanılacağı oldukça açıktır: çıktı, son (genellikle tamamen bağlı) katmanın sadece softmax'ıdır, kategori başına birdir ve tahmin edilen kategori en …

20 neural-networks  ordinal-data  softmax