İstatistikler ve Büyük Veri

Standart Degrade İniş, tüm eğitim veri kümesi için degradeyi hesaplar. for i in range(nb_epochs): params_grad = evaluate_gradient(loss_function, data, params) params = params - learning_rate * params_grad Önceden tanımlanmış bir dönem sayısı için, ilk olarak parametre vektör parametrelerimizle tüm veri kümesi için kayıp fonksiyonunun gradient vektörü ağırlıkları_gradını hesaplıyoruz. Stokastik Degrade İniş, …

16 machine-learning  optimization  gradient-descent  computational-statistics  sgd 

Bir teşhis sistemi için bir ROC eğrisi oluşturdum. Daha sonra eğrinin altındaki alanın parametrik olmayan bir şekilde AUC = 0.89 olduğu tahmin edildi. En uygun eşik ayarında doğruluğu hesaplamaya çalıştığımda (noktaya en yakın nokta (0, 1)), teşhis sisteminin doğruluğunu 0.8 olarak aldım, bu da AUC'den daha az! Hassasiyeti optimum eşikten …

16 roc  reliability  accuracy  auc 

Düşük kademeli regresyon ve temel bileşen regresyonu sadece kısmi en küçük karelerin özel durumları mıdır? Bu öğretici (Sayfa 6, "Hedeflerin Karşılaştırılması"), X veya Y yansıtmadan kısmi en küçük kareler yaptığımızda (yani, "kısmi değil"), buna karşılık olarak azalan sıralama regresyonu veya temel bileşen regresyonu haline geldiğini belirtir. Bu SAS dokümantasyon bölümünde …

16 regression  pca  dimensionality-reduction  partial-least-squares  reduced-rank-regression 

Bu terminoloji için bazı sezgisel açıklamalar var mı? Sonuç üzerinde yordayıcılara değil, neden bu şekilde oluyor? İdeal olarak, bu terminolojinin neden var olduğunun doğru bir açıklamasının öğrencilerin bunu hatırlamasına yardımcı olacağını ve yanlış bir şekilde söylemelerini durduracağını umuyorum.

16 regression  terminology  teaching 

Şekil 1. Lojistik İşlev Şekil 2. Sigmoid İşlevi daha yüksek bir maksimum değere sahip olabileceğiniz genelleştirilmiş sigmoid fonksiyonuna benziyor mu?

16 logistic 

Örneğin aritmetik ortalamanın hesaplanmasına kıyasla maksimum olabilirlik yöntemi hakkında kafam karıştı. Maksimum olasılık ne zaman ve neden örneğin aritmetik ortalamadan "daha iyi" tahminler üretir? Bu nasıl doğrulanabilir?

16 maximum-likelihood 

Şu anda family = gaussiansıfırdan daha düşük değerler alamaz, sıfır şişirilmiş ve sürekli bir biyolojik çeşitlilik göstergesine doğrusal bir model ( ) uygulamak çalışıyorum . Değerler 0 ile 0,25 arasında değişir. Sonuç olarak, modelin kalıntılarında kurtulmayı başaramadığım oldukça açık bir desen var: Bunu çözmek için herhangi bir fikri olan var …

16 regression  zero-inflation  tobit-regression  tweedie-distribution 

Bazı ayrımcı analiz uzmanları buldum ve onlar hakkında sorularım var. Yani: Sınıflar iyi ayrıldığında, lojistik regresyon için parametre tahminleri şaşırtıcı bir şekilde kararsızdır. Katsayılar sonsuza gidebilir. LDA bu sorundan muzdarip değildir. Özelliklerin sayısı azsa ve yordayıcılarının dağılımı XXXsınıfların her birinde yaklaşık olarak normalse, doğrusal ayırıcı model yine lojistik regresyon modelinden …

16 regression  logistic  multivariate-analysis  discriminant-analysis 

Her iki yöntemin de artıları nelerdir?

16 maximum-likelihood  predictive-models  optimization  gradient-descent 

Aşağıdaki iki formülün doğru olduğunu düşünüyorum: Var(aX)=a2Var(X)Var(aX)=a2Var(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) a sabit bir sayı iken eğer , bağımsızVar(X+Y)=Var(X)+Var(Y)Var(X+Y)=Var(X)+Var(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) XXXYYY Ancak, aşağıdakilerle ilgili sorunun ne olduğundan emin değilim: Var(2X)=Var(X+X)=Var(X)+Var(X)Var(2X)=Var(X+X)=Var(X)+Var(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + \mathrm{Var}(X) , eşit değil , yani .4 V a r ( X )22Var(X)22Var(X)2^2 \mathrm{Var}(X)4Var(X)4Var(X)4\mathrm{Var}(X) bir …

16 variance  linearity  fallacy 

Son derece dengesiz bir veri kümesinin sonucunu tahmin etmek için Random Forest kullanmaya çalışıyorum (azınlık sınıf oranı sadece% 1 veya daha az). Geleneksel Rastgele Orman algoritması, azınlık sınıflarına özel önem vermek yerine genel hata oranını en aza indirdiğinden, dengesiz verilere doğrudan uygulanamaz. Bu yüzden azınlık sınıfının yanlış sınıflandırılmasına yüksek bir …

16 r  random-forest 

MNIST veri kümesini sınıflandırmayla ilgili sorunu ele alalım. Göre Yann LeCun en MNIST bir Web 'Ciresan ve diğ.' Evrimsel Sinir Ağı kullanılarak MNIST test setinde% 0.23 hata oranı elde edildi. olarak ayarlanmış MNIST eğitimini DtrainDtrainD_{train}, olarak ayarlanmış MNIST testini DtestDtestD_{test}, h 1DtrainDtrainD_{train} olarak kullanarak elde ettikleri son hipotezi ve h_ …

16 machine-learning  classification  overfitting  probability-inequalities 

Olasılık ve İstatistik hakkında çok az şey biliyorum ve öğrenmek istiyorum. "Dağıtım" kelimesinin her yerde farklı bağlamlarda kullanıldığını görüyorum. Örneğin, ayrı bir rastgele değişkenin "olasılık dağılımı" vardır. Bunun ne olduğunu biliyorum. Sürekli bir rastgele değişken için, daha sonra bir olasılık yoğunluk fonksiyonu vardır x∈Rx∈Rx\in\mathbb{R} integralin, −∞−∞-\infty için xxx olasılık yoğunluk …

16 distributions  definition 

Üç kategoride ki-kare uyum iyiliği (GOF) testi yürütüyorum ve özellikle her kategorideki nüfus oranlarının eşit olduğunu (yani, her grupta 1/3 olduğu) null değerini test etmek istiyorum: GÖZLENEN VERİLER Grup 1 Grup 2 Grup 3 Toplam 686 928 1012 2626 Bu nedenle, bu GOF testi için beklenen sayımlar 2626 (1/3) = …

16 hypothesis-testing  chi-squared  goodness-of-fit  post-hoc 

İstatistik okumaya yeni başladım ve sezgisel bir yeterlilik anlayışı elde edemiyorum. Daha kesin olmak gerekirse, aşağıdaki iki paragrafın eşdeğer olduğunu nasıl göstereceğimizi anlayamıyorum: Kabaca, bilinmeyen bir parametre conditioned üzerinde koşullandırılmış bağımsız özdeş dağıtılmış veri seti X verildiğinde, yeterli bir istatistik, değeri parametrenin herhangi bir tahminini hesaplamak için gereken tüm bilgileri …

16 sufficient-statistics