İstatistikler ve Büyük Veri

Veri kümem ( ) bağımlı bir değişkene (DV), beş bağımsız "temel" değişkene (P1, P2, P3, P4, P5) ve bir bağımsız ilgi değişkenine (Q) sahiptir.N-≈ 10 , 000N-≈10,000N \approx 10,000 Aşağıdaki iki model için OLS doğrusal regresyonlarını çalıştırdım: DV ~ 1 + P1 + P2 + P3 + P4 + P5 …

10 regression  linear  r-squared 

Derin Öğrenme ve Bilgi Darboğaz Prensibi adlı makalede yazarlar bölüm II A) 'da belirtilmektedir: Tek nöronlar, yalnızca lineer olarak ayrılabilir girdileri sınıflandırır, çünkü giriş alanlarında sadece hiper düzlemler uygulayabilirler u=wh+bu=wh+bu = wh+b. Girişler koşullu olarak bağımsız olduğunda hiper düzlemler verileri en iyi şekilde sınıflandırabilir. Bunu göstermek için aşağıdakileri elde ederler. …

10 bayesian  neural-networks  information-theory 

Sürekli bir rasgele değişken için , eğer sonlu dir, ?XXXE(|X|)E(|X|)E(|X|)limn→∞nP(|X|&gt;n)=0limn→∞nP(|X|&gt;n)=0\lim_{n\to\infty}n P(|X|>n)=0 Bu, internette bulduğum bir sorun, ancak tutup tutmadığından emin değilim. Bunu biliyorum Markov eşitsizliği tarafından tutan, ama ben gibi 0'a gider gösterilemez sonsuza gider.nP(|X|&gt;n)&lt;E(|X|)nP(|X|&gt;n)&lt;E(|X|)n P(|X|>n)<E(|X|)nnn

10 probability  expected-value  probability-inequalities 

LOF ölçüsünde (Yerel Outlier Faktörü) inlier terimini tökezledim , aykırı değerlerin terimini biliyorum (temelde yalancılar - örneklerin geri kalanı gibi davranmayan durumlar). Anormallik tespiti bağlamında 'İnliers' ne anlama geliyor? ve aykırı değerlerle nasıl ilişkilidir?

10 residuals  outliers  anomaly-detection 

Son WaveNet gazetesinde yazarlar, modellerini genişletilmiş kıvrım katmanlarının yığılmış katmanları olarak adlandırıyorlar. Ayrıca, 'düzenli' konvolüsyonlar ve dilate konvolüsyonlar arasındaki farkı açıklayan aşağıdaki çizelgeleri hazırlarlar. Düzenli kıvrımlar şöyle görünür: Bu, filtre boyutu 2 ve adım 4 olan bir katmandır. Daha sonra, modelleri tarafından kullanılan, genişletilmiş kıvrımlar olarak adlandırdıkları bir mimari gösterirler. …

10 neural-networks  deep-learning  conv-neural-network  tensorflow 

In hafta 3 ders notları arasında Andrew Ng adlı Coursera Machine Learning sınıfının bir terim düzene bağlama uygulamak için maliyet fonksiyonu eklenir: J+( θ ) = J( θ ) +λ2 mΣj = 1nθ2jJ+(θ)=J(θ)+λ2mΣj=1nθj2J^+(\theta) = J(\theta) + \frac{\lambda}{2m} \sum_{j=1}^n \theta_j^2 Ders notları şunları söylüyor: Ayrıca tüm teta parametrelerimizi tek bir özetle …

10 regularization 

Çapraz entropi ve şaşkınlık arasındaki ilişkiyi anlamaya çalışmak. Model için genel olarak M , Şaşkınlık (M) 2 ^ entropi (M) = . Bu ilişki tüm farklı n-gramları, yani unigram, bigram vb.

10 natural-language  entropy  perplexity 

Bir oranın standart hatası, söz konusu oran 0,5 olduğunda belirli bir N için olabileceği en büyük olacaktır ve oran 0,5'ten daha küçük olduğunda küçülür. Bir oranın standart hatası denklemine baktığımda bunun neden böyle olduğunu anlayabiliyorum, ancak bunu daha fazla açıklayamıyorum. Formülün matematiksel özelliklerinin ötesinde bir açıklama var mı? Öyleyse, neden …

10 standard-error  proportion  intuition 

F ve g'nin iki sürekli dağılımı arasındaki KL sapmasını tahmin etmek istiyorum. Ancak, f veya g için yoğunluğu yazamıyorum. Bazı yöntemlerle (örneğin, markov zinciri monte carlo) hem f hem de g'den numune alabilirim. F'den g'ye KL sapması şöyle tanımlanır DKL( f| | g) =∫∞- ∞f( x ) günlük(f( x )g( …

10 kullback-leibler 

Pitman – Koopman – Darmois teoreminin kanıtını nerede bulabilirim? Bir süredir googled. Garip bir şekilde, birçok nota bu teoremden bahsediyor, ancak hiçbiri kanıt sunmuyor.

10 mathematical-statistics  references  inference  sufficient-statistics 

Tüm değişkenlerin nicel olduğu üç değişkenli bir veri kümem var. , ve diyelim . MCMC ile Bayes perspektifinde bir regresyon modeline uyuyorumyyyx1x1x_1x2x2x_2rjags Bir keşif analizi yaptım ve dağılım , ikinci dereceden bir terimin kullanılması gerektiğini gösteriyor. Sonra iki model taktımy×x2y×x2y\times x_2 (1)y=β0+β1∗x1+β2∗x2y=β0+β1∗x1+β2∗x2y=\beta_0+\beta_1*x_1+\beta_2*x_2 (2)y=β0+β1∗x1+β2∗x2+β3∗x1x2+β4∗x21+β5∗x22y=β0+β1∗x1+β2∗x2+β3∗x1x2+β4∗x12+β5∗x22y=\beta_0+\beta_1*x1+\beta_2*x_2+\beta_3*x_1x_2+\beta_4*x_1^2+\beta_5*x_2^2 Model 1'de her parametrenin etki boyutu küçük …

10 bayesian  feature-selection  model-selection  model  credible-interval 

İki örnekli Kolmogorov-Smirnov testine çok değişkenli bir alternatif var mı ? Demek istediğim, altta yatan çok boyutlu iki dağılımın ne zaman farklı olduğunu kontrol etmek için kullanılabilecek bir test.

10 hypothesis-testing  multivariate-analysis  kolmogorov-smirnov 

Eğer bir binom olasılık parametresi için bir Jeffreys kullanırsam, bu bir dağıtımı kullanmayı gerektirir.θθ\thetaθ∼beta(1/2,1/2)θ∼beta(1/2,1/2)\theta \sim beta(1/2,1/2) yeni bir referans çerçevesine dönüştürürsem, açıkça de dağıtımı olarak dağıtılmaz.ϕ =θ2φ=θ2\phi = \theta^2φφ\phib , e t bir ( 1 / 2 , 1 / 2 )betbir(1/2,1/2)beta(1/2,1/2) Benim sorum Jeffreys'nin yeniden parametrelendirmeye ne kadar değişmez …

10 bayesian  jeffreys-prior 

Bağımlı değişken ile doğrusal bir regresyon modelimiz olduğunu düşünün . Biz onun bulmak . Şimdi, başka bir gerileme yapıyoruz, ancak bu sefer ve benzer şekilde buluyoruz . Hangi modelin daha uygun olduğunu görmek için her iki karşılaştıramayacağım söylendi . Neden? Bana verilen neden, farklı miktarların (farklı bağımlı değişkenler) değişkenliğini karşılaştırmamızdır. …

10 regression  data-transformation  r-squared 

Ben sütunlar a b c(3 öznitelikleri) ile bir veri kümesi var . aise sayısal ve süreklidir bve ciki düzeyde her kategorik. Sınıflandırmak ave bdevam ettirmek için K-En yakın Komşular yöntemini kullanıyorum c. Yani, kaldırarak benim veri seti dönüşümü mesafeleri ölçmek için muktedir bve ekleme b.level1ve b.level2. Gözlem kategorilerinde iilk seviyeye …

10 r  classification  k-nearest-neighbour