İstatistikler ve Büyük Veri

Bazı durumlarda, tam çok boyutlu bir modelden önce Jeffreys genellikle yetersiz olarak kabul edilir, bu örneğin şu durumda geçerlidir: (burada ε ∼ N ( 0 , σ 2 ) , μ ve σ bilinmeyen), aşağıdaki öncekinin tercih edildiği (önceden tam Jeffreys'e π ( μ , σ ) ∝ σ - …

14 distributions  bayesian  estimation  prior  jeffreys-prior 

Birkaç farklı algoritmanın performansını bir dizi test yoğunluğu üzerinde karşılaştıran MCMC yöntemlerinin büyük ölçekli çalışmaları var mı? Rios ve Sahinidis'in makalesine (2013) eşdeğer bir şey düşünüyorum , bu da çeşitli test fonksiyonları sınıflarında çok sayıda türev içermeyen kara kutu optimize edicisinin kapsamlı bir karşılaştırması. MCMC için performans, örneğin yoğunluk değerlendirmesi …

14 machine-learning  bayesian  references  mcmc 

Not: SSTSSTSST = Toplam Kareler Toplamı, SSESSESSE = Kareli Hataların Toplamı ve SSRSSRSSR = Kareler Regresyon Toplamı. Başlıktaki denklem genellikle şu şekilde yazılır: ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 Oldukça basit bir soru, ama sezgisel bir açıklama arıyorum. Sezgisel olarak, bana öyle geliyor ki daha anlamlı olurdu. Örnek …

14 regression  least-squares  r-squared 

Bu soru, doğrusal modelin belirli bir versiyonunda kısıtlı maksimum olabilirlik (REML) tahmini ile ilgilidir: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), burada X(α)X(α)X(\alpha) bir ( n×pn×pn \times p ) ile parametrize matris α∈Rkα∈Rk\alpha \in \mathbb R^k , olduğu gibi Σ(α)Σ(α)\Sigma(\alpha) . ββ\beta rahatsız edici parametrelerin bilinmeyen bir …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

Düzeltmek istediğim bazı verilerim var, böylece düzeltilmiş noktalar monoton olarak azalıyor. Verilerim keskin bir şekilde azalıyor ve daha sonra platoya başlıyor. İşte R'yi kullanan bir örnek df <- data.frame(x=1:10, y=c(100,41,22,10,6,7,2,1,3,1)) ggplot(df, aes(x=x, y=y))+geom_line() Kullanabileceğim iyi bir yumuşatma tekniği nedir? Ayrıca, 1. yumuşatılmış noktayı gözlemlenen noktama yakın olmaya zorlayabilirsem iyi olur.

14 regression  smoothing 

Bilgisayar görüşünde kötü bir sorun için optimizasyon hakkında okuyordum ve Wikipedia'daki optimizasyon ile ilgili aşağıdaki açıklama ile karşılaştım. Anlamadığım şey neden Bilgisayar Optimizasyonunda bu optimizasyona " Enerji minimizasyonu " diyorlar ? Bir optimizasyon sorunu aşağıdaki şekilde temsil edilebilir: Verilen: dan bazı set gerçek sayılara işleviAf: A → Rf:A→Rf: A \to …

14 machine-learning  optimization  computer-vision 

Bu soru şu sorudan kaynaklanmaktadır: Ne zaman (eğer varsa) bir frekansçı yaklaşım Bayes'den önemli ölçüde daha iyidir? Bu soruya benim çözümümde yayınladığım gibi, bence, eğer bir sıkıcıysanız, sık sık zaman yöntemleri yöntemlerini ihlal edeceğinden , olasılık ilkesine inanmak / uymak zorunda değilsiniz . Ancak, bu genellikle uygun önceliklerin varsayımı altındadır, …

14 bayesian  likelihood  likelihood-principle 

Rastgele değişkenlerden oluşan bir akışı , ; toplamın bir tanesini aşması için ihtiyacımız olan terim sayısı olsun , yani en küçük sayıdır.Xi∼iidU(0,1)Xi∼iidU(0,1)X_i \overset{iid}\sim \mathcal{U}(0,1)YYYYYY X1+X2+⋯+XY>1.X1+X2+⋯+XY>1.X_1 + X_2 + \dots + X_Y > 1. Neden ortalama gelmez Euler sabiti eşit ?YYYeee E(Y)=e=10!+11!+12!+13!+…E(Y)=e=10!+11!+12!+13!+…\mathbb{E}(Y) = e = \frac{1}{0!} + \frac{1}{1!} + \frac{1}{2!} + …

14 probability  self-study  expected-value  uniform 

İlişkisiz olmanın neden bağımsız olmadığını açıklarken, bir grup rastgele değişken içeren birkaç örnek vardır, ancak hepsi çok soyut görünmektedir: 1 2 3 4 . Bu cevap mantıklı görünüyor. Benim yorumum: Rastgele bir değişken ve karesi ilişkisiz olabilir (görünüşte korelasyon eksikliği doğrusal bağımsızlık gibi bir şeydir), ancak açıkça bağımlıdırlar. Sanırım bir …

14 correlation  independence  non-independent  garch  intuition 

Gelen Hızlı ve Yavaş Düşünce, Daniel Kahneman şu varsayımsal bir soru sorar: (S. 186) Julie şu anda bir devlet üniversitesinde son sınıf öğrencisi. Dört yaşında akıcı bir şekilde okudu. Not ortalaması (GPA) nedir? Niyeti, belirli istatistikler hakkında tahminler yaparken sıklıkla ortalamaya regresyonu nasıl açıklayamadığımızı göstermektir. Bir sonraki tartışmada şunları tavsiye …

14 standard-deviation  regression-coefficients  regression-to-the-mean 

Gauss karışım modelleri (GMM'ler) caziptir, çünkü hem analitik olarak hem de pratikte çalışmak kolaydır ve çok fazla karmaşıklık olmadan bazı egzotik dağılımları modelleyebilirler. Genel olarak net olmayan birkaç analitik özellik beklemeliyiz. Özellikle: Say , bileşenli tüm Gauss karışımlarının sınıfıdır . Herhangi sürekli dağıtım için reals, biz olarak garanti edilmektedir büyür, …

14 probability  normal-distribution  references  gaussian-mixture  information-theory 

Bazı makaleler okuyorum ve Ortalama Tedavi Etkisi (ATE) ve Marjinal Tedavi Etkisi'nin (MTE) spesifik tanımları konusunda net değilim. Bunlar aynı mı? Austin'e göre ... Koşullu bir etki, özne düzeyinde, bir özneyi tedavi edilmemiş durumdan tedavi edilene taşımanın ortalama etkisidir. Çok değişkenli bir regresyon modelinden bir tedavi atama göstergesi değişkeni için …

14 causality  hazard  propensity-scores  marginal-effect  marginal-model 

İstatistiksel çıkarımın klasik muamelesi, doğru bir şekilde belirlenmiş bir istatistikselin kullanıldığı varsayımına dayanır. Yani, gözlenen verileri oluşturan , : nin bir parçasıdır. Ancak, çoğu durumda bunun gerçekten doğru olduğunu kabul edemeyiz. Doğru belirlenmiş varsayımı bıraktığımızda istatistiksel çıkarım prosedürlerinde ne olacağını merak ediyorum.y M P ∗ (Y)∈ M ={ P θ …

14 hypothesis-testing  confidence-interval  model  frequentist  misspecification 

Derin inanç veya evrişimli sinir ağları kullanarak bulduğum tüm örnekler, bunları görüntü sınıflandırma, chatacter algılama veya konuşma tanıma için kullanır. Derin sinir ağları, özelliklerin yapılandırılmadığı (örneğin, bir sıra veya tablo halinde düzenlenmemiş) klasik regresyon görevleri için de yararlı mıdır? Evetse, bir örnek verebilir misiniz?

14 regression  machine-learning  neural-networks  deep-learning 

Kovaryans matrisinin özvektörlerine bakarken, maksimum varyansın yönlerini alırız (ilk özvektör, verilerin en çok değiştiği yöndür, vb.); buna ana bileşen analizi (PCA) denir. Karşılıklı bilgi matrisinin özvektörlerine / değerlerine bakmanın ne anlama geldiğini merak ediyordum, maksimum entropi yönüne işaret ederler miydi?

14 pca  entropy  mutual-information  eigenvalues