«maximum-likelihood» etiketlenmiş sorular

Herkes bana Olabilirlik Oranı testinin asimptotik dağılımı için düzenlilik koşullarının neler olduğunu söyleyebilir mi? Baktığım her yerde, 'Düzenlilik koşulları altında' veya 'olasılıklı düzenlilikler altında' yazılır. Koşullar tam olarak nedir? Birinci ve ikinci log olabilirlik türevlerinin var olduğunu ve Bilgi matrisinin sıfır olmadığını? Yoksa tamamen başka bir şey mi?

12 maximum-likelihood  likelihood-ratio  asymptotics 

Balıkçı testini daha iyi anlamak istedim, bu yüzden f ve m erkek ve kadına karşılık gelen ve n ve y "soda tüketimine" karşılık gelen aşağıdaki oyuncak örneğini tasarladım: > soda_gender f m n 0 5 y 5 0 Açıkçası, bu büyük bir basitleştirme, ama bağlamın önüne geçmesini istemedim. Burada sadece …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

Bayesian teoremi, içinde , ve ben okuyorum kitaptan denir olabilirlik , ama sadece varsayıyoruz koşullu olasılık ait verilen , doğru mu? p(x|y)xyp(y| x)= p ( x | y) p ( y)p ( x )p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p ( x | y)p(x|y)p(x|y)xxxyyy En büyük olabilirlik kestirimi çalışır maksimize etmek doğru? Eğer öyleyse, …

12 bayesian  maximum-likelihood 

Belirli bir sayıda parametreye sahip bir modeli tahmin etmek için bir numunenin ne kadar büyük olması gerektiğini anlatmanın bir kuralı veya hatta herhangi bir yolu var mı? Yani, örneğin, 5 parametreli en küçük kareler regresyonunu tahmin etmek istersem örnek ne kadar büyük olmalı? Hangi tahmin tekniğini kullandığınız (örn. Maksimum olasılık, …

12 sample-size  estimation  least-squares  maximum-likelihood 

Bir dizi bağımsız gözlem verilen kestirim (ya da düz olan eşdeğer, MAP / üniform önce), bu tanımlar parametreler \ mathbf {θ} modeli dağılımı üretmek P_ {modeli} \ bu gözlemlerle en iyi eşleşen sol (\, \ cdot \,; \ mathbf {θ} \ right)O = { o ( 1 )mmmO={o(1),...,o(m)}O={o(1),...,o(m)}\mathbb{O}=\{\mathbf{o}^{(1)}, . . …

12 maximum-likelihood  deep-learning  cross-entropy 

PRML okuyorum ve resmi anlamıyorum. Resmi anlamak için bazı ipuçları verebilir misiniz ve bir Gauss dağılımındaki MLE varyansının neden taraflı olduğu? formül 1.55: formül 1.56 σ 2 M L E =1μMLE=1N∑n=1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2MLE=1N∑n=1N(xn−μMLE)2σMLE2=1N∑n=1N(xn−μMLE)2 \sigma_{MLE}^2=\frac{1}{N}\sum_{n=1}^{N}(x_n-\mu_{MLE})^2

12 machine-learning  self-study  maximum-likelihood 

Gerçek bir parametre için, o parametre için MLE'den başlayarak nasıl asimtotik bir güven aralığı oluşturabilirim?

12 confidence-interval  mathematical-statistics  maximum-likelihood  inference 

Üçgen dağılımına normal MLE prosedürünü uygulamak mümkün müdür? - Deniyorum ama matematikte bir veya daha fazla adımda dağılımın tanımlanmasıyla engellenmiş gibi görünüyor. Ben c (ve bilmeden) c yukarıda ve altında örnek sayısını biliyorum gerçeğini kullanmaya çalışıyorum: n toplam örnek sayısı ise, bu 2 sayı cn ve (1-c) n vardır. Ancak, …

12 distributions  mathematical-statistics  maximum-likelihood  triangular-distribution 

Maksimum Olabilirlik Tahminini çalışırken, Maksimum Olabilirlik Tahmininde çıkarım yapmak için varyansı bilmemiz gerekir. Varyansı bulmak için, eğrilikte İkinci Türev ile bir Hessen Matrisi gibi görünen Cramer'ın Rao Alt Sınırını bilmem gerekiyor. Ben kovaryans matrisi ile kendir matrisi arasındaki ilişkiyi tanımlamak için biraz karışıkım. Soru hakkında bazı açıklamalar duymayı umuyoruz. Basit …

12 machine-learning  mathematical-statistics  maximum-likelihood  data-mining 

Parametre tahmini için oldukça az yöntem vardır. MLE, UMVUE, MoM, karar-teorik ve diğerleri, parametre tahmini için neden faydalı oldukları için oldukça mantıklı bir duruma sahip gibi görünüyorlar. Herhangi bir yöntem diğerlerinden daha mı iyi, yoksa sadece "en uygun" kestirimcinin ne olduğunu nasıl tanımladığımızla mı ilgili (dikey hataları en aza indirmenin …

11 estimation  mathematical-statistics  maximum-likelihood  method-of-moments  umvue 

Bir olasılık işlevi vardır verilerim olasılık bazı model parametrelerinin verilen I tahmin etmek istiyorum. Parametreler üzerinde düz öncelikler varsayarsak, olasılık posterior olasılıkla orantılıdır. Bu olasılığı örneklemek için bir MCMC yöntemi kullanın.L(d|θ)L(d|θ)\mathcal{L}(d | \theta)dddθ∈RNθ∈RN\theta \in \mathbf{R}^N Ortaya çıkan yakınsak zincire bakıldığında, maksimum olabilirlik parametrelerinin posterior dağılımlarla tutarlı olmadığını düşünüyorum. Örneğin, parametrelerden …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

Son zamanlarda, literatürde bantlanmış 'olasılıksız' yöntemlerin farkına vardım. Ancak, bir çıkarım veya optimizasyon yönteminin olasılıksız olmasının ne anlama geldiğinden emin değilim . Makine öğreniminde amaç genellikle bazı parametrelerin bir işleve uyma olasılığını en üst düzeye çıkarmaktır, örneğin sinir ağındaki ağırlıklar. Olasılıksız bir yaklaşımın felsefesi tam olarak nedir ve neden GAN'lar …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

Ben karışık modellerin nitrit gritty daha iyi anlamak için R lme4 paketi üzerinde Doug Bates teori kağıdı okuyorum ve daha iyi anlamak istiyorum, varyans tahmin için sınırlı maksimum olabilirlik (REML) kullanma hakkında ilginç bir sonuç geldi . REML kriteri 3.3 numaralı bölümde, varyans tahmininde REML kullanımının, monte edilmiş doğrusal bir …

11 maximum-likelihood  mixed-model  unbiased-estimator  hierarchical-bayesian  reml 

Franklin M. Fisher'ın Ekonometri'de Kimlik Sorunu kitabını okuyordum ve olasılık fonksiyonunu görselleştirerek tanımlamayı gösterdiği kısım ile karıştırdım. Sorun şu şekilde basitleştirilebilir: Bir regresyon için , burada , ve parametrelerdir. Varsayalım bir katsayısına sahiptir bire eşittir. Daha sonra uzayındaki olasılık fonksiyonu , gerçek parametreler vektörüne ve skaler katlarına karşılık gelen ışın …

11 mathematical-statistics  maximum-likelihood  geometry 

Çapraz geçerliliğin bilinen Bayesian, ML veya MDL yorumları var mı? Çapraz doğrulamayı özel olarak hazırlanmış bir önceden doğru güncellemeyi yapmak olarak yorumlayabilir miyim?

11 bayesian  cross-validation  maximum-likelihood