Üstel Ailenin Avantajları: Neden çalışmalı ve kullanmalıyız?

Burada çıkarım okuyorum. Birisinin üstel ailenin avantajlarını numaralandırmasını istiyorum. Üstel aileye göre,

\begin{aligned} f (x | θ) = h (x) \exp {η (θ) T (x) - B (θ)} \end{aligned}

$\begin{align*} f(x|\theta) = h(x)\exp\left\{\eta(\theta)T(x) - B(\theta)\right\} \end{align*}$

desteği parametresine bağlı olmayan . İşte öğrendiğim bazı avantajlar: $\theta$

(a) Çok çeşitli dağıtımları içerir.

(b) Neyman-Fisher teoremine göre doğal yeterli istatistik . $T(x)$

(d) Yanıt ve yordayıcı arasındaki ilişkinin yanıtın koşullu dağılımından ayrılmasını kolaylaştırır (bağlantı işlevleri aracılığıyla).

Herkes başka bir avantaj sağlayabilir mi?

self-study exponential-family

— user1337
kaynak

cevapların genelliğini sağlamak için: üstel ailede olmayan yararlı PDF'ler var mı?

— meduz

Yanıtlar:

... neden inceleyip kullanmalıyız?

Avantaj listesinin kendi sorunuzu etkili bir şekilde yanıtladığını düşünüyorum, ancak bu konuyu aydınlatabilecek bazı meta-matematiksel yorumlar sunmama izin verin. Genel olarak konuşursak, matematikçiler kavramları ve sonuçları mümkün olan en yüksek noktaya , yararlılıklarının sınırlarına kadar genelleştirmeyi sever. Yani, matematikçiler bir kavram geliştirdiğinde ve bir veya daha fazla kullanışlı teoremin bu kavram için geçerli olduğunu bulduğunda, daha fazla genellemenin sonuçları uygulanamaz hale getireceği noktaya gelene kadar genellikle kavramı ve sonuçları daha fazla genelleştirmeye çalışacaklardır. veya artık kullanışlı değil. Listenizden de görülebileceği gibi, üstel ailenin kendisine bağlı bir dizi yararlı teoremleri vardır ve geniş bir dağıtım sınıfını kapsar. Bu, onu değerli bir çalışma nesnesi ve pratikte kullanışlı bir matematik sınıfı haline getirmek için yeterlidir.

Herkes başka bir avantaj sağlayabilir mi?

Bu sınıf Bayesci analizde çeşitli iyi özelliklere sahiptir. Özellikle, üstel aile dağılımları her zaman eşlenik önceliklere sahiptir ve ortaya çıkan posterior öngörücü dağılım basit bir biçime sahiptir. Bu, Bayesci istatistiklerde son derece kullanışlı bir dağılım sınıfıdır. Gerçekten de, üstel ailedeki tüm dağıtım ailelerini kapsayan, son derece yüksek bir genellikte konjugat öncelikleri kullanarak Bayes analizi yapmanızı sağlar.

— Monica'yı eski durumuna getir
kaynak

Üstel aileyi sevmenin bir nedeni olarak "önceki konjugat" ın aday gösterilmesini sağladım. Nitekim, eşlenik Sabıkası ve yeterli istatistik böylece beraberce üstünde olacağını, birlikte çok iyi oynamak benim üstel ailesinin kullanılmasına nedenler listesini.

— Peter Leopold

Ah! Gördüğüm Bayesli bir adam!

— Monica

Posterior prediktifin basit bir formu olduğunu nereden biliyorsunuz? Örneğin, bilinmeyen ortalama ve varyansa sahip normal bir modelin posterior tahmini, merkezi olmayan, ölçekli öğrencinin T'sidir. Bu basit bir form mudur?

— Neil G

@Neil G: Üstel bir aileden gelen IID verileri ve daha önce bir konjugat ile, tahmini dağıtım, önceki için normalleştirme işlevinin iki örneğinin bir oranıdır; burada payda argümanları için yeterli istatistik ve gözlem sayısı eklenerek güncellenir. yeni veriler. Bu, önceden dağıtım için normalleştirici faktörün bulunmasıyla elde edilen tahmini dağıtım için basit ve genel bir formdur (örneğin bu notların bölüm 9.0.5'ine bakınız ).

— Monica

Tamam anlıyorum. Bunu daha önce hiç görmedim, teşekkürler.

— Neil G

Üstel aileler için en zorlayıcı motivasyonun, ölçümler verilen asgari varsayımsal dağılımlar olduğunu söyleyebilirim . Ölçümleri ortalama ve varyansla özetlenen gerçek değerli bir sensörünüz varsa, gözlemleri hakkında yapabileceğiniz minimum varsayım normalde dağıtılmış olduğudur. Her üstel aile, benzer bir dizi varsayımın sonucudur.

Jaynes bu maksimum entropi prensibinden kaçınır:

“Maksimum entropi dağılımı, başka türlü düşünmek için hiçbir nedenin bulunmadığı negatif bilgi yerine, eksik bilgi ile ilgili olarak en üst düzeyde tarafsız olmayan bir veri olarak tanımlanmasının olumlu bir nedeni olarak iddia edilebilir. Böylece entropi kavramı eksik seçim kriterini sağlıyor… ”

— Neil G
kaynak