Makine öğrenimi topluluğu kötüye kullanma “şartlı” ve “tarafından parametrelendirildi” mi?

Diyelim ki bağımlı . Titizlikle konuşursak, $X$ $\alpha$

Eğer ve hem de rasgele değişkenlerdir, yazabiliriz ; $X$ $\alpha$ $p(X\mid\alpha)$
ancak, rastgele bir değişken ve bir parametreyse, yazmamız gerekir . $X$ $\alpha$ $p(X; \alpha)$

Makine öğrenimi topluluğunun farklılıkları görmezden geldiğini ve terimleri kötüye kullandığını birkaç kez fark ettim .

Örneğin, rastgele değişken yerine Dirichlet parametresidir. $\alpha$

resim açıklamasını buraya girin

olmamalı mı ? LDA gazetesinin orijinal yazarları da dahil olmak üzere birçok kişiyi olarak yazıyorum . $p(\theta;\alpha)$ $p(\theta\mid\alpha)$

machine-learning terminology

— Sibbs Kumar
kaynak

Matematiksel olarak, her zaman bir sabit üzerinde koşullandırabilirsiniz, çünkü bu rastgele değişkenin sınırlayıcı bir durumudur. Bayesci bakış açısından, tüm bilinmeyenler rastgele değişkenler olarak ele alınır, bu nedenle koşullandırma gösterimini her yerde kullanmak mantıklıdır.

— Xi'an

@ Xi'an "Sabit bir koşullandırma" konusundaki görüşünüzü anlıyorum. Ancak parametresini kategorik bir , yani dağılımından aldığımı düşünün . Dağıtımı olarak yazabilir miyim ? Bu bana garip geliyor, çünkü biri her zaman sabit bir ayarlayabilir . benim için daha rahat görünüyor.

X

$X$

θ

$\theta$

X \sim C a t (θ)

$X\sim Cat(\theta)$

p (X ∣ θ)

$p(X\mid\theta)$

θ

$\theta$

p (X; θ)

$p(X;\theta)$

— Sibbs Kumar

Bu özel durumda yazarken problemi görmüyorum . Bir kez daha, koşullu gösterimlerin kullanılması, bilinmeyen her parametreye önceki dağılımları tanıtmanın yolunu açar.

p (X ∣ θ)

$p(X\mid\theta)$

— Xi'an

Bunun Bayesçi / Bayesci olmayan istatistiklerle ilgili makine öğrenim vs istatistiklerinden daha fazla olduğunu düşünüyorum.

Bayesian istatistiklerinde de parametre rasgele değişkenler olarak modellenmiştir. için ortak bir dağılımınız varsa , , ve fiziksel yorumlarına bakılmaksızın koşullu bir dağıtımdır . Yalnızca tek bir sabit gördüğü takdirde üzerindeki bir olasılık dağılımını koymaz aksi s veya daha ile hesaplamalar ile tam olarak aynı olan ile . Bundan başka, herhangi bir noktada bir kutu sabit değerlerle modeli genişletmek karar üzerinde önceki bir dağılım olduğu yerde birine $X,\alpha$ $p(X \mid \alpha)$ $X$ $\alpha$ $\alpha$ $\alpha$ $p(X; \alpha)$ $p(X \mid \alpha)$ $p(\alpha)$ $\alpha$ $\alpha$ . En azından bana göre, verilen noktadaki için gösterimin bu noktada değişmesi garip görünüyor , bu nedenle bazı Bayesliler, tüm parametreleri rastgele olarak tanımlamak için rahatsız olmasa bile (henüz?) Koşullandırma gösterimini kullanmayı tercih ediyorlar. değişkenler. $\alpha$

Birinin olarak yazıp yazamayacağı da Andrew Gelman'ın değerini yanlış anlama blog yazısı yorumlarında ortaya çıktı . Örneğin, Larry Wasserman, eklemden şartlanma olmadığında izin verilmediği düşüncesindeyken, Andrew Gelman'ın karşıt görüşü vardı. $p(X ; \alpha)$ $p(X \mid \alpha)$ $p$ $\mid$

— Juho Kokkala
kaynak