Verilen MLE (Markov Zincirleri) için günlük olasılığını hesaplama

Şu anda Markov zincirleri ile çalışıyorum ve birkaç kaynak tarafından önerilen geçiş olasılıklarını kullanarak Maksimum Olabilirlik Tahmini'ni hesapladım (yani, a'dan b'ye geçişlerin sayısının a'dan diğer düğümlere toplam geçiş sayısına bölünmesiyle).

Şimdi MLE'nin log olasılığını hesaplamak istiyorum.

maximum-likelihood markov-process likelihood

— fsociety
kaynak

Geçiş olasılıklarının maksimum olabilirlik tahminini zaten hesapladınız ve şimdi tam olarak neyin log olabilirliğini hesaplamak istiyorsunuz?

— Nick

Let markov zincirinin bir yol olabilir ve izin yolu gözlemleme ihtimali olduğu zaman isimli gerçek parametre değeri (aka için olasılık işlevi ). Koşullu olasılık tanımını kullanarak biliyoruz $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Bu bir Markov zinciri olduğu için, bunu biliyoruz , bu nedenle bu bunu basitleştirir $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Şimdi aynı mantığı kez tekrarlarsanız , $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

burada , sürecin başlangıç durumu olarak yorumlanacaktır. Sağ taraftaki terimler sadece geçiş matrisinin öğeleridir. İstediğiniz günlük olasılığı olduğundan, son yanıt: $X_0$

L (θ) = \sum_{i = 1}^{T} \log (P_{θ} (X_{i} | X_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Bu tek bir markov zincirinin olasılığıdır - veri kümeniz birkaç (bağımsız) markov zinciri içeriyorsa, tam olasılık bu formun terimlerinin toplamı olacaktır.

— Makro
kaynak

Vay be, cevap için çok teşekkürler. Bu durumda MLE'den alınan "geçiş" olasılığı, değil mi?

P_{θ}

$P_{\theta}$

— fsociety

@ ph_singer, çok hoş geldiniz. , parametre değeri göz önüne alındığında durumundan durumuna geçme olasılığıdır . Geçiş matrisine hiçbir yapı koymadıysanız (ki bu kulağa nasıl geliyor) o zaman sadece geçiş olasılıklarının vektörünü gösterir (ve MLE'ler soru ifadenizde doğru bir şekilde belirttiğiniz gibi sadece örnek oranlardır), yani, evet : sadece durumundan hamle örnek oranı olacak durum içinde sona erdi .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— Makro

Tekrar teşekkürler! Sadece bir soru daha: Başka bir sipariş kullanırsam (örneğin, k = 2), bu süreç nasıl çalışır?

— fsociety

"Sipariş" ile ne demek istediğinizi açıklığa kavuşturabilir misiniz?

— Makro

(+1) OP muhtemelen ikinci dereceden bir MC'yi belirtmek için anlamına gelir , yani önceki iki duruma bağlı olarak sadece en sonuncusu olan .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— kardinal