Üretici ve ayrımcı modeller (Bayes bağlamında)

Üretken ve ayırt edici (ayırt edici) modeller arasındaki farklar nelerdir (Bayesian öğrenmesi ve çıkarımı bağlamında)?

ve tahmin, karar teorisi veya denetimsiz öğrenme ile ne ilgisi var?

Her ikisi de, formunun bir dizi eğitim örneği verildiğinde, x girişini y çıkışına eşleyen bir kuralı öğrenmek istediğiniz denetimli öğrenmede kullanılır . Üretken bir model (örneğin, saf Bayes) açıkça ortak olasılık dağılımını p ( x , y ) modeller ve daha sonra p ( y | x ) hesaplamak için Bayes kuralını kullanır . Öte yandan, ayrımcı bir model (örneğin, lojistik regresyon) doğrudan p ( y | x ) modellemektedir .$\{(x_i,y_i)\}$$p(x,y)$$p(y|x)$$p(y|x)$

$(y)$$p(x|y)$

Bir modelin diğerinden daha iyi olduğu durumlar olabilir (örneğin, çok sayıda veriniz varsa ayrımcı modeller genellikle daha iyi olma eğilimindedir; bazı ekstra etiketlenmemiş verileriniz varsa, üretken modeller daha iyi olabilir). Aslında, her iki dünyanın da en iyisini getirmeye çalışan hybird modelleri de var. Örnek için bu makaleye bakın: Üretken ve ayırt edici modellerin ilkeli melezleri

Yukarıdaki cevaba bir ek:

Ayrımcı yalnızca P (Y | X) değerine sahip olduğu için, üretici P (X, Y) ve P (X) değerlerini aynı anda önemserken, P (Y | X) değerini daha iyi tahmin edebilmek için, üretim modelinin daha az serbestlik derecesi vardır. modelde, ayırt edici modelle karşılaştırıldığında. Bu yüzden, üretken model daha sağlamdır , ayrımcılık diğer tarafta ise daha fazla donuklaşmaya yatkındır.

Bu yukarıdaki cevabı açıklar

Bir modelin diğerinden daha iyi olduğu durumlar olabilir (örneğin, çok sayıda veriniz varsa ayrımcı modeller genellikle daha iyi olma eğilimindedir; bazı ekstra etiketlenmemiş verileriniz varsa, üretken modeller daha iyi olabilir).