Sade İngilizcede Varyasyonel Çıkarım

Youtube'da video izledikten sonra, varyasyonel çıkarımın ne olduğunu gerçekten tanımlayamıyorum gibi hissediyorum. Video derslerini izlerken prosedürleri takip edebilirim. Ama gerçekte ne olduğunu tanımlamak zor. Bunu duymayı umuyorum.

Bildiğim kadarıyla değil, ama işte şu soruyla çok ilgili olduğunu düşündüğüm bir makale (oldukça düz İngilizce): Blei, Kucukelbir & McAuliffe 2016. Varyasyonel Çıkarım: İstatistikçiler için bir inceleme . https://arxiv.org/abs/1601.00670

Özetden:

Modern istatistiğin temel sorunlarından biri hesaplaması zor olasılık yoğunluklarına yaklaşmaktır. Bu sorun, arka yoğunluğu içeren bir hesaplama olarak bilinmeyen miktarlar hakkındaki tüm çıkarımları çerçeveleyen Bayesci istatistiklerde özellikle önemlidir. Bu yazıda, makine öğreniminden, olasılık yoğunluklarına optimizasyon yoluyla yaklaşan bir yöntem olan varyasyonel çıkarım (VI) gözden geçirilmiştir. VI birçok uygulamada kullanılmıştır ve Markov zinciri Monte Carlo örneklemesi gibi klasik yöntemlerden daha hızlıdır. VI'nın arkasındaki fikir önce bir yoğunluk ailesi oluşturmak ve daha sonra bu ailenin hedefe yakın bir üyesini bulmaktır. Yakınlık, Kullback-Leibler sapması ile ölçülür. Ortalama alan varyasyonel çıkarımının arkasındaki fikirleri gözden geçirir, üstel aile modellerine uygulanan VI özel durumunu tartışır, Bayes Gaussian karışımı ile tam bir örnek sunarız ve büyük verilere ölçeklemek için stokastik optimizasyon kullanan bir varyant türetiriz. VI'daki modern araştırmaları tartışıyor ve önemli açık problemleri vurguluyoruz. VI güçlüdür, ancak henüz tam olarak anlaşılamamıştır . Bu yazıyı yazma umudumuz, bu sınıf algoritmalar üzerine istatistiksel araştırmaları katalize etmektir.

Ayrıca istatistikçilerin Markov zinciri Monte Carlo örneklemesini ne zaman kullanmaları gerektiği ve varyasyonel çıkarımın ne zaman yapılması gerektiği konusunda rehberlik sunmaktadırlar ( makaledeki Varyasyonel çıkarım ve MCMC'yi karşılaştırma paragrafına bakın).