“Yapısal risk minimizasyonuna” dayalı Makine Öğrenimi algoritmaları?

Hangi makine öğrenme algoritmaları (SVM'lerin yanı sıra) yapısal risk minimizasyonu prensibini kullanır ?

Yapısal risk minimizasyon prensibi, tüm makine öğrenme yöntemlerinde en azından kısmen 'kullanılan' bir prensiptir, çünkü aşırı takma genellikle dikkate alınacaktır: modelin karmaşıklığını azaltmak (sözde ve pratikte) sınırlamanın iyi bir yoludur aşırı uyum gösterme.

• SVM'lerin karmaşıklık ( özellik alanının boyutu, hatta çekirdek işlevi) için açıkça bir parametresi vardır ve bu gereklidir çünkü karmaşıklığı artırmak öğrenme algoritmasının bir parçasıdır.

• Nöronal ağlar ayrıca karmaşıklıklarının ('hücre' sayısı) kolay bir göstergesine sahiptir ve ilişkili öğrenme algoritmasının bir parçasıdır.

• Bu ilke olmadan dilbilgisi çıkarımı hem aptalca hem de mükemmel olur dilbilgisi tüm olası kelimelerin listesidir, bu nedenle her önemsiz algoritma en azından bu ilkeyi kabul eder.

• Karar ağaçlarının kendi entropi kavramları vardır .

• Kümeler basitçe sayılabilir veya prensibi kendiliğinden 'kullanabilir' veya sabit sayıda kümeye sahip olabilir ve bu durumda prensibi daha yüksek bir seviyede uygulayabilirsiniz.

Dürüst olmak gerekirse, genetik programlamada ne olduğunu gerçekten bilmiyorum ama içsel bir karmaşıklık kavramına sahip değiller.

Endüktif mantık programlamayı iyi bilmiyorum ama bu prensibe göre çok iyi ölçeklendirilmiş görünmüyor.