Makine öğrenimi okuyorum ve VC boyutu kavramı ile daha klasik (istatistiksel) özgürlük derecesi kavramı arasında güçlü bir ilişki olduğunu hissediyorum.
Herkes böyle bir bağlantıyı açıklayabilir mi?
VC boyutu ve serbestlik derecesi arasındaki ilişki
Yanıtlar:
Prof Yaser Abu-Mostafa'nın belirttiği gibi
Serbestlik dereceleri, etkili parametre sayısının bir soyutlamasıdır. Etkili sayı, kaç gerçek değerli parametrenin kullanıldığından ziyade , kaç tane ikilik elde edebileceğine dayanır . 2 boyutlu algılayıcıda, eğim ve kesişme (artı bölgenin +1 olduğu ikili bir serbestlik derecesi) düşünülebilir veya kişi w_0, w_1, w_2 olmak üzere 3 parametre düşünebilir (ağırlıklar olabilir) ortaya çıkan hipotezi etkilemeden aynı anda yukarı veya aşağı ölçeklendirilebilir). Bununla birlikte, serbestlik derecesi 3'tür, çünkü parametrelerin sayısını bir şekilde ya da başka şekilde saymaktan değil, 3 noktayı paramparça etme esnekliğine sahibiz.
Bence bu, serbestlik derecelerinin oldukça standart dışı bir tanımı!
—
kjetil b halvorsen
VC boyutu bu makalede Bölüm 2.1 ve sonraki kısımlarda verilen temel lemmalar ve kanıtlarla çok iyi açıklanmıştır . Bunu geçebilirsin.