Üyelik sorgusunda ve karşı örnek modelinde öğrenme için daha düşük sınırlar


11

Dana Angluin ( 1987 ; pdf ) üyelik sorguları ve teori sorguları (önerilen işleve karşı örnekler) içeren bir öğrenme modeli tanımlar. En az devlet DFA'sı ile temsil edilen normal bir dilin, üyelik sorguları ve en fazla teori sorgusu ( ) ile polinom zamanında (önerilen işlevlerin DFA'lar olduğu) öğrenilebilir olduğunu gösterir öğretmen tarafından sağlanan en büyük karşı örneğin boyutudur). Ne yazık ki, alt sınırları tartışmıyor.nÖ(mn2)n-1m

Rasgele fonksiyonlar arasında eşitliği kontrol edebilecek ve farklıysa karşı örnekler sağlayabilecek büyülü bir eğitmen varsayarak modeli biraz genelleştirebiliriz. O zaman normal dillerden daha büyük sınıfları öğrenmenin ne kadar zor olduğunu sorabiliriz. Bu genelleme ve normal dillere orijinal kısıtlama ile ilgileniyorum.

Üyelik ve karşı örnek modelindeki sorgu sayısı konusunda bilinen herhangi bir alt sınır var mı?

İkisi arasındaki üyelik sorguları, teori sorguları veya ödünleşimlerle ilgili daha düşük sınırlarla ilgileniyorum. Normal dillerden daha karmaşık sınıflar için bile, herhangi bir işlev sınıfı için daha düşük sınırlarla ilgileniyorum.

Alt sınır yoksa : Bu modelde alt sınır sorgulama kanıtlayan bilinen barmenler var mı?


İlgili sorular

Dana Angluin'in düzenli setleri öğrenme algoritmasında iyileştirmeler var mı

Yanıtlar:


11

Evet, bazı düşük sınırlar bilinmektedir. Örneğin, varsayarsak , üç kez okunan DNF formüllerini polinom zamanda düzgün bir şekilde öğrenemezsiniz. "Temsili sorunu" adı verilen bir şey kullanarak bu tür sertlik sonuçları geliştiren bir makale vardır .N-PcÖN-P

Bağlantılı sorunuzu cevaplamak için: Schapire, tezinde , "zayıf öğrenme" = "güçlü öğrenmenin" kanıtlanmasının yanı sıra, Angluin'in sınırını da geliştirdi ve denklik sorguları ve DFA öğrenmek için üyelik sorguları.Ö(n)Ö(n2+ngünlükm)

Daha düşük sınırlar elde etmenin kolay bir yolu bilgi teorisidir. Kaç farklı hedef olduğunu ve bir sorgunun size kaç bit verdiğini, vb. Anlayabilirsiniz. Bu üst sınırlar yaklaşır, ancak yoktur. "Karşı örneklerin" öğrenciye nasıl ulaştığına dair düşünülmesi gereken konular da vardır. İyi seçilmiş bir karşı örnek oldukça fazla bilgi verebilir.

Yukarıdaki tartışmayı güncelleyin : Angluin ve Dohrn, yeni bir makalede rastgele öğrenme örnekleri ile soru öğrenimini ele alıyor .


Cevap için teşekkürler! Bağlantılı soruya (burada bağlantılarla birlikte) bağlantılı soruma cevap verirsem sorun olur mu? Yoksa bir CS.SE hesabı oluşturmayı mı planlıyorsunuz? Paragraf 3'e tamamen katılıyorum, öğretmenin asgari bir karşı örnek vermesini talep ederek dalga geçiyordum ve öğrenme çok daha kolay hale geliyor.
Artem Kaznatcheev

Sorun değil! Bağlantılı CS.SE sorusuna mesaj göndermekten çekinmeyin.
Lev Reyzin

Schapire'nin tezinin ilgili bölümünü okudum (bölüm 5.4.5) ve gelişmeyi özetledim , umarım özü doğru buldum. Daha sonra hafta içinde alıntı yapacağınız alt sınır gazetesine daha yakından bakacağım: D.
Artem Kaznatcheev

Güzel. Eğer bir CS.SE hesabım olsaydı ben oylardım :)
Lev Reyzin
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.