SQ-öğrenmenin hesaplamalı sorgu karmaşıklığı


12

PAC öğrenimi için, hesaplamaya bağlı olmayan bir öğrenicinin bilgi teorik öğrenmesi için gereken örnek karmaşıklığı ile bir polinomun ihtiyaç duyduğu örnek karmaşıklığı arasında polinom boşlukları bulunan doğal konsept sınıflarının (örneğin karar listelerinin alt kümeleri) olduğu bilinmektedir. zaman öğrenen. (bkz. örneğin http://portal.acm.org/citation.cfm?id=267489&dl=GUIDE veya http://portal.acm.org/citation.cfm?id=301437 )

Bununla birlikte, bu sonuçlar belirli örneklerde bir sırrı kodlamaya bağlı gibi görünmektedir ve bu nedenle doğal olarak SQ öğrenim modeline tercüme edilmez, burada öğrencinin dağılımın istatistiksel özelliklerini sorgulaması sağlanır.

SQ modelinde bilgi teorik öğrenmenin O (f (n)) sorguları ile mümkün olduğu, ancak hesaplamalı olarak etkili öğrenmenin sadece g (n) Omega (g (n)) sorguları ile mümkün olup olmadığı biliniyor mu? ) >> f (n)?

Yanıtlar:


9

Bu soruyu bir süre önce sordum. En azından belirli bir dağılımla ilgili öğrenme için, teorik olarak SQ öğrenilebilir ancak SQ öğrenmesi NP açısından zor olan bir kavram sınıfının oldukça basit bir örneği vardır. Bir SAT örneğinin ikili kodlamasını yapalım ve y sözlükbilimsel olarak ilk tatmin edici ataması olsun (ya da 0 ^ n örnek tatmin edilemezdir). Şimdi f (\ phi) alan adının yarısından fazlasının MAJ (\ phi) ve alan adının ikinci yarısının PAR (y) 'ye eşit olduğu bir fonksiyon olsun. Burada MAJ, \ phi dizesinde 1 olarak ayarlanan değişkenler üzerinde çoğunluk işlevidir ve PAR (y), y dizesinde 1 olarak ayarlanan değişkenler üzerinde eşlik işlevidir. F, bu şekilde elde edilen fonksiyonlar sınıfı olsun. SQ'yi tekdüze dağılım U üzerinden F'yi öğrenmek için, sadece \ phi'yi bulmak ve sonra y'yi bulmak için büyüklükleri (ki bu kolay) öğrenmelidir. Öte yandan, homojen dağılım yerine SAT (SQ) 'nun F (3 / 4'ten belirgin herhangi bir doğrulukta) öğrenmesini azaltmak oldukça kolaydır. Bunun nedeni, doğal olarak, paritelerin esasen SQ'lar için "görünmez" olması ve bu nedenle SAT'ı F öğrenmek için çözmenin gerekli olmasıdır.


5

Bu güzel bir soru. İstatistiksel sorgu modelinin gücü, SQ ile öğrenme için koşulsuz alt sınırları kanıtlama yeteneğidir - örneğin, parite polinom sayısı istatistiki sorgularla öğrenilemez.

Sorduğunuz formun sonuçlarının farkında değilim, ama belki de bariz bir şeyi kaçırıyoruz ...

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.