Test hataların olmadığını gösterebilir mi?

$(n + 1)$ noktaları benzersiz bir derece polinom belirlemek için gereklidir ; örneğin, bir düzlemdeki iki nokta tam olarak bir çizgiyi belirler.$n$

Kaç puan hesaplanabilir bir fonksiyon belirlemek benzersiz gerekmektedir bir programın uzunluğu göz önüne alındığında, bu değerlerini hesaplar sabit dilde? (yani Kolmogorov karmaşıklığına bağlı ).f $f : N \rightarrow N$$f$$f$

Fikir, en azından teorik olarak, bir programın doğruluğunu yeterli testler yaparak kanıtlayabilir.

Birinin uzunluğunu hesaplayan uzunluğunda bir programı varsa , en fazla kaynak uzunluğuyla hesaplanabilen fonksiyonların sayısında bir sınır vardır .L f $P$$L$$f$$L$

Bu nedenle "sadece" şunu kanıtlamak gerekir:

• $f$ olabilir kaynak uzunluğu ile hesaplanabilmektedir$\leq L$
• $P$ , bayt veya daha az olarak hesaplanan başka bir işlevi hesaplamaz (test ederek)$L$

Bu fikrin muhtemelen hiçbir pratik sonucu yoktur (sınırlar kesinlikle üstel olacaktır).

(Bu bir yorum anlamına geliyordu, ancak uzun sürdü). Çok ilginç bir soru. Kolmogorov'un yanı sıra diğer karmaşıklık önlemlerini düşünmeye istekli iseniz, Öğrenme teorisinde sizi tatmin edebilecek bazı cevaplar vardır. Bunu bölgedeki uzmanlara bırakıyorum.

Örneğin, yanılmıyorsam, "Öğrenilebilir bir teori" de Valiant, k-CNF formülünün boyutu üzerindeki (herhangi bir sabit k ve "pozitif puanlarla" formdakilerin ) olduğunu kastediyorum .$(x_1,\ldots,x_n,1)$

Knuth'un TAOCP 7.2.1.6'sında, bir monote boolean fonksiyonunu (yani her bir değişkente azalma olmaması) yeniden inşa etmek için şaşırtıcı bir şekilde (Noel ağacı desenini kullanarak) gösterilir puan.${n+1 \choose \lfloor n/2\rfloor+1}$

Deigo'nun cevabı boyunca devam etmek için, öğrenme teorisinden gelen standart örnek karmaşıklık sınırları, "yaklaşık olarak doğru" bir program bulmaktan memnunsanız, çok fazla puan denemeniz gerekmediğini size söyler. Diyelim ki ikili olarak programları kodluyoruz, böylece d uzunluğunda sadece programlar var. Diyelim ki girdi örnekleri D üzerinde bir miktar dağılım var . Belki de amacınız neredeyse doğru olduğundan emin olduğunuz bir program bulmaktır ("Muhtemelen Yaklaşık Doğru" yani Valiants PAC öğrenme modelinde olduğu gibi). Yani örneklerin az sayıda alacak bir algoritma çalıştırmak istediğiniz olduğu x ~ D ile birlikte f ( x $2^d$$D$$x \sim D$$f(x)$ve en azından olasılıkla D' den alınan girdilerin en az bir ( 1 - ϵ ) fraksiyonunda f ile anlaşan bir program P çıkarır . $(1-\delta)$$P$$f$$(1-\epsilon)$$D$

Biz, sadece çekecek örnekler X ~ D ve çıkış herhangi bir program P uzunluğunun ≤ d kabul eder f tüm örneklerde üzerinde. (Biz varsayalım beri Bir varolmaya garanti f en fazla Kolmogorov karmaşıklığı vardır d ) ...$m$$x \sim D$$P$$\leq d$$f$$f$$d$

Olasılık belirli bir program da ne ile katılmadığını f bir daha üzerinde ε örneklerin fraksiyonu ile tutarlıdır m, biz, seçilen örnekler? En fazla ( 1 - ϵ ) m'dir . Biz en az olmasını olasılığını almak istiyorum δ / 2 d yüzden her yerinde bağlı bir birlik alabilir 2 d programları ve olasılık en azından ile söylemek 1 - δ , hiçbir "kötü" programı bizim çizilmiş örneklerle tutarlıdır . Çözme, biz sadece m ≥ almak için yeterli olduğunu görüyoruz $P$$f$$\epsilon$$m$$(1-\epsilon)^m$$\delta/2^d$$2^d$$1-\delta$ örnekleri. (Kolmogorov karmaşıklığı sadece doğrusal birçok yanif...)

BTW, bunun gibi argümanlar "Occam's Razor" ı haklı çıkarmak için kullanılabilir: sabit bir sayıda gözlem göz önüne alındığında, bunları açıklayan tüm teoriler arasında, en düşük Kolmogorov karmaşıklığına sahip olanı seçmelisiniz, çünkü aşırı sığdırma şansı en azdır.

Tabii ki, tek bir sabit programı bu şekilde kontrol etmek istiyorsanız, sadece örneklerine ihtiyacınız vardır ...$O(\log(1/\delta)/\epsilon)$

İşte önemsiz bir cevap: O zaman değerini bilmek gerekir f hiç | N | benzersiz olarak belirleme noktaları f . Bu nedenle, bir şekilde programın L uzunluğunun son derece kısa olduğunu bilmediğiniz sürece, çizdiğiniz yaklaşım size hiç yardımcı olmaz : lg | N | bit.$L \ge \lg |N|$$f$$|N|$$f$$L$$\lg |N|$

işlevlerinin ailesini düşünün; burada f i , i = x ise f i ( x ) = 1 işlevi olarak tanımlanır ve i ≠ x ise f i ( x ) = 0 işlevidir . F i bilgisayar Kolmogorov karmaşıklığı hakkında lg dikkat edin | N | i değerini sabit kodlayabildiğiniz için$F=\{f_i:i\in N\}$$f_i$$f_i(x) = 1$$i=x$$f_i(x)=0$$i\ne x$$f_i$$\lg |N|$$i$kaynak kodunda ve sonra tek ihtiyacınız olan basit bir koşullu ifade ( ekstra).$O(1)$

Ancak, ayırt edemez girmek de bunu test sürece tüm sıfırlar işlev dan i . Sen ayırt edemez f i dan f j girmek de sınamak sürece i ya j . Bu nedenle, değerlendirmek gerekir f hiç | N | hangi f i ile uğraştığımızı benzersiz bir şekilde belirlemek için. (Tamam, teknik olarak, | N | - 1 girişlerinde değerlendirmeniz gerekir , ancak her neyse.)$f_i$$i$$f_i$$f_j$$i$$j$$f$$|N|$$f_i$$|N|-1$

Programı keyfi olarak uzatabilirsiniz. Bu nedenle, herhangi bir program verildiğinde, dilinin bu programın diline eşdeğer olup olmadığına karar verebilirsiniz. Bunu Rice teoremiyle yapamazsınız.