Rastgele bir örnekte Kolmogorov karmaşıklığının beklenen değerleri

Bir ipin Kolmogorov karmaşıklığı hesaplanamaz. Ancak, rastgele bir boyut alt kümesinde $M$ uzunluk ikili dizeleri $n$ , bir kaç tamsayıdan daha az karmaşıklığa sahip olması bekleniyor $n_{0}$ daha az $n$ (bir fonksiyonu olarak $M$ , $n$ ve $n_{0}$ )?

cc.complexity-theory kolmogorov-complexity

— vs
kaynak

Burada "standart" Kolmogorov karmaşıklığı mı yoksa önek karmaşıklığı mı kullanıyorsunuz?

— Aubrey da Cunha

Aslında sadece Kolmogorov karmaşıklığını düşünüyordum. Tahmin ediyordum

2^{n_{o}}

$2^{n_{o}}$ Tüm dizelerin evrenini düşündüğümüzde domotorp'un bahsettiği sınırı bağladı. Rasgele rastgele bir boyut alt kümesi için herhangi bir 'tutarlı' sonuç olup olmadığı net değildi

M

$M$ üretilebilir. Ancak önek karmaşıklığı bizi farklı bir bakış açısına getirir mi?

— vs

Kesinlikle büyüklük sırasını değiştirmezdi, aslında bence cevabım her iki versiyon için de bir sınır.

— domotorp

Her biri için

n

$n$ ve hepsi

c

$c$ , rastgele bir olasılık

n

$n$ bit biti

x

$x$ Kolmogorov karmaşıklığı var

K (x) \geq n - c

$K(x) \geq n-c$ daha büyüktür

1 - \frac{1}{2^{c}}

$1 - \frac{1}{2^c}$ (ile

c = n - n_{0}

$c = n-n_0$ ). Yani rastgele bir dağılımda

M

$M$ dizeler, beklemelisin

\frac{M}{2^{(} n - n_{0})}

$\frac{M}{2^(n-n_0)}$ dizeleri

K (x) < n_{0}

$K(x) \lt n_0$ ... sezgisel olarak, yüksek Kolmogorov karmaşıklığına sahip bir ip seçme olasılığı çok yüksektir.

— Marzio De Biasi

Yanıtlar:

Kolmogorov karmaşıklığı sadece bazı katkı sabitlerine kadar belirlenir, bu yüzden kesin bir cevap vermek mümkün değildir. Burada tarif ettiğim sınır daha da zayıf.

Tabii ki kaç tane olduğunu bildiğimizde beklenen sayı kolayca hesaplanabilir $2^n$ dizelerin karmaşıklığı $n_0$ , bu yüzden cevap vereyim. Kolmogorov karmaşıklığı ile ilgili ilk açıklama genellikle bu sayının en fazla olduğu $2^{n_0}-1$ - çünkü sadece bu kadar küçük uzunluktaki dizeler var. Öte yandan, programınız "uzunluk" diyorsa $n$ , al $x$ th number ", sonra alırsınız $2^{n_0-K(n)-C}$ daha az karmaşıklık dizeleri $n_0$ , nerede $K(n)$ Kolmogorov karmaşıklığının öneksiz versiyonu $n$ (en fazla $\log n+\log^* n + O(1)$ ). Daha ayrıntılı olarak, dize önce girdi alan Turing makinesinin açıklamasını içerir $px$ , burada p çıktı veren öneksiz bir programın açıklamasıdır $n$ , çıktılar $x$ uzunluk sayısı $n$ , hangisi $O(1)$ bit ve ardından bunu $px$ .

Muhtemelen bu sınırları geliştirmek mümkündür, ancak kesin bir cevap alabileceğinizden şüpheliyim.

— domotorp
kaynak

'Programınız "n uzunluğunda, x'inci sayıyı al" diyorsa biraz açıklayabilir misiniz?

— vs

Haklısın, öneksiz olmalı, düzelttim.

— domotorp

Kesin bir cevap verilebilir. Uzunluk dizeleri sayısı $n$ en fazla (basit) karmaşıklığa sahip $n_0$ dır-dir $2^{n_0 - K(n_0|n)}$ , sabit bir faktöre kadar. Dolayısıyla rastgele bir altkümeyi seçen herhangi bir işlemin makul olasılıkla bir $2^{-K(n_0|n) + O(1)}$ daha az karmaşıklık dizelerinin fraksiyonu $n_0$ . Bizim iddiamızı göstermek için, karmaşıklığı olan dizelerin sayısına eşit olduğunu göstermek yeterlidir . $k$ tarafından da verilir $2^{k - K(k|n)}$ . Bu değerin toplamını belirleyerek gerekli sonucu gösterebiliriz. $k$ 1'den 1'e $n_0$ . Bunu göstermek için, düz karmaşıklık için bir katkı maddesi sonucu kullanıyoruz (B. Bauwens ve A. Shen'e bağlı. Düz Kolmogorov karmaşıklığı için bir katkı teoremi . Bilgisayar Sistemleri Teorisi, 52 (2): 297-302, Şub 2013),

C (a, b) = K (a | C (a, b)) + C (b | a, C (a, b)) + O (1) .

$C(a,b) = K(a|C(a,b)) + C(b|a,C(a,b)) + O(1).$ Buraya

K (\cdot)

$K(\cdot)$ "Öneksiz Kolmogorov" karmaşıklığını belirtir. seçme

a = n

$a = n$ , her biri için

n

$n$ bit biti

b

$b$ karmaşıklığın

k

$k$ sahibiz

k = C (b) = C (n, b) + O (1) = K (n | k) + C (b | n, k) + O (1) .

$k = C(b) = C(n,b) + O(1) = K(n|k) + C(b|n,k) + O(1).$ Dolayısıyla, her biri için

b

$b$ sahibiz

C (b | n, k) = k - K (n | k) + O (1)

$C(b|n,k) = k - K(n|k)+O(1)$ . İzin Vermek

k^{'} = k - K (n | k)

$k' = k - K(n|k)$ . Şimdi en fazla insanın

O (2^{k^{'}})

$O(2^{k'})$ bu tür teller

b

$b$ ve sözlükbilimsel olarak önce

2^{k^{'}}

$2^{k'}$ uzunluk dizeleri

n

$n$ tatmin etmek

C (b | n, k) \leq k^{'} + O (1)

$C(b|n,k) \le k' + O(1)$ . Böylece

Ω (2^{k^{'}})

$\Omega(2^{k'})$ onların memnuniyeti

C (b | n, k) = k^{'} + O (1)

$C(b|n,k) = k' + O(1)$ .

— Bruno Bauwens
kaynak