Gerçekten rastgele sayı üreteci: Hesaplanabilir mi?


39

"Gerçekten rastgele" sayıların üretilmesinin Turing ile karşılaştırılabilir olup olmadığına dair kesin bir cevap arıyorum. Bunu tam olarak nasıl ifade edeceğimi bilmiyorum. "Rastgele sayı üretimi için verimli algoritmalar" konulu bu StackExchange sorusu sorumu yanıtlamaya yaklaşıyor. Charles Stewart cevabında, "Martin Löf'in rastgeleliği] bir makine tarafından üretilemez" diyor. Ross Snider, “herhangi bir belirleyici süreç (Turing / Register Machines gibi)“ felsefi ”veya“ gerçek ”rastgele sayılar üretemez” diyor. Gerçekten rasgele sayı üretecini neyin oluşturduğu konusunda net ve kabul edilmiş bir fikir var mı? Ve eğer öyleyse, bunun bir Turing Makinesi tarafından hesaplanamayacağı biliniyor mu?

Belki de beni ilgili literatüre yönlendirmek yeterli olacaktır. Sağlayabileceğiniz her türlü yardım için teşekkürler!

Düzenle. Bilgili cevaplar için Ian ve Aaron'a teşekkürler! Bu alanda nispeten eğitimsizim ve yardım için minnettarım. Eğer bu eki de soruyu biraz uzatabilirsem: Saf bir rastgele kaynak kaynağına (bir kehanet) erişimi olan bir TM'nin klasik bir TM'nin yapamayacağı bir işlevi hesaplayabilmesi mümkün mü?


1
Önce "gerçekten rastgele" tanımını düşünürseniz yardımcı olur.
MS Dousti

Yanıtlar:


52

Tartışmaya oldukça geç katılıyorum, ancak daha önce sorulan birkaç soruyu ele almaya çalışacağım.

Öncelikle, Aaron Sterling tarafından gözlemlendiği gibi, ilk olarak ne demek istediğimizi "gerçekten rastgele" sayılarla ve özellikle de şeyleri hesaplamalı bir karmaşıklık veya hesaplanabilirlik perspektifinden inceleyerek kararlaştırmamız önemlidir.

Bununla birlikte, karmaşıklık teorisinde, insanların temel olarak sözde -random ve sözde -random üreteçleri ile ilgilendiklerini, yani çıktı dizilerinin dağılımının tek tip dağılımdan bazı verimli işlemlerle ayrı ayrı söylenemeyeceğini iddia edeyim. ( Etkili bazı anlamların düşünüldüğü yerlerde, örneğin polytime hesaplanabilir, polinom büyüklüğü devreleri vb.) Çok güzel ve çok aktif bir araştırma alanı, ancak çoğu insanın üzerinde çalıştığı nesnelerin gerçekten rastgele olmadığı konusunda hemfikir olduklarını, sadece rastgele görünmeleri yeterli olduğunu (dolayısıyla “sözde” terimini) kabul edeceğini düşünüyorum .

Hesaplanabilirlik teorisinde, “gerçek rastgelelik” kavramının neyin iyi olması gerektiğine dair bir fikir birliği ortaya çıkmıştır ve aslında Martin-Löf rastgeleliği kavramı öne çıkmıştır (diğerleri öne sürüldü ve çalışmayı ilginç buluyor, ancak hepsi çıplak değil. Martin-Löf'in rastgelelik özellikleri güzeldi). Meseleleri basitleştirmek için, sonsuz ikili diziler için rastgeleliği göz önünde bulunduracağız (dizgeden dizgeye olan fonksiyonlar gibi diğer nesneler, bu dizilimle kolayca kodlanabilir).

Sonsuz bir ikili dizi ise Martin-Löf rastgele bir (bu işlem üç üstel kez ya da daha fazla olarak hesaplanabilir olmasına izin bile) hesaplanabilir işlem rastgele kusur tespit edebilir.α

(1) "Rasgelelik kusuru" ile neyi kastediyoruz? Bu kısım kolaydır: 0 ölçüsü kümesidir, yani hemen hemen tüm dizilerin sahip olmadığı bir özelliktir (burada Lebesgue ölçüsü hakkında konuşuyoruz, yani her bitin diğerinden bağımsız olarak olması ihtimalinin olduğu ölçüsü) bit). Böyle bir kusurun bir örneği "asimptotik olarak 1 / 3'ünün sıfırları ve 2 / 3'ünün bulunması" dır, bu büyük sayılar yasasını ihlal eder. Başka bir örnek "her n için, nin ilk 2n biti mükemmel bir şekilde dağılmıştır (en az sıfır)." Bu durumda büyük sayılar yasası doyurulur, ancak merkezi limit teoremi değildir. Vs vs.0 α k a k , 0 ağırlık k , 1 u k a k , i 2 - k G = k u k 0 a1/20α
(2) Hesaplanabilir bir işlem, bir dizinin belirli bir ölçü 0 kümesine ait olmadığını nasıl test edebilir? Başka bir deyişle, hangi ölçü birimi 0 hesaplanabilir bir şekilde tanımlanabilir? Bu tam olarak Martin-Löf testlerinin konusu. Bir Martin-Löf testi (giriş ile Turing makinesi ile, yani computably bir giriş k, verilen bir hesaplanabilir işlemdir ) bir şeritlerinin dizisi, , , ... öyle ki, 'den başlayarak sonsuz dizilerin değeri en fazla (topolojiden hoşlanıyorsanız, bunun kümenin ürün topolojisinde bir açık küme olduğuna dikkat edin. sonsuz ikili diziler). Sonrakwk,0wk,1Ukwk,i2kG=kUk ölçüsü vardır ve Martin-Löf nullset olarak adlandırılır . Şimdi Martin-Löf rasgeleliğini, sınırsız bir ikili dizilim Martin-Löf rasgele olduğunu söyleyerek tanımlayabiliriz , eğer herhangi bir Martin-Löf boş kümesine ait değilse . 0α

Bu tanım teknik görünebilir ancak birçok nedenden dolayı doğru tanım olarak kabul edilmektedir:

  • yeterince etkilidir, yani tanımı hesaplanabilir süreçleri içerir.
  • Yeterince güçlü: olasılık teorisi ders kitabında (büyük sayılar yasası, yinelenen logaritma yasası vb.) bulabileceğiniz herhangi bir "neredeyse kesin" özellik Martin-Löf testi ile test edilebilir (bazen kanıtlanması zor olsa da)
  • bağımsız olarak farklı tanımlamalar kullanan birkaç kişi tarafından önerilmiştir (özellikle Kolmogorov karmaşıklığını kullanan Levin-Chaitin tanımı); ve hepsinin aynı konsepte öncülük ettiği gerçeği, doğru bir fikir olması gerektiği yönünde bir ipucu (biraz Turing makineleri, özyinelemeli fonksiyonlar, lambda-calculus, vb. ile tanımlanabilen hesaplanabilir fonksiyon kavramı gibi)
  • arkasındaki matematik teorisi çok güzel! mükemmel üç kitabı görün Kolmogorov Karmaşıklığına Giriş ve Uygulamaları (Li ve Vitanyi), Algoritmik rasgelelik ve karmaşıklık (Downey ve Hirschfeldt) Hesaplanabilirlik ve Rastgelelik (Nies).

Martin-Löf rasgele dizisi neye benziyor? Tamamen dengeli bir yazı tura atın ve çevirmeye başlayın. Her çeviride, başlar için 0, kuyruklar için 1 yazın. Zamanın sonuna kadar devam edin. Martin-Löf dizisi böyle görünüyor :-)

Şimdi ilk soruya geri dönelim: Martin-Löf rasgele dizisini oluşturmanın hesaplanabilir bir yolu var mı? Sezgisel olarak cevap HAYIR olmalı , çünkü bir dizi oluşturmak için hesaplanabilir bir işlem kullanabilirsek , o zaman kesinlikle { } singletonunu tanımlamak için hesaplanabilir bir işlem kullanabiliriz , bu yüzden rastgele değildir. Resmen bu şekilde yapılır. Bir dizinin hesaplanabilir olduğunu varsayalım . Aşağıdaki Martin-Löf testi düşünün: herkes için , sadece çıkış önek ait uzunluğunun ve başka bir şey. Bunun en çok ölçüsü var (aslında, tam olarak)α α α k a k α k 2 - k U k αααααkakαk2kve tanımlardaki gibi kümelerinin tam olarak { } 'dir. QED !!Ukα

Aslında bir Martin-Löf rasgele dizi daha kuvvetli bir anlamda hesap edilemez olduğu: oracle bazı oracle hesaplama, eğer (kendisi de sonsuz bir ikili dizisidir) hesaplayabilir bütün daha sonra, , bit ve ilk hesaplamak için gerekli olan bit (bu gerçekte bir olduğunu karakterize ne yazık ki literatürde nadir olarak belirtilmektedir Martin-Löf rasgelelik ait).β α n n - O ( 1 ) β n ααβαnnO(1)βnα


Tamam, şimdi Joseph'in sorusunun "düzenleme" kısmı: Saf bir rastgele kaynak kaynağına (bir kehanet) erişimi olan bir TM'nin klasik bir TM'nin yapamayacağı bir işlevi hesaplayabilmesi mümkün mü?

Hesaplanabilirlik açısından bakıldığında cevap "evet ve hayır" dır. Bir kehanet olarak rastgele bir kaynağa erişiminiz varsa (çıktının sonsuz ikili sıra olarak sunulduğu durumda), olasılık 1 ile bir Martin-Löf rasgele kehaneti elde edersiniz ve daha önce de gördüğümüz gibi Martin-Löf rasgele olmayan anlamına gelir. hesaplanabilir, bu nedenle kehanetin çıktısını almak yeterlidir! Eğer bir fonksiyon olsun istiyorsanız , işlevin düşünebilirsiniz herkes için ilk arasındadır kaç sıfır anlatır da kahin bit. Kahin Martin-Löf rastgele ise, bu işlev hesaplanamayacak. f , n , nf:NNfnn

Ama elbette bunun hile yaptığını iddia edebilirsiniz: gerçekten, farklı bir kâhin için farklı bir işlev alabileceğiz, bu yüzden tekrar edilemez bir sorun var. Dolayısıyla, sorunuzu anlamanın başka bir yolu şudur: -hesaplanabilir olmayan, ancak "pozitif olasılık ile hesaplanabilen" bir işlev var mı, yani rasgele bir kâhire erişen bir Turing makinesi olduğu, yani Olumlu olasılıkla (kahin üzerinde), hesaplar . Cevabı oldukça basit olan bir çuval teoremi nedeniyle cevap hayır. Aslında esas Robin Kothari yanıtlandı: TM doğru olduğu için olasılık 1/2 büyükse, o zaman bir bütün arayabilirsiniz girdi ile tüm olası oracle hesaplamaları def n n f ϵ > 0 σ σ f σffnnve “çoğunluk oyu” alan, yani 1 / 2'den daha fazla sayıda ölçü birimi tarafından üretilen çıktının bulunması (bu etkili bir şekilde yapılabilir). Argüman daha küçük olasılıklara bile uzanıyor: TM çıkışlarının olasılık olan çıktılarını varsayalım . Lebesgue'in yoğunluk teoremi ile, oracle'nin ilk bitlerini tam olarak olacak şekilde ve diğer bitleri rastgele alırsak, o zaman en az 0.99 olasılıkla hesaplarsak, sonlu bir string . Böyle bir alarak , yukarıdaki argümanı tekrar uygulayabiliriz.fϵ>0σσfσ


8
ne güzel bir cevap
Suresh Venkat

1
Bu (bana!) Karışık soruya verdiğiniz ayrıntılı cevabın netliğini çok takdir ediyorum. Teşekkürler!
Joseph O'Rourke

12

Sorunuzu cevaplamak için "Belki de hesaplanabilir" ve "etkili hesaplanabilir" arasında bir ayrım yapılması (belki de) vardır. Eğer biri "rasgele süreci" "tahmin edilemeyecek bir süreç" olarak tanımlarsa, hangi kaynaklara sahip olursak olalım "ve biri" deterministik süreç "olarak" öngörülebilir süreç "olarak tanımlanır ve (belki de çok) kaynaklara giriş ve erişim sağlanır. "o zaman hiçbir Turing hesaplanabilir işlevi rastgele olamaz, çünkü Turing makinesini tanır ve simüle edersek, işlemin bir sonraki" denemesinin "sonucunu her zaman tahmin edebiliriz.

Bu çerçevede, Martin-Lof testi deterministik bir işlem olarak görülebilir ve rastgele bir dizilimin tanımı tam olarak davranışları herhangi bir Martin-Lof testi / Turing hesaplanabilir / deterministik işlem tarafından öngörülemeyen bir dizidir.

Ancak bu şu soruya cevap veriyor: "Rastgele bir dizi, gerçek hayatta etkili bir şekilde hesaplanabilir mi?" Aslında burada bir endüstri var. Bilgisayarlarda fiziksel sistemlerin simülasyonlarını yapmak için kullanılan milyarlarca rastgele (?) Bit içeren CD'ler var. The Drunkard's Walk: Rastgeleğimizin Hayatımıza Nasıl Hükmettiği Kitabı , bu konuyla ilgili daha detaylı bir açıklama getiriyor.

Alakasız nokta: Sütunundan zevk alıyorum. :-)


11

Sezgisel olarak, "rastgele", "öngörülemez" anlamına gelir ve bir Turing makinesi tarafından oluşturulan herhangi bir sıra, makine çalıştırılarak tahmin edilebilir, böylece Turing makineleri "gerçekten rastgele" sayılar üretemez. Rasgele dizilerin bir dizi resmi tanımı vardır (rastgelelık sadece bir dizgenin uzunluğu sonsuzluğa giderken anlamlıdır), hepsi esasen eşdeğerdir. Muhtemelen bunlardan en doğal olanı Martin-Lof rastgeleliğidir; bu, bir dizilimin, stokastiklik için mümkün olan tüm hesaplanabilir istatistiksel testleri geçtiği anlamına gelir ve Chaitin rastgeledir; Bu tanımların her ikisinde de, hem rastgele dizilerin üretilmesi hem de bunların tanınmasıyla bağdaşmaz. "Bilgi ve Rastgele:


Buraya kitap buraya bağlantı: amazon.com/…
Suresh Venkat

Teşekkürler Ian & Suresh, bu kitabı kütüphanemizden alıyorum!
Joseph O'Rourke

Bir başka harika kitap Nies'in "Hesaplanabilirlik ve rastgelelik" tir.
Diego de Estrada

11

Rastgele rakam üretmenin aritmetik yöntemlerini düşünen herhangi biri elbette günah durumundadır. Çünkü, birkaç kez belirtildiği gibi, rastgele sayılar diye bir şey yoktur - rastgele sayılar üretmek için yalnızca yöntemler vardır ve elbette kesin bir aritmetik işlem böyle bir yöntem değildir. - John von Neumann


Ha! Harika alıntı, Jeff! Ve önemli bir nokta ile.
Joseph O'Rourke

7

Öyle görünüyor ki kimse ekinizi cevaplamadı, ben de ona bir göz atacağım:

Eğer bu eki de soruyu biraz uzatabilirsem: Saf bir rastgele kaynak kaynağına (bir kehanet) erişimi olan bir TM'nin klasik bir TM'nin yapamayacağı bir işlevi hesaplayabilmesi mümkün mü?

Soruyu daha kesin hale getirmeye çalışacağım ve sonra cevaplayacağım. (Benim sürümüm, aklınızdaki gibi olmayabilir, öyleyse bana bildirin.)

Rasgele sayı üretecine erişimi olan deterministik bir TM'ye sahibiz. Bu TM şimdi rasgele sayı üretecini bir şekilde kullanan bazı işlevleri (gerçek bir işlev, yani bir giriş alanından çıkış alanına belirli bir harita) hesaplar.

Öyleyse rastgele erişime sahip TM hata yapabilir mi? Aksi takdirde, DTM hangi rastgele bitlerin tedarik edildiğine bakmaksızın doğru cevabı vermelidir. Bu durumda rastgele bitler gereksizdir, çünkü rastgele dizgiyi 00000 olarak alabilirsin ...

DTM'nin hata yapmasına izin verilirse, ancak doğru cevabı rastgele tahmin etmekten daha sık alması gerekiyorsa, yine de rastgelelik kaynağı olmadan da yapabiliriz. Bu DTM, fonksiyonunu hesaplar , burada x giriş, r, gelen rasgele dizedir ve , . DTM şimdi tüm muhtemel dizilerin üzerinde ve çoğunluk çıktısının ne olduğunu görebilir ve çıktılar.f i rfi(x,r)fir


Bu anlayışlı buluyorum: "Olmazsa, hangi rastgele bitlerin sağlanmış olursa olsun DTM doğru cevabı vermelidir." Teşekkürler!
Joseph O'Rourke

Aslında bunu anlamıyorum. P = ZPP veya sıfır hata içeren (örneğin bir Las Vegas algoritması) randomize bir algoritmanın deterministik olması gerektiğini öne sürüyorsunuz.
Suresh Venkat

Bir dile karar veren kehanet erişimi olan bir DTM ile DTM'nin sınırlı bir süre sonra durduğunu varsaydım. Bu durumda, kehanetten kurtulabiliriz. Sıfır hata için, onu sadece 0000 ... ile değiştiririz, ve herhangi bir başka amaç için sonlu uzunluktaki rastgele dizeler üzerinde kaba kuvvet uygulayabilirsiniz. (Eminim biri muhtemelen Las Vegas algoritmalarının mutlaka sonlandırmadıklarından dolayı gerçekten algoritmalar olmadığı görüşündedir.)
Robin Kothari

5

"Düzenleme sorunuzu" ile ilgili olarak: hesaplanabilirlik veya karmaşıklık hakkında sorularınız varsa, bu büyük bir fark yaratır. TM'de karmaşıklık sınırları varsa, o zaman rastgele kehanet modeli denir . TM keyfi olarak büyük ama sınırlı kaynakları kullanabilirse, o zaman göreceli rastgele dünyaya sahip olursunuz : Turing dereceleri olduğu gibi, oracles'in rastgele hiyerarşileri vardır. (Yan nokta: Koblitz ve Menzes'in (in) ünlü eleştirilerinden biri rastgele kahin modelinin kullanımıyla ilgiliydi, bu yüzden meta sorunuz son akademik tartışmalara değiniyor.)


Sadece açıklığa kavuşturmak için: Joe rastgele bir kehanet mi (esasen rastgele bir karma işlevidir) mi yoksa sadece rastgele bir kaynak mı istedi? bunlar aynı şey değil, değil mi?
Suresh Venkat

Teşekkürler, Aaron, rasgele oracle hiyerarşileri söz faydalıdır.
Joseph O'Rourke

@Suresh: Bir rastgele kaynak demek istedim.
Joseph O'Rourke

Siz ikiniz muhtemelen burada benden bir adım öndesiniz, ancak rastlantısallığın “referans çerçevesi” ne göre, yani öngörülerde bulunmak için mevcut kaynaklara göre tanımlanması gerektiğini söylemeye çalışıyordum. Bir "rastgelelik kaynağı" bir Turing makinesine göre rastgele olabilir, ancak Halting Oracle ile ilgili olarak değil. Robin Kothari'nin cevabına katılıyorum; Benim açımdan sadece şu anki tanımların altında “saf bir rastgele kaynak” var gibi görünmüyordu, çünkü ona karşı her zaman köşegenleştirebilir ve rastgele bir şey elde edebiliriz.
Aaron Sterling

5

Hala değiştirilmiş sorunuzu, özellikle de TM'ye ne gibi sınırlamalar koyduğunuzu anlamaya çalışıyorum. Yani bu cevap tam olarak istediğiniz şeyi alamayabilir, belki de işleri biraz daraltmanıza yardımcı olacaktır.

Dışsal bir faktöre dışbükey bir cismin hacmine deterministik olarak yaklaşmak için koşulsuz imkansız bir sonuç olduğunu biliyoruz (bu Bárány ve Füredi tarafından yapılan eski bir sonuçtur ). Buna karşılık, örnekleme kullanarak bu problem için bir FPRAS alabiliriz . Bu, aradığınız ayrımın bir örneği mi?


Bu sonuç polinom zaman algoritmaları içindir, değil mi? OP'nin sorusunu, karmaşıklık teorisi değil, hesaplanabilirlik teorisi ile ilgili olarak yorumladım. Demek istediğim, "DTM + tarafından çözülen bir DTM + rastgele kaynak kaynağı ile çözülen bir dizi sorun DTM tarafından çözülenlerden daha mı büyük?"
Robin Kothari

Bu mümkün. Bu yüzden onu daha ayrıntılı incelemek için girişimi. Hesaplanabilirlik düzeyinde, bir tutarsızlık bana Kilise-Turing tezini geçersiz kılacaktır.
Suresh Venkat

Bu cilt örneğini beğendim! Her ne kadar özellikle hesaplanabilirlik teorisi hakkında sorular sorsam da karmaşıklık farklılıklarına da ilgi duyuyorum. Bunun BT'yi nasıl geçersiz kılabileceğini anlamıyorum, çünkü önceki cevaplar gerçek bir rastgelelik kaynağının hesaplanamadığını ortaya koydu ...?
Joseph O'Rourke

Bir DTM ile ne demek istediğimizi bir rastgele kaynak kaynağına erişerek (kabul kriterleri, olasılıkları durdurma vb.) Resmileştirdiğimizi düşünüyorum, bu modelin özyinelemeli dilleri de hesapladığını gösterebilmeliyiz.
Robin Kothari

Doğru (hesaplı alanda). Ama şimdi merak ediyorum: onun turing makinesini kendisinin kodlaması üzerinde çalıştırmanın sonucu olan bir dize inşa ettiğimizi varsayalım. Bu dizgiyi tahmin etmek Halting problemini çözmeye karşılık gelir mi ve bu dizge Martin-Lof anlamında rastgele midir?
Suresh Venkat
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.