«entropy» etiketlenmiş sorular

7
PRNG'ler eşyaları sihirli bir şekilde sıkıştırmak için kullanılabilir mi?
Bu fikir, programlamayı öğrenen bir çocuk olarak ve ilk olarak PRNG'lerle karşılaştığımda ortaya çıktı. Ne kadar gerçekçi olduğunu hala bilmiyorum, ama şimdi yığın değişimi var. İşte şaşırtıcı bir sıkıştırma algoritması için 14 yaşında bir şema: Bir PRNG alın ve suzun bir sahte rastgele bayt dizisi elde etmek için tohumla birlikte …

6
Kayıpsız sıkıştırma algoritmaları entropiyi azaltır mı?
Wikipedia'ya göre : Shannon'un entropisi, bir mesajda yer alan bilgileri, mesajın belirlenen (veya tahmin edilebilir) kısmının aksine ölçmektedir. İkincisinin örnekleri, dil yapısındaki fazlalığı veya harf veya kelime çiftlerinin, üçüzlerin ve benzerlerinin oluşum sıklıklarına ilişkin istatistiksel özellikleri içerir. Bu yüzden entropi bir mesajda yer alan bilgi miktarının bir ölçüsüdür. Entropi kodlayıcıları, …

2
N'den az rastgele bit ile 2 ^ N olasılığının taklit edilmesi
Aşağıdaki ayrık dağılımı simüle etmem gerektiğini söyle: P(X=k)={12N,1−12N,if k=1if k=0P(X=k)={12N,if k=11−12N,if k=0 P(X = k) = \begin{cases} \frac{1}{2^N}, & \text{if $k = 1$} \\ 1 - \frac{1}{2^N}, & \text{if $k = 0$} \end{cases} En belirgin yol rasgele bit çizmek ve hepsinin (veya ) 'e eşit olup olmadığını kontrol etmektir . …


11
Von Neumann'ın günah alıntılarındaki rastgeleliği artık geçerli değil mi?
Bazı adamlar şöyle dedi: Deterministik yöntemlerle rasgele sayılar üretmeye çalışan herkes, elbette bir günah durumunda yaşamaktadır. Bu her zaman yalnızca bir bilgisayarla gerçek rasgele sayılar üretemeyeceğiniz anlamına gelir. Bilgisayarların tek bir Intel 8080 mikroişlemcinin (~ 6000 vana) eşdeğer büyüklüğünde olduğunu söyledi. Bilgisayarlar daha karmaşık hale geldi ve von Von Neumann'ın …

2
Bir işletim sistemi rastgele tohumlar için entropi nasıl oluşturur?
Linux'ta, dosyalar /dev/randomve/dev/urandom dosyalar sahte rasgele baytların sırasıyla engelleme ve engellememe (sırasıyla) kaynaklarıdır. Normal dosyalar olarak okunabilirler: $ hexdump /dev/random 0000000 28eb d9e7 44bb 1ac9 d06f b943 f904 8ffa 0000010 5652 1f08 ccb8 9ee2 d85c 7c6b ddb2 bcbe 0000020 f841 bd90 9e7c 5be2 eecc e395 5971 ab7f 0000030 864f d402 …

2
Zor olan nedir? Sıralı bir desteyi karıştırmak veya karıştırılmış bir desteyi sıralamak?
farklı öğeden oluşan bir diziniz var . Bir karşılaştırıcıya (a ve iki öğeyi ve gerçek iff döndüren bir kara kutu işlevi ) ve gerçekten rastgele bir bit kaynağına (bağımsız değişkene eşit olarak rastgele bir bit döndüren bir kara kutu işlevi) erişebilirsiniz . Aşağıdaki iki görevi göz önünde bulundurun:nnnaaabbba&lt;ba&lt;ba < b …

3
Shannon Entropisi 0.922, 3 Farklı Değer
bir dizi değer verildiğinde , log base Shannon Entropy gelir . Anladığım kadarıyla, taban Shannon Entropy yuvarlanmış, değerlerden tek bir tanesini temsil etmek için ikili sayıdaki minimum bit sayısıdır.AAAAAAAABCAAAAAAAABCAAAAAAAABC2220.9220.9220.922222 Bu wikipedia sayfasındaki girişten alınmıştır: https://en.wikipedia.org/wiki/Entropy_%28information_theory%29 Peki, üç değer bir bit ile nasıl temsil edilebilir? olabilir , olabilir ; ama nasıl …

2
Huffman Kodlamasının Aritmetik kodlamaya bir genellemesi var mı?
Huffman Kodlaması, Aritmetik Kodlama ve Aralık Kodlaması arasındaki ilişkileri anlamaya çalışırken, Huffman kodlamasının eksikliklerinin kesirli bit paketleme sorunuyla ilgili olduğunu düşünmeye başladım . Yani, bir sembol için 240 olası değere sahip olduğunuzu ve bunu bitlere kodlamanız gerektiğini varsayalım, "tam" 8'e ihtiyacınız olmasa bile, sembol başına 8 bit ile sıkışmış olacaksınız, …

1
Çıkarım arıtma türleri
İş yerinde dinamik bir dil hakkında bazı tür bilgiler çıkarmakla görevlendirildim. letİfade dizilerini iç içe ifadelere yeniden yazar , şöyle: return x; Z =&gt; x var x; Z =&gt; let x = undefined in Z x = y; Z =&gt; let x = y in Z if x then T …
11 programming-languages  logic  type-theory  type-inference  machine-learning  data-mining  clustering  order-theory  reference-request  information-theory  entropy  algorithms  algorithm-analysis  space-complexity  lower-bounds  formal-languages  computability  formal-grammars  context-free  parsing  complexity-theory  time-complexity  terminology  turing-machines  nondeterminism  programming-languages  semantics  operational-semantics  complexity-theory  time-complexity  complexity-theory  reference-request  turing-machines  machine-models  simulation  graphs  probability-theory  data-structures  terminology  distributed-systems  hash-tables  history  terminology  programming-languages  meta-programming  terminology  formal-grammars  compilers  algorithms  search-algorithms  formal-languages  regular-languages  complexity-theory  satisfiability  sat-solvers  factoring  algorithms  randomized-algorithms  streaming-algorithm  in-place  algorithms  numerical-analysis  regular-languages  automata  finite-automata  regular-expressions  algorithms  data-structures  efficiency  coding-theory  algorithms  graph-theory  reference-request  education  books  formal-languages  context-free  proof-techniques  algorithms  graph-theory  greedy-algorithms  matroids  complexity-theory  graph-theory  np-complete  intuition  complexity-theory  np-complete  traveling-salesman  algorithms  graphs  probabilistic-algorithms  weighted-graphs  data-structures  time-complexity  priority-queues  computability  turing-machines  automata  pushdown-automata  algorithms  graphs  binary-trees  algorithms  algorithm-analysis  spanning-trees  terminology  asymptotics  landau-notation  algorithms  graph-theory  network-flow  terminology  computability  undecidability  rice-theorem  algorithms  data-structures  computational-geometry 

1
Matris Entropisinde Kısıtlı Optimizasyon Sorunu
(Shannon) matris entropi kısıtlı bir optimizasyon problemim var . Matris değerde toplamı olarak yazılabilir form 1 matrisler burada belirli bir normalize edilmiş vektördür. Rütbe bir matrisin katsayıları, optimize ettiğimiz bilinmeyenlerdir ve bunların sıfırdan büyük olması ve 1'e kadar toplamları gerekir.( S u m( e n t r ( e i …

1
Bir dosyanın entropisini pratik olarak nasıl ölçebilirim?
Artık dosyamın içerdiği artık gereksiz (gerçek) bilgileri ölçmeye çalışıyorum. Bazıları buna entropi miktarı der. Tabii ki standart p (x) günlüğü {p (x)} var, ama Shannon'ın bunu sadece bir kanal üzerinden aktarma açısından düşündüğünü düşünüyorum. Bu nedenle formül bir blok boyutu gerektirir (örneğin, tipik olarak bit cinsinden 8). Büyük bir dosya …
9 entropy 
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.