“Laplace gürültüsü” ile kastedilen nedir?


9

Şu anda Laplace mekanizmasını kullanarak diferansiyel gizlilik için algoritma yazıyorum.

Maalesef istatistiklerde hiçbir arka planım yok, bu nedenle birçok terim bilinmiyor. Şimdi terim üzerinde tökezliyorum: Laplace gürültüsü . Bir veri kümesi farkını özel yapmak için tüm kağıtlar, işlev değerlerine Laplace dağılımına göre Laplace gürültüsü eklemekten bahsetmektedir.

k(X)=f(X)+Y(X)

(k diferansiyel özel değerdir, f değerlendirme fonksiyonu tarafından döndürülen değer ve Y Laplace gürültüsü)

Bu, wikipedia https://en.wikipedia.org/wiki/Laplace_distribution'dan aldığım bu işleve göre Laplace dağılımından rastgele değişkenler oluşturduğum anlamına mı geliyor ?

Y=μb sgn(U)ln(12|U|)

GÜNCELLEME: Yukarıdaki işlevden çizilmiş 100'e kadar rasgele değişken çizdim, ancak bu bana Laplace dağıtımı vermiyor (hatta yakın değil). Ama bir Laplace dağılımını modellemesi gerektiğini düşünüyorum.

Update2:

Bunlar benim tanımlarım:

Laplace Mekanizması. Herhangi bir işlev f:N|X|Rk verildiğinde, Laplace mekanizması şu şekilde tanımlanır: ML(x,f(·),ϵ)=f(x)+(Y1,...,Yk) burada Y, Lap'tan çizilmiş rasgele değişkenlerdir Lap(f/ϵ)

Hem de:

Y (X) üretmek için ortak bir seçenek sıfır ortalaması ve Δ (f) / ε ölçeği parametresi ile Laplace dağılımı kullanmaktır


Sahip olduğunuz ikinci denklem PDF yerine CDF'dir. PDF'den örnek almak istiyorsunuz. İşte Laplace (biexponential) dağıtımından örneklemek için bazı python kodları ( docs.scipy.org/doc/numpy-1.9.3/reference/generated/… )
Luca

1
"Laplace gürültüsünden" bahseden tam referans verebilir misiniz? Sanırım Y'ye Laplace dağılımını izleyen X'e rv Y eklemek demek. Güncellemenize ilgili olarak, bu yöntem yapar işi - kodunuzda hata yapmış olmalı, yoksa yaptığınız bu sadece bir gerçektir sadece sen 5000 çalışırsa veya eğer 100, ondan çizer daha ben "daha görünümlü başlamak herhalde Laplace "...
Tim

Benim komplo aslında bir CDF gibi görünüyor düşünüyorum, ben yanı sıra benim kod ekledi. İşte alıntılara bağlantılar: 1 2
Lotte

Ayrıca daha önce kullandığım kodu gördüm ve neden bana böyle sonuç verdi bilmiyorum. Arsa benim kod gösterir, f = 1 ve eps = 1 için 1000 kez ilmekledi. Ama bence ana nokta, "Laplace gürültüsü" doğru anladıysanız. Kod bir şekilde egzersiz yapabilirsiniz.
Lotte

Yanıtlar:


14

Doğru, Laplace gürültüsü eklemek değişkeninize Laplace dağılımını izleyen değişkeni eklediğiniz anlamına gelir . Gürültü olarak adlandırılmasının birçok nedeni vardır . İlk olarak, mesajın bir kanal üzerinden gönderildiği ve kanalın kusurlu doğası nedeniyle alınan sinyalin gürültülü olduğu sinyal işlemini düşünün, bu yüzden sinyali gürültüden izole etmek zorundasınız. İkincisi, kriptografide yalancı gürültü ve diferansiyel gizliliğin kriptografi ile ilgili olduğu hakkında da konuşuyoruz . Üçüncüsü, istatistik ve makine öğreniminde istatistiksel gürültü hakkında da konuşabiliriz , istatistiksel modeller gürültü veya hata terimlerini içerir. (İsimleri tahmin etme hakkında bir kitap bile varXYSinyal ve gürültü Nate Silver tarafından). Kullandığımız Yani gürültü belirsiz için daha kesin eşanlamlı olarak rastgelelik .

Rastgele üretimle ilgili olarak, Laplace dağıtımından sonra rastgele değerler çizmenin birkaç yolu vardır, örneğin:

  1. Ters dönüşüm yöntemi Ekşi tarif:
f <- function(n) {
   u <- runif(n, -0.5, 0.5)
   sign(u)*log(1-2*abs(u))
}
  1. Eğer ve üstel dağılımı aşağıdaki bağımsız rastgele değişkenler, daha sonra Laplace dağılımı aşağıdaki :UVY=UV
g <- function(n) { rexp(n)-rexp(n) }
  1. Eğer Laplace dağılımı takip ardındanüstel dağılımı takip eder , yani:Y|Y|
h <- function(n) { rexp(n)*sample(c(-1,1), n, replace = TRUE) }

Aşağıdaki grafiklerde , eşlik eden Laplace yoğunluğuna (kırmızı çizgi) sahip işlevlerin her biri kullanılarak çizilen örneğin dağılımını görebilirsiniz .105

resim açıklamasını buraya girin

Örnekleri basitleştirmek için scale = 1 ile standart Laplace dağılımını kullanıyorum, ancak sonuçları farklı ölçeklendirme faktörü kullanarak çarparak sonuçları kolayca değiştirebilirsiniz.


Teşekkürler! Bu sorumu cevaplıyor, "gürültü" terimi hakkında gerçekten kafam karışmıştı ve uygun bir açıklama bulamadım.
Lotte

Kodum için histogram
Lotte

2

Laplace veya çift üstel dağılım, bir ortalama etrafında üssel olarak sola ve sağa düşer. Temelde diğer tarafa yansıtılan üsteldir.

  • Olasılık istiyorsanız, üstel olasılığını kullanın ve gözlenen değere bir abs () ekleyin. Günlük olasılığı, artıkların üstel oranıyla çarpılan abs () değeridir.

  • Örnekleme için en kolayı -1,1'den çizim yapmak ve çoğu programlama dilinde mevcut olan üstel dağılımdan bir çizim ile çarpmaktır. Alternatif olarak, yukarıda belirtildiği gibi, Laplace'ın doğrudan uygulamalarını da bulacaksınız, ancak biraz daha fazla arama gerektirebilir.

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.