Ölçüm konsantrasyon eşitsizliklerini anlama

Bu sorunun ruhu içinde , Hoeffding eşitsizliğinde kullanılan bir lemmanın kanıtını anlayarak, Hoeffding eşitsizliğine yol açan adımları anlamaya çalışıyorum.

Kanıtta benim için en gizemli olan şey, iid değişkenlerinin toplamı için üstel anların hesaplandığı, daha sonra Markov'un eşitsizliğinin uygulandığı kısımdır.

Amacım anlamak: Bu teknik neden sıkı bir eşitsizlik veriyor ve başarabileceğimiz en sıkı şey mi? Tipik bir açıklama, üsün moment üreten özelliklerini ifade eder. Yine de bunu çok belirsiz buluyorum.

Tao'nun blogunda yer alan bir yayın, http://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeff , bazı cevaplar alabilir.

Bu hedef göz önünde bulundurulduğunda, sorum Tao'nun gönderisinde takıldığım ve bir zamanlar açıklayabileceğimi umduğum yaklaşık üç nokta.

1. Tao, şu eşitsizliği, kullanarak şu eşitsizliği türetir Bu herhangi bir k için doğruysa, üstel bir bağ sonlandırır. Burası kaybolduğum yer.

   $$\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq 2 (\frac{\sqrt{ek/2}}{\lambda})^k. \ \ \ \ \ (7)$$ $$\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq C \exp( - c \lambda^2 ) \ \ \ \ \ (8)$$

2. Hoeffding'in lemması sunulmuştur: Lemma 1 (Hoeffding'in lemması) aralığında değerler alan skaler bir değişken . Daha sonra herhangi , Özellikle Lemma 1'in kanıtı taylor genişlemesi Genişleme neden bu ikinci dereceden terimle sınırlanabilir? Ve denklem 10 nasıl takip eder?${X}$${[a,b]}$${t>0}$

   $$\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} (1 + O( t^2 {\bf Var}(X) \exp( O( t (b-a) ) ) ). \ \ \ \ \ (9)$$ $$\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} \exp( O( t^2 (b-a)^2 ) ). \ \ \ \ \ (10)$$ $\displaystyle e^{tX} = 1 + tX + O( t^2 X^2 \exp( O(t) ) )$

3. Son olarak, bir alıştırma verilir:
   Alıştırma 1 (10) 'daki faktörünün ile değiştirilebildiğini ve bunun keskin. Bu , Hoeffding eşitsizliğinde kullanılan bir lemmanın kanıtını anlama bölümünden çok daha kısa bir kanıt sağlayacaktır , ancak bunu nasıl çözeceğimi bilmiyorum.${O(t^2(b-a)^2)}$${t^2 (b-a)^2/8}$

Eşitsizliğin kanıtı veya daha sıkı bir bağ türetemememizin nedeni hakkında daha fazla sezgi \ açıklama kesinlikle kabul edilir.

Üstel momentlerin kullanımı, ölçü eşitsizliklerinin konsantrasyonunu kanıtlama sürecinde yaygın bir adımdır. Benim anlayış gibidir kullanarak) 1 aşağıda ziyade , tek yakalar tüm anları yerine sadece ilk an. Bu nedenle, her zaman bağlı avantajlıdır yerine bağlı daha , daha bilgiler bulunduğundan . Neden gelmez fazla bilgiye sahip? Taylorın genişlemesi ile gayri resmi bir açıklama yapılmıştır . Gördüğünüz gibi tüm güçleri$\mathbb{E}e^X$$\mathbb{E} X$$X$$\mathbb{E} e^X$$\mathbb{E}X$$\mathbb{E} e^X$$\mathbb{E} e^X$$e^{X}=1+X+\frac{X^2}{2}+\frac{X^3}{6}+\ldots$$X$alakalıdır. Bu nedenle, aldığınızda, aslında tüm anlarını sınırlandırırsınız . $\mathbb{E}X$$X$