Hastie'nin ESL Kitabından bu sorun hakkında 5 yaşındaymışım gibi biri açıklayabilir mi?

Hastie'nin ESL kitabında çalışıyorum ve Soru 2.3 ile zor anlar yaşıyorum. Soru şudur:

Başlangıç noktasında en yakın komşu tahminini düşünüyoruz ve başlangıç noktasından en yakın veri noktasına olan ortalama mesafe bu denklemle verilmiştir. Bunu türetmek için nereden başlayacağımı bilmiyorum.

Çoğu veri noktasının diğer herhangi bir veri noktasına (boyutsallığın laneti) kıyasla örnek alanının sınırına daha yakın olduğunu biliyorum, ancak bunu Doğrusal Cebir / Olasılık duygusuna çevirmekte sorun yaşıyorum.

Teşekkürler!

machine-learning computational-statistics

— Gary
kaynak

Başlıktaki "ELI5" ne anlama geliyor? Bu denklemi türetmek istiyorsanız, toptaki puanlar için bir olasılık modeliyle başlamanız gerekir: bu model nedir? (Lütfen sorunuzu anlamak için okuyucularınızın bir kitaba veya başka bir siteye

— yönlendirmelerini istemeyin

@whuber katılıyorum - Kısaltmalar korkunç bir karma düzenidir.

— Sycorax, Reinstate Monica

Beş yaşındasın. ESL'yi anlamak istediğiniz için size teşekkür ederiz, ancak altı yaşına kadar beklemeniz gerekir. Büyük erkekler ve kızlar için bir kitap.

— Nick Cox

Beş yaşında bir çocuk tek boyutlu duruma bakarak başlayabilir (p = 1). Ve el ele geçtiğinde, oradan alın.

— Mark L. Stone

ELI5'in hecelenmesi için ESL ne olacak?

— mdewey

İzin Vermek $r$ kökeni ile mesafe olmak ve izin $V_0[p]$ birim hiper kürenin hacmi olmak $p$ boyutları. Sonra yarıçapın bir hiper küresinde bulunan hacim $r$ dır-dir

V [r] = V_{0} [p] r^{p}

$V[r]=V_0[p]r^p$

İzin verirsek $P=V[r]/V_0[p]$ bu hiper kürede bulunan hacmin fraksiyonunu belirtmek ve $R=r^p$ , sonra

P [R] = R

$P[R]=R$

Veri noktaları birim topu içinde eşit olarak dağıtılırsa, $0\leq R\leq 1$ Yukarıdaki formül, aşağıdakiler için kümülatif dağılım işlevidir (CDF). $R$ . Bu, eşit bir olasılık yoğunluğuna eşdeğerdir. $R$ birim aralığı boyunca, yani $p[R]= P'[R] =1$ . Bu yüzden, yorumlarda Mark Stone'un ima ettiği gibi, $p$ eşdeğer bir 1D problemine boyutsal durum.

Şimdi tek bir noktamız varsa $R$ , sonra bir CDF tanımı ile $\Pr[R\leq \rho]=P[\rho]$ ve $\Pr[R\geq \rho]=1-P[\rho]$ . Eğer $R_{\min}$ en küçük değer $n$ Puanlar ve puanların hepsi bağımsızdır, daha sonra CDF

Pr [R_{min} \geq ρ] = Pr [R \geq ρ]^{n} = (1 - ρ)^{n}

$\Pr[R_{\min}\geq \rho]=\Pr[R\geq \rho]^n=(1-\rho)^n$ (bu tek değişkenli aşırı değer teorisinin standart bir sonucudur ).

Medyanın tanımı ile,

\frac{1}{2} = Pr [(R_{min})_{m e d} \geq R] = (1 - R)^{n}

$\frac{1}{2}=\Pr[(R_{\min})_{\mathrm{med}}\geq R]=(1-R)^n$ hangi olarak yeniden yazabiliriz

(1 - d^{p})^{n} = \frac{1}{2}

$(1-d^p)^n=\frac{1}{2}$ istenen sonuca eşittir.

EDIT: " ELI5 " tarzı cevap, üç bölümden deneyin .

Tek noktalı 1D durumda, mesafe eşit olarak dağıtılır $[0,1]$ , böylece medyan $\frac{1}{2}$ .
1D'de, asgari $n$ puan ilk durumda $n$ gücü.
İçinde $p$ boyutlar, mesafe $r$ eşit olarak dağıtılmamıştır, ancak $r^p$ dır-dir.

— GeoMatt22
kaynak

Ha ha, 5 yaşında bir çocuğun p = 1 vakasına bakarak başlayabileceği yorumunu verdim. 4 yaşındaki bir çocuğun sadece p = 1 vakası ile değil, aynı zamanda n = 1 ile başlayabileceği bir yorum eklemeyi düşündüm.

— Mark L. Stone

Soruyu cevapladığımda, @fcop tarafından şu açıklığa kavuşturulduktan sonra geldiğine dikkat edin: "N veri noktalarını başlangıç noktasında ortalanmış bir p-boyutlu birim topuna eşit olarak dağıtılmış olarak düşünün. en yakın veri noktası ... "ile verilir. Yani bir top

L_{2}

$L_2$ norm

p

$p$ boyutsal uzay. Bundan sonra soru, farklı olan ve çok net olmayan orijinaline geri alındı. (Orijinal soru altındaki yorum zincirine bakın.)

— GeoMatt22