Noktalı ürün altında çekirdek fonksiyonlarının yakınlığına dair kanıt

13

İki çekirdek fonksiyonunun noktasal ürününün bir çekirdek fonksiyonu olduğunu nasıl kanıtlayabilirim?

machine-learning kernel-trick

— Gigili
kaynak

18

Noktalı ürünle, her ikisi de geçerli çekirdek işlevleri ise, o zaman onların ürünü olduğunu kastediyorum $k_1(x,y), k_2(x,y)$

\begin{aligned} k_{p} (x, y) = k_{1} (x, y) k_{2} (x, y) \end{aligned}

$\begin{align} k_{p}( x, y) = k_1( x, y) k_2(x,y) \end{align}$

aynı zamanda geçerli bir çekirdek işlevidir.

Mercer teoremini çağırdığımızda bu özelliği ispatlamak oldukça basittir. Yana biz onlar bir iç çarpım temsilini itiraf etmeliyim ki (Mercer ile) biliyorum, geçerli tanelerini bulunmaktadır. Let özelliği vektörü göstermek ve aynı belirtir . $k_1, k_2$ $a$ $k_1$ $b$ $k_2$

\begin{aligned} k_{1} (x, y) = a (x)^{T} a (y), a (z) = [a_{1} (z), a_{2} (z), \dots a_{M} (z)] \\ k_{2} (x, y) = b (x)^{T} b (y), b (z) = [b_{1} (z), b_{2} (z), \dots b_{N} (z)] \end{aligned}

$\begin{align} k_1(x,y) = a(x)^T a(y), \qquad a( z ) = [a_1(z), a_2(z), \ldots a_M(z)] \\ k_2(x,y) = b(x)^T b(y), \qquad b( z ) = [b_1(z), b_2(z), \ldots b_N(z)] \end{align}$

Yani bir dim vektörü üreten bir işlevdir ve bir dim vektörü üretir . $a$ $M$ $b$ $N$

Daha sonra, ürünü sadece ve cinsinden yazıyoruz ve biraz yeniden gruplandırma yapıyoruz . $a$ $b$

\begin{aligned} k_{p} (x, y) & = k_{1} (x, y) k_{2} (x, y) \\ = (\sum_{m = 1}^{M} a_{m} (x) a_{m} (y)) (\sum_{n = 1}^{N} b_{n} (x) b_{n} (y)) \\ = \sum_{m = 1}^{M} \sum_{n = 1}^{N} [a_{m} (x) b_{n} (x)] [a_{m} (y) b_{n} (y)] \\ = \sum_{m = 1}^{M} \sum_{n = 1}^{N} c_{m n} (x) c_{m n} (y) \\ = c (x)^{T} c (y) \end{aligned}

$\begin{align} k_{p}(x,y) &= k_1(x,y) k_2(x,y) \\&= \Big( \sum_{m=1}^M a_m(x) a_m(y) \Big) \Big( \sum_{n=1}^N b_n(x) b_n(y) \Big) \\&= \sum_{m=1}^M \sum_{n=1}^N [ a_m(x) b_n(x) ] [a_m(y) b_n(y)] \\&= \sum_{m=1}^M \sum_{n=1}^N c_{mn}( x ) c_{mn}( y ) \\&= c(x)^T c(y) \end{align}$

buradaki , bir -boyutlu vektördür, st . $c(z)$ $M \cdot N$ $c_{mn}(z) = a_m(z) b_n(z)$

Şimdi, özellik haritasını kullanarak 'yi bir iç ürün olarak , geçerli bir çekirdek olduğunu biliyoruz (Mercer teoremi ile). Hepsi bu kadar. $k_p(x,y)$ $c$ $k_p$

— Mike Hughes
kaynak

Hilbert uzayının sonlu boyutlu olduğunu nereden biliyorsunuz? Ayrılamaz bile olamaz mı?

— Andrei Kh

İlk paragrafta göre biz sadece biliyoruz çekirdek bir iç çarpım temsil varlığını. Ama sonuç olarak, bir iç ürün temsilinin varlığının bir çekirdek olduğunu ima ettiğini . Bu neden geçerli?

k

$k$

⟹

$\implies$

k_{p}

$k_p$

— Viktor Glombik

3

Aşağıdaki kanıt hakkında nasıl:

Kaynak: UChicago çekirdek yöntemleri dersi , sayfa 5

— PALEN
kaynak

0

Varsayalım ve , bu iki tane çekirdek matrisi olan ve , sırasıyla, ve PSD vardır. Bu tanımlar ve aynı zamanda bir çekirdektir ispat etmek istiyorum. Bu karşılık gelen çekirdek matrisinin PSD olduğunu kanıtlamaya eşdeğerdir . $K1$ $K2$ $k_1(x,y)$ $k_2(x,y)$ $k(x,y) = k_1(x,y)k_2(x,y)$ $K = K1 \circ K2$

$K_3 = K1 \otimes K2$ bir PSD'dir (İki PSD'nin kronecker ürünü PSD'dir).
$K$ , K_3'ün ana alt ve bu nedenle PSD'dir (PSD'nin ana alt matrisi PSD'dir). $K_3$

— ceyao zhang
kaynak