“Doğrusal olmayan”, “doğrusal olmayan boyutsallığın azaltılması” nda nasıl anlaşılır?

24

Doğrusal boyutsallık azaltma yöntemleri (örneğin, PCA) ve doğrusal olmayanlar (örneğin, Isomap) arasındaki farkları anlamaya çalışıyorum.

Doğrusal olmamanın bu bağlamda ne anlama geldiğini tam olarak anlayamıyorum. Ben okunan Vikipedi o

Karşılaştırma yapılırsa, aynı veri setini iki boyuta indirmek için PCA (doğrusal bir boyutsallık azaltma algoritması) kullanılırsa, elde edilen değerler o kadar iyi organize edilmez. Bu, bu manifoldu örnekleyen yüksek boyutlu vektörlerin (her biri 'A' harfini temsil eden) doğrusal olmayan bir şekilde değiştiğini göstermektedir.

Nedir

bu manifoldu örnekleyen yüksek boyutlu vektörler (her biri 'A' harfini temsil eder) doğrusal olmayan bir şekilde değişir.

anlamına gelmek? Ya da daha genel olarak, bu bağlamdaki (non) doğrusallığı nasıl anlarım?

— Sibbs Kumar
kaynak

20

Boyutsallık azaltma, her çok boyutlu vektörü düşük boyutlu bir vektörle eşleştirdiğiniz anlamına gelir. Başka bir deyişle, çok boyutlu her bir vektörü düşük boyutlu bir vektör ile temsil edersiniz (değiştirirsiniz).

Doğrusal boyutsallığın azaltılması, düşük boyutlu vektörün bileşenlerinin, karşılık gelen yüksek boyutlu vektörün bileşenlerinin doğrusal fonksiyonları ile verildiği anlamına gelir. Örneğin, iki boyuta indirgeme durumunda biz var:

[x1, x2, ..., xn] ->  [f1(x1, x2, ..., xn), f2(x1, x2, ..., xn)]

Doğrusal olmayan fonksiyonlar ( f1ve f2) değilse , (doğrusal olmayan) bir boyutsallık azaltmaya sahibiz.

— Roma
kaynak

3

f (a \cdot x + b) = a \cdot f (x) + b

$f(a\cdot x + b) = a\cdot f(x) + b$

w_{1} x_{1} + \dots + w_{n} x_{n}

$w_1x_1 + \dots + w_nx_n$

— shadowtalker 18:14

1

f_{i} = f_{i} (x_{1}, \dots, x_{n}) = c^{(i)} + ω_{1}^{(i)} x_{1} + \dots ω_{n}^{(i)} x_{n}

$f_i = f_i (x_1, \dots, x_n) = c^{(i)} + \omega^{(i)}_1 x_1 + \dots \omega^{(i)}_n x_n$

f_{i}

$f_i$

x_{i}

$x_i$ sırasıyla düşük ve yüksek boyutlu vektörlerin bileşenleridir (ve demek istediğin bu değildir). Sorunun doğrusal bir fonksiyonun ne olduğunu anlamada olmadığını, doğrusallığın ortaya çıktığı yerde olduğunu düşündüm.

— Roma

49

Bir resim bin kelime değerinde bir olup:

PCA vs Isomap

Burada 2B'de 1 boyutlu yapı arıyoruz. Noktalar S şeklinde bir eğri boyunca uzanır. PCA, verileri basitçe bir çizgi olan doğrusal 1 boyutlu bir manifold ile tanımlamaya çalışır ; Elbette bir çizgi bu verilere oldukça uyuyor. Isomap doğrusal olmayan (yani kavisli!) 1 boyutlu bir manifold arıyor ve altta yatan S şeklindeki eğriyi keşfedebilmelidir.

— amip Reinstate Monica diyor
kaynak