Sıradan en küçük karelerde altta çift çubuk ve 2'nin anlamı nedir?

Bu notasyonu burada sıradan en küçük kareler için gördüm .

min_{w} {‖ X w - y ‖}_{2}^{2}

$\min_w \left\| Xw - y \right\|^2_2$

Hiç çift çubuk ve 2 alt görmedim. Bu semboller ne anlama geliyor? Onlar için özel bir terminolojileri var mı?

— Aseem Bansal
kaynak

Çift çubukların kullanımı sadece L2 normunu kullandığımızı gösterir.

— Michael R.Chickick

@MichaelChernick ve 2? Bu "L2 normu" nun bir parçası mı?

— Aseem Bansal

Evet, L2 gibi, L1 de var.

— Jon

Bence

X_{w}

$X_w$ olmalıdır

X w

$Xw$ beri

w

$w$ bir vektör

— ilanman

@ilanman Evet, düzenlemeden önceki gösterimde olan buydu. Tekrar değiştirdim

— Aseem Bansal

Vektörün ( ) $\ell_2$ normu (Öklid normu) hakkında konuşuyorsunuz . Bu sizin için yabancıysa, kısaca, vektörünün normu : $Xw - y$ $\ell_p$ $u \in \mathbb{R}^{n}$

‖ u ‖_{p} = (\sum_{i = 1}^{n} | u_{i} |^{p})^{\frac{1}{p}}

$\|u\|_p = \big(\sum_{i=1}^{n} |u_i|^p\big)^{\frac1p}$

Bu durumda doğrusal bir regresyon için kare kalıntıların toplamı ile tutarlı olan . Regresyon sorunları bağlamında, bunu ortalama kare hata (MSE) hesaplamalarında ve sırt regresyonunda da çok göreceksiniz . $\|u\|_2^2 = (\big(\sum\limits_{i=1}^{n} |u_i|^2\big)^{\frac12})^2 = \sum\limits_{i=1}^{n} u_i^2$

Bu yaygın bir normdur (diğer nedenlerin yanı sıra, matematiksel olarak uygundur), bu nedenle bağlamdan açıkça anlaşıldığında, alt atlandığını ve sadece görürsünüz . $2$ $\|u\|^2$

Yorumlarda belirtildiği gibi -norm'u da görebilirsiniz : $\ell_1$

‖ u ‖_{1} = \sum_{i = 1}^{n} | u_{i} |

$\|u\|_1 = \sum_{i=1}^{n} |u_i|$

Hangi mutlak değere karşılık gelir. Yine, bunu ortalama mutlak hata (MAE) veya kement sorunları olarak göreceksiniz .

Diğer popüler normlar:

-norm: Hamming mesafesi veya bir vektörde sıfır olmayan #, yani bir vektörün genişliğini hesaplamada. Teknik olarak bu bir norm değildir (bu bir kardinalite fonksiyonudur), çünkü tanımda bir teriminiz var, ancak bir norm biçiminde olduğundan ona bir diyoruz.
- Bu norm, katsayıları gerçekten sıfırlamak istediğimiz için regresyon problemleri için indüklemede kullanılan ideal bir normdur, ancak normalleştirmesinin hesaplanması NP zordur, bunun yerine lineer programlama ile çözülebilen ile yaklaşık olarak . Sıkıştırılmış Algılama'da da popülerdir . $\ell_0$ $\ell_1$
$\ell_{\infty}$ -norm: = için $\underset{i} {\text{max}}$ $\{|x_i|\}$ $i = 1, ..., n$
$\|A\|_F$ : Frobenius (Öklid) normu, $A \in \mathbb{R}^{n\times m} = \sqrt{\sum \limits_{i=1}^{n}\sum \limits_{j=1}^{m}|a_{ij}|^2}$

— ilanman
kaynak

Wolfram alfa bağlantısı gerçekten yardımcı oldu.

— Aseem Bansal

Sen yazmak o içinde sıfırların (sözde) norm sayımları sayı vektör vermedi belki sayısını ortalama sigara -Zero girişleri? (Bu Gördüğüm kadarıyla daha tutarlı olurdu ve ayrıca anlamına geleceğini arasındaki Hamming uzaklığı olurdu ve , aksine varlık eksi mesafe.)

ℓ_{0}

$\ell_0$

‖ u ‖_{0}

$\lVert u \rVert_{0}$

u

$u$

0 \in R^{n}

$0 \in \mathbb R^n$

n

$n$

— wchargin

Yazım hatası: "Frobenius".

— hobbs

"Bu ortak bir norm" yerine "L2 normdur"

— derdim