Varsayılan matris normu neden Frobenius normu değil, spektral normdur?

Vektör normu için L2 normu veya "Öklid mesafesi" yaygın olarak kullanılan ve sezgisel bir tanımdır. Ama neden bir matris için "en çok kullanılan" veya "varsayılan" norm tanımı spektral normdur , fakat Frobenius normu değildir (vektörler için L2 normuna benzer)?

Bunun yinelemeli algoritmalar / matris güçleri ile bir ilgisi var mı (spektral yarıçap 1'den küçükse, algoritma birleşecektir)?

---

1. Her zaman "en çok kullanılan", "varsayılan" gibi kelimeler için tartışılabilir. Yukarıda belirtilen "varsayılan" kelimesi Matlabişlevdeki varsayılan dönüş türünden geliyor norm. In Rmatris için varsayılan norm L1 norm. Her iki bana "doğal olmayan" (a matris için, bunu yapmak daha "doğal" görünüyor $\sqrt{\sum_{i,j}a^{2}_{i,j}}$ vektördeki gibi). (@ Usεr11852 ve @ whuber'ın yorumları için teşekkürler ve karışıklık için özür dilerim.)

2. Matris normunun kullanımını genişletmek daha fazla anlamama yardımcı olur mu?

Genel olarak, spektral normun en yaygın olarak kullanıldığından emin değilim. Örneğin, Frobenius normu, negatif olmayan matris çarpanlarına ayırma veya korelasyon / kovaryans matris düzenlenmesi üzerindeki çözeltiyi yaklaşık olarak belirlemek için kullanılır . Bu sorunun bir kısmının, bazı insanların Frobenius normundan Öklid matris normu olarak söz ederken yaptıkları terminoloji kabahatlerinden kaynaklandığını düşünüyorum . Aslında olmamalıdır, çünkü $L_2$ matris normu (yani. Spektral normu) kullanıldığında matrislere indüklenir biri $L_2$ vektör normu. Frobenius normu bu element açısından akıllıca: ,L2matris normu (||A||2=$||A||_F = \sqrt{\sum_{i,j}a_{i,j}^2}$$L_2$) tekil değerlere dayanır, dolayısıyla daha "tek yönlü" olur. (? daha iyi bir dönem şans için)L2matris normu bu Öklid vektör normu, burada tarafından indüklenen bu yana Öklid tipi norm| | A| | 2=maks | | x | | 2 = 1 | | Ax| | 2. Bu nedenle biruyarılmış normmatrisleri için çünküuyarılana göre$||A||_2 = \sqrt{\lambda_{max}(A^T A)})$$L_2$$||A||_2 = \max\limits_{||x||_2 =1} || Ax||_2$vektör normu , bu durumda vektör normu.$L_2$

Muhtemelen MATLAB amaçları sağlamak için komutunu kullanarak varsayılan olarak normunu ; Bunun bir sonucu olarak bu içerir Öklid vektör normu değil, aynı zamanda L 2 matris normu, yani. spektral matris normu (yerine yanlış alıntı " Frobemino / Öklid matris normu "). Son olarak, varsayılan normun ne olduğunu bir ölçüde genişletmek için bir görüş meselesi olduğunu not edeyim : Örneğin JE Gentle'nin " Matris Cebiri - Teori, Hesaplamalar ve İstatistikteki Uygulamalar " kelimesi tam anlamıyla " Frobenius " adlı bir bölüme (3.9.2) sahiptir. Norm - “Olağan” Norm$L_2$norm$L_2$"; açık bir şekilde spektral norm, dikkate alınan tüm taraflar için varsayılan norm değildir! :) @amoeba tarafından yorumlandığı gibi, farklı toplulukların farklı terminoloji sözleşmeleri olabilir. Gentle'nin kitabının, İstatistikler Lin cebir uygulaması ve ben daha fazla bakmak istemek istiyorum!

Yanıtın bir kısmı sayısal hesaplama ile ilgili olabilir.

$$Ax=b$$ $\tilde x$ due to the constraints of finite arithmetics, so that $A\tilde x \approx b$, in some suitable sense. What is it that your solution represents, then? Well, it may well be an exact solution to some other system like $$\tilde A \tilde x = \tilde b$$ So for $\tilde x$ to have utility, the tilde-system must be close to the original system: $$\tilde A \approx A, \quad \tilde b \approx b$$ $\tilde A-A$$\tilde b-b$$\| \tilde A-A \|$$\| \tilde b-b\|$. For some analyses, the $l_1$ norm (max column sum) is the easiest one to push through, for others, the $l_\infty$ norm (max row sum) is the easiest to push through (for components of the solution in the linear system case, for instance), and for yet others, the $l_2$ spectral norm is the most appropriate one (induced by the traditional $l_2$ vector norm, as pointed out in another answer). For the work horse of statistical computing in symmetric p.s.d. matrix inversion, Cholesky decomposition (trivia: the first sound is a [x] as in Greek letter "chi", not [tʃ] as in "chase"), the most convenient norm to keep track of the error bounds is the $l_2$ norm... although the Frobenius norm also pops up in some results e.g. on partitioned matrix inversion.

The answer to this depends on the field you're in. If you're a mathematician, then all norms in finite dimensions are equivalent: for any two norms $\|\cdot\|_a$ and $\|\cdot\|_b$, there exist constants $C_1,C_2$, which depend only on dimension (and a,b) such that:

$$C_1\|x\|_b\leq \|x\|_a\leq C_2\|x\|_b.$$

This implies that norms in finite dimensions are quite boring and there is essentially no difference between them except in how they scale. This usually means that you can choose the most convenient norm for the problem you're trying to solve. Usually you want to answer questions like "is this operator or procedure bounded" or "does this numerical process converge." With boundedness, you only usually care that something is finite. With convergence, by sacrificing the rate at which you have convergence, you can opt to use a more convenient norm.

For example, in numerical linear algebra, the Frobenius norm is sometimes preferred because it's a lot easier to calculate than the euclidean norm, and also that it naturally connects with a wider class of Hilbert Schmidt operators. Also, like the Euclidean norm, it's submultiplictive: $\|AB\|_F\leq \|A\|_F\|B\|_F$, unlike say, the max norm, so it allows you to easily talk about operator multiplication in whatever space you're working in. People tend to really like both the $p=2$ norm and the Frobenius norm because they have natural relations to both the eigenvalues and singular values of matrices, along with being submultiplictive.

For practical purposes, the differences between norms become more pronounced because we live in a world of dimensions and it usually matters how big a certain quantity is, and how it's measured. Those constants $C_1,C_2$ above are not exactly tight, so it becomes important just how much more or less a certain norm $\|x\|_a$ is compared to $\|x\|_b$.