CG kullanarak çözerken determinantın hesaplanması

11

I çözme am büyük bir seyrek pozitif belirli bir matrisi konjuge gradyan (CG) yöntemi kullanılarak. Çözme sırasında üretilen bilgileri kullanarak determinantını hesaplamak mümkün müdür ? $Ax=b$ $A$ $A$

— Manuel Schmidt
kaynak

Neden determinantı hesaplamak istersiniz? Böyle bir sonuç muhakkak büyük bir matris için bir taşma veya taşma olacaktır. Durum numarasını hesaplamanızı isteseydim daha hayırsever olurdum, ancak belirleyiciye zaman kaybetmeyin!

Muhtemelen zaten biliyorsunuzdur, ancak konjugat gradyan işlemi sırasındaki Ritz değerleri matrisin özdeğerlerine yakınsar ve bundan belirleyici için basit tahminler elde edebilirsiniz.

— shuhalo

10

Seyrek bir matrisin determinantını hesaplamak tipik olarak doğrudan bir çözme kadar pahalıdır ve CG'nin hesaplanmasında çok yardımcı olacağından şüpheliyim. Bunun için CG çalıştırmak mümkün olur (iterasyon olduğunu tüm spektrumunu bilgi üretmek için) ve daha sonra özdeğerler ürün olarak belirleyici hesaplamak, ancak bu, hem yavaş olacaktır ve sayısal olarak kararsız. $n$ $A$ $n \times n$ $A$

Matrisinizin seyrek-doğrudan Cholesky çarpanlarına ayırmasını hesaplamak daha iyi bir fikir olabilir, örneğin , burada düşük üçgen şeklindedir. Sonra burada basitçe alt üçgen matrisinin köşegen girişlerinin çarpımıdır, çünkü üçgen matrisin özdeğerleri köşegen boyunca uzanır. $A = L L^H$ $L$

det (A) = det (L) det (L^{H}) = | det (L) |^{2},

$\text{det}(A) = \text{det}(L) \text{det}(L^H) = |\text{det}(L)|^2,$

det (L)

$\text{det}(L)$

L

$L$

Genel tekil olmayan bir matris durumunda, pivotlu bir LU ayrışması kullanılmalıdır, örneğin , burada bir permütasyon matrisidir, böylece Yana bir permütasyon matrisidir yapı ile, ve, tipik olarak ima, hepsinin bir köşegen olacak . Böylece olarak hesaplayabilirsiniz. $PA=LU$ $P$

det (A) = det (P^{- 1}) \cdot det (L) \cdot det (U) .

$\text{det}(A) = \text{det}(P^{-1}) \cdot \text{det}(L) \cdot \text{det}(U).$

P

$P$

det (P) = \pm 1

$\text{det}(P)=\pm 1$

L

$L$

det (L) = 1

$\text{det}(L)=1$

det (A)

$\text{det}(A)$

\pm det (U)

$\pm \text{det}(U)$ ve yine bir üçgen matrisin determinantının basitçe onun köşegen girdilerinin ürünü olduğunu kabul edin. Dolayısıyla, determinantın hesaplanma maliyeti esasen sadece bir çarpanlara ayırma maliyetidir.

— Jack Poulson
kaynak

Matris ufacıksa (olasılıklı çarpanlara ayırmayı kullansam da) bu olasılıklardan biri olurdu, ancak boyutu ~ ve bu nedenle bir ayrışma yapmak mümkün değildir

A

$A$

10^{6} x 10^{6}

$10^6 x 10^6$

— Manuel Schmidt

@ManuelSchmidt Sonlu elemanlar tipi ayrıklaştırmalardan kaynaklanan bu boyuttaki seyrek matrisler genellikle (örneğin) multifrontal yöntemlerle kolayca faktörleştirilebilir. Matrisiniz HPD ise (ve yukarıdaki argümanımın genelleştirilmesi açıksa) Cholesky faktorizasyonunun kullanılması gerektiğine katılıyorum.

— Jack Poulson

Hızlı cevap ve cevabınız için teşekkürler. Ne yazık ki matrisin spezial bir yapısı yoktur (bu da kolay bir çarpanlara ayırmaya izin verir).

— Manuel Schmidt

2

Matrisin determinantını neden hesaplamanız gerektiğini merak ediyorum. En yüksek ve en düşük özdeğerler yeterli değil mi?

— Jack Poulson

Yalnızca normalleştirme sabitinin değil, karmaşık olasılık dağılım işlevinin bir parçasıdır. Dağıtımların çarpanlarına ayrılabileceğini biliyorum (ve şu anda yaptığımız şey budur) ancak modellemek için tonlarca veriye sahibiz ve her bir faktör devasa hale geliyor.

— Manuel Schmidt

6

Diğerleri bunu zaten kaydetti, ancak matrisin büyük olduğunda determinantın neredeyse her zaman yararlı bir miktar olmadığını belirtmeye değer. Sorun şu ki, büyük matrisler çoğunlukla daha büyük boyutlu şeylere (büyük popülasyonların istatistiksel örnekleri, kısmi diferansiyel denklemler gibi sonsuz boyutlu şeylere sonlu boyutlu yaklaşımlar) yakınlıklardır. Matrisinizin ve bir şekilde işleminin ve muhtemelen olduğu tahmin edelim . $A$ $B$ $\textrm{dim}A \ll \textrm{dim} B$ $\textrm{dim}B=\infty$

Şimdi, operatör , aynı zamanda, bir spektruma sahip olacak ve spektrumu tipik olarak spektrumuna bir anlamda ilgili olacaktır - örneğin, eigen yaklaşık (bir alt kümesi) kişilerce . Ancak bu, yaklaşık olduğu anlamına gelmez . Aslında, eğer, örneğin, özdeğer eigen bazı yaklaşık , daha sonra $B$ $A$ $B$ $A$ $B$ $\textrm{det}A$ $\textrm{det}B$ $A$ $B$

det A = \prod_{j = 1 \dots dim A} λ_{i} (A) \approx \prod_{j = 1 \dots dim A} λ_{i} (B) \prod_{j = dim A + 1 \dots dim B} λ_{i} (B)

$\textrm{det}A = \prod_{j=1\ldots \textrm{dim}A} \lambda_i(A) \approx \prod_{j=1\ldots \textrm{dim}A} \lambda_i(B) \prod_{j=\textrm{dim}A+1\ldots \textrm{dim}B} \lambda_i(B)$ ancak bu üründeki ikinci faktör tipik olarak ya tarafından çözülmeyen küçük veya büyük öz değerlerinin ürünüdür . Başka bir deyişle, bu faktör tipik olarak çok küçüktür ( ise muhtemelen sıfır ) veya çok büyüktür (muhtemelen sonsuz). Başka bir deyişle, tüm bu durumlarda, tipik olarak yaklaşık sahip olmadığını ve genellikle hesaplamak için yararlı bir şey olmadığını düşünüyoruz.

B

$B$

A

$A$

dim B = \infty

$\textrm{dim}B=\infty$

det A

$\textrm{det}A$

det B

$\textrm{det}B$

— Wolfgang Bangerth
kaynak

Burada, büyük ölçüde belirleyicilerin hesaplanmasını içeren gerçekten güzel ve pratik bazı algoritmalarımız olduğu ortaya çıkıyor. Check out www-m3.ma.tum.de/foswiki/pub/M3/Allgemeines/...

— Matt Knepley

2

Belirleyicilerin niçin ve nasıl kötü olduğuna (tekrar) bakmadan, operatörünüzün kolayca çarpanlara ayrıştırılamadığını veya sadece bir matris olarak mevcut olmadığını ve gerçekten de belirleyicisini tahmin etmeniz gerektiğini varsayalım .

Determinantın bir tahminini elde etmenin bir yolu, doğrudan Lanczos sürecine dayanan bir CG uygulaması kullanmaktır. Örneğin, Saad'ın " Seyrek Doğrusal Sistemler için İteratif Yöntemler " (SIAM) kitabında Algoritma 6.17 (D-Lanczos) , sayfa 189. Burada operatörü yarı açık bir şekilde çarpanlara ayrılmıştır ve faktörlerin determinantını bir tahmin olarak kullanabilirsiniz. belirleyicisinin . Asla bir determinant tahmin etmeye çalışmadım ve önerdiğim şeyin iyi bir fikir olup olmadığı hakkında hiçbir fikrim yok --- muhtemelen hayalet özdeğerlerinin bize verdiği tüm sorunları vermediklerini vurgulayayım. Ancak, sorunuzu okurken akla gelen budur. $A$ $A$

Muhtemelen kitabın Bölüm 6.7.3'ünü yakından takip ederek, belirleyicinin bu tahmininin CG'nin standart uygulamasında nasıl ortaya çıktığını tersine mühendislik yapabilirsiniz.

— Dominique
kaynak

2

A matrisinin belirleyicisi burada - adımlar hesaplanır CG yinelemesi sırasında. Ancak bu yalnızca ise . Kanıt şudur. Let vektörleri oluşan bir matris ve izin oluşan bir matris . Böylece, determinant . Şimdi ihbar vektörler olduğunu orthgonal ve vektörler göre eşlenik olan

d e t (A) = \prod_{i = 1}^{n} α_{k}^{- 1},

$det(A) = \prod_{i = 1}^n \alpha_k^{-1},$

α_{k} = \frac{r_{k}^{T} r_{k}}{p_{k}^{T} A p_{k}}

$\alpha_k = \cfrac{r_k^Tr_k}{p_k^TAp_k}$

r_{k} \neq 0 \forall k = 1, \dots, n

$r_k \ne 0 \;\,\forall k=1, \ldots, n$

R

$R$

r_{k}

$r_k$

P

$P$

p_{k}

$p_k$

p_{k} = - r_{k} + \sum_{i = 1}^{k - 1} γ_{i} r_{i} .

$p_k = -r_k + \sum_{i=1}^{k-1}\gamma_i r_i.$

d e t (P) = (- 1)^{n} d e t (R)

$det(P) = (-1)^n det(R)$

r_{k}

$r_k$

p_{k}

$p_k$

A

$A$ . Bu nedenle

\prod_{k = 1}^{n} α_{k} = \prod_{k = 1}^{n} \frac{r_{k}^{T} r_{k}}{p_{k}^{T} A p_{k}} = \frac{d e t (R^{T} R)}{d e t (P^{T} A P)} = \frac{d e t (R^{T} R)}{d e t (A) d e t (P^{T} P)} = (d e t (A))^{- 1} .

$\prod_{k = 1}^n \alpha_k = \prod_{k = 1}^n \frac{r_k^T r_k}{p_k^TAp_k} = \frac{det(R^TR)}{det(P^TAP)} = \frac{det(R^TR)}{det(A)det(P^TP)}= (det(A))^{-1}.$

— Yermek
kaynak