Küçük sıralı çapraz güncellemeyle sistemi çözme

Orijinal büyük, seyrek doğrusal sisteme sahip olduğumu varsayalım: $A\textbf{x}_0=\textbf{b}_0$ . Şuan bende yok $A^{-1}$ A, faktörü veya herhangi bir şekilde ayrışmasını önlemek için çok büyük olduğundan $A$ , ama benim çözümüm olduğunu varsayalım $\textbf{x}_0$ yinelemeli bir çözümle bulundu.

Şimdi, A'nın köşegenine küçük bir sıra güncellemesi uygulamak istiyorum (köşegen girişlerin birkaçını değiştirin): $(A+D)\textbf{x}_1=\textbf{b}_0$ nerede $D$ diyagonal matrisi çoğunlukla köşegeninde 0 ve birkaç sıfır olmayan değerdedir. Eğer olsaydım $A^{-1}$ Tersine bir güncelleme uygulamak için Woodbury formülünden yararlanabilecektim. Ancak, bu mevcut değil. Tüm sistemi tekrar tekrar çözmek için yapabileceğim kısa bir şey var mı? Belki bir önkoşul bulmamın bir yolu var mı $M$ ki bu kolay \ tersine çevrilebilir, öyle ki $MA_1 \approx A_0$ , eğer sahip olsaydım tek yapmam gereken $\textbf{x}_0$ geçerli $M^{-1}$ ve yinelemeli bir yöntem birkaç / birkaç yinelemede birleşir mi?

linear-algebra iterative-method sparse-matrix

— Kostis
kaynak

İçin iyi bir ön koşullayıcı ile mi başlıyorsunuz?

A

$A$ ve nasıl güncelleneceğini bilmek ister misiniz? Güncelleme ne sırada? (Bir rütbe

1000

$1000$ boyut matrisine kıyasla güncelleştirme "küçük"

10^{9}

$10^9$ ancak yineleme sayısı açısından küçük değildir.)

— Jed Brown

A

$A$ büyüklüğünde

10^{6}

$10^6$ için

10^{7}

$10^7$ ve güncelleme <1000 (muhtemelen <100) öğedir. Gerçekten iyi çalışan A için çapraz tip bir önkoşul kullanıyorum, bu yüzden bu güncelleme önemsiz olacak, ama yeni sistemi sıfırdan çözmek yerine yapabileceğim daha iyi bir şey olup olmadığını merak ediyordum.

— Costis

Bir sistemin çözümü size bu konuda çok şey anlatmaz. Aynı sistemi birden çok kez çözerseniz, bu vektörler (ve / veya ilişkili Krylov uzayları) üzerindeki ters harita, yakınsamayı hızlandırmak için kullanılabilecek bazı bilgiler verir. Her durumda kaç sistemi çözüyorsunuz?

— Jed Brown

Şu anda sadece bir RHS (

b

$\textbf{b}$ vektör)

A

$A$ değiştirmeden önce matris

A

$A$ .

— Costis

İki matrisin sütunlarına kaydet $B$ ve $C$ tüm vektörler $b_j$ önceki yinelemelerde ve sonuçlarda matrisi uyguladığınız $c_j=Ab_j$ .
Her yeni sistem için $(A+D)x'=b'$ (veya $Ax=b'$ , bu özel durum $D=0$ ), aşırı belirlenmiş doğrusal sistemi yaklaşık olarak çözer $(C+DB)y\approx b'$ örneğin, satırların (muhtemelen tümü) bir alt kümesini seçerek ve yoğun bir en küçük kare yöntemini kullanarak. Yalnızca seçilen bölümün $C+DB$ toplanması gerekiyor; yani bu hızlı bir işlem!
Koymak $x_0=By$ . Bu, çözme için yinelemeyi başlatmak için iyi bir başlangıç yaklaşımıdır. $(A+D)x'=b'$ . Başka sistemlerin işlenmesi gerektiğinde, matrisleri genişletmek için bu yeni yinelemede matris vektör ürünlerini kullanın $B$ ve $C$ elde edilen alt sistemde.

Eğer matrisler $B$ ve $C$ ana belleğe sığmayın, saklayın $B$ seçin ve önceden satırların alt kümesini seçin. Bu, çekirdeğin ilgili kısmını çekirdekte tutmanıza izin verir $B$ ve $C$ en küçük kareler sistemini oluşturmak için gerekli ve $x_0$ tek geçişle hesaplanabilir $B$ çok az çekirdek bellek kullanımı.

Sıralar, tam problemin yaklaşık olarak kaba bir takdirine karşılık gelecek şekilde seçilmelidir. Toplam beklenen matris vektörü çarpım sayısından beş kat daha fazla satır almak yeterli olmalıdır.

Düzenleme: Bu neden çalışıyor? Yapım gereği, matrisler $B$ ve $C$ ile ilgili $C=AB$ . Altuzay sütunları tarafından yayılmışsa $B$ kesin çözüm vektörünü içerir $x'$ (nadir fakat basit bir durum) $x'$ forma sahip $x'=By$ bazı $y$ . Bunu denklem tanımlayıcıya koymak $x'$ denklemini verir $(C+DB)y= b'$ . Böylece bu durumda, yukarıdaki işlem başlangıç noktası olarak verir. $x_0=By=x'$ kesin çözüm budur.

Genel olarak, kimse bekleyemez $x'$ sütun uzayda yalan söylemek $B$ , ancak oluşturulan başlangıç noktası, bu sütun alanındaki en yakın nokta olacaktır. $x'$ , seçilen satırlar tarafından belirlenen bir metrik olarak. Dolayısıyla mantıklı bir yaklaşım olması muhtemeldir. Daha fazla sistem işlendikçe, sütun alanı büyür ve yaklaşıklığın çok daha fazla gelişmesi muhtemeldir, böylece kişi daha az ve daha az yinelemede birleşmeyi umabilir.

Edit2: Oluşturulan alt uzay hakkında: Bir kişi her sistemi bir Krylov yöntemiyle çözerse, ikinci sistem için başlangıç noktasını almak için kullanılan vektörler ilk sağ tarafın Krylov alt uzayını kapsar. Böylece, bu Krylov alt alanı ikinci sisteminizin çözümüne yakın bir vektör içerdiğinde iyi bir yaklaşım elde edilir. Genel olarak, vektörler, $(k+1)$ st sistemi ilk Krylov altuzayı içeren bir alana yayılır $k$ sağ taraf.

— Arnold Neumaier
kaynak

Teşekkürler, Prof. Neumaier. Bunu deneyeceğim. Bunun nasıl çalıştığına dair bana kısa bir açıklama yapabilir misiniz?

— Costis

Ayrıca, aynı sistemi birçok farklı RHS vektörü için çözmek istersem ne olur? yani

A x_{0} = b_{0}

$A\textbf{x}_0=\textbf{b}_0$ ,

A x_{1} = b_{1}

$A\textbf{x}_1=\textbf{b}_1$ ,

A x_{2} = b_{2}

$A\textbf{x}_2=\textbf{b}_2$ Önceki çözücülerden sonra gelenleri hızlandırmak için kullanabileceğim herhangi bir bilgi var mı?

— Costis

@Costis: Aynı matrise sahip bir çözüm sadece özel durumdur

D = 0

$D=0$ genel sorunun. İlk sorunuz için düzenlemeye bakın.

— Arnold Neumaier

@Costis: 2. adıma biraz daha ayrıntı ekledim. - Uygulamayı yazarsanız, lütfen bir ön baskı gönderin.

— Arnold Neumaier

Açıklama için teşekkürler! Neden aşırı belirlenmiş sistemi çözemiyorum?

(C + D B) y \approx b^{'}

$(C + DB)y \approx b'$ QR çarpanlara ayırma tabanlı bir yaklaşım kullanarak ve sadece bir alt küme yerine tüm satırları kullanarak? C ve B sütunlarının sayısı arttıkça, işlemin daha hızlı çalışmasını sağlamak için bazı satırlardan kurtulmak zorunda kalabilirim. Elbette, sistemin bir açıklamasını yazacağım ve size e-postayla göndereceğim. Aslında en genel durumdan daha iyi çalışabilecek uygulamaya özel bir plan bulmanın mümkün olduğunu düşünüyorum. Teşekkürler!

— Costis