İçin yinelemeli “çözücü”

Aşağıdaki sorunu düşünen ilk kişi olduğumu düşünemiyorum, bu yüzden bir referanstan memnun olacağım (ancak eksiksiz, ayrıntılı bir cevap her zaman takdir edilir):

Diyelim ki, simetrik bir pozitif tanımınız var $\Sigma \in \mathbb{R}^{n \times n}$. $n$ çok büyük olduğu düşünülüyor $\Sigma$hafızada imkansız. Ancak,$\Sigma x$, herhangi $x \in \mathbb{R}^{n}$. Biraz verilen$x \in \mathbb{R}^{n}$, bulmak istersin $x^t\Sigma^{-1}x$.

İlk akla gelen çözüm bulmak $\Sigma^{-1}x$eşlenik gradyanlar kullanarak (diyelim). Bununla birlikte, bu biraz israf gibi görünüyor - bir skaler arıyorsunuz ve süreçte dev bir vektör buluyorsunuz.$\mathbb{R}^{n}$. Skaleri doğrudan hesaplamak için bir yöntem bulmak daha mantıklı görünmektedir (örn.$\Sigma^{-1}x$). Bu tür bir yöntem arıyorum.

Aslında çözmeden istediğini yapan herhangi bir yöntem duyduğumu sanmıyorum $y=\Sigma^{-1}x$.

Sunabileceğim tek alternatif, özvektörler ve-değerleri hakkında bir şey biliyor olmanızdır. $\Sigma$. Onların olduğunu bildiğini söyle$\lambda_i,v_i$, o zaman temsil edebilirsin $\Sigma=V^T L V$ nerede sütunları $V$ bunlar $v_i$, ve $L$diyagonal üzerinde özdeğerleri olan bir köşegen matristir. Sonuç olarak,$\Sigma^{-1}=V^T L^{-1} V$ ve bunu anladın

$$x^T \Sigma^{-1} x = x^T V^T L^{-1} V x = \sum_i \lambda_i^{-1} (v_i^T x)^2.$$ Bu elbette tüm özdeğerleri, yani tam bir matrisi depolamanızı gerektirir$V$. Ancak, eğer özdeğerlerin sadece birkaçının$\Sigma$ küçük, ilk önce söyle $m$ve geri kalanı o kadar büyük ki, tüm terimleri ihmal edebilirsiniz. $\lambda^{-1}_i$ için $i>m$, sonra yaklaşık $$x^T \Sigma^{-1} x = \sum_{i=1}^n \lambda_i^{-1} (v_i^T x)^2 \approx \sum_{i=1}^m \lambda_i^{-1} (v_i^T x)^2.$$ Bu yalnızca depolamanızı gerektirir $m$ hepsi yerine vektörler $n$ özvektörler.

Tabii ki, pratikte özdeğerleri ve özvektörleri hesaplamak, basitçe çözmeyle karşılaştırıldığında genellikle eşit veya daha zordur. $y=\Sigma^{-1}x$ bir kaç sefer.