Bir korelasyon matrisinden en az korelasyonlu rasgele değişken alt kümesi

Bir korelasyon matrisim var $A$Matlab'ın düzeltme () ile Pearson doğrusal korelasyon katsayısını kullanarak elde ettiğim . 100x100 boyutundaki korelasyon matrisi, yani I 100 rastgele değişken üzerindeki korelasyon matrisini hesapladım.

Bu 100 rasgele değişken arasında, korelasyon matrisi mümkün olduğunca "küçük korelasyon" içeren 10 rasgele değişkeni bulmak istiyorum (bkz. Bir korelasyon matrisi A'nın ölçülecek metriklerle ilgili olarak bir korelasyon matrisi B'nin ne kadar "daha fazla korelasyon" içerdiğini belirleme korelasyon matrisindeki genel korelasyon). Sadece ikili ilişkiyi önemsiyorum.

Bu 10 rastgele değişkeni makul bir sürede bulmak için iyi yöntemler var mı (örneğin kombinasyonlarını denemek istemiyorum )? Yaklaşık algoritmalar tamam.$\binom{100}{10}$

Seçim ölçümüz olarak mutlak ikili korelasyonların toplamını ele alalım. Böylece en aza indirecek olan ile bir vektör ; burada.$v\in\{0,1\}^N$$l_1(v)=n$$v'Qv$$Q_{ij}=|A_{ij}|$

Q'nun A olarak da pozitif olduğunu varsayalım, sorun kuadratik kuadratik optimizasyon probleminin çözülmesine indirgenir:

$$v^*=\min\ v'Qv\ s.t.\ l_1(v)=n,\ v_i\in\{0,1\}$$

Bu, aşağıdaki rahatlamayı önerir:

$$v^*=\min\ v'Qv\ s.t.\ l_1(v)=n,\ v_i\in[0,1]$$

kullanıma hazır çözücüler kullanılarak kolayca çözülebilen; sonuç, içindeki en büyük bileşeni tarafından verilir .$n$$v^*$

Örnek matlab kodu:

N=100;
n=10;
% Generate random data
A=rand(N,1000);
C=corrcoef(A');
Q=abs((C+C')/2); % make sure it is symmetric
x = cplexqp(Q,zeros(1,N),[],[], ones(1, N),n, zeros(N,1), ones(N,1));
% If you don't use CPLEX, use matlab's default
% x = quadprog(Q,zeros(1,N),[],[], ones(1, N),n, zeros(N,1), ones(N,1));
assert(abs(sum(x)-n)<1e-10);
% Find the n largest values
I=sort(x); 
v=zeros(size(x)); v(x>I(N-n))=1; 
assert(abs(sum(v)-n)<1e-10);
% Make sure we do better than 10K random trials
for i=1:10000
   vc=zeros(size(x)); vc(randperm(N,n))=1;
   assert(sum(vc)==n, 'Wrong l0 norm');
   assert(vc'*Q*vc>v'*Q*v, 'Improves result');
end
% Show results
J=find(v==1);
fprintf('The optimal solution total off-diagonal correlations are %1.3f\n', v'*Q*v-n);
fprintf('The matrix:\n');
C(J,J)

Bu @ ttnphns'ın hiyerarşik kümeleme fikrinden daha kötü olabilir. Ancak: yı giderek artan bir alt-modüler objektif işlevi olarak kullanan bir makalede :$\log \det(I + A)$

Vanchinathan, Marfurt, Robelin, Kossman ve Krause. Büyük Verilerden Değerli Öğeleri Keşfetmek . KDD 2015. ( doi , arXiv )

Bunun "en az ilişkili" ölçüsünün makul bir ölçüsü olduğunu düşünüyorsanız, bunu en üst düzeye çıkaracak noktayı yineleyerek seçerek en uygun kümenin faktörüne girebilirsiniz . Bu, blok LU ayrışması ile verimli bir şekilde yapılabilir , burada , matristeki girişlerle korelasyonların vektörüdür:$1-1/e$$v$

$$\begin{align*} \det \begin{bmatrix} I+A & v \\ v^T & 2 \end{bmatrix} &= \det \left( \begin{bmatrix} I & 0 \\ v^T (I+A)^{-1} & 1 \end{bmatrix} \begin{bmatrix} I+A & 0 \\ 0 & 2 - v^T (I+A)^{-1} v \end{bmatrix} \begin{bmatrix} I & (I+A)^{-1} v \\ 0 & 1 \end{bmatrix} \right) \\&= \det \begin{bmatrix} I & 0 \\ v^T (I+A)^{-1} & 1 \end{bmatrix} \det \begin{bmatrix} I+A & 0 \\ 0 & 2 - v^T (I+A)^{-1} v \end{bmatrix} \det \begin{bmatrix} I & (I+A)^{-1} v \\ 0 & 1 \end{bmatrix} \\&= (2 - v^T (I+A)^{-1} v) \det (I+A) \end{align*}$$

ve elbette , burada , Cholesky çarpanlarına ve bir üçgen çözücü kullanır ki . Bu süreç almalıdır Böylece almak için bir zaman üzerinden ilişkiyi gösteren bir tablo varsayarak elemanlarının önceden hesaplanır .$v^T (I+A)^{-1} v = \lVert L^{-1} v \rVert^2$$L$$I + A$$O(n^2)$$O( \sum_{k=1}^n N k^2 + k^3) = O( N n^3 )$$n$$N$

Ne demek istediğinizi tam olarak anladığımdan emin değilim, "sadece ikili korelasyonu önemsiyorum" , ama yardımcı olabilecek bir şey var: korelasyon matrisinizin tersini kullanın. terimi eşittir , olan x matrisi inşa burada sütunu ve satırı kaldırılmıştır.$A^{-1}_{ii}$$det(A_{0_i}) / det(A)$$A_{0_i}$$(n-1)$$(n-1)$$A$$i$

de minimum diyagonal katsayının indeksini almak , setin geri kalanı ile en düşük korelasyonun hangi noktanın olduğunu gösterir.$A^{-1}$

Gerçekte ne yapmak istediğinize bağlı olarak, eviricinin diyagonalindeki en düşük 10 değeri alabilir veya ilkini alabilir, ardından evirmeyi silinen nokta ile hesaplayabilirsiniz ve bu şekilde devam edebilirsiniz.

İhtiyacınız olan şey bu değilse, bu hile hala yardımcı olabilir gibi hissediyorum, ama nasıl olsa emin değilim.

Bul bir az İkili korelasyon olan öğeler: söz hakkından bir korelasyon yana açıklıyor o hedef için korelasyon karelerinin toplamını en aza indirmek için daha mantıklı iki seri arasında ilişki kalemleri. İşte benim basit çözümüm.$k$$n$$0.6$$0.36$$k$

korelasyon matrisinizi bir korelasyon kareleri matrisine yeniden yazın . Her sütunun karelerini toplayın. En yüksek toplamı içeren sütunu ve ilgili satırı eleyin. Artık matrisiniz var. matrisiniz olana kadar tekrarlayın . Ayrıca, sadece içeren sütunlar ve ilgili satırları tutmak en küçük toplamlar. Yöntemleri karşılaştırarak, ve olan bir matriste , yakın toplamı olan sadece iki maddenin farklı tutulduğunu ve elendiğini buldum .$n \times n$$(n−1)\times (n−1)$$k\times k$$k$$n=43$$k=20$