0-1 matris vektör çarpımının otomatik optimizasyonu

22

Soru:

Matris yoğun ve yalnızca sıfırlarla dolu olduğunda bir matris-vektör çarpımını etkin şekilde uygulayan kod üretmek için prosedür veya teori var mı? İdeal olarak, optimize edilmiş kod, çoğaltılmış işi azaltmak için önceden hesaplanmış bilgilerin sistematik bir şekilde kullanılmasını sağlar.

Başka bir deyişle, bir matrisine sahibim ve daha sonra vektörünü aldığımda hesaplanmasını mümkün olduğu kadar verimli hale getirecek olan dayalı bir ön hesaplama yapmak istiyorum . $M$ $M$ $Mv$ $v$

$M$ , "derleme zamanında" bilinen, dikdörtgen, yoğun, ikili bir ikili matristir; , yalnızca "çalışma zamanında" bilinen, bilinmeyen bir gerçek vektördür. $v$

Örnek 1: (sürgülü pencere)

Amacımı göstermek için kolay küçük bir örnek kullanmama izin verin. Matrisi göz önünde bulundurun, Diyelim ki bu matrisi vektörüne almak için vektörüne uyguladık . Ardından sonucun girişleri:

M = [\begin{matrix} 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 \end{matrix}] .

$M = \begin{bmatrix}1 & 1 & 1 & 1 & 1\\ & 1 & 1 & 1 & 1 & 1 \\ & & 1 & 1 & 1 & 1 & 1\\ & & & 1 & 1 & 1 & 1 & 1\end{bmatrix}.$

v

$v$

w = M v

$w = Mv$

\begin{aligned} w_{1} & = v_{1} + v_{2} + v_{3} + v_{4} + v_{5} \\ w_{2} & = v_{2} + v_{3} + v_{4} + v_{5} + v_{6} \\ w_{3} & = v_{3} + v_{4} + v_{5} + v_{6} + v_{7} \\ w_{4} & = v_{4} + v_{5} + v_{6} + v_{7} + v_{8} \end{aligned}

$\begin{align} w_1 &= v_1 + v_2 + v_3 + v_4 + v_5\\ w_2 &= v_2 + v_3 + v_4 + v_5 + v_6\\ w_3 &= v_3 + v_4 + v_5 + v_6 + v_7\\ w_4 &= v_4 + v_5 + v_6 + v_7 + v_8 \end{align}$

Standart bir matris-vektör çarpımı yapmak, tam olarak bu şekilde hesaplar. Ancak bu çalışmaların çoğu gereksizdir. "Koşu toplamı" sonraki sayıyı almak için toplama / çıkarma yaparak aynı matris hesaplamasını daha düşük maliyetle yapabiliriz:

\begin{aligned} w_{1} & = v_{1} + v_{2} + v_{3} + v_{4} + v_{5} \\ w_{2} & = w_{1} + v_{6} - v_{1} \\ w_{3} & = w_{2} + v_{7} - v_{2} \\ w_{4} & = w_{3} + v_{8} - v_{3} \end{aligned}

$\begin{align} w_1 &= v_1 + v_2 + v_3 + v_4 + v_5\\ w_2 &= w_1 + v_6 - v_1\\ w_3 &= w_2 + v_7 - v_2\\ w_4 &= w_3 + v_8 - v_3 \end{align}$

Örnek 2: (hiyerarşik yapı)

Önceki örnekte, çalışan toplamı izleyebildik. Bununla birlikte, genellikle bir ara sonuç ağacı oluşturmak ve saklamak gerekir. Örneğin, düşünün Bir ara sonuç ağacı kullanılarak verimli bir şekilde hesaplanabilir :

M = [\begin{matrix} 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 \\ 1 & 1 \\ 1 & 1 \\ 1 & 1 \\ 1 & 1 \end{matrix}]

$M = \begin{bmatrix}1 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 \\ & & & & 1 & 1 & 1 & 1\\ 1 & 1 \\ & & & & 1 & 1 \\ & & 1 & 1 \\ & & & & & & 1 & 1\end{bmatrix}$

w = M v

$w = Mv$

Compute ve ve almak için onları eklemek . $w_5$ $w_7$ $w_3$
Compute ve ve almak için onları eklemek . $w_4$ $w_6$ $w_2$
Ekle ve olsun için $w_2$ $w_3$ $w_1$

Yukarıdaki örneklerde yer alan yapıyı görmek kolaydır, ancak ilgilendiğim gerçek matrisler için yapı o kadar basit değildir.

Örnek 3: (düşük seviye)

Bir karışıklığı gidermek için, matrisler genellikle seyrek değildir. Spesifik olarak, bu problemi çözen bir yöntemin, büyük blokların büyüklerle doldurulduğu matrisleri uygulamak için etkili yöntemler bulabilmesi gerekir. Örneğin, düşün

M = [\begin{matrix} 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 \end{matrix}] .

$M = \begin{bmatrix}1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & & \\ 1 & 1 & 1 & 1 & & \\ 1 & 1 & 1 & 1 & & \end{bmatrix}.$

Bu matris iki sıra-1 matrisin farkı olarak ayrıştırılabilir,

M = [\begin{matrix} 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \end{matrix}] - [\begin{matrix} 1 & 1 \\ 1 & 1 \\ 1 & 1 \end{matrix}]

$M = \begin{bmatrix}1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1 \\ 1 & 1 & 1 & 1 & 1 & 1\end{bmatrix} - \begin{bmatrix}& & & & & \\ & & & & & \\ & & & & 1 & 1 \\ & & & & 1 & 1 \\ & & & & 1 & 1\end{bmatrix}$

bu nedenle vektöründeki eylemi , $w := Mv$

\begin{aligned} w_{1} & = v_{1} + v_{2} + v_{3} + v_{4} + v_{5} + v_{6} \\ w_{2} & = w_{1} \\ w_{3} & = w_{2} - v_{5} - v_{6} \\ w_{4} & = w_{3} \\ w_{5} & = w_{4} . \end{aligned}

$\begin{align} w_1 &= v_1 + v_2 + v_3 + v_4 + v_5 + v_6 \\ w_2 &= w_1 \\ w_3 &= w_2 - v_5 - v_6 \\ w_4 &= w_3 \\ w_5 &= w_4. \end{align}$

Motivasyon:

Bazı görüntü işleme için sayısal bir yöntem üzerinde çalışıyorum ve her zaman sabit olan farklı yapılara sahip birkaç büyük yoğun matris var. Daha sonra bu matrislerin , kullanıcının girişine bağlı olacak birçok bilinmeyen vektöre uygulanmaları gerekecektir. Şu anda matris bazında etkin kod bulmak için kalem ve kağıt kullanıyorum, ancak işlemin otomatikleştirilip gerçekleştirilemeyeceğini merak ediyorum. $0-1$ $v_i$

Düzenleme: (postscript)

Buradaki cevapların hepsi (9/5 / 15'ten itibaren) ilginç, ancak hiçbiri soruyu umduğum kadar tatmin edici bir şekilde cevaplamıyor. Muhtemelen bunun zor bir araştırma sorusu olduğu ve hiç kimsenin iyi bir cevap bilmediği ortaya çıktı.

Zaman bittiğinden beri, doğru soruyu yanıtladığından EvilJS'in cevabına ödül veriyorum . Ancak cevabın daha net ve ayrıntılı açıklamalar içermesini diliyorum.

tranisstor'ın cevabı bu soru ile Çevrimiçi Boolean Matris-Vektör Çarpma (OMv) problemi arasında bir bağlantı kurar, ancak bağlantı tam olarak bu sorunun ne sorduğu değildir. Özellikle, aşağıdaki varsayım tam olarak uymuyor (cesur vurgulu madeni),

Şimdi varsayalım ki herkes için ve tüm matrisler $n \leq n_0$ $n \times n$ $M$ biz bir algoritma biliyoruz , hepsi vektörler için hesaplar süresi içinde gerçekten subquadratic sürede, yani bazı . $A_{n,M}$ $v$ $Mv$ $O(n^{2 - \varepsilon})$ $\varepsilon > 0$

Tüm matrisler için ikinci dereceden algoritmalar bulunup bulunmadığı, mümkün olduğu kadar hızlı olan belirli bir matris için bir algoritma bulma meselesine diktir. 0-1 matrislerin çoğu rastgele gürültüye benziyor ve (tahmin edersem) muhtemelen ikinci dereceden algoritmalara sahip değiller. Bununla birlikte, çok kötü matrislerin olması, örneğin "kayan bir pencere" matrisi gibi iyi bir matris üzerinde hızlı bir algoritma bulmamı engellemez.

vzn'nin cevapları, ilk yanıtı , ikinci yanıtı ilginçtir (ve bence çok fazla aşağı oyu hak etmiyor), ancak oradaki yorumlarda tartışılan nedenlerden dolayı soruya uygulanmıyorlar.

linear-algebra matrices program-optimization

— Nick Alger
kaynak

1

Eğer matrisiniz bu formdaysa , TDMA bu grup matrisidir, Thomas algoritması. Henüz 0-1 değil, bu özellikten yararlanılmalıdır.

— Evil

@EvilJS matrisi sadece belirli bir örnek için bantlanmış olur. Genel olarak bantlanmayacaktır. Bantlanmamış başka bir örnek daha ekledim.

— Nick Alger,

İkili, gerçek vektörler olan ve örnek başına ön işleme aşamasında optimal yürütme yolunu önceden hesaplamak isteyen çok sayıda sabit matris N x M var mı? Bu tür işlemlerin çıktısı, matris başına kodlanmış işlemlerin yapıldığı koddur ve bunu yapmak ister misiniz? Örnek olarak, matris başına demek istiyorum. Sadece kontrol.

— Kötülük

@EvilJS Bu soru daha sonra bilinmeyen birçok gerçek vektöre uygulanacak olan bilinen bir ikili matris var olduğu durumla . Dayanarak sadece biz geçerli olacak bir kod precompute isteyen aldığımız zaman sonra böylece verimli mümkün olduğunca , biz hesaplayabilir hızlı mümkün olduğunca. Bu soruyu motive eden özel uygulamada, her zaman sabit olan bir avuç ikili var (gerçekte 12), vektörleri tahmin edilemez ve program kullanıcısının girişine bağlıdır.

M

$M$

v_{i}

$v_i$

M

$M$

M

$M$

v_{i}

$v_i$

M v_{i}

$M v_i$

v_{i}

$v_i$

— Nick Alger

1

İki element alanı üzerinde, belirli bir lineer dönüşümü simüle eden minimum XOR-geçit devresinin hesaplanması problemi NP zordur. Bkz. Cstheory.stackexchange.com/a/32272/225

— Ryan Williams

5

Mümkünse, matrisin bantlı tridiagonal yapısından yararlanmaya çalışın.
Matris farklı değerlerin sadece sabit bir sayı (ki mutlaka ikili ediliyor) içeren Aksi takdirde, siz (Edo Liberty, 1402 Steven W. Zucker yılında Yale üniversitesi teknik raporda # yoluyla) Postacı algoritması denemelisiniz: sonlu sözlüğe üzerinde optimize
Ortak Alt Ekspresyon Eliminasyonu, bir süredir Çoklu Sabit Çarpma gibi bilinir, fakat geçit seviyesine inmek bir seçenektir - burada kullanılan kalıplar, ayrı ayrı çözelti olarak kullanılabilir veya başka yöntemlerle birleştirilebilir, bu "Ortak Alt-ifadenin Yok Edilmesini İyileştirme" makalesi. Ning Wu, Xiaoqiang Zhang, Yunfei Ye ve Lidong Lan'ın "Dünya Mühendislik ve Bilgisayar Bilimleri Kongresi Bildirileri 2013 Vol II WCECS 2013, 23-25 Ekim 2013 San Francisco, ABD " Kapı Seviyesi CSE

Ayrıca sabit ama sembolik matris üretmek, değişkenlerle vektör yapmak ve bunları matris yazma işlemini elle otomatik hale getiren derleyicilerden Statik Tek Değerlendirme'ye (SSA) bağlamak için ham fakat çalışma yöntemi de vardır.

yeni algoritma prototipi
Çalışan toplamı ne yaptınız: 10 işlem verir ve Thomas'ı kullanmak için ilk fikrim eşdeğerdir. Şimdilik hala yeni algoritmalar yazıp test ediyorum, ayrıca çalışma zamanları da kötü , ancak ilk test sonucu şaşırtıcı bir cevap verdi:

\begin{aligned} w_{1} & = v_{1} + v_{2} + v_{3} + v_{4} + v_{5} \\ w_{2} & = w_{1} + v_{6} - v_{1} \\ w_{3} & = w_{2} + v_{7} - v_{2} \\ w_{4} & = w_{3} + v_{8} - v_{3} \end{aligned}

$\begin{align} w_1 &= v_1 + v_2 + v_3 + v_4 + v_5 \\ w_2 &= w_1 + v_6 - v_1 \\ w_3 &= w_2 + v_7 - v_2 \\ w_4 &= w_3 + v_8 - v_3 \end{align}$

\begin{aligned} t m p_{1} & = v_{2} + v_{3} + v_{4} + v_{5} \\ w_{1} & = v_{1} + t m p_{1} \\ w_{2} & = t m p_{1} + v_{6} \\ w_{3} & = w_{2} + v_{7} - v_{2} \\ w_{4} & = w_{3} + v_{8} - v_{3} \end{aligned}

$\begin{align} tmp_1 &= v_2 + v_3 + v_4 + v_5 \\ w_1 &= v_1 + tmp_1 \\ w_2 &= tmp_1 + v_6 \\ w_3 &= w_2 + v_7 - v_2 \\ w_4 &= w_3 + v_8 - v_3 \end{align}$
9 işlem veren , bunları + veya - olarak tanımlayan 1, ve = 0'dır.

\begin{aligned} w_{1} & = v_{1} + v_{2} + v_{3} + v_{4} + v_{5} + v_{6} \\ w_{2} & = w_{1} \\ w_{3} & = w_{2} - v_{5} - v_{6} \\ w_{4} & = w_{3} \\ w_{5} & = w_{4} . \end{aligned}

$\begin{align} w_1 &= v_1 + v_2 + v_3 + v_4 + v_5 + v_6 \\ w_2 &= w_1 \\ w_3 &= w_2 - v_5 - v_6 \\ w_4 &= w_3 \\ w_5 &= w_4. \end{align}$

Bu 7 işlem verir , algoritma sonucu verdi: 6 işlem veren Şimdilik Hamming mesafesini kullandığımı söyleyebilirim, & | bitsel işlemler, kullanımları sayar ve Cocke – Younger-Kasami (CYK) - "mucitler John Cocke, Daniel Younger ve Tadao Kasami'den sonra adlandırılmış bağlamsız gramerler için ayrıştırma algoritması" gibi olur. programlama." - Wikipedia'dan Değişken blokları oluşturmak için kullandığım aynı teknik.

\begin{aligned} t m p_{1} & = v_{1} + v_{2} + v_{3} + v_{4} \\ t m p_{2} & = v_{5} + v_{6} \\ w_{1} & = t m p_{1} + t m p_{2} \\ w_{2} & = w_{1} \\ w_{3} & = w_{2} - t m p_{2} \\ w_{4} & = w_{3} \\ w_{5} & = w_{4} . \end{aligned}

$\begin{align} tmp_1 &= v_1 + v_2 + v_3 + v_4 \\ tmp_2 &= v_5 + v_6 \\ w_1 &= tmp_1 + tmp_2 \\ w_2 &= w_1 \\ w_3 &= w_2 - tmp_2 \\ w_4 &= w_3 \\ w_5 &= w_4. \end{align}$

— kötülük
kaynak

(yeniden rev5) plz "herdem yeşil yöntem" konusunda ref verir. ayrıca, SSA nedir? CYK dinamik algoritması?

— vzn

Bu cevabın ödülünü verdim ve neden asıl sorumun bir düzenlemesinde olduğunu açıkladım.

— Nick Alger,

8

Bu, "Çevrimiçi Boole Matrisi-Vektör Çarpma (OMv) problemi" olarak bilinen açık bir araştırma sorusuyla ilgilidir. Bu problem şu şekildedir (bakınız [1]): İkili matrisi ve ikili sütun vektörleri gelmeden önce hesaplamamız gerekir . $n \times n$ $M$ $n$ $v_1, \dots, v_n$ $M v_i$ $v_{i+1}$

Sorunun probleminin biraz daha genel olduğuna dikkat edin: matrislerine ve gerçek değerli vektörlere izin verir . matrislerinde ve Boolean vektörlerinde problemin, özel bir durum sunduğundan "kolay" olduğunu gözlemleyin . $m \times n$ $n \times n$

Açıkçası, Çevrimiçi Boolean Matris-Vektör Çarpma problemi (sadece standart matris-vektör-çarpımını kullanan) için saf algoritma zaman alır . Bunun daha hızlı bir şekilde yapılamayacağına dair bir varsayım var (bakınız örneğin [1] . Aşağıdaki gibi (Daha ayrıntılı olarak, bu varsayım şöyledir: Zaman çalışan algoritması falan yoktur yani Çevrimiçi Boole Matris-Vektör Çarpma Sorunu çözer hiçbir gerçek anlamda subcubic algoritma, söz konusudur için ). $O(n^3)$ $O(n^3)$ $O(n^{3 - \varepsilon})$ $\varepsilon > 0$

Williams algoritmasının bu problemi zamanında çözdüğü bilinmektedir . Daha fazla ayrıntı için [2] 'ye bakınız. $O(n^3 / \log^2 n)$

Eğer yukarıdaki varsayımı kanıtlayabilir veya çürütebilirse, koşullu alt sınırlar alanında bir atılım olacaktır.

[1] Çevrimiçi Matris Vektör Çarpma Konjeksiyonu ile Dinamik Problemlerin Sertliğini Birleştirmek ve Güçlendirmek. Henzinger, Krinninger, Nanongkai ve Saranurak tarafından
[ http://eprints.cs.univie.ac.at/4351/1/OMv_conjecture.pdf ]

[2] İkinci dereceden bir zamanda matris-vektör çarpımı: (bazı ön işlemler gerekli). Williams tarafından
[ http://dl.acm.org/citation.cfm?id=1283383.1283490 ]

Güncelleştirme

Yorumlardaki sorulardan biri şuydu: Derleme zamanında biliyoruz . Algoritmamızı uyacak şekilde ayarlayamaz mıyız , böylece OMv problemi (varsayım) geçerli olmaz? OMv varsayımı başarısız olmadıkça, bunun böyle olmadığını göreceğiz. $M$ $M$

Kanıtlama fikri basittir: Belli bir boyuta kadar olan tüm matrisler için hızlı algoritmalar verebileceğimizi varsayın (örneğin tüm olası durumları ayırt etmek gibi). Bu belirli bir büyüklükten sonra, böl ve yönet'i kullanırız.

İşte detaylar:
Bazıları düzeltin (genelliği kaybetmeden) 2 ve 2'den daha büyük bir güçtür. Şimdi tüm ve tüm matrislerinin biz bir algoritma biliyoruz tüm vektörler için bu, değerlerini hesaplar zaman, yani gerçekten subquadratic zamanda bazı . (Bunun, her matris için boyutuna kadar bireysel bir algoritmaya izin verdiğine dikkat edin .) $n_0 \in \mathbb{N}$ $n \leq n_0$ $n \times n$ $M$ $A_{n,M}$ $v$ $Mv$ $O(n^{2 - \varepsilon})$ $\varepsilon > 0$ $n_0 \times n_0$

Şimdi OMv'yi gerçekten subkubik bir zamanda çözeceğiz: boyutunda
bir ikili matris verildiğinde , burada ve için , bir bölme ve fethetme stratejisi kullanırız. Biz bölmek dört submatrices içine boyutlarda . Eğer , o zaman algoritmasını kullanırız , aksi takdirde tekrarlar. ( sabit bir sayı olduğundan, sabit algoritmayı sabit zamanda seçebiliriz.) $M$ $n \times n$ $n = 2^k$ $k$ $n > n_0$ $M$ $M_1, M_2, M_3, M_4$ $2^{k-1} \times 2^{k-1}$ $2^{k-1} \leq n_0$ $A_{2^{k-1},M_i}$ $n_0$

En fazla özyineleme adımına ihtiyacımız olacağını unutmayın . Ayrıca, vektörleri hesaplama yapacağız . Bu nedenle, tüm matris-vektör çarpımlarını işlemek için toplam işlem zamanına ihtiyacımız olacak . $O(\log n)$ $n$ $v_1, \dots, v_n$ $n$ $O(n^{3 - \varepsilon} \log n)$

Logaritmanın herhangi bir polinomdan daha yavaş büyüdüğü bilinmektedir (özellikle herhangi bir kökten daha yavaş). Tespit bazı ile , bizim toplam hesaplama gerçekten subcubic sürede çalıştığını görüyoruz (zaman içinde, özellikle ). Dolayısıyla, OMv varsayımı yanlış olacaktır. $\tilde \varepsilon > 0$ $\tilde \varepsilon < \varepsilon$ $O(n^{3 - \tilde \varepsilon})$

(Eğer boyutu vardır ve ve 2'nin katlarında, daha sonra çalışan zamanlarda sınırları hala biz sadece artabileceğini gibi uygulamak değildir ve 2'nin bir sonraki güçlere) $M$ $m \times n$ $m$ $n$ $n$ $m$

Sonuç: Hızlı algoritmalar elde etmek için girdi matrislerinde vaka ayrımlarından faydalanabilirseniz, OMv varsayımını iyileştirebilirsiniz.

— tranisstor
kaynak

Yazar ve vzn tarafından belirtildiği gibi, bu durum böyle değil, vektör ikili değil, Matrix gerekli değil N x N ve yazar işlemleri önceden hesaplamak istiyor ve çevrimiçi işleme gerek yok. Varsayım dayanarak yeterli değildir. Her iki makale de soru ile alakasız. Buradaki durum, asgari sayıda işlem sağlamak için sabit matrisi önceden hesaplamaktır. Tam, bantlı, simetrik durumlar için farklı yaklaşımlar olabilir.

— Evil

@EvilJS: Herhangi bir M x N matrisine ve gerçek değerli vektörlere izin verirseniz, sorun cevapta verdiğimden daha da zorlaşır (örn. Çevrimiçi Boolean Matrix-Vektör Çarpma özel bir durum olacaktır). Daha genel bir problemi O'dan (n ^ 3) daha hızlı çözebilseydiniz, o zaman varsayım üzerinde de bir iyileştirme yaparsınız (ki bu büyük bir haber olurdu!). Ayrıca, yazar bir yorumda, vektörlerin başlangıçta bilinmediğini söylemektedir. Tüm vektörleri önceden biliyorsanız, sadece hızlı matris çarpımını kullanabilirsiniz (örneğin Strassen'in algoritmasının bir versiyonu).

— tranisstor

Sadece yazarların durumunu "gerçek vektör" olarak gösterdim. Thomas matrisine bakın - sadece O (n) 'deki özel matris vakası. Ben genel bir durumu ima etmiyorum. Ve eğer Matrix sabitse ve vektörler biliniyorsa, hardsenze cevap Strassen'i uygulamıyor; (

— Evil

@EvilJS: Ne söylemeye çalıştığınızı tamamen anladığımdan emin değilim. Elbette, Thomas matrisi gibi özel matris türleri için önemli bir hız kazanabilirsiniz, ancak genel olarak bu daha zordur. Belki de ortaya koyduğum sorunun bir ön işleme adımı (herhangi bir vektör gelmeden önce) dikkate aldığını da belirtmeliyim. Bana verdiğim herhangi bir matris için algoritmanızı sistematik olarak "nasıl kodlayacağımı" söyleyebilseydiniz, varsayımı da geliştirebilirsiniz (bu kodlama aşamasını bir algoritmanın ön işleme adımı olarak uygulayabildiğiniz için).

— tranisstor

işe yarıyordu; Bununla birlikte, williams tarafından yapılan 2. ref, özellikle de ikili matrisleri göz önüne almaz. burada

— fyi

-2

Bu aslında araştırma düzeyinde bir CS'dir, sorun en az iki durumda incelenmiştir, seyrek matrislerin çoğalması (örnek olarak verilen örnek kağıt) ve ayrıca "ikili seyrek matrislerin" özel durumu da incelenmiştir. 2 ^nd durum doğrusal programları optimize ile ilişkili olduğu bilinmektedir. minimal programlar ayrıca iki tip "geçit" içeren DAG'lar gibi olabilirler, toplama ve çarpma, bu nedenle bazı devre en aza indirme literatürü bununla bağlantı kurabilir ve muhtemelen "raf dışı" yazılım amaç için uyarlanabilir. Buradaki ^2. vaka için özel bir referans ve bazı temel ilk ampirik çalışmalarla cstheory'deki aynı soru .

— vzn
kaynak

1

Sadece bağlantıları gözden kaçırdım, ama şu ana kadar iki nedenden dolayı şüpheliyim. 1) Matrisler seyrek değildir. Genellikle sıfır olmayanların sayısı sıfırlarla aynıdır, ancak kalıplara bağlı olarak sıfır olmayan matrisler için algoritmalarının ortaya çıkmasının bir yolu vardır . 2) Bu kağıtlar sadece temel ikili "kapılar" olarak toplama ve çarpma işlemlerine dayanıyor gibi görünmektedir, ancak benim tecrübeme göre çıkarma işlemini de kullanmak önemlidir. Bunun için bir çıkarma ikili kapısı veya "-1 ile çarpma" unary kapısı da bulunmalıdır.

O (n)

$O(n)$

O (n^{2})

$O(n^2)$

— Nick Alger

refs, başlıkların gösterdiği gibi, seyrek matrisleri gösterir . belki gazetelerdekinden farklı bir tanımın vardır? Tam bir seyreklik tanımına duyarlıysanız (çoğu kabaca korelasyonlu / neredeyse değiştirilebilir) soruda belirtilmelidir.

— vzn

1

İlgilendiğim matrisler yoğun matrisler. Bu arada, bunun sorumu tam olarak çözmediğini düşünmeme rağmen, yanıtı takdir ediyorum.

— Nick Alger,

tamam üzgünüm! karışık, tam soruyu anlamadı. İmkansız bakışta, örnek 2'niz bana 'doldurmaktan ve "seyrek olmaktan" daha az görünüyordu ve bazı teorilerden bazılarının en azından biraz uygulanabilir olacağını düşündüm. Temel olarak matris ne kadar yoğunsa, işlem o kadar az optimize edilebilir, bu nedenle muhtemelen bu tip optimizasyon teorisinin çoğu seyrek matrisler etrafında yönlendirilir.

— vzn

-3

Bu sorunun tam olarak çalışılmış olup olmadığından emin değilim, ancak bu araştırma ilişkili ve makul bir yol / başlangıç gibi görünüyor. seyrek matris çarpımı için hipergrafinin ayrışmasına bakar. İkili matrisler bu yaklaşımın özel bir halidir. Bu yaklaşım "düz" çarpma yönteminden daha uygun stratejiler bulacaktır. İkili matris özelliğine göre daha fazla optimizasyon (bu çerçeve içinde) mümkün olabilir.

Paralel Seyrek-Matris Vektör Çarpımı / Umit Catalyurek ve Cevdet Aykanat için Hipergraf Bölümleme Tabanlı Ayrışma

— vzn
kaynak

2

Bunun soru ile ne alakası olduğunu anlamıyorum. Bu makale, işlemciler arası iletişim miktarını en aza indirmek için paralel hesaplama için dağıtılmış bir sistem arasında matris çarpımını bölmekle ilgilidir. Bunun bu soru ile ne alakası var? Soru, paralel hesaplama veya işlemciler arası iletişim hakkında hiçbir şeyden bahsetmiyor. Bağlantıyı daha açık hale getirmek için cevabınızı düzenlemenizi tavsiye ederim.

— DW

afaik de aynı problemi ve paralel hesaplamayı minimize etmek aynı hesapların tek işlemcili uygulamasını minimuma indirir. en azından, sorgulayıcı paralel uygulamaları dışlamamıştır.

— vzn

1

Bağlantı için teşekkürler. Bununla birlikte, matris girdilerinin sadece sıfır ve bir tane içerdiği gerçeğinden faydalanmadığı için bu problemin metodundan şüpheliyim, oysa ki bu özellik söyleyebileceğim kadarıyla çok önemli. Örneğin, ilk örnekteki "çalışan toplam" algoritması yalnızca matrisin belirli bir sütununda sıfır olmayan tüm girişler aynı değere sahipse çalışır.

— Nick Alger

NA, gözleminiz / itirazınız cevabında ele alınmaktadır. 0/1 özelliği kullanılarak muhtemelen daha fazla optimizasyon yapılabilir; Bu yöntemin, paralelleştirme kuvveti altında toplam toplama / çarpma işlemlerini en aza indirdiği görülüyor. toplama / çarpma işlemleri ayrıca bir DAG'de "kapılar" olarak görülebilir ve teknik kapıları en aza indirir. Kağıdın önemli karmaşıklığı, bu optimizasyon işleminin özünde daha derin / önemli karmaşıklığını ortaya koymaktadır. Belirtildiği gibi cevap bu zor problem üzerinde kesin değildir, sadece “hiç olmamasından iyidir”.

— vzn