Sıkıştırılmış algılama problemi ile ilgili karışıklık

13

Ben de dahil olmak üzere bazı referanslar okumak bu .

Sıkıştırılmış algılamanın hangi optimizasyon problemini oluşturduğu ve çözmeye çalıştığı konusunda kafam karıştı. bu mu

\begin{array}{ll} minimize & ‖ x ‖_{1} \\ subject to & A x = b \end{array}

$\begin{array}{ll} \text{minimize} & \|x\|_1\\ \text{subject to} & Ax=b\end{array}$

ve / veya

\begin{array}{ll} minimize & ‖ x ‖_{0} \\ subject to & A x = b \end{array}

$\begin{array}{ll} \text{minimize} & \|x\|_0\\ \text{subject to} & Ax=b\end{array}$

veya başka bir şey?

optimization

— Tim
kaynak

18

Brian yerinde. Ancak, sıkıştırılmış algılama bağlamı eklemenin yararlı olduğunu düşünüyorum.

İlk olarak, sözde 0 normu olduğunu not -the kardinalite işlevi veya içinde sıfırdan farklı değerlerin sayısı bu mu bir norm değildir . Muhtemelen en rahat bağlamlardan başka bir şeyde gibi bir şey olarak yazmak en iyisidir . Beni yanlış anlamayın, stenoyu kullandığınızda iyi bir şirketdesiniz, ancak karışıklık yaratma eğiliminde olduğunu düşünüyorum. $\|x\|_0$ $x$ $\mathop{\textbf{card}}(x)$ $\|x\|_0$

İnsanlar uzun zamandır normu en aza indirmenin seyrek çözümler üretme eğiliminde olduğunu . Bunun doğrusal tamamlayıcılık ile ilgili bazı teorik nedenleri vardır. Ama en ilginç çözümler seyrek olduğunu değildi, ancak çoğu zaman olduğun şey neydi sparsest mümkün . Yani, minimize edilir gerçekten yapar , size belirli kullanışlı durumlarda asgari kardinaliteye çözümü verir. (Minimum kardinalite problemi NP-zor olduğunda bunu nasıl anladılar? Bilinen seyrek çözümlerle yapay problemler inşa ederek.) Bu, doğrusal tamamlayıcılık teorisinin tahmin edebileceği bir şey değildi. $\ell_1$ $\|x\|_1$ $\|x\|_1$

Sıkıştırılmış algılama alanı, araştırmacılar matrisinde çözümünün de en sparter olduğunu önceden garanti etmelerini sağlayacak koşulları belirlemeye başladığında doğdu . Örneğin, Candés, Romberg ve Tao'nun en eski makalelerine ve Kısıtlı izometri mülkü veya RIP hakkındaki diğer tartışmalara bakın . Eğer gerçekten bir teoriye dalmak istiyorsanız başka bir yararlı web sitesi Terence Tao'nun sıkıştırılmış algılama sayfasıdır . $A$ $\ell_1$

— Michael Grant
kaynak

12

Çözmeyi çok isteriz

$\min \| x \|_{0}$

st

$Ax=b$

ancak bu sorun, , ve sıkıştırma algılamasında tipik olan boyutlarda olduğunda pratikte çözülmesi pratik olmayan bir NP-Hard kombinatoryal optimizasyon problemidir . Verimli bir şekilde çözmek mümkündür $A$ $x$ $b$

$\min \| x \|_{1}$

st

$Ax=b$

hem teoride (polinom zamanında yapılabilir) hem de sıkıştırma algılamasında ortaya çıkan oldukça büyük problemler için hesaplama uygulamasında. Biz kullanmak için bir "taşıyıcı anne" olarak . Bunun bazı sezgisel gerekçeleri vardır (bir norm minimizasyonu, içinde daha az sıfır olmayan giriş içeren çözümleri tercih eder ) ve daha karmaşık teorik gerekçelere (" k-seyrek bir çözümü varsa, o zaman en aza indiren bu çözümü yüksek olasılıkla bulacak. " $\| x \|_{1}$ $\| x \|_{0}$ $x$ $Ax=b$ $\| x \|_{1}$

Pratikte, veriler genellikle gürültülü olduğu için, kesin kısıtı genellikle . $Ax=b$ $\| Ax - b \|_{2} \leq \delta$

Ayrıca, örneğin . $\min \| Ax - b\|_{2}^{2} + \lambda \| x \|_{1}$

— Brian Borchers
kaynak

8

vs. hakkında Brians ve Michaels'ın açıklamasına eklenecek hiçbir şeyim yok . Soru Sıkıştırılmış Algılama ben bakış açımı eklemek istediğiniz hakkında görünüyor Fakat: Sıkıştırılmış Algılama olduğunu ne çözme konusunda ne de yaklaşık Sıkıştırılmış Algılama daha çok bir paradigmadır . $\ell^1$ $\ell^0$

min ‖ x ‖_{0} s.t A x = b

$\min\|x\|_0\quad\text{s.t}\quad Ax=b$

min ‖ x ‖_{1} s.t. A x = b .

$\min\|x\|_1\quad\text{s.t.}\quad Ax=b.$

Birkaç ölçümden seyrek sinyalleri tanımlamak mümkündür.

Sıkıştırılmış Algılama, belirli bir sinyal sınıfındaki bir sinyali tanımlamak için mümkün olduğunca az ölçüm yapmakla ilgilidir.

Dikkat çekici bir cümle:

5 megapiksel kameranız neden sadece yaklaşık 2 megabayt (sıkıştırmadan sonra) depolarken 15 megabayt veriye mal olan 15 milyon değeri (her piksel için üç) ölçmelidir?
2 megabaytı hemen ölçmek mümkün olabilir mi?

Mümkün oldukça farklı çerçeveler var:

doğrusal ölçümler
doğrusal olmayanlar (örneğin "fatasız" olanlar)
vektör verileri, matris / tensör verileri
sadece sıfır olmayanların sayısı gibi azlık
"düşük seviyeli" ve hatta "düşük karmaşıklık" olarak).

Ve benzeri seyrek çözümler hesaplamak için aynı zamanda daha fazla yöntem vardır eşleşen takipçiliği (dik eşleştirme peşinde (OMP gibi varyantları), regularized dik eşleştirme peşinde (ROMP), CoSaMP) ya da dayalı daha yeni yöntemler mesajı geçen algoritmaları.

Sıkıştırılmış Algılamayı sadece veya minimizasyon ile tanımlarsa , pratik veri toplama problemleriyle uğraşırken çok fazla esnekliği kaçırır. $\ell^1$ $\ell^0$

Bununla birlikte, biri sadece doğrusal sistemlere seyrek çözümler elde etmekle ilgileniyorsa, seyrek rekonstrüksiyon dediğim bir şey yapar .

— kısa kılıç
kaynak

Teşekkürler! Aşağıdakileri matematik formülasyonuna yeniden yazabilir misiniz: "Birkaç ölçümden seyrek sinyalleri tanımlamak mümkündür. Sıkıştırılmış Algılama gerçekten belirli bir sinyal sınıfındaki bir sinyali tanımlamak için mümkün olduğunca az ölçüm almakla ilgilidir."

— Tim

1

Hayır, yapamam, çünkü Sıkıştırılmış Algılama matematiksel bir teori değil, bir mühendislik kavramıdır.

— Dirk

1

Bu cevabın iyi bir katkı olduğunu düşünüyorum ve oy verdim. Akılda kalıcı ifadeye gelince, her zaman bir sorunum vardı. CS'nin o kadar güçlü olduğunu ve sadece 13 milyon pikseli atlayıp görüntüyü yine de kurtarabileceğinizi gösteriyor. Ama hayır, bir CS sisteminde bile verileri asla rastgele atmamalısınız --- iyi bir kurtarma algoritması her zaman daha fazla veriyi kullanabilir. CS vaadi, bazı önemli pratik tasarruflar karşılığında ilk etapta daha az veri toplayan sensörler geliştirme potansiyelidir : güç tasarrufu, daha hızlı toplama, vb.

— Michael Grant

@MichaelGrant Kabul ediyorum: Daha önce ölçtüğünüz verileri atmayın ve minimum çabayla ölçebileceğiniz tarihi kullanmayın.

— Dirk