Neden evrişim gereklidir ya da evrişimin arkasındaki felsefe nedir?

Dijital görüntü restorasyonu alanında çalışıyorum. Evrişim ile ilgili her şeyi okudum, bir LTI sistemi için dürtü tepkisini bilirsek , çıktısını sadece girdi ve dürtü yanıtı arasında evrişim kullanarak bulabiliriz.

Birisi bana arkasındaki ana matematiksel felsefenin ne olduğunu söyleyebilir mi? Deneyiminiz bana sadece internette sörf yapmaktan daha fazlasını anlatacak.

Evrişim Düşüncesi

Konuyla ilgili en sevdiğim sergim Brad Osgood'un Fourier Dönüşümü üzerine verdiği derslerde . Evrişim tartışması 36: 00'da başlar, ancak tüm dersin izlemeye değer ek bir bağlamı vardır.

Temel fikir, Fourier Dönüşümü gibi bir şeyi her zaman doğrudan tanımla çalışmak yerine tanımladığınızda, hesaplamaları basitleştiren daha üst düzey özellikler türetmenin yararlı olmasıdır. Örneğin, böyle bir özellik, iki fonksiyonun toplamının dönüşümünün, dönüşümlerin toplamına eşit olması, yani

$$F\{f + g\} = F\{f\} + F\{g\}.$$

Bu, bilinmeyen bir dönüşüme sahip bir işleviniz varsa ve bilinen dönüştürmelere sahip işlevlerin toplamı olarak ayrılabilirse, temel olarak cevabı ücretsiz olarak alırsınız.

Şimdi, iki dönüşümün toplamı için bir kimliğimiz olduğundan, iki dönüşümün çarpımı için kimliğin ne olduğunu sormak doğal bir sorudur, yani

$$F\{f\}F\{g\} = \space ?.$$

Cevabı hesapladığınızda, evrişimin ortaya çıktığı ortaya çıkıyor. Tüm türetme videoda verilir ve sorunuz çoğunlukla kavramsal olduğundan, burada tekrar özetlemeyeceğim.

Bu şekilde evrişime yaklaşmanın anlamı, bunun Laplace Dönüşümünün (Fourier Tranform'un özel bir durum olduğu) lineer sabit katsayılı sıradan diferansiyel denklemleri (LCCODE) cebirsel denklemlere dönüştürmesinin temel bir parçası olmasıdır. LCCODE'nin analitik olarak izlenebilir hale getirilmesi için böyle bir dönüşümün mevcut olması, sinyal işlemede incelenmesinin nedeninin büyük bir parçasıdır. Örneğin, Oppenheim ve Schafer'ı alıntılamak için :

Matematiksel olarak karakterize edilmeleri nispeten kolay oldukları ve yararlı sinyal işleme işlevleri gerçekleştirmek üzere tasarlanabildikleri için, doğrusal kaydırma-değişmez sistemlerin sınıfı kapsamlı bir şekilde incelenecektir.

Sorunun bir cevabı, LTI sistemlerini analiz etmek ve / veya sentezlemek için dönüşüm yöntemlerini kullanıyorsanız, er ya da geç, kıvrım ortaya çıkacaktır (örtülü ya da açıkça). Evrişim girişine yönelik bu yaklaşımın diferansiyel denklemler bağlamında çok standart olduğunu unutmayın. Örneğin, Arthur Mattuck'ın bu MIT dersine bakın . Çoğu sunum ya evrişim integralini yorum yapmadan sunar, daha sonra özelliklerini türetir (yani bir şapkadan çıkarır) ya da integralin garip formu hakkında bilgi verir, ters çevirme ve sürükleme, zaman tersine çevirme vb. .

Prof. Osgood'un yaklaşımını sevmemin sebebi, benim görüşüme göre matematikçilerin ilk başta bu fikre nasıl geldiğine dair derin bir kavrayış sağlamanın yanı sıra tsouris'lerden de kaçınmasıdır. Ve alıntı yapıyorum:

Dedim ki, "F ve G'yi zaman alanında birleştirmenin bir yolu var mı, böylece frekans alanında spektrumlar çoğalıyor, Fourier dönüşümleri çoğalıyor mu?" Ve cevap, evet, bu karmaşık integral tarafından var. Çok açık değil. Sabah yataktan kalkmaz ve bunu yazmazsınız ve bunun bu sorunu çözeceğini düşünürsünüz. Nasıl elde ederiz? Diyelim ki, sorun çözüldü, ne olması gerektiğini görün ve sonra zaferi ilan etmenin zamanı geldiğini fark etmeliyiz. Ve zafer ilan etme zamanı.

Şimdi, iğrenç bir matematikçi olarak, izlerinizi kapatıyorsunuz ve "Şey, ben sadece bu fonksiyonla iki fonksiyonun evrimi tanımlayacağım" diyorsunuz.

LTI Sistemleri

Çoğu DSP metninde, evrişim genellikle farklı bir yoldan getirilir (bu, dönüştürme yöntemlerine herhangi bir göndermeden kaçınır). Ölçekli ve kaydırılmış birim impulsların toplamı olarak rastgele bir giriş sinyali ifade ederek ,$x(n)$

$$x(n) = \sum_{k=-\infty}^\infty{x(k)\delta(n - k)}, \tag{1}$$

nerede

$$\delta(n) = \begin{cases} 0, & n \ne 0 \\ 1, & n = 0, \end{cases} \tag{2}$$

doğrusal zamanla değişmeyen sistemlerin tanımlayıcı özellikleri , dürtü yanıtı içeren bir evrişim toplamına yol açar . Bir LTI operatör tarafından tanımlanan sistem ise L olarak ifade edilir y ( n ) = L [ x ( n ) ] , daha sonra repective özellikleri uygulayarak, yani doğrusal$h(n) = L[\space \delta(n) \space]$$L$$y(n) = L[\space x(n)\space]$

$$\overbrace{L[\space ax_1(n) + bx_2(n)\space ]}^\text{Transform of the sum of scaled inputs} = \overbrace{aL[\space x_1(n)\space ] + bL[\space x_2(n)\space ]}^\text{Sum of scaled transforms} , \tag{3}$$

ve zaman / vardiya değişmezliği

$$L[\space x(n) \space] = y(n) \space \xrightarrow{\text{implies}} L[\space x(n-k) \space] = y(n-k), \tag{4}$$

sistem şu şekilde yeniden yazılabilir

$$y(n) = \overbrace{L\left[ \sum_{k=-\infty}^\infty{x(k)\delta(n - k)}\right]}^\text{Tranform of the sum of scaled inputs} = \overbrace{\sum_{k=-\infty}^\infty{x(k)L[\delta(n - k)]}}^\text{Sum of scaled transforms} = \overbrace{\sum_{k=-\infty}^\infty{x(k)h(n-k) }. }^\text{Convolution with the impulse response}$$

Bu, evrişimi sunmanın çok standart bir yoludur ve bunun için mükemmel zarif ve kullanışlı bir yöntemdir. Benzer türevler Oppenheim ve Schafer , Proakis ve Manolakis , Rabiner ve Gold'da bulunabilir ve eminim diğerleri. [Standart tanıtımları daha ileri gider] Bazı derin kavrayış onun mükemmel cevap Dilip verilir burada .

$\left(1\right)$

$$\overbrace{(f * g)(n)}^\text{f convolved with g} = \sum_{k=-\infty}^\infty{f(k)g(n-k)},$$

$\left(1\right)$$x * \delta$$n$$n + 0$$n \times 1$

Bu perspektiften, evrişim özünde bir delta işlevi fikri ile ilişkilidir (yani, delta işlevinin kimlik öğesi olarak sahip olduğu bir ikili işlemdir). Evrişimle olan ilişkisini dikkate almadan bile, sinyalin tanımı büyük ölçüde delta işlevi fikrine bağlıdır. Öyleyse soru daha sonra, delta işlevi için fikri nereden edindik? Anlayabildiğim kadarıyla, en azından Fourier'in Analitik Isı Teorisi üzerine, dolaylı olarak göründüğü kadar geri gidiyor . Daha fazla bilgi için kaynaklardan biri Alejandro Domínguez'ın Kökeni ve Konvolüsyon Tarihi üzerine yazdığı makaledir.

Şimdi, bunlar doğrusal sistem teorisi bağlamında fikre ana yaklaşımlardan ikisi. Biri analitik içgörü, diğeri sayısal çözümü destekler. Her ikisinin de evrişimin öneminin tam bir resmi için yararlı olduğunu düşünüyorum. Bununla birlikte, ayrık durumda, doğrusal sistemleri tamamen ihmal ederek, evrişimin çok daha eski bir fikir olduğu duygusu vardır.

Polinom Çarpımı

Ayrık katlama olduğu fikrine biri iyi sunum sadece polinom çarpma içinde kıtabının tarafından verilen bu ders etrafında 5:46 başlayarak. Bu perspektiften, fikir, konumsal sayı sistemlerinin (sayıları dolaylı olarak polinomlar olarak temsil eden) tanıtılmasına kadar uzanır. Z-dönüşümü sinyalleri z cinsinden polinomlar olarak temsil ettiğinden, bu bağlamda da kıvrım ortaya çıkacaktır - Z-dönüşümü karmaşık analizlere başvurmadan resmi olarak bir gecikme operatörü olarak ve / veya Laplace'ın özel bir durumu olarak tanımlansa bile Dönüştür .

$x$$t$. Doğrusal sistemler, x (t) giriş işlevi için yanıt işlevini y (t) elde etmek için bu giriş girişlerinin her biri için çıkışları toplayabileceğiniz kadar havalıdır. Çıkış darbesinin y (t = 10), h (0) * x (10) 'a katkıda bulunan acil giriş x (10)' a bağlı olduğunu biliyorsunuz. Ancak, önceki darbe, x (9) çıkışına x (9) * h (1) katkısı ve daha önceki giriş değerlerinden katkılar da vardır. Önceki girdilerden katkı ekledikçe, bir defalık argüman azalırken diğeri artar. Bu MAC y içine tüm katkıları (10) = h (0) * x (10) + h (1) * x (9) + h (2) * x (8) + ..., bir kıvrım olup.

Y (t), h (t) ve x (t) fonksiyonlarını vektör olarak düşünebilirsiniz. Matrisler lineer cebirdeki operatörlerdir. Girdi vektörü (bir sayı dizisi) alır ve çıktı vektörü (başka bir sayı dizisi) üretir. Bu durumda, y vektörü x olan bir evrişim matrisi ürünüdür,

$\vec y = \begin{bmatrix}y_0\\y_1\\y_2 \\ \vdots \end{bmatrix} = \begin{bmatrix}h_0 & 0 & 0 & \cdots \\ h_1 & h_0 & 0 & \cdots \\ h_2 & h_1 & h_0 & \cdots \\ \vdots & \vdots & \vdots & \ddots \end{bmatrix} \begin{bmatrix}x_0\\x_1\\x_2 \\ \vdots \end{bmatrix} = H \vec x$

Şimdi, evrişim bir Toeplitz matrisi olduğu için, Fourier özüne sahiptir ve bu nedenle evrişim operatörü (lineer operatörler matrislerle temsil edilir, ancak matris de temele dayanır) fourier alanında güzel bir diyagonal matristir,

$\vec Y = \begin{bmatrix}Y_0\\Y_1\\Y_2 \\ \vdots \end{bmatrix} = \begin{bmatrix} \lambda_0 & 0 & 0 & \cdots \\ 0 & \lambda_1 & 0 & \cdots \\0 & 0 & \lambda_2 & \cdots \\ \vdots & \vdots & \vdots & \ddots \end{bmatrix} \begin{bmatrix}X_0\\X_1\\X_2 \\ \vdots \end{bmatrix} = diag(H)\vec X$

Unutmayın, çok daha fazla sıfır ve dolayısıyla çok daha basit hesaplama. Bu sonuç "evrişim teoremi" olarak bilinir ve ilk yanıtın yanıtlandığı gibi, fourier alanında çok daha basittir. Ancak, bu, "evrişim teoreminin", dört katlı temelin ve doğrusal operatörlerin her yerde evrişim ihtiyacından ziyade felsefe.

$y[currentTime] = k_1 x[time-1] + k_2 x(time-2) + b * y[time-1]$

Önceki cevaplar gerçekten iyi olmasına rağmen, rakamlar nedeniyle görselleştirmeyi daha kolay hale getirdiğim evrişim hakkındaki görüşümü eklemek istiyorum.

Belirli bir giriş sinyali için bir sistemin çıkış sinyalinin belirlenebileceği herhangi bir yöntem olup olmadığı merak edilir. Evrişim, sistemin doğrusal ve zamanla değişmeyen (LTI) olması şartıyla, bu sorunun cevabıdır.

Rastgele bir sinyalimiz olduğunu varsayın . Daha sonra, , aşağıdaki akıl yürütme yoluyla kaydırılmış birim impulsların ölçekli bir toplamına ayrıştırılabilir. M birimini, örnekleri tarafından olarak değiştirilmiş bir birim impuls ile çarpın . Yana 0'a eşit olduğu yerde de hariç bu olur ve çok kez tüm değerler , 0 ile eşit değildir ve 1 ile eşittir . Sonuçta elde edilen dizi, değerinde değerine eşit bir impulsa sahip olacaktır.$s[n]$$s[n]$$s[n]$$m$$\delta[n-m]$$\delta[n-m]$$n=m$$s[n]$$n$$m$$n$$m$$n=m$$s[m]$. Bu işlem aşağıdaki Şekil'de açıkça gösterilmiştir.

$\hspace{2cm}$

Gibi bu matematiksel yazılabilir farklı bir gecikme ile aynı prosedür tekrar edilmesi verir

$$\begin{equation*} s[n] \delta [n-m] = s[m] \delta [n-m] \end{equation*}$$ $m'$ $$\begin{equation*} s[n] \delta [n-m'] = s[m'] \delta [n-m'] \end{equation*}$$

Değeri , bu anda ekstre edilir. Bu nedenle, bu çarpma tüm olası gecikmelerde tekrarlanırsa ve üretilen tüm sinyaller birlikte toplanırsa, sonuç dizisinin kendisi olur. $s[m']$$-\infty < m < \infty$$s[n]$

$$\begin{align} s[n]&= \cdots + s[-2]\delta[n+2] + s[-1]\delta[n+1] + \nonumber \\ &\quad\quad\quad\quad\quad s[0]\delta[n] + s[1]\delta[n-1] + s[2]\delta[n-2] + \cdots \nonumber \\ &= \sum \limits _{m = -\infty} ^{\infty} s[m] \delta[n-m] \label{eqIntroductionSeqImpulses} \end{align}$$

Özetle, yukarıdaki denklem, , her birim dürtü nin genliği olduğu ölçekli birim darbelerinin bir toplamı olarak yazılabileceğini belirtir . Böyle bir toplamın bir örneği aşağıdaki Şekil'de gösterilmiştir.$s[n]$$\delta[n-m]$$s[m]$

$\hspace{3cm}$

Darbe yanıtı olan bir LTI sistemine girdi olarak verildiğinde ne olacağını düşünün .$h[n]$

Bu giriş-çıkış sırasına yol açar.

Yukarıdaki prosedür sırasında, dürtü yanıtı olan bir LTI sistemine giriş için çıkışını tanımlayan ünlü evrişim denklemini çalıştık .$r[n]$$s[n]$$h[n]$

Evrişim çok mantıklı ve basit bir süreçtir, ancak birçok DSP öğrencisinin açıklama şekli nedeniyle kafa karıştırıcı bulabilir. Geleneksel bir yöntemi ve daha sezgisel bir yaklaşımı anlatacağız.

Geleneksel Yöntem

---

Evrişim denklemini tanımladıktan sonra çoğu kitap, aşağıdaki adımlar aracılığıyla uygulanmasını önerir. Her bireysel zaman kayması ,$n$

[Flip] Denklemi olarak düzenleyerek, dürtü yanıtını değişkeninin bir fonksiyonu olarak düşünün , elde etmek için yaklaşık çevirin .$r[n] = \sum _{m = -\infty} ^{\infty} s[m] h[-m+n]$$m$$h[m]$$m = 0$$h[-m]$

[Shift] elde etmek için zaman kayması için , kaydırma ile pozitif sağdan birim ve negatif için kalan . $h[-m+n]$$n$$h[-m]$$n$$n$$n$

[Çarpma] ürün sekansı elde etmek için sekansını sekansı ile çarpın . $s[m]$$h[-m+n]$$s[m]\cdot h[-m+n]$

[Toplama] zamanındaki evrişim çıktısını elde etmek için yukarıdaki ürün dizisinin tüm değerlerini toplayın .$n$

[Tekrarla] Yukarıdaki adımları her olası değeri için tekrarlayın .$n$

İki sinyal arasındaki evrişim örneği ve , her bir için sonucunun gösterildiği aşağıdaki Şekil'de gösterilmiştir .$s[n] = [2\hspace{1mm}-\hspace{-1mm}1\hspace{2mm} 1]$$h[n] = [-1\hspace{2mm} 1\hspace{2mm} 2]$$r[n]$$n$

Yukarıdaki sinyal gösteriminde bir değişikliğe dikkat edin. Gerçek sinyaller ve zaman indeksi bir fonksiyonudur, ancak evrişim denklemi bu sinyallerin her ikisini de zaman endeksi . Öte yandan , noktası ile çarpılmadan önceki zaman kaymasını temsil etmek için kullanılır . çıkışı , uygulanan kaydırma olan zaman indeksinin bir fonksiyonudur .$s[n]$$h[n]$$n$$m$$n$$h[-m]$$s[m]$$r[n]$$n$$h[-m]$

Ardından, bir sinyalin çevrilmesinin gerekli olmadığı daha sezgisel yönteme dönüyoruz.

Sezgisel Yöntem

---

Evrişimi anlamak için başka bir yöntem daha var. Aslında, bu kıvrım denklemi, yani türetilmesi üzerine kuruludur, çıkış bulmak olarak $r[n]$ s[n]=[

$$\begin{align} r[n] ~ &= ~ \cdots + \nonumber \\ &\qquad\quad s[-2]\cdot h[n+2] ~+ \nonumber \\ &\qquad\qquad \quad\quad\quad s[-1]\cdot h[n+1] ~+ \nonumber \\ &\qquad\qquad \qquad\qquad\quad \quad\quad \quad s[0]\cdot h[n] ~+ \nonumber \\ &\qquad\qquad \quad \qquad\qquad\qquad \quad \quad\quad~ s[1]\cdot h[n-1] ~+ \nonumber \\ &\qquad\qquad \qquad\qquad\qquad\qquad\qquad \quad\quad\quad \quad~ s[2]\cdot h[n-2] ~+ \nonumber \\ &\qquad\qquad \qquad\qquad\qquad\qquad\qquad\qquad\qquad\qquad\quad\quad\quad\quad \cdots \label{eqIntroductionConvolution3} \end{align}$$ Yukarıdaki Şekil ile aynı örneği çözelim, burada ve . Bu, aşağıdaki Tablo'da gösterilmiştir.sa [ n ] = [ - $s[n] = [2\hspace{1mm}-~\hspace{-2mm}1\hspace{2mm} 1]$$h[n] = [-1\hspace{2mm} 1\hspace{2mm} 2]$

$\hspace{3cm}$

Böyle bir yöntem aşağıdaki Şekil'de gösterilmiştir. Uygulama açısından bakıldığında, her iki yöntem arasında bir fark yoktur.

$\hspace{3cm}$

Özetle, evrişim bize bir LTI sisteminin belirli bir girdiye tepki olarak nasıl davrandığını anlatır ve yukarıdaki sezgisel yöntem sayesinde evrişimin zaman alanında çarpma olduğunu (ve sinyalin çevrilmesi gerekli olmadığını) söyleyebiliriz. bu kez etki alanı çarpımı bellek içerir. Saygısız gelir ve hangi frekans etki olur, sen benim kitaptan bir örneği bölümüne indirebilirsiniz ayrıca daha derin düzeyde anlamak için burada .