Giriş Arkaplanı

Konvolüsyonel bir sinir ağı içinde genellikle buna benzeyen genel bir yapıya / akışa sahibiz:

1. giriş görüntüsü (yani 2B vektör x)

(1. Konvolüsyon tabakası (Conv1) burada başlar ...)

2. w12B görüntü boyunca bir dizi filtre ( ) döndürün (yani z1 = w1*x + b1nokta ürün çarpmalarını yapın), burada 3B'dir z1ve b1önyargıdır.
3. 3B olduğu z1doğrusal olmayan (ör. a1 = ReLu(z1)) yapmak için bir aktivasyon işlevi (örneğin ReLu) uygulayın a1.

(2. Konvolüsyon tabakası (Conv2) burada başlar ...)

4. yeni hesaplanan aktivasyonlar boyunca bir dizi filtre bükün (yani z2 = w2*a1 + b2nokta ürün çarpımlarını yapın), z23B ve ve b2önyargılardır.
5. 3B olduğu z2doğrusal olmayan (ör. a2 = ReLu(z2)) yapmak için bir aktivasyon işlevi (örneğin ReLu) uygulayın a2.

 Soru

"Özellik haritası" teriminin tanımı literatürden edebiyata değişiyor gibi görünüyor. somut olarak:

• Birinci evrimleştirilmiş katman için, "özellik haritası" giriş vektörüne xveya çıkış nokta ürününe z1veya çıkış aktivasyonlarına a1veya buna dönüştüren "işlem" xe a1veya başka bir şeye karşılık gelir mi?
• Benzer şekilde, 2 kıvrışımlı katman için, giriş aktivasyonları için "özelliği haritası" karşılık gelir yapar a1, veya çıkış nokta ürününü z2, veya çıkış aktivasyonu a2veya "süreci" dönüştürme a1için a2, ya da başka bir şey?

Ayrıca, "özellik haritası" teriminin tam olarak "etkinleştirme haritası" ile aynı olduğu doğru mu? (veya aslında iki farklı şey mi ifade ediyorlar?)

 Ek referanslar:

Yapay Sinir Ağları ve Derin Öğrenmenin Parçacıkları - Bölüm 6 :

* Adlandırma burada gevşek olarak kullanılıyor. Özellikle, evrişimsel katman tarafından hesaplanan fonksiyonu değil, katmandan çıkan gizli nöronların aktivasyonunu ifade etmek için "özellik haritası" kullanıyorum. Bu tür hafif adlandırma istismarı araştırma literatüründe oldukça yaygındır.

Evrimsel Ağları Görselleştirmek ve Anlamaktan Pasajları Matt Zeiler :

Bu yazıda, modeldeki herhangi bir katmandaki bireysel özellik haritalarını heyecanlandıran girdi uyaranlarını ortaya çıkaran bir görselleştirme tekniği tanıtıldı. [...] Bizim yaklaşımımız, aksine, eğitim setinden hangi kalıpların özellik haritasını aktive ettiğini gösteren parametrik olmayan bir değişmezlik görünümü sunuyor. [...] özellik haritaları arasındaki yanıtları normalleştiren yerel bir kontrast işlemi. [...] Belirli bir convnet aktivasyonunu incelemek için, katmandaki diğer tüm aktivasyonları sıfıra ayarladık ve özellik haritalarını ekteki dekonvnet katmanına giriş olarak geçirdik. [...] Convnet, özellik haritalarını düzelten ve özellik haritalarının her zaman pozitif olmasını sağlayan relu doğrusal olmayanları kullanır. [...] Convnet, özellik haritalarını önceki katmandan ayırmak için öğrenilmiş filtreler kullanır. [...] Şekil 6, Bu görselleştirmeler, modelde verilen özellik haritasını teşvik eden giriş modelinin doğru temsilidir [...], desene karşılık gelen orijinal giriş görüntüsünün parçaları tıkandığında, özellik haritasındaki aktivitede belirgin bir düşüş görürüz. [...]

Notlar: Şekil 1'deki "özellik haritası" ve "düzeltilmiş özellik haritası" terimlerini de tanıtmaktadır.

Stanford CS231n CNN Bölümündeki Metin Parçacıkları :

[...] Bu görselleştirme ile kolayca fark edilebilen tehlikeli bir tuzak, bazı aktivasyon haritalarının ölü filtrelere işaret edebilecek birçok farklı girdi için sıfır olabileceği ve yüksek öğrenme oranlarının belirtisi olabileceğidir [...] İlk CONV katmanında (solda) ve eğitimli bir AlexNet'in 5. CONV katmanında (sağda) kedinin resmine bakarak tipik görünümlü aktivasyonlar. Her kutuda, bazı filtrelere karşılık gelen bir etkinleştirme haritası gösterilir. Aktivasyonların seyrek olduğuna (siyah olarak gösterilen bu görselleştirmede çoğu değer sıfırdır) ve çoğunlukla yerel olduğuna dikkat edin.

Yeni Başlayanlar İçin-Rehber-Anlamak-Konvolüsyon-Sinir-Ağlarından Metin Parçacıkları

[...] Giriş birimindeki her benzersiz konum bir sayı üretir. Filtreyi tüm konumlar üzerinde kaydırdıktan sonra, bıraktığınız şeyin bir aktivasyon haritası veya özellik haritası dediğimiz 28 x 28 x 1 sayı dizisi olduğunu göreceksiniz.

Bir özellik haritası veya aktivasyon haritası, belirli bir filtrenin çıkış aktivasyonlarıdır (sizin durumunuzda a1) ve tanım, hangi katmanda olduğunuzdan bağımsız olarak aynıdır.

Özellik haritası ve etkinleştirme haritası tam olarak aynı şeyi ifade eder. Aktivasyon haritası olarak adlandırılır çünkü görüntünün farklı kısımlarının aktivasyonuna karşılık gelen bir haritalama ve aynı zamanda bir özellik haritasıdır çünkü aynı zamanda görüntüde belirli bir özelliğin bulunduğu yerin bir haritasıdır. Yüksek aktivasyon, belirli bir özelliğin bulunduğu anlamına gelir.

"Düzeltilmiş bir özellik haritası", Relu kullanılarak oluşturulan bir özellik haritasıdır. Nokta ürünlerinin (z1) sonucu olarak kullanılan "özellik haritası" terimini muhtemelen görebilirsiniz, çünkü bu aynı zamanda görüntüdeki bazı özelliklerin gerçekten bulunduğu bir haritadır, ancak bu görülmesi çok yaygın değildir.

özellik haritasının ne anlama geldiğinden bahsetmeden önce, sadece özellik vektörünün terimini tanımlayalım.

özellik vektörü, nesnelerin vektörel temsilidir. Örneğin, bir araba [tekerlek sayısı, kapı sayısı ile temsil edilebilir. pencereler, yaş.

özellik haritası, bir uzayda özellik vektörlerini alan ve onları bir diğerindeki özellik vektörlerine dönüştüren bir fonksiyondur. Örneğin, bir özellik vektörüne [hacim, ağırlık, yükseklik, genişlik] verildiğinde [1, hacim / ağırlık, yükseklik * genişlik] veya [yükseklik * genişlik] veya hatta sadece [hacim] değerini döndürebilir