Derin öğrenmede mevcut görüntü yerine veri kümesinin görüntü ortalamasını çıkartarak görüntüleri neden normalleştirelim?

Görüntülerin nasıl normalleştirileceğine dair bazı farklılıklar var ancak çoğu bu iki yöntemi kullanıyor gibi görünüyor:

1. Tüm görüntüler üzerinde hesaplanan kanal başına ortalamayı çıkarın (örn. VGG_ILSVRC_16_layers )
2. Tüm resimler üzerinde hesaplanan piksel / kanala göre çıkarma (örneğin, CNN_S , ayrıca Caffe'nin referans ağına bakınız )

Doğal yaklaşım aklımda her görüntüyü normalleştirmek için olurdu. Güpegündüz çekilen bir görüntü, gece görüntüsünden daha fazla nöronun ateşlenmesine neden olur ve bize zaman zaman bilgi verirken, genellikle kenarlarda mevcut olan daha ilginç özellikleri önemsiyoruz.

Pierre Sermanet 3.3.3'te görüntünün temelinde olacak olan yerel kontrast normalleşmesinin , ancak gördüğüm örnek / öğreticilerin hiçbirinde buna rastlamadığımdan bahsetmektedir. Ayrıca ilginç bir Quora sorusu ve Xiu-Shen Wei'nin görevini de gördüm, ancak yukarıdaki iki yaklaşımı desteklemiyor gibi görünüyorlar.

Tam olarak neyi özlüyorum? Bu bir renk normalleştirme sorunu mu yoksa neden bu kadar çok kişinin bu yaklaşımı kullandığını açıklayan bir makale var mı?

Veri kümesi ortalamasını çıkarmak, verileri "merkezlemeye" yarar. Ek olarak, her bir özellik değerini bir z-skoruna göre normalleştirmek istiyorsanız, ideal olarak bu özelliğin veya pikselin sttdevine bölmek istersiniz.

Her ikisini de yapmamızın sebebi, ağımızı eğitme sürecinde, daha sonra gradyanlarla geri adım attığımız aktivasyonlara neden olmak için bu ilk girişleri çoğaltacağımız (ağırlıklar) ve (önyargılar) ekleyeceğiz. modeli eğitin.

Bu süreçte, her özelliğin degradelerimizin kontrolden çıkmaması için benzer bir aralığa sahip olmasını istiyoruz (ve yalnızca bir küresel öğrenme oranı çarpanına ihtiyacımız var).

Bunu düşünmenin bir başka yolu da derin öğrenme ağlarının geleneksel olarak birçok parametreyi paylaşmasıdır - girdilerinizi benzer aralıkta özellik değerlerine (yani, ortalama veriyi çıkararak tüm veri kümesi üzerinden) sonuçlandıracak şekilde ölçeklendirmediyseniz çok kolay bir şekilde oluyor çünkü görüntü ağırlığının bir kısmı wçok fazla, diğeri ise çok küçük.

Bazı CNN modellerinde görüntü başına beyazlatmanın kullanıldığını göreceksiniz, bu da sizin düşünceleriniz boyunca daha fazla.

Toplu normalizasyondan önce, verileri her bir kanal için (R, G, B) sıfır ortalamanın etrafında ortalamak için kanal başına ortalama çıkarma kullanılmıştır. Bu genellikle ağın daha hızlı öğrenmesine yardımcı olur çünkü gradyanlar her kanal için aynı şekilde çalışır. Toplu normalleştirme kullanıyorsanız, her parti için normalleştirme yaptığınız için kanal başına ortalama çıkarma ön işleme adımının gerçekten gerekli olmadığından şüpheleniyorum.

Görüntü başına normalleştirme yaygındır ve şu anda Tensorflow'ta yerleşik olan tek yerleşik işlevdir (özellikle uygulaması çok kolaydır). Bahsettiğiniz kesin nedenle kullanılır (aynı görüntü için VS VS gecesi). Ancak, aydınlatmanın kontrol edildiği daha ideal bir senaryo hayal ederseniz, her bir resim arasındaki göreceli farklılıklar algoritmada büyük değer taşır ve bunu görüntü başına normalleştirme ile silmek istemezdik (ve Tüm eğitim verisi bağlamında normalizasyon yapınız).

Buna, verileri kullanmadan önce ön işleme adı verilir. Pek çok yolla işlem yapabilirsiniz, ancak her bir veriyi aynı işlevle X_preproc = f (X) olarak işlemeniz ve bu f (.) Verinin kendisine bağlı olmaması gerektiği bir koşul vardır; o andaki görüntü f (X) 'in gerçekten f (X, görüntü) olacağı ve bunu istemiyorsunuz.

Bahsettiğiniz görüntü kontrast normalleşmesi farklı bir amaç içindir. Görüntü kontrast normalizasyonu özelliği yardımcı olacaktır.

Ancak yukarıdaki f (.), Tüm özellikleri birbirine sayısal olarak eşit tutarak (tabii ki yaklaşık olarak) optimizasyona yardımcı olacaktır.