“Düzenleme” teriminin kökeni

Öğrencilerime kavramları tanıtırken, sık sık terminolojinin nereden geldiğini söylemekten zevk alırım (örneğin, "gerileme", ilginç bir kökene sahip bir terimdir). İstatistiksel / makina öğreniminde "normalleşme" teriminin geçmişini / geçmişini belirleyemedim.

Yani, terim kökeni nedir regularization ?

Matthew Gunn'in katkısına benzer şekilde , bu aynı zamanda gerçekten bir cevap değil, daha makul bir aday.

Ayrıca ilk önce "normalleşme" terimini Tikhonov Düzenleme bağlamında ve özellikle jeofizikte (doğrusal) ters problemler bağlamında duydum . İlginçtir ki, çalışma alanımdan kaynaklanabileceğini düşündüğüm halde (yani kullanıcı adıma bakınız), görünüşe göre Tikhonov aslında bu alandaki çalışmalarının çoğunu yaptı!

Benim önsezi modern "düzenlileştirme" yaklaşımı muhtemelen olmasıdır vermedi Tikhonov çalışmaları ile kaynaklanmaktadır. Bu spekülasyona dayanarak, buradaki katkımın iki kısmı var.

İlk bölüm (koltuk-) doğası gereği tarihi (kağıt başlıklarına ve kendi önyargılarıma dayanarak!). 1963 belgesinin yanlış biçimlendirilmiş sorunların çözümü ve düzenlileştirme yöntemi "normalleştirme" teriminin ilk kullanımı gibi görünmekle birlikte, bunun doğru olduğundan emin olamam. Bu referans Vikipedi olarak belirtilmiştir.

Tikhonov, AN (1963). "О решении некорректно поставленных задач и методе регуляризации". Doklady Akademii Nauk SSSR. 151: 501-504. "Yanlış formüle edilmiş problemlerin çözümü ve düzenlileştirme yöntemi" ile çevrilmiştir. Sovyet Matematik 4: 1035–1038.

Tikhonov'un kendisinin bu eserin en azından bir kısmını orijinal olarak Rusça yazdığı izlenimini vererek, "normalleşme" ifadesi daha sonraki bir tercüman tarafından da bulunabilirdi. [GÜNCELLEME: Hayır, "регуляризации" = düzenlileşme , Çağdaş Özgenç'in yorumuna bakınız.] Ayrıca, bu çalışma Tikhonov tarafından çok daha uzun bir süredir yürütülen araştırmaların bir parçası gibi görünüyor . Örneğin kağıt

Tikhonov, Andrey Nikolayevich (1943). "Об устойчивости обратных задач" [Ters problemlerin kararlılığı üzerine]. Doklady Akademii Nauk SSSR. 39 (5): 195-198.

en az 20 yıl öncesinden aynı genel konuya girdiğini gösteriyor. Bununla birlikte, bu zaman çizelgesi muhtemelen ters problemli çalışmanın 1963'e 1943'ten daha yakın başladığını göstermektedir.

[ GÜNCELLEME: 1943 belgesinin bu çevirisi , burada " düzenlilik " terminolojisinin " ters problemin kararlılığı (veya ters haritanın sürekliliği)" anlamına geldiğini gösteriyor .

Katkımın ikinci kısmı, “düzenlileşmenin” aslında bu bağlamda nasıl tasarlandığına dair bir hipotezdir. Oldukça yaygın olarak "normal", özellikle eğri ve / veya yüzey geometrisini tanımlarken "pürüzsüz" ile eşanlamlı olarak kullanılır. Çoğu jeofizik uygulamasında, istenen çözüm, mekansal olarak dağılmış bir alanın bir ızgaralı tahminidir ve daha önce bir pürüzsüzlük sağlamak için Tikhonov düzenlenmesi kullanılır .

(Tikhonov matrisi tipik olarak , PDE matrislerine benzer şekilde, sırt regresyonunun kimlik matrisine benzeyen ayrık bir uzaysal türev operatörü olacaktır . Bunun nedeni, bu ızgaralar / ileri modeller için, ileri model matrisinin boşluğunun dahil olma eğiliminde olmasıdır. benzer; cezalandırılmış sürece sonuçlarını kirletecek "dama tahtası modları" gibi şeyler bu ).

Güncelleme: Bu konular benim cevap gösterilmiştir burada .

özet

1. Ayrıca Tikhonov'a oy vermeyi orijini verdim (muhtemelen 1963 dolaylarında)
2. Orijinal uygulamalar jeofiziksel ters modelleme olabilir, bu nedenle "normalizasyon" terimi, sonuçta elde edilen haritaları * daha düzgün, yani "normal" hale getirme anlamına gelebilir.

(* 1943 tarihli makaleden gelen güncellenmiş alıntıya dayanarak, bu kelime öbeği doğru görünüyor ... ama yanlış nedenden dolayı! İlgili "harita" ızgara ve alan arasında değildi , , fakat ileri modelden ters eşleme .)θ = F - 1 [ u $u[x]=F[\theta]$$\theta=F^{-1}[u]$

Bu kısım cevap, yarı uzun yorum. Eksik bir aday listesi:

1. Tikhonov, Andrey. "Yanlış formüle edilmiş sorunların çözümü ve düzenlileştirme yöntemi." Sovyet Matematik Dokl .. Vol. 5. 1963. Tikhonov, Tikhonov düzenlileşmesiyle (sırt regresyonu olarak da bilinir) bilinir.

2. Fizikte en azından 1940'lara dayanan bir düzenlileşme kavramı var , ama Tikhonov düzenlileşmesi ile bir bağlantı görmüyorum? (Ben fizikçi değilim ama.)

3. Mühendislik metinler söz regularization 1880'lerde geri en az gidiş (navigasyon geliştirmek için) bir nehir.

Araştırırken http://books.google.com o matematik ve fizik kitabı bağlamında tekrar ve tekrar gösterilmeye başlamadan, ben, 1970'lere kadar dönem "regularization" yaygın kullanımını görmüyorum.

Bir kötü yöneltilen sorunun çözümleri bir demet, bu çözümler seçer: o tekniğin temel hedefi yakalar çünkü çoğu basitçe terimi bilimsel terimlerin doğal evrimini hayatta düzenli olduğu,

kuralına göre

(ücretsiz sözlük tanımı )

Bu aynı zamanda örneğin marangozlukta pürüzsüz bir yüzey tasarlamak için ortak dilde kullanılır. Benzer şekilde, kural yeniden yapılandırılmış sinyalin düzensiz bitlerinin toplam varyasyonunu (TV) (örneğin degradenin toplam enerjisiyle ölçüldüğü gibi) toplam değişimini (TV) en aza indirmek ise, daha düzenli görünecektir .

$\ell_0$