Makine Öğrenimi mi Sistem Tespiti mi?

Birisi bana makine öğrenimi ile sistem tanımlamaları arasındaki farkları ve benzerlikleri açıklayabilir mi? Bunlar aynı şeyin iki ismi mi? Gelen bu sayfayı derler:

Makine öğrenimi ve sistem tanımlama toplulukları, sınırlı veya gürültülü gözlemlerden bir model inşa edilmesi gerektiğinde benzer sorunlarla karşı karşıyadır.

Christopher M.Piskopos'un ünlü Desen Tanıma ve Makine Öğrenimi kitabının ilk bölümlerini de okudum. Şimdiye kadarki sonucum, sistem tanımlamasının çözmeye çalıştığı sorunun, makine öğreniminin çözmeye çalıştığı şeyin bir alt kümesi olduğudur.

Sistem tanımlama, gözlemlenen verilerden dinamik modeller oluşturma bilimidir. İki ana yaklaşım vardır: Tahmin Hata Tanımlaması (PEI) ve Altuzay Tanımlaması (SID). Her ikisi de parametrik bir model, yani sabit bir yapı modeli sunuyorlar. Genellikle kullanıcının altta yatan sistemin yapısını (özellikle PEI yöntemlerinde) veya en azından sistemin sırasını (her iki yöntemde) seçmesi söz konusudur. Gerekli olmasa da, düşük dereceli bir sistem aranır (yani, temel katsayıların sayısı nispeten azdır) çünkü genellikle kontrol amaçlı kullanılır, bu nedenle önlemek için mümkün olduğunca basit tutmalıyız hesaplama modeli vb. Bu model, bazı girdiler verildiğinde sistemin gelecekteki davranışı hakkında tahminlerde bulunmak için kullanılabilir.

Öte yandan, makine öğrenmesinin (ML) iki ana dalı vardır: sınıflandırma ve regresyon algoritmaları. İkincisi de tahmin amacıyla kullanılır. Makine öğreniminde en ünlü yaklaşımlardan ikisi, Destek Vektör Makineleri (SVM) ve Gauss süreçleri (GP). Sistem tanımlama teknikleri ile temel fark, ML tekniklerinin parametrik olmayan bir model sunmasıdır. İkincisi, yeni bir girdi için tahminin modelin "eğitimi" (öğrenme, tanımlama) için kullanılan veri noktalarının bir fonksiyonu olarak verildiği anlamına gelir. Bu nedenle, eğitim için N = 1000 veri noktası kullanırsak, tahmin bu veri noktalarının bir fonksiyonu olarak ifade edilir. ML yöntemleri, kullanıcıdan herhangi bir yapı seçimi gerektirmediği için daha esnektir, ancak diğer sınırlamalarla (ör.

Yakın zamana kadar ML ve sistem tanımlama teknikleri bağımsız olarak gelişiyordu. Ancak son yıllarda ortak bir zemin oluşturmak için büyük bir çaba var (örneğin, Ljung'un "Sistem tanımlama ile dört karşılaşma" makalesine bakın)

Bağlam: SysID ve ML'ye giren adamı kontrol eder.

Kullanıcı110686'nın cevabının bazı farklılıkları açıklamak için adil bir iş çıkardığını düşünüyorum . SysID zorunlu olarak giriş / çıkış verilerinden dinamik modellerle ilgilidir, oysa ML daha geniş bir problem sınıfını kapsar. Ama gördüğüm en büyük fark (a) bellek (parametre sayısı); (b) "öğrenilmiş" modelin son kullanımı. Sistem Tanımlama, frekans alanı gösterimleri, zaman-frekans analizi vb. Dikkate alınarak bir sinyal işleme yaklaşımıdır. Bazı ML üyeleri buna "özellik mühendisliği" adını verir.

(bir anı:SysID, bir araştırma alanı şekillendiğinden ML'den çok önce öne çıktı. Dolayısıyla istatistik ve sinyal işleme teorik temeller için temel dayanaktı ve hesaplama korkutucuydu. Bu nedenle, insanlar çok az sayıda parametreye sahip çok basit bir model sınıfıyla (Bias-Variance tradeoff) çalıştılar. İnsanların sorunun doğrusal olmadığını açıkça bildiği durumlarda bile en fazla 30-40 parametreden ve çoğunlukla doğrusal modellerden bahsediyoruz. Ancak, şimdi hesaplama çok ucuz ama SysID henüz kabuğundan çıkmadı. İnsanlar artık çok daha iyi sensörlere sahip olduğumuzu, çok zengin model setleriyle 1000 parametreyi kolayca tahmin edebileceğimizi fark etmeye başlamalıdır. Bazı araştırmacılar SysID için sinir ağlarını kullanmaya çalıştılar, ancak birçok teorik garanti olmadığı için birçoğu bunları "ana akım" olarak kabul etmekte isteksiz görünüyor.

(b) Öğrenilen modelin son kullanımı: Şimdi bu SysID'in çok doğru olduğu bir şey, ancak birçok ML algoritması yakalayamıyor. Hedef uygulamalar için, çevrimiçi optimizasyon için etkili bir şekilde kullanılabilecek modeller oluşturduğunuzun farkında olmanız önemlidir .Bu modeller, alınan herhangi bir kontrol kararını yaymak için kullanılacaktır ve bunu en uygun kontrol problemi olarak ayarlarken, modeller kısıtlama haline gelir. Bu nedenle, son derece karmaşık bir model yapısı kullanırken, çevrimiçi optimizasyonu çok daha zor hale getirir. Ayrıca, bu çevrimiçi kararların saniyeler veya daha kısa bir sürede alındığını unutmayın. Önerilen bir alternatif, en iyi kontrol için değer fonksiyonunu doğrudan politika dışı bir şekilde öğrenmektir. Bu temel olarak takviye öğrenmedir ve bence SysID ve RL arasında iyi bir sinerji vardır.

Sistem tanımlamasında parametrik olmayan yaklaşımların da olduğunu eklemek isterim. Ayrıntılar için MATLAB'ın SysId araç kutusuna veya Ljung'un kitabına bakın. Parametrik olmayan yaklaşımlar genellikle ilk olarak daha sonraki parametrik çalışmalar için model sınıfını tanımlamak için kullanılır. Ayrıca, tahmin problemini kontrol probleminden ayırmak da önemlidir (OODA döngüsünü düşünün). Bir sistemi tanımlarken, daha sonra tasarlanacak tipte herhangi bir özel kontrol girişi olmadan sistemi karakterize etmek genellikle amaçtır (ancak bu her zaman mümkün değildir). Son olarak, bir sistemin bir matematiksel bakış açısından bir fonksiyon uzayını bir fonksiyon alanına eşleyen bir operatör olduğunu fark etmenin yararlı olduğunu düşünüyorum. Bu nedenle diferansiyel denklemler genellikle tanımlanan şeylerdir ve bu harita işlevlere göre işlev görür. SysID'deki fonksiyonlar genellikle zamanın sürekli fonksiyonlarıdır, yani sürekli zaman sinyalleri. (Ama aynı zamanda ayrık zamanlı da olabilirler.) Bu nedenle, SysID sadece gerçek sayıları (veya vektörleri) gerçek sayılara (veya vektörlere) eşlemeye çalışmaz; giriş sinyallerini çıkış sinyallerine eşleştiren en iyi operatörü (LTI, LTV, doğrusal olmayan vb.) tanımlamaya çalışır.

Makine Öğrenmesi: statik model ve dinamik model için modelleme, Sistem Tanımlama: dinamik model veya dinamik sürece odaklanma