'Transfer öğrenimi' ve 'alan adı uyarlaması' arasındaki fark nedir?

'Transfer öğrenimi' ve 'alan adı uyarlaması' arasında herhangi bir fark var mı?

Bağlam hakkında bir bilgim yok, ama benim anlayışım bazı veri setimiz 1 ve üzerinde çalıştığımız, bundan sonra modelimizi sıfırdan yeniden eğitmeden uyarlamak istediğimiz, 'transfer öğrenimi' ve 'alan adı uyarlaması' bu sorunun çözülmesine yardımcı olur.

Evrişimli Sinir Ağları alanına göre:

• 'Transfer öğrenimi' ile 'bitirme' demek istiyorum [1]

• Bu durumda [2] denetimsizdir, ancak 'etki alanı uyarlaması' her zaman denetimsiz mi olmalıdır?

Görünüşe göre araştırmacılar arasında 'transfer öğrenimi' ve 'alan adaptasyonu' arasındaki farkın ne olduğu konusunda bazı anlaşmazlıklar var.

{0} tarihinden itibaren:

Alan adı uyarlaması kavramı transfer öğrenimi ile yakından ilişkilidir. Transfer öğrenimi, farklı görevler veya alanlar içeren bir makine öğrenimi problemleri sınıfını ifade eden genel bir terimdir. Literatürde transfer öğreniminin standart bir tanımı henüz yoktur. Bazı makalelerde alan adı uyarlaması ile değiştirilebilir.

1'den}:

Referanslar:

• {0} Li, Qi. "Literatür taraması: doğal dil işleme için etki alanı adaptasyon algoritmaları." Bilgisayar Bilimleri Bölümü Mezuniyet Merkezi, New York Şehir Üniversitesi (2012): 8-10. https://scholar.google.com/scholar?cluster=2828982016930721315&hl=tr&as_sdt=0,22 ; https://pdfs.semanticscholar.org/532e/3d5b1b5807771b77cac60fe8594b506fcff9.pdf ; http://nlp.cs.rpi.edu/paper/qisurvey.pdf ( ayna )

• {1} Pan, Sinno Jialin ve Qiang Yang. "Transfer öğrenimi üzerine bir araştırma." IEEE Bilgi ve veri mühendisliği işlemleri 22, no. 10 (2010): 1345-1359'da açıklanmaktadır. https://scholar.google.com/scholar?cluster=17771403852323259019&hl=tr&as_sdt=0,22 ; http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.158.4126&rep=rep1&type=pdf ( ayna ) (2.6k alıntı)

Hal Daume'nin [1] makalesinden:

Standart sınıflandırma ayarı, p (X) giriş dağılımı ve p (Y | X) etiket dağılımıdır. Alan adı uyarlaması: p (X) eğitim ve test arasında değiştiğinde. Transfer öğrenimi: p (Y | X) eğitim ve test arasında değiştiğinde.

Başka bir deyişle, DA'da girdi dağılımı değişir, ancak etiketler aynı kalır; TL cinsinden girdi dağılımları aynı kalır, ancak etiketler değişir.

1. https://nlpers.blogspot.com/2007/11/domain-adaptation-vs-transfer-learning.html ( ayna )

Transfer öğrenimi literatürü boyunca bir takım terminoloji tutarsızlıkları vardır. Transfer öğrenimi ve alan adaptasyonu gibi ifadeler benzer süreçleri ifade etmek için kullanılır. Etki alanı uyarlaması, bir veya daha fazla kaynak etki alanını, hedef bir öğrencinin performansını artırmak için bilgi aktarma aracı olarak uyarlama işlemidir. Etki alanı uyarlama işlemi, kaynağın dağıtımını hedefinkine yakınlaştırmak amacıyla bir kaynak etki alanını değiştirmeye çalışır. Alan Adı Uyarlama ayarında kaynak ve hedef alan adları farklı marjinal dağılımlara sahiptir p (X). Pan'in anketine göre, Transfer Learning, kaynak ve hedef alanların koşullu dağılımlarında p (Y | X) bir fark olduğu zaman da dahil edilebilen daha geniş bir terimdir. Tersine,

1. https://nlpers.blogspot.com/2007/11/domain-adaptation-vs-transfer-learning.html

"Transfer Öğrenme" nin daha genel bir terim olduğunu ve "Domain Adaptation" ın "Transfer Learning" senaryosu olduğunu düşünüyorum.

[1] Alan Adı Uyarlamasına Devredilebilir Dikkat. http://ise.thss.tsinghua.edu.cn/~mlong/doc/transferable-attention-aaai19.pdf

[1] 'e göre alan adaptasyonu, NLP'deki transfer öğrenmesidir: "NLP alanındaki transfer öğrenimi bazen alan adaptasyonu olarak adlandırılır."

[1] Pan, SJ ve Q. Yang. “Transfer Öğrenimi Üzerine Bir Anket.” Bilgi ve Veri Mühendisliğinde IEEE İşlemleri 22, no. 10 (Ekim 2010): 1345–59. https://doi.org/10.1109/TKDE.2009.191 veya https://www.cse.ust.hk/~qyang/Docs/2009/tkde_transfer_learning.pdf