Makine öğrenimini ve karmaşıklık teorisinin daha egzotik biçimlerini birleştiren bir çalışma var mı?

Bana öyle geliyor ki, makine öğrenimi / veri madenciliği uzmanları P ve NP'ye aşinadır, ancak nadiren daha ince karmaşıklık sınıflarından (örneğin NC, BPP veya IP) ve bunların verileri etkili bir şekilde analiz etmedeki etkilerinden bahseder. Bunu yapan herhangi bir çalışma var mı?

cc.complexity-theory reference-request machine-learning

— Mike Izbicki
kaynak

Bildiğim bir anket yok, ancak bu yazıdan

— Suresh Venkat

makine öğrenimi düzenli olarak NP'nin dışında “küresel” optimizasyon için sorun yaratan, ancak NP içinde veya “yerel” optimizasyondan daha az zor olan çok zor problemlere saldırır. Bu nedenle, uygulamaya bağlı kalite ölçümleriyle ve bir anlamda algoritmaları çalıştırmak için gerçekten bilinen apriori olarak ölçülen "yeterince iyi" sonuçlar için optimize edildiğinde karmaşıklık sınıfının tüm konsepti bulanıklaşır ....

— vzn

@vzn Bana göre bu incelik karmaşıklığa dikkat etmek için daha fazla neden gibi görünüyor! Çok ilginç bilgiler sağlayabilir.

— Mike Izbicki

öğrenme teorisi, devre karmaşıklığı, kriptografi arasında kesinlikle bağlantılar vardır. ancak bu, makine öğrenme pratiğinden biraz uzaklaşan öğrenme teorisinin köşesidir. eğer ilgileniyorsanız, bazı işaretçiler ile gelebilir

— Sasho Nikolov

evet, başka bir örnek olarak, BDD'ler (ikili karar diyagramları) veritabanı algoritmalarında / veri madenciliğinde kullanılmıştır ve devre karmaşıklığına güçlü bağlantıları vardır. ama bana öyle geliyor ki, tüm soru biraz zor olabilir, çünkü makine öğreniminin pragmatik olması ve uygulanan ML'nin karmaşıklığı, teorik olarak tahmin etmeye veya katı bir şekilde sınıflandırmaya çalışmak yerine algoritmaların gerçek uygulamalarını analiz etmek suretiyle genellikle dolaylı / ampirik olarak incelenir .

— vzn

Uygulamalı makine öğreniminin iki alanı ile TCS / karmaşıklık teorisi arasında yaklaşımların doğasında bazı farklar veya farklılıklar vardır.

İşte Hesaplamalı Sürdürülebilirlik Merkezi, çok sayıda video içeren Princeton'daki konuyla ilgili yeni bir atölye çalışması.

Açıklama: Makine öğrenimindeki birçok mevcut yaklaşım sezgiseldir: performansları veya çalışma süreleri konusunda iyi sınırlar kanıtlayamayız. Bu küçük çalıştay, performansı titizlikle analiz edilebilecek algoritma ve yaklaşımların tasarlanması projesine odaklanacak. Amaç, kanıtlanabilir sınırların mevcut olduğu ortamların ötesine bakmaktır.

Çalıştay: Makine Öğreniminde Sağlanabilir Sınırlar - 1-2 Ağustos 2012

TCS'de "öğrenme" nin ana çalışma alanına bazen kafa karıştırıcı bir şekilde "makine öğrenimi" de denir , muhtemelen Yaklaşık Doğru anlamına gelen PAC teorisi olarak adlandırılır . 1980'lerin başlarındaki kökeni "makine öğrenimi" konusunda çok daha modern araştırmalardan önce gelir. wikipedia onu alan hesaplamalı öğrenme teorisinin bir parçası olarak adlandırır . PAC genellikle dağılımların istatistiksel örnekleri vb. Verilmiş boole formüllerinin öğrenilmesinin sonuçları ve çeşitli algoritmalar veya sınırlı örnekler verildiğinde öğrenmenin ulaşılabilir doğruluğu ile ilgilidir. Bu, karmaşıklık sınıflarına bağlarla sıkı bir teorik yolla incelenir. Ancak bu, makine öğrenimi üzerine uygulamalı bir çalışma ve wikipedias sayfası bile listelemiyor.

Makine Öğrenmesinin Doktora Tezinin Hesaplamalı Karmaşıklığı Kearns
(PAC) makine öğreniminde Xing slaytları

— vzn
kaynak

"wikipedia aramaları" ... aslında konu hakkında bir şey biliyor musunuz? 1) makine öğrenimi için wiki, hesaplamalı öğrenme teorisine bağlanan bir Teori bölümüne sahiptir. Sayfa 2) Valiant, Vapnik, Schapire'ın öğrenme teorisi çalışmalarının diğerlerinin yanı sıra makine öğrenimi pratiği üzerinde büyük etkisi olmuştur.

— Sasho Nikolov