«kernel-trick» etiketlenmiş sorular

İki çekirdek fonksiyonunun noktasal ürününün bir çekirdek fonksiyonu olduğunu nasıl kanıtlayabilirim?

13 machine-learning  kernel-trick 

Belirli bir veri kümesine karşı bir SVM çalıştırdım ve aşağıdaki gözlemi yaptım: Sınıflandırıcıyı oluşturmak için özellik sayısını değiştirirsem, ortaya çıkan destek vektörlerinin sayısı da değiştirilecektir. Bu tür bir senaryoyu nasıl açıklayacağımı bilmek istiyorum.

12 machine-learning  classification  svm  kernel-trick 

Ben çekirdeklerde yeniyim ve kNN'yi çekirdeklemeye çalışırken bir engelle karşılaştım. Hazırlıklar Bir polinom çekirdek kullanıyorum: K( X , y ) = ( 1 + ⟨ x , y ⟩ )dK(x,y)=(1+⟨x,y⟩)dK(\mathbf{x},\mathbf{y}) = (1 + \langle \mathbf{x},\mathbf{y} \rangle)^d Tipik Öklid kNN'niz aşağıdaki mesafe metriğini kullanır: d( x , y ) = | …

12 machine-learning  kernel-trick  k-nearest-neighbour 

Kapalı. Bu soru konu dışı . Şu anda cevapları kabul etmiyor. Bu soruyu geliştirmek ister misiniz? Sorunuzu güncelleyin o yüzden -konu üzerinde Çapraz doğrulanmış için. 3 yıl önce kapalı . M sütunları ve n satırları olan sütunları ve satırları veri noktaları olan bir numpy dizi var . Şimdi her veri …

12 python  kernel-trick  numpy 

Düşük seviyeli çekirdek yakınlaşması için Nyström yöntemini okudum. Bu yöntem scikit-learn [1] 'de veri örneklerini çekirdek özellik eşlemesinin düşük dereceli bir yaklaşımına yansıtmak için bir yöntem olarak uygulanır. Bildiğim kadarıyla, bir eğitim seti verilen ve bir çekirdek fonksiyonu, bu bir düşük seviye yaklaşımı oluşturur çekirdek matris için SVD uygulayarak ve …

12 scikit-learn  dimensionality-reduction  kernel-trick  nonlinear 

Bir meslektaşım bir işlev vardır ve bizim için bir kara-kutu. Fonksiyon iki nesnenin benzerliğini ölçer .ssss(a,b)s(a,b)s(a,b) Biz biliyoruz emin bu özelliklere sahiptir:sss Benzerlik puanları, 0 ile 1 arasında, gerçek sayılardır. Yalnızca özdeş olan nesnelerin puanları 1'dir. Bu nedenle, , anlamına gelir ve bunun tersi de geçerlidir.s(a,b)=1s(a,b)=1s(a,b)=1a=ba=ba=b olduğu garanti edilir .s(a,b)=s(b,a)s(a,b)=s(b,a)s(a,b) …

11 kernel-trick  distance  similarities  rbf-kernel 

Bir SVM'yi vakaları (DOĞRU / YANLIŞ) 20 özelliğe göre sınıflandırması için eğitmek istiyorum. Bu özelliklerin bazılarının yüksek derecede ilişkili olduğunu biliyorum. Bu yüzden sorum şu: SVM özellikler arasındaki korelasyona veya artıklığa duyarlı mı? Referans var mı?

11 svm  multicollinearity  kernel-trick 

Ridge Regresyonu burada öngörülen etikettir , , matris tanımlamak biz için bir etiket bulmaya çalışıyorsanız nesne ve matrisi nesnelerin şöyle:y^=(X′X+aId)−1Xxy^=(X′X+aId)−1Xx\hat{y} = (\mathbf{X'X} + a\mathbf{I}_d)^{-1}\mathbf{X}xy^y^\hat{y}IdId\mathbf{I}_dd×dd×dd \times dxx\mathbf{x}XX\mathbf{X}n×dn×dn \times dnnnxi=(xi,1,...,xi,d)∈Rdxi=(xi,1,...,xi,d)∈Rd\mathbf{x}_i = (x_{i,1}, ..., x_{i,d})\in \mathbb{R}^d X=⎛⎝⎜⎜⎜⎜⎜x1,1x2,1⋮xn , 1x1 ,2x2 ,2⋮x1 , 2……⋱...x1 , dx2 , d⋮xn , d⎞⎠⎟⎟⎟⎟⎟X=(x1,1x1,2…x1,dx2,1x2,2…x2,d⋮⋮⋱⋮xn,1x1,2…xn,d) \mathbf{X} = \begin{pmatrix} x_{1,1} …

11 regression  ridge-regression  kernel-trick 

Doğrusal olmayan sınırlarla sınıflandırma problemleri basit bir algılayıcıyla çözülemez . Aşağıdaki R kodu açıklama amaçlıdır ve Python'daki bu örneğe dayanmaktadır ): nonlin <- function(x, deriv = F) { if (deriv) x*(1-x) else 1/(1+exp(-x)) } X <- matrix(c(-3,1, -2,1, -1,1, 0,1, 1,1, 2,1, 3,1), ncol=2, byrow=T) y <- c(0,0,1,1,1,0,0) syn0 <- …

10 r  neural-networks  svm  kernel-trick  perceptron 

Bir grafik üzerinde var bazı veriler var. Köşe iki sınıftan birine ait y ı ∈ { - 1 , 1 } ve ben iki sınıf arasında ayrım bir SVM eğitim ilgilenen ediyorum. Bunun için bir uygun çekirdektirdifüzyon çekirdek, K = exp ( - β L ) , L olanLaplaceait G …

10 svm  cross-validation  kernel-trick  graph-theory 

Bir süre, olasılıklar modellerden çekirdekler inşa etmenin bir yolu gibi göründüğü için Fisher Çekirdekleri popüler olabilir gibi görünüyordu. Ancak, bunların pratikte nadiren kullanıldığını gördüm ve çok iyi çalışmazlar. Fisher Information'ın hesaplamasına güveniyorlar - alıntı yapmak Wikipedia: Fisher bilgisi, f'nin doğal logaritmasının with'sine göre ikinci türev beklentisinin negatifidir. Bilgi, curve'nın maksimum …

10 machine-learning  probability  kernel-trick  generative-models 

Son zamanlarda varsayılan olayların olasılıklarını tahmin etmek için Platt'ın SVM çıktılarını ölçeklemesini kullandım. Daha doğrudan alternatifler "Çekirdek lojistik Regresyonu" (KLR) ve ilgili "İthalat Vektör Makinesi" gibi görünmektedir. Olasılık çıktıları veren hangi çekirdek yönteminin şu anda en son teknoloji olduğunu söyleyen var mı? KLR'nin R uygulaması var mı? Yardımın için çok …

10 logistic  svm  kernel-trick 

SVM'leri okudum ve bir optimizasyon problemi çözdüklerini ve maksimum marj fikrinin çok makul olduğunu öğrendim. Şimdi, çekirdekleri kullanarak, doğrusal olmayan ayırma sınırlarını bile bulabilirler ki bu harikaydı. Şimdiye kadar, SVM'lerin (özel bir çekirdek makinesi) ve çekirdek makinelerinin sinir ağlarıyla nasıl ilişkili olduğu hakkında hiçbir fikrim yok mu? Yorumlarına düşünün Yann …

10 machine-learning  neural-networks  svm  deep-learning  kernel-trick 

Çekirdek yöntemleri birçok denetimli sınıflandırma görevinde çok etkilidir. Peki, çekirdek yöntemlerinin sınırlamaları nelerdir ve çekirdek yöntemlerinin ne zaman kullanılması gerekir? Özellikle büyük ölçekli veri döneminde, çekirdek yöntemlerinin ilerlemeleri nelerdir? Çekirdek yöntemleri ile çoklu örnek öğrenme arasındaki fark nedir? Veri ise 500x10000, 500numunelerin sayısı ve 10000biz çekirdek yöntemlerini kullanabilirsiniz, bu durum …

10 machine-learning  kernel-trick 

Bu sadece birkaç kez karşılaştığım bir örnektir, bu yüzden örnek verilerim yok. R'de doğrusal regresyon modeli çalıştırmak: a.lm = lm(Y ~ x1 + x2) x1sürekli bir değişkendir. x2kategoriktir ve üç değeri vardır, örneğin "Düşük", "Orta" ve "Yüksek". Bununla birlikte, R tarafından verilen çıktı aşağıdaki gibi olacaktır: summary(a.lm) Estimate Std. Error …

10 r  regression  categorical-data  regression-coefficients  categorical-encoding  machine-learning  random-forest  anova  spss  r  self-study  bootstrap  monte-carlo  r  multiple-regression  partitioning  neural-networks  normalization  machine-learning  svm  kernel-trick  self-study  survival  cox-model  repeated-measures  survey  likert  correlation  variance  sampling  meta-analysis  anova  independence  sample  assumptions  bayesian  covariance  r  regression  time-series  mathematical-statistics  graphical-model  machine-learning  linear-model  kernel-trick  linear-algebra  self-study  moments  function  correlation  spss  probability  confidence-interval  sampling  mean  population  r  generalized-linear-model  prediction  offset  data-visualization  clustering  sas  cart  binning  sas  logistic  causality  regression  self-study  standard-error  r  distributions  r  regression  time-series  multiple-regression  python  chi-squared  independence  sample  clustering  data-mining  rapidminer  probability  stochastic-processes  clustering  binary-data  dimensionality-reduction  svd  correspondence-analysis  data-visualization  excel  c#  hypothesis-testing  econometrics  survey  rating  composite  regression  least-squares  mcmc  markov-process  kullback-leibler  convergence  predictive-models  r  regression  anova  confidence-interval  survival  cox-model  hazard  normal-distribution  autoregressive  mixed-model  r  mixed-model  sas  hypothesis-testing  mediation  interaction