Sırt regresyonu bağlamında Lagrange gevşemesi

"İstatistiksel Öğrenmenin Unsurları" (2. baskı), s63'te, yazarlar sırt regresyon probleminin aşağıdaki iki formülasyonunu verirler:

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \left\{ \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 + \lambda \sum_{j=1}^p \beta_j^2 \right\}$$

ve

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 \text{, subject to } \sum_{j=1}^p \beta_j^2 \leq t.$$

İkisinin eşdeğer olduğu ve ve t parametreleri arasında bire bir yazışma olduğu iddia edilmektedir .$\lambda$$t$

İlk formülasyonun ikincisinin Lagrange gevşemesi olduğu anlaşılıyor. Ancak, Lagrangian gevşemelerinin nasıl veya neden çalıştığı konusunda sezgisel bir anlayışım olmadı.

İki formülasyonun gerçekten eşdeğer olduğunu göstermenin basit bir yolu var mı? Eğer seçmem gerekirse, sezgiyi titizlikle tercih ederim.

Teşekkürler.

Yazışma en kolay Zarf Teoremi kullanılarak gösterilebilir .

$\lambda \cdot t$$\lambda$ verilen Hastie ark bırakın, böylece.

$t$$t$$\beta$$\lambda \cdot t$

$t$

Bunun Hastie ve ark. atıfta bulunuyor.