I am Charmie

メモとログ

LASSOとBasis pursuit

LASSOとBasis pursuitの違いが良く分からない.

Basis pursuitは過完備基底を仮定しているのに対して,LASSOはそうではないと考えていたのだけど,GPSR(Gradient Projection for Sparse Reconstruction)の論文によると,
LASSO:
minimize |y-Ax|2
subject to |x|
1<epsilon
Basis pursuit:
minimize |x|1
subject to y=Ax
となっている.
どちらも制約付最小二乗法と見なせるが,LASSOはfidelity termにエラーを許容しているのに対して,Basis pursuitはy=Asであるとしている所が違うのかな?

ということは,
minimize |Ax-y|
2+Lambda|x|_1
という最適化問題はLASSOという事になるのかな.

うーん本質的な違いがイマイチ分からないなぁ.