罚函数
公式 g λ ( θ ) , θ ≥ 0 , λ > 0
超梯度 ∂ g λ ( θ )
L p
λ θ p
{ + ∞ , 当 θ = 0 , λ p θ p − 1 , 当 θ > 0.
SCAD
{ λ θ , 当 θ ≤ λ , − θ 2 + 2 γ λ θ − λ 2 2 ( γ − 1 ) , 当 λ < θ ≤ γ λ , γ 2 ( γ + 1 ) 2 , 当 θ > γ λ .
{ λ , 当 θ ≤ λ , γ λ − θ γ − 1 , 当 λ < θ ≤ γ λ , 0 , 当 θ ≤ γ λ .
Logarithm
λ log ( γ + 1 ) log ( γ θ + 1 )
γ λ ( γ θ + 1 ) log ( γ + 1 )
MCP
{ λ θ − θ 2 2 γ , 当 θ < γ λ , 1 2 γ λ 2 , 当 θ ≥ γ λ .
{ λ − θ γ , 当 θ < γ λ , 0 , 当 θ ≥ γ λ .
ETP
λ 1 − exp ( − γ ) ( 1 − exp ( − γ θ ) )
λ γ 1 − exp ( − γ ) exp ( − γ θ )