Math : Concave Function vs Convex Function

정의

Concave

Concave는 함수 안에서 임의의 점으로 선을 그었을 때, 모든 값들이 선 위에 존재하는 것을 concave라고 한다.

 

Convex

Convex는 함수 안에서 임의의 점으로 선을 그었을 때, 모든 값들이 선 아래에 존재하는 것을 convex라고 한다.

 

---

응용

우리가 Machine Learning에서 Loss Function의 minimum을 잡기 위하여 우리는 제곱을 많이 한다. 따라서 Loss Function을 최소화 하는, 즉 loss function이 convex function이기에

 

우리는 convex function을 최소화하는 optimization을 연구하면 된다.