데이터를 최적화 하고자 할 때 많이 쓰이는 알고리즘 중 하나를 얘기하라고 한다면 BO(Bayesian Optimization)을 빼놓을 수 없습니다. 머신 러닝 알고리즘을 구현했지만 알고리즘에 적용되는 hyperparameter를 일일이 조정하기는 쉽지 않을 수 있습니다. 물론 운이 좋아 적절한 파라메타를 찾았다면 좋겠지만요. 하이퍼 파라메타를 사람이 직접 수정하지 않고 알고리즘에 맡겨 찾고자 하는 과정을 BO 알고리즘이 대신해준다고 볼 수 있습니다. BO 알고리즘 내부에는 하이퍼 파라메타를 찾기 위한 탐색 방법(grid search, random search, 등등)이 여러가지 있으며 최적의 관측값을 찾기 위한 함수인 acauisition function도 있습니다. BO알고리즘을 다음과 같은 수식으로..