반응형

딥러닝 3

[BoTorch] Bayesian Optimization을 딥러닝에 적용 (1) - BO 알고리즘

데이터를 최적화 하고자 할 때 많이 쓰이는 알고리즘 중 하나를 얘기하라고 한다면 BO(Bayesian Optimization)을 빼놓을 수 없습니다. 머신 러닝 알고리즘을 구현했지만 알고리즘에 적용되는 hyperparameter를 일일이 조정하기는 쉽지 않을 수 있습니다. 물론 운이 좋아 적절한 파라메타를 찾았다면 좋겠지만요. 하이퍼 파라메타를 사람이 직접 수정하지 않고 알고리즘에 맡겨 찾고자 하는 과정을 BO 알고리즘이 대신해준다고 볼 수 있습니다. BO 알고리즘 내부에는 하이퍼 파라메타를 찾기 위한 탐색 방법(grid search, random search, 등등)이 여러가지 있으며 최적의 관측값을 찾기 위한 함수인 acauisition function도 있습니다. BO알고리즘을 다음과 같은 수식으로..

[Autoencoder] 오토인코더 간략 설명

최근 딥러닝의 부상으로 다양한 딥러닝 모델들의 관심이 뜨겁습니다. 그중에서도 생성모델인 autoencoder에 대해 간단하게 설명하고자 합니다. * Autoencoder란? Encoder와 Decoder로 구성된 딥러닝 모델을 의미합니다. 입력과 출력의 크기가 동일합니다. 가장 핵심은 데이터를 잘 압축하는 latent space vector를 얻고자 하는 것입니다. Manifold Learning Latent space vector를 통해서 데이터를 생성하는 것이 가능해집니다. Generative model 이미지 출처: https://thilospinner.com/towards-an-interpretable-latent-space/ https://www.jeremyjordan.me/variational..

딥러닝/VAE 2022.02.06

[Window 10 Tensorflow 설치] tensorflow 2.6, CUDA 11.2, cuDNN 8.2.1

이번에 컴퓨터를 새로 바꾸면서 tensorflow를 새로 설치해야 할 일이 생겨서 설치하는 과정을 리뷰해고보자 합니다. 본 게시물은 윈도우 10에 tensorflow를 설치하는 것을 기준으로 합니다. 금일 (2022.02.06) 기준으로 tensorflow는 2.8.0 버전까지 릴리즈 되어 있습니다. https://www.tensorflow.org/api_docs?hl=ko API Documentation | TensorFlow Core v2.8.0 An open source machine learning library for research and production. www.tensorflow.org 하지만 저는 안정적으로 이전 버전인 tensorflow 2.6.0 버전을 기준으로 설치하도록 하겠습니..

반응형