반응형 ML & AI/머신러닝 (ML)1 [머신러닝 ML] Bayesian Optimization (베이지안 최적화) : Hyper-parameter tuning (하이퍼파라미터 튜닝) 1. Introduction Parameter vs Hyper-parameter Parameter : 데이터를 통해 학습되는, 모델의 능력을 결정하는 변수. ex) Neural Network에서의 가중치(weight), 회귀분석에서의 계수(coefficient) Hyper-parameter : 데이터에서 얻어지는 값이 아닌, 연구자가 경험/모델 최적화로 얻어지는 모델 외적인 변수. ex) Neural Network에서의 학습률(learning rate), KNN에서 K의 갯수 Difficulties of Hyper-parameter Tuning Lasso linear regression : lambda (0.001, ... 총 10개 후보) 각각에 대해 10-fold CV 1시간씩 하면 총 10시간 El.. 2021. 9. 10. 이전 1 다음 반응형