앙상블 기법이란, 더 높은 성능을 위해 여러 모델( = 분류기)을 만들고 조합하여 결과를 도출하는 기법을 말한다. 이 기법의 아이디어는, 분류든 회귀든 어떤 문제를 해결함에 있어서 하나의 알고리즘, 모델을 완벽히 다듬는 것보다 여러 모델을 조합하는 것이 더 뛰어난 성능을 보일 수 있다는 것이다. 앙상블 기법의 아이디어는 위 그림에서 여러 명의 일반인을 조합하는 것을 의미한다. 그림에서처럼 한 명의 전문가와 여러 명의 일반인의 성능의 비교는 딱 잘라서 "누가 더 좋다"라고 말하기 어렵지만, 앙상블 기법을 통한 모델은 일반적으로 단일 모델모다 더 우월한 성능을 보여주는 것이 사실이다. 정리하자면, 앙상블 기법은 "약한 분류기"여러 개를 조합하여 하나의 "강한 분류기"로 만드는 기법이다. 딥러닝의 응용이 활성..

AI, 데이터 분석의 밑바탕인 머신러닝(기계학습)에는 크게 세 가지 갈래가 있다. - 지도학습 (타겟, 정답을 함께 학습시켜 타겟을 예측한다.) - 비지도학습 (타겟, 정답없이 학습시켜 데이터의 특성을 파악한다.) - 강화학습 (주어진 상태에 대한 보상을 통해 최적의 행동을 학습시킨다.) 의사결정나무 - 지도학습 의사결정나무는 분류, 회귀 문제에 모두 적용이 가능한 지도학습 알고리즘이다. (분류 문제: 분류 나무, 회귀 문제: 회귀 나무) 이는 비교적 간단하고 쉬운 알고리즘으로 오늘날까지 현업에서 가장 많이 이용되는 알고리즘 중 하나이다. 이름에서도 알 수 있듯이, 이 모형은 의사결정 과정을 단계별로 도식화한 나무 형태를 가진다. 이 모형에서 각 단계를 "노드"라고 하는데, 이 알고리즘은 상위노드에서 하..

릿지(Ridge)회귀와 라쏘(Lasso)회귀 모델은 정규화를 위한 규제를 가한 모델이다. 머신러닝에서 정규화란, 주로 과대적합(혹은 과소적합)되어있지 않은 "일반화"된 모델로 조정하는 것을 의미한다. 같은 맥락에서, 회귀모형에 규제를 가하여 정규화한 모델이 바로 릿지와 라쏘 모델이라고 할 수 있다. 과적합 문제는 대부분의 머신러닝 알고리즘에서 가장 경계하는 부작용이다. 과적합(Overfitting) 문제는 우리가 학습시킨 데이터에 지나치게 적합되어 나타나는 문제이다. 조금 더 풀어서 이야기 하면, 우리가 만든 학습 환경에서는 우수한 성능을 보이지만 현실 세계에 적용하면 그 성능이 떨어지는 문제인 것이다. 학습 환경에서만 성능이 좋다는 것은 특히나 비즈니스 분야에서 어떠한 의미도 갖지 못하기 때문에, 분석..

AI, 데이터 분석의 밑바탕인 머신러닝(기계학습)에는 크게 세 가지 갈래가 있다. - 지도학습 (타겟, 정답을 함께 학습시켜 타겟을 예측한다.) - 비지도학습 (타겟, 정답없이 학습시켜 데이터의 특성을 파악한다.) - 강화학습 (주어진 상태에 대한 보상을 통해 최적의 행동을 학습시킨다.) 회귀분석 - 지도학습 회귀분석은 대표적인 지도학습 알고리즘으로 통계학의 꽃이라고도 불린다. 통계학에서 발전한 회귀분석은 결과값을 예측하고 그 값에 미치는 변수들의 영향력을 알아보는 데 쓰인다. 여러 연구와 학문분야간 교류 속에서 많은 응용이 등장했지만 그 사상과 목적은 이와 동일하다. 회귀분석은 비즈니스의 여러 도메인(금융, 마케팅 등)에서 매우 유용하게 이용된다. 회귀분석을 통한 회귀모형은 그 응용이 매우 다양해서 여..