머신러닝 프로세스 이해하기 - Machine Learning Process & Pipeline

항상 헷갈리는 머신러닝 나만 그런건지 모르겠지만... 주기적으로 캐글 문제들을 풀지 않아서 그런걸까. 머신러닝의 프로세스를 대충 알고 있지만 어느 단계에서 어떤 방법을 사용해야 하는지 자꾸 까먹거나 헷갈릴 때가 많다. 중간 고사도 끝났고 kaggle 문제들을 본격적으로 풀기 전에 다시 한 번 머신러닝의 전체적인 프로세스를 쭉 학습하며 정리했다. 구글링을 해보면 정말 많은 레퍼런스가 있는데, 사실 사용하는 사람들마다 용어가 조금씩 다르기도 하고 순서도 제각각 다른 경우도 많다. 하지만 사용하는 사이킷런 코드나 큰 틀은 일관된 방향성을 갖는다. 이번 포스팅에서는 데이터 전처리에 대해 다룬다. 데이터 전처리는 주로 데이터 클리닝(Data cleaning) , 데이터 변형(Data Transformation),..

• format_list_bulleted Data science/Machine Learning basic
• · 2022. 10. 28.

로지스틱 회귀 ( Logistic Regression )

로지스틱 회귀는 선형 회귀 방식을 분류(classification)에 적용한 알고리즘입니다. 즉, 로지스틱 회귀는 분류에 사용됩니다. 하지만 로지스틱 회귀 역시 선형 회귀 계열입니다. 지난 포스팅에서 회귀에 관해 설명할 때 , 회귀가 선형인가 비선형인가는 독립변수가 아닌 가중치(weight) 변수가 선형인지 아닌지를 따릅니다. 로지스틱 회귀가 선형 회귀와 다른 점은 학습을 통해 선형 함수의 회귀 최적선을 찾는 것이 아니라 시그모이드(Sigmoid) 함수 최적선을 찾고 이 시그모이드 함수의 반환 값을 확률로 간주해 확률에 따라 분류를 결정한다는 것입니다. 시그모이드 함수는 x 값이 +,- 로 아무리 커지거나 작아져도 y 값은 항상 0과 1 사이 값을 반환합니다. x 값이 커지면 1에 근사하며 x 값이 작아..

• format_list_bulleted 카테고리 없음
• · 2022. 9. 30.

회귀 ( Regression ) - 다항 회귀와 과(대)적합 / 과소적합 이해

앞서 설명한 회귀는 단순히 y = w0 + w1x1 + w2x2 + w3*x3 …. + wn * xn 과 같이 독립변수(feature)와 종속변수(target)의 관계가 일차 방정식 형태로 표현된 회귀였습니다. 하지만 세상의 모든 관계를 직선으로만 표현할 수는 없습니다. 회귀가 독립변수의 단항식이 아닌 2차, 3차 방정식과 같은 다항식으로 표현되는 것을 다항(polynomial)회귀라고 합니다. 즉 , 다항 회귀는 y = w0 + w1x1 + w2x2 + w3x1x2 + w4x12** 과 같이 표현될 수 있습니다. 주의할 점으로 다항 회귀를 비선형 회귀로 혼동하기 쉽지만, 다항 회귀는 선형 회귀라는 점을 기억해야 합니다. 회귀에서 선형 / 비선형 의 선형성을 결정하는 것은 회귀 계수입니다. 독립 변수의 ..

• format_list_bulleted 카테고리 없음
• · 2022. 9. 26.