LASSO, grid search

Lasso는 L1 정규화를 해주는 회귀 모델

 

- alpha, max_iter는 하이퍼파라미터로, grid search를 통해 구할 수 있다.

 

LASSO의 default of max_iter = 1000

 

 

from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import GridSearchCV

import numpy as np
import pandas as pd

# 경고 메시지 출력 억제 코드
import warnings
warnings.simplefilter(action='ignore')

GENDER_FILE_PATH = './datasets/gender.csv'

# 데이터 셋을 가지고 온다
gender_df = pd.read_csv(GENDER_FILE_PATH)

X = pd.get_dummies(gender_df.drop(['Gender'], axis=1)) # 입력 변수를 one-hot encode한다
y = gender_df[['Gender']].values.ravel()

# 여기에 코드를 작성하세요
lr = LogisticRegression()
hyper_para = {'penalty': ['l1', 'l2'],
                        'max_iter': [500, 1000, 1500, 2000]}
              
grid_tuner = GridSearchCV(lr, hyper_para, cv=5)
grid_tuner.fit(X,y)

best_params = grid_tuner.best_params_

 

# 테스트 코드
best_params