[Deep Learning] TensorFlow GridSearch

📝딥러닝 텐서플로우 그리드 서치를 이용한 최적의 하이퍼 파라미터 찾기

from keras.wrappers.scikit_learn import KerasClassifier
from sklearn.model_selection import GridSearchCV
from keras.models import Sequential
from keras.layers import Dense

 

텐서플로우로 그리드 서치 하기 위해서 모델링하는 함수를 만든다

def build_model(optimizer) :
  model = Sequential()
  model.add( Dense( units=6, activation= 'relu', input_shape=(11,) ) )
  model.add( Dense( units=6, activation= 'relu' ) )
  model.add( Dense( units=1, activation= 'sigmoid' ) )
  model.compile(optimizer= optimizer, loss= 'binary_crossentropy', metrics= [ 'accuracy' ])
  return model

 

그리드 서치를 위해서 그리드 서치용 클래서 파이어를 만들어 사용

# 클래서 파이어 build_fn= 파라미터에 모델링 함수 입력하고 변수로 저장
model = KerasClassifier(build_fn= build_model)

# 사용할 batch_size, epochs, optimizer 지정한 딕트 만들기
my_param = { 'batch_size': [10, 20, 32], 'epochs' : [20, 30, 50], 'optimizer' : ['adam', 'rmsprop'] }

# 그리드서치 파라미터 안에 입력
grid = GridSearchCV(estimator= model, param_grid= my_param, scoring= 'accuracy' )

# 학습
grid.fit(X_train, y_train)

 

학습이 완료되면 나온 결과를 확인한다

grid.best_params_

grid.best_score_

# 변수에 저장해서 사용
best_model = grid.best_estimator_

# 1과 0으로 나온다
best_model.predict(X_test)

# 1과 0사이의 숫자로 나온다
best_model.predict_proba(X_test)

# 나온 결과값을 y_pred 변수로 저장해서 사용
y_pred = best_model.predict(X_test)

# 정확도 확인
confusion_matrix(y_test, y_pred)
accuracy_score(y_test, y_pred)