활성화 함수(Activation Function)

활성화함수는 입력값이 특정 뉴런에서 처리되어 결과값을 생성할때 적용되는 함수입니다. 활성화 함수로 이 글에서는 3가지를 언급하는데 첫째는 계단함수, 둘째는 시그모이드 함수, 셋째는 ReLU 함수입니다. 각 활성화 함수의 수식과 그래프를 살펴보면 다음과 같습니다. 시그모이드 함수(Sigmoid Function)     위의 식을 그래프로 시각화하기 위한 코드는 아래와 같습니다. [crayon-5e563e46ec78a939242039/] 결과 그래프는 아래와 같습니다. 계단함수(Step Function)     위의 식을 … 활성화 함수(Activation Function) 계속 읽기