반응형 반응형 binary cross entropy1 반응형 [Activation Function] Sigmoid 이란? 시그모이드(sigmoid)가 주로 사용되는곳은 마지막 출력 layer에서 class 0과 1을 예측할 때 이다. 예전에는 은닉 layer에서 자주 사용되었지만 gradient vanishing 이슈로 인해 최근에는 거의 사용되지 않는다. 1. Odds 오즈는 간단하게 말하면 확률을 계산하는 식이다. 특징으로는 0에서 ∞(무한대) 까지 발산한다. 우리에게 동전이 하나 있다. 해당 동전을 던져서 앞면이 0.3 뒷면이 0.7이라고 하면 앞면과 뒷면의 Odds는 앞면에 비해 뒷면이 몇배는 클것이다. 우리가 예측을 할 때에는 확률의 차이가 대칭적이여야 class마다 공평한 확률을 만들 수 있다. 2. Logit 해당 이슈를 해결하기 위해서 간단한 아이디어가 하나 있는데 바로 Odds에 log를 씌워주는 것이다. .. 2022. 3. 28. 이전 1 다음 반응형
