반응형 반응형 ML | DL24 반응형 [머신러닝] 로지스틱 회귀(Logistic regression) *제가 이해한 내용을 정리한것이므로, 틀린내용이 있을 수 있으니 틀린점은 지적해주시면 감사하겠습니다. 로지스틱 회귀는 '회귀' 라고는 하지만 선형 이진 분류에서 뛰어난 성능을 내는 알고리즘이다. 보통 이진분류에만 사용하지만, 다중분류에도 사용할 수 있다.(복잡해서 쓰지 않는다고함) 퍼셉트론의 가장 큰 단점은 클래스가 선형으로 구분되지 않을 때 사용할 수 없다는 점이였다. 로지스틱 회귀는 비선형 분류모델에 적용할 수 있다. 설명하기전에 일단 오즈비(odds ratio)를 알아보자. "특정 이벤트가 발생할 확률"을 뜻한다. 동전 던지기의 확률이 1/2 일 때 앞면이 나올 확률 대비 뒷면이 나올 확률의 비율(오즈비)는 1 오즈비에 자연로그를 취한 값(p / (1 - p) 에 로그를 씌운것)을 로짓 함수라고 부.. 2020. 10. 28. [머신러닝] 퍼셉트론과 아달린 (feat. 경사하강법) * 제가 이해한 내용을 적어 틀린 내용이 있을 수 있으니 지적 해주세요!! 퍼셉트론(Perceptron) 이란? - 인간의 뉴런 구조를 따라한 학습모델 1이라는 편향 값을 가진 퍼셉트론 이다. 입력값(x)과 가중치(w) 서로 곱하고 더한값이 weighted sum이다 결정 함수(여기선 계단함수)는 임계값(𝜃)을 기준으로 그 이상일 때 클래스1로, 아 닐 때 클래스 -1로 예측한다. 퍼셉트론을 순서대로 설명하자면 1. 가중치를 초기화 하고 학습률을 정해준다. 2. weighted sum을 진행한다. 3. 계단함수에서 일정 임계값을 기준으로 0과 1 클래스를 예측한다 4. 만약 예측할 값이 0이였는데 1을 예측했다면 x값에 비례한 가중치를 업데이트 한다. 5. 위 내용 2번부터 반복 그리고 퍼셉트론은 두 클.. 2020. 10. 28. [딥러닝] 딥러닝 기초 머신러닝을 배우다 딥러닝으로 넘어온 오늘.. 내가 딥러닝을 배우다니! 다층 퍼셉트론 - 입력층(input layer) 한개, 은닉충(hidden layer) 한개이상, 출력층(output layer)으로 구성되있는걸 다층 퍼셉트론이라 부른다. 이 때 은닉충이 두개 이상이면 심층 신경망 이라 부르며 딥러닝은 이 심층 신경망을 연구하는 분야 라고 한다! 역전파 훈련 알고리즘 - 이 알고리즘은 간단히 말하면 효율적인 기법으로 그레이디언트를 자동으로 계산하는 경사하강법 이라고 한다. 네크워크를 정방향으로 한 번, 역방향으로 한 번 통과하여 모든 모델 파라미터에 대한 네크워크 오차의 그레이디언트를 계산할 수 있다. 순서대로 써보면 1) 각 훈련 샘플에 대해 역전파 알고리즘이 먼저 예측을 만들고 오차를 측정(정방향.. 2020. 10. 13. [Kaggle] 타이타닉 생존자 예측 도전 캐글에 제출했더니 0.79가 나왔다. 데이터 전처리가 부족한거 같다. 알고리즘은 다 써봤는데;; Name 변수를 좀 더 이용하면 좋을거 같다. 그래도 1000등안에 들어서 만족스럽긴 하다. (아직 입문단계 ㅠㅠ) In [1]: from IPython.core.display import display, HTML display(HTML("")) import pandas as pd import numpy as np import seaborn as sns sns.set_style('dark') import matplotlib.pyplot as plt from matplotlib import font_manager, rc font_path = "c:/Windows/Fonts/malgun.ttf" font_name.. 2020. 9. 20. 이전 1 ··· 3 4 5 6 다음 반응형
