Deep Learning(2)
-
[밑바닥부터 시작하는 딥러닝] #3 신경망
** 신경망 신경망은 가중치 매개변수의 적절한 값을 데이터로부터 자동으로 학습하는 능력이 있어 퍼셉트론에서 사람이 가중치와 편향의 조정을 수동으로 해야 한다는 단점을 해결한다. ** 퍼셉트론과 신경망의 차이 퍼셉트론 퍼셉트론은 일반적으로 '단층 퍼셉트론'을 의미한다 퍼셉트론은 계단 함수를 활성화 함수로 사용한다. 신경망 신경망은 2개 이상의 퍼셉트론이 합쳐진 '다층 퍼셉트론'을 의미한다. 신경망은 다양한 활성화 함수를 사용할 수 있다. ** 활성화 함수 입력 신호의 총합을 출력 신호로 변환하는 함수 입력 신호의 총합이 활성화를 일으키는지를 결정하는 역할을 수행한다. ** 다양한 활성화 함수 - 계단 함수 수식 구현 그래프 ** 다양한 활성화 함수 - 시그모이드 함수 수식 구현 그래프 ** 다양한 활성화 ..
2021.06.17 -
[밑바닥부터 시작하는 딥러닝] #2 퍼셉트론
** 퍼셉트론 여러 신호를 입력(x1, x2) 받아 하나의 신호를 출력(y) 하는 알고리즘 가중치(w1, w2)는 출력 신호에 대해 영향을 끼치는 정도를 정한다. ** 논리 회로를 퍼셉트론으로 표현 가중치 w와 임계값 θ를 적절하게 조정하여 논리회로 AND, NAND, OR 등을 구현할 수 있다. ** 편향(bias) 도입 기존의 식에서 θ 대신 편향(bias)을 의미하는 b를 좌변에 포함시키면 아래와 같은 식이 나온다. 편향은 뉴런이 얼마나 쉽게 활성화되는지를 결정하는 요소이다. ** (단일) 퍼셉트론의 한계 직선이 아닌 곡선으로 활성의 경계선을 생성하여 비선형 영역을 표현하려면 다층 퍼셉트론을 사용해야 한다.
2021.06.17