가장 단순한 신경망 모델 퍼셉트론 → 은닉층이 추가돼 실용화 수준에 오른 다층 퍼셉트론

신경망 기초

1. 인공신경망과 생물신경망

• 뉴런 : 사람 두뇌의 가장 작은 정보처리 단위
• 신경망 : 뉴런의 집합

2. 신경망의 간략한 역사

3. 신경망의 종류

다양한 모델 존재

• 전방 신경망과 순환 신경망(feedforward & recurrent)

  • 전방 신경망 : 왼 → 오 | ex) 다층 퍼셉트론, 깊은 다층 퍼셉트론 DMLP, 컨볼루션 신경망 CNN forward nn (FNN)
  • 순환 신경망 : 왼 → 오 + 피드백 계산(오 → 왼) | 순환 신경망 RNN, LSTM (RNN)

• 얕은 신경망과 깊은 신경망

  • 얕은 신경망 : 은닉층이 1~2개인 얕은 신경망
  • 깊은 신경망 : 더 많은 은닉층을 가진 신경망

  → 몇 개의 은닉층을 기준으로 구분하는지 명확하지 않음

• 결정론 신경망과 스토캐스틱 신경망(deterministirc & stochastic)

  • 결정론 신경망 : 계산식에 임의성이 없기 때문 → 입력이 같으면 항상 같은 출력
    • 분류, 회귀와 같은 예측만 가능
  • 스토캐스틱 신경망 : 계산식이 확률에 따른 난수 사용 → 입력이 같아도 매번 다른 출력 | ex) RBM, DBN
    • 예측뿐 아니라 패턴을 생성하는 능력을 부여하면 생성 모델로 활용 가능