[인공지능] 하이퍼 파라미터 (에포크/배치/학습률/옵티마이저/손실함수/활성화함수)
아래 글에 이어 작성된 글입니다. [인공지능] 다층 퍼셉트론 (MLP)과 역전파 알고리즘 아래 글에 이어 작성된 글입니다. [인공지능] 인공신경망의 시작, 퍼셉트론 아래 글에 이어 작성된 글입니다. [인공지능] 머신러닝과 인공신경망 아래 글에 이어 작성된 글입니다. [인공지능] 전 munak.tistory.com 신경망 학습에서 사용되는 하이퍼 파라미터(hyper parameter) 들에 대해 다룹니다. 신경망이 주목받기 시작함에 따라 효율적인 학습을 위한 여러 연구가 진행되었습니다. 이에 앞서 살펴본 손실함수, 활성화 함수 등 학습에 관여하는 일명 하이퍼 파라미터들이 개발되었는데요. 이번글에서는 여러 하이퍼 파라미터 들에 대해 작성해 보겠습니다. + 이름이 하이퍼 파라미터인 이유? 신경망에는 가중치와 ..
[인공지능] 다층 퍼셉트론 (MLP)과 역전파 알고리즘
아래 글에 이어 작성된 글입니다. [인공지능] 인공신경망의 시작, 퍼셉트론 아래 글에 이어 작성된 글입니다. [인공지능] 머신러닝과 인공신경망 아래 글에 이어 작성된 글입니다. [인공지능] 전문가 시스템과 지식 아래글에 이어 작성된 글입니다. [인공지능] 탐색 아래 munak.tistory.com 다층 퍼셉트론 MLP와 핵심인 역전파 알고리즘에 대한 내용을 다룹니다. 다층 퍼셉트론 : Multilayer Perceptron 다층 퍼셉트론(MLP)은 입력층과 출력층 사이에 은닉층이라는 새로운 층을 가지고 있는 퍼셉트론을 말합니다. 기존의 퍼셉트론의 경우 한 개의 뉴런 구조만을 가진 단순한 형태였으며, XOR을 학습하지 못하는 등의 한계점이 있었습니다. 연구자들은 우리의 뇌가 수백만 개의 뉴런들로 이루어져 ..