인공지능 (1) 썸네일형 리스트형 [딥러닝] LSTM의 4가지 Gate LSTM의 복습 : 여러 노드를 가진 LSTM 실제 LSTM 모델은 이러한 과정을 거치는 노드가 여러 개 연결 되어 있는 형태를 가진다. 참고 : LTM = Long Term Memory , STM = Short Term Memory LSTM Architechure RNN의 수식적 표현과 tanh 함수를 지나 새로운 Memory를 형성하고 있다. 수식설명 STM_t-1 = Mt-1을 의미 Mt-1과 Et 벡터를 조인 후에, W(가중치) 매트릭스와 곱 + bias b 이 값을 하이퍼볼릭 탄젠트 (tanh) 에 넣으면 새로운 Mt 도출한다. 이 개념을 이용해 LSTM 내에 어떤 게이트에 어떤 연산과정을 거쳐 학습하는 지 이 포스트에서 소개할 예정이다. LSTM Gates LSTM 모델 내에는 4가지 게이트가.. 이전 1 다음
