본문 바로가기

Many to many1

[딥러닝] LSTM(Long Short Term Memory) [딥러닝] LSTM(Long Short Term Memory) LSTM의 구조도 이다. 앞선 RNN의 구조와 크게 별 다를게 없어 보이지만 자세히 보면 무언가가 추가 됐다. RNN은 A로 넘어가는 선? (화살표)이 하나지만 LSTM은 한 줄이 더 생겼다. 윗쪽 선은 Long Term Memory(장기기억) 아랫쪽 선은 Short Term Memory(단기기억) 이다. 잠시 Vanilla RNN의 문제점을 생각해보자면 첫 인풋 데이터의 A(weight)가 마지막까지 못간다는 것이였다. 하지만, LSTM에서는 중요도가 높은 인풋데이터를 Long Term Memory에 넣어줌으로써 weight의 값이 마지막까지 유지될 수 있게 해준다. A안에는 복잡한 게이트들이 다양하게 있다. 만약 Long Term Memo.. 2022. 2. 25.

이전 1 다음

티스토리툴바