Recurrent Neural Network1 [๋ฅ๋ฌ๋] RNN (Recurrent Neural Network) - ์ํ์ ๊ฒฝ๋ง ๊ตฌ์กฐ [๋ฅ๋ฌ๋] RNN (Recurrent Neural Network) - ์ํ์ ๊ฒฝ๋ง ๊ตฌ์กฐ RNN์ ์์ฐ์ด ์ฒ๋ฆฌ๋ฅผ ํ๋ค๋์ง, ์ฃผ๊ฐ ์์ธก์ ํ๋ค๋์ง ์๊ฐ์ ํ๋ฆ์ด ๋งค์ฐ ์ค์ํ ์๊ณ์ด ๋ฐ์ดํฐ์ ์ ํฉํ ๋ชจ๋ธ์ด๋ค. ๊ธฐ๋ณธ์ ์ธ RNN ๊ตฌ์กฐ๋์ด๋ค. ํ๋์ฉ ๋ฏ์ด๋ณด๋ฉด ์ธํ๊ฐ์ด X0์ผ๋ก ๋ค์ด๊ฐ์ -> A์์ ์ด๋ค ๊ฐ์ค์น(w)์ ๋ํ ๊ณ์ฐ์ด ๋๊ณ , -> ๊ฒฐ๊ณผ๊ฐ์ด h0์ด๋๋ค. -> ์ฒซ๋ฒ์งธ A ๊ฐ์ค์น(w)๊ฐ ๋๋ฒ์งธ A๋ก ์ ๋ฌ์ด ๋๋ฉด์ ์ธํ๊ฐ X1๊ณผ ํฉ์ณ์ ธ๊ณ -> ๊ฒฐ๊ณผ๊ฐ h1์ด ๋๋ค. -> ๋๋ฒ์งธ A ๊ฐ์ค์น๊ฐ ์ธ๋ฒ์งธ A๋ก ์ ๋ฌ์ด ๋๊ณ ์ธํ๊ฐ X2์ ํฉ์ณ์ง๊ณ ... ์ด๋ฐ์์ผ๋ก ๊ณ์ ์ ๋ฌ ์ ๋ฌ ์ ๋ฌ...์ด ๋๋ ๊ตฌ์กฐ์ธ ๊ฒ์ ํ์ธํ ์ ์๋ค. ์์ ๊ธฐ๋ณธ์ ์ธ ๊ตฌ์กฐ๋ฅผ Vanilla RNN์ด๋ผ๊ณ ํ๋ค. ๊ฐ์ฅ ์ด๊ธฐ ๋ฒ์ ์ด๋ค. ์ด Vanilla RN.. 2022. 2. 24. ์ด์ 1 ๋ค์ ๋ฐ์ํ