본문 바로가기

딥러닝레이어2

[딥러닝] RNN (Recurrent Neural Network) - 순환신경망 구조 [딥러닝] RNN (Recurrent Neural Network) - 순환신경망 구조 RNN은 자연어 처리를 한다던지, 주가 예측을 한다던지 시간의 흐름이 매우 중요한 시계열 데이터에 적합한 모델이다. 기본적인 RNN 구조도이다. 하나씩 뜯어보면 인풋값이 X0으로 들어가서 -> A에서 어떤 가중치(w)에 대한 계산이 되고, -> 결과값이 h0이된다. -> 첫번째 A 가중치(w)가 두번째 A로 전달이 되면서 인풋값 X1과 합쳐져고 -> 결과값 h1이 된다. -> 두번째 A 가중치가 세번째 A로 전달이 되고 인풋값 X2와 합쳐지고... 이런식으로 계속 전달 전달 전달...이 되는 구조인 것을 확인할 수 있다. 위에 기본적인 구조를 Vanilla RNN이라고 한다. 가장 초기 버전이다. 이 Vanilla RN.. 2022. 2. 24.

[딥러닝] Embeding Layer / 차원의 저주 (curse of dimensionality) /자연어 처리 / 단어 백터화 [딥러닝] Embeding Layer / 차원의 저주 (curse of dimensionality) /자연어 처리 / 단어 백터화 차원의 저주 (curse of dimensionality) I am a boy and I am not a girl 위 문장의 각각의 단어들에 고유의 숫자를 줘보았다. I -> 0 am -> 1 a -> 2 boy -> 3 and -> 4 not -> 5 girl ->6 이 숫자들을 one-hot encording을 해줘야한다. 왜냐하면 각각의 숫자에 연관성을 없애주기 위해서이다. 예를 들면 am + a = boy 이런식으로 관계가 지어져서 이상한 해석을 할 수 있기 때문이다. one-hot encording을 해주면 I -> [1, 0, 0, 0, 0, 0, 0 ] am ->.. 2022. 2. 23.

이전 1 다음

티스토리툴바