[딥러닝] Dense Layer (Fully Connected Layer) 이해하기

Dense Layer (Fully Connected Layer) 이해하기

 

 

Dense Layer

 

 

딥러닝에서 가장 기본이 되는 Layer이다.

Fully Connected Layer라고도 부른다. 

논문에서는 Dense보다 Fully Connected Layer라고 많이 지칭하고

FC라고 줄여서 부른다.

 

 

 

 

 

흰색 동그라미를 노드(뉴런)라고 불리는데

y = wx + b 의 w(weight)의 역할을 한다.

w들의 가중치가 변하면서 우리가 예측하고자하는 결과값에

가장 근사하게 만들어준다.

 

Dense Layer는 노드와 노드 들이 완전하게 연결되어있다.

 

 

 

 

 

input layer

 

 

위 그림은 4층의 레이어를 가지고있다.

데이터가 왼쪽에서 오른쪽으로 layer를 통과한다.

 

output layer는 바로 앞 hidden layer2의 4개의 노드에서부터 데이터를 받고,

hidden layer2는 hidden layer1의 4개의 노드에서부터 데이터를 받고,

hidden layer은 input layer의 3개의 노드에서부터 데이터를 받지만

 

input layer는 어디서 어떤 형식과 모양으로 데이터를 받는지 알 수 없다.

따라서

input layer는 우리가 지정해주어야한다.

 

input_shape

를 이용해

데이터가 어떤 모양으로 들어오는지 정의를 해줄 수 있다.

이는 Dense layer 뿐만 아니라 모든 layer에 해당된다.

 

 

 

모델링

 

model = Sequential([
	Dense(3, input_shape = [1],
    Dense(4),
    Dense(4),
    Dense(1),
 ])

 

Dense레이어는 위에서부터 아래로 내려간다

위에서 말했듯이 첫번째 레이어인 inputlayer는

반드시 input_shape가 들어가줘야한다.

 

 

Dense뒤 ( )에 들어가는 숫자는 layer의 노드의 갯수이다.

위 사진에는

input layer의 노드 3개

hidden layer1의 노드 4개

hidden layer2의 노드 4개

output layer의 노드 1개

이다.

 

 

이런식으로 위에서부터 하나씩 쌓아가면서

간단하게 모델을 만들 수 있다.