밑바닥부터 배우는 딥러닝 (1)

학교 졸업과제 주제로 'GAN을 이용한 이미지 예측 프로그램' 프로젝트를 선택했다.

Style Gan을 사용하는 데 까지는 다음과 같은 가정이 필요했다

딥러닝 -> CNN -> 텐서플로우 -> DCGAN -> StyleGAN

그래서 이번에는 딥러닝과 CNN에 대해 공부를 해볼 것이다.

참고서는 <사이토 고키>의 저서인 'Deep Learning from Scratch, 밑바닥부터 시작하는 딥러닝'으로 선택하였다.

앞으로 작성되는 글은 이 책을 인용, 활용하여 작성될 것이기 때문에 이 책을 읽은 사람은 넘어가도 좋다.

또한, 코드가 아닌 이론을 바탕으로 이해 할 것이기 때문에, 코드 상으로 작성을 원하는 글을 기대해선 안 된다.

이 책의 chapter 1 (헬로 파이썬) 에서는 파이썬의 설치와 문법을 가르친다. 

나는 독자가 파이썬의 numpy, matplot을 사용 할 줄 안다는 가정하에 이 챕터를 넘어가도록 하겠다.

Chapter 2 (퍼셉트론)

퍼셉트론은 프랑크 로젠블라트가 1957년에 고안하였으며 딥러닝의 기원이 되는 알고리즘이다.

퍼셉트론이란?

다수의 신호를 입력으로 받아 하나의 신호를 출력한다. 

즉, 여러 입력 신호가 각각에 해당하는 가중치에 곱해져서 합친 결과가 임계값을 넘으면,

'뉴런이 활성화 한다'라고 표현하며 1을 출력한다.

그림으로는 다음과 같이 나타낼 수 있다.

가중치를 매개변수라 하는데, AND, NAND, OR로 나타낸 X,Y의 진리표를 매개변수 값의 조정으로 나타낼 수 있다.

또한 퍼셉트론의 동작에 편향을 시켜 Y를 바꿔 줄 수가 있다.

이를 그리면 다음과 같이 나타낼 수 있다.

b라는 편향으로 Y값의 boolean이 결정이 가능한 것이다.

<편향된 식>

퍼셉트론은 XOR 게이트를 표현 할 수 없다. (단층 퍼셉트론은 선형)

이를 해결하기 위한 것이 바로 '다층 퍼셉트론' 

다층 퍼셉트론으로 표현한 그래프

이로써 선형 영역으로만 표현이 가능한 퍼셉트론이, 다층으로 구성되어 비선형 영역까지 표현 할 수 있게 되었다.

이론상으로는 입출력으로 이루어져있다는 컴퓨터를 표현할 수 있다는 것이 다층 퍼셉트론이다.