• 목록

신경망이 어떠한 컨셉으로 만들어져 학습이 되는지 알게되면 딥러닝을 이해하기 훨씬 쉬울것이라고 생각된다

그러기 위해서 아주 간단한 예측기를 예로 들어보면,

질문을 받아 생각을 한 다음에 대답을 출력해주는 기계가 있다고 생각

이렇게 킬로미터를 마일로 변환해주는 기계가 있다고 가정하자

킬로미터(km) -> (   ?? 모르는 연산 ??   )   -> 마일(mi)
100 km -> ( ?? 모르는 연산 ?? )  -> 62.137 mi

킬로미터가 어떻게 마일로 바뀌는지 과정은 모른다고 가정함

우리가 아는것은 킬로미터가 늘어나면 마일도 늘어난다는 linear(선형) 관계인것과 100 킬로미터를 넣으면 62.137 마일이 된다는 결과를 알고 있다

킬로미터가 늘어나면 마일도 늘어나는 관계를 수식으로 표현하면 다음과 같다

킬로미터 * x = 마일

여기서 우리는 상수 x의 값을 모름

이러한 가정속에서 상수 x에 다양한 값을 넣어 100 킬로미터에 대한 정답 62.137 마일에 가까워지게 하는 방식을 진행한다

x에 대한 값을 0.5로 넣어주게 되면 

100 km  -> (   * 0.5   )  ->  50 mi

0.5에 대한 결과 50 마일과 정답 62.137 마일은 12.137(정답-나의 연산에 대한 정답) 만큼의 차이가 나타나게 됨

이 값을 '오차' 라고 부름

그러면 오차가 양수이기 때문에 우리는 전에 넣었던 0.5보다 큰 값을 넣어야 정답에 가까워 진다는 것을 알 수 있다

그래서 0.6을 넣어보면
 
100 km  -> (   * 0.6   )  ->  60 mi

0.6에 대한 결과 60 마일과 정답 62.137 마일은 오차가 2.137이 발생되며, 아직은 오차가 양수이므로 좀 더 큰 값을 넣어보자

100 km  -> (   * 0.7   )  ->  70 mi

0.6에 대한 결과 70 마일과 정답 62.137 마일의 오차는 더이상 양수가 아닌 음수가 나오며 실제 값을 지나친 것을 알 수 있다.

이러한 과정들을 통해 다시 우리는 0.7보다 작은 값을 넣어 계속해서 정답에 가까워 지는 과정을 거칠 것이다.

이러한 멍청한 과정들을 반복한 이유는 답을 찾는게 방정식을 풀 수 있는 사람이 아닌 컴퓨터가 해야하기 때문이다.

결론은 지금까지 한 과정들은 사실 인공 신경망을 학습시키는 핵심 과정을 표현한 것이다.

계속해서 이러한 시행착오를 거쳐 적은 오차를 얻고 개선해나가는 과정을 'Iteration' 이라고 함