python의 블로그 토이 프로젝트 이후
이번에 해보려는 것은 작은 머신 러닝 프로젝트이다.
프로젝트에 들어가면서
나는 예전부터 친구들과 게임을 즐겨하는데,
그 중 마음도 맞기도 하고
유머 코드도 잘 맞는 친구가 한 명 있다.
다만, 그 친구에게는 한 가지 단점이 있는데,
게임을 같이 하자는 약속해도
그 시점이 되면 그 친구가 돌연 사라져 버린다.
대부분 이유는 다른 게임에 열중해 하고 있거나
그 때 졸려서 잠을 자버릴 때가 많았다.
지금은 아니지만,
그 당시에는 그런 것이 지속되었고
마침 그 때 머신러닝에 대해 한창 공부하고 있던 터라
이에 대해 데이터를 축적하고,
이 후에 시간이 된다면
이에 관련한 개인 프로젝트를 하려고 생각 했다.
그리고 이제 그 차례가 되었고,
지금 까지 배운 기반으로 해
작은 머신 러닝을 설계부터 시작해 개발해보고
이에 대한 보고서를 개인 블로그에 기재하기로 했다.
제목은 오늘은 친구와 게임을 할 수 있는가에 대한
머신 러닝이다.
내가 축적한 데이터를 머신 러닝에 넣으면
할 수 있는가 없는가에 대한 답을 알려줄 것이다.
데이터는 약 반년 조금 넘는 데이터를 축적했으며,
물론 데이터의 양이 엄청나게 많지는 않고,
간단한 머신 러닝이지만
지금 까지 복습과 머신 러닝에 대한
좀 더 심도 있는 이해에 도움이 될 것이라 생각 한다.
Python에 데이터 처리 관련
좋은 라이브러리가 많다고 들었기 때문에
개발은 Python으로 하기로 하겠다.
아키텍쳐 설계
머신 러닝을 만들기 이전에
우선 신경 망 설계를 해줄 필요가 있다.
먼저 목적에 맞게
Input Layer와 Output Layer의 요소의 수를 설정하고,
Hidden Layer의 갯수와 요소의 갯수를 설정하도록 하겠다.
당연히 Output Layer의 요소는
할 수 없다(0),할 수 있다(1)로 단 하나 이며,
데이터의 요소는 2개로 설정해 데이터를 축적했다.
첫 번째로 당시 응답의 여부
두 번째로 실제 게임을 했는지에 대한 여부 이다.
이에 대한 설명을 조금 하자면,
나는 항상 게임을 같이 하려고 할 때,
메시지를 미리 보내 놓는 편인데
그 메세지에 대한 응답 여부가
첫 번째 요소, '당시 응답 여부'가 되며,
실제 약속 시간에 게임을 했는지에 대한 것은
두 번째 요소, '실제 게임을 했는지에 대한 여부'가 된다.
이에 대해 입력 요소로
메시지에 응답 여부로 설정하고,
이 데이터를 입력했을 때,
실제 오늘 게임을 할 수 있는지에 대한 가능성을
축적된 데이터를 기반으로 머신 러닝에서 판단해 줄 것이다.
정리해보자면,
입력 레이어에는 메시지의 응답 여부(0,1)이 들어갈 것이며,
이에 따른 출력 레이어는 당일 게임 할 수 있는 여부(0,1)이 나올 것이다.
이에 따른 아키텍처는
위와 같은 형태의 4개의 Layer로 구성되며
1개의 입력 레이어(Input Layer)와 한 개의 요소,
2개의 히든 레이어(Hidden Layer)와 각 두 개의 요소,
1개의 출력 레이어(Output Layer)와 한 개의 요소 가지게 될 것이다.
또한 출력 레이어 안에
단 한 개 의 요소만 있기 때문에
비용 함수는 이진 분류(Binary Classification)문제가 될 것으로 예상 된다.
구현 순서
서론에서 이야기 했듯이
언어는 Python을 사용할 것 이다.
하지만, 구현에 앞서 먼저 축적할 데이터들을 받아와
행렬로 재정의 내리는 작업이 우선되어야 할 것이다.
그것이 되었다면,
아래의 절차에 따라 구현할 예정이다.
① (0에 가까운) 가중치 랜덤 초기값 설정
② 순방향 전파(Forward Propagation)를 구하는 알고리즘 구현
③ 비용 함수(Cost Function)를 구하는 알고리즘 구현
④ 비용 함수의 미분 값을 구하기 위한 역전파(Back Propagation) 구현
⑤ 값이 올바르게 계산되었는지를 확인하기 위한(편미분값 비교를 위한)
기울기 체크 구현
⑥ 최적화된 Theta값을 찾기 위한 Python 알고리즘(라이브러리) 찾기
대체로 위의 절차대로 구현할 예정이나
위의 알고리즘은 이미 Python에 잘 구현된
라이브러리가 있을 것으로 예상되니
구현하기 힘들 경우 해당 라이브러리를 사용하는 것도
나쁘지 않을 것이라고 생각 한다.
하지만,
가능한 이전 Octave로 연습 문제로 구현한
알고리즘을 최대한 사용해서 구현할 생각이다.
기본적인 코딩 틀은 아래의 영상을 참고하여 작성하였다.
