글

라벨이 Neural Network인 게시물 표시

[ Architecture, Technology ,Web ] SSO(Single Sign On) 그리고 SAML에 대해

-
이미지
이번 프로젝트 내부에서 어쩌다보니  유저 인증 관련 업무를 담당하게 되었고, 해야하는 업무는 내부에 사용했던 적이 없던  새로운 개발 플랫폼에서  SSO의 프로토콜 중  SAML을 이용해 앱의 인증을 구현해야만 했다. SSO를 생각해본적 조차 없는 상황에 이를 새로운 개발 플랫폼에 도입해야 했기 때문에 많은 시행착오를 겪었으나 구현에 성공하였으며 덕분에 SSO에 대한 전반적인 지식을 쌓을 수 있었다. 이번에는 그러한 과정에서 나온 지식들과 경험을  공유하고자 한다. SSO에 대한 정의 먼저 사전적 정의 부터 살펴보자. 다만, 기술적인 용어다보니 자주 사용하는 옥스포드 사전에 정의를 찾을 수 없기 때문에  검색으로 찾을 수 있는 정의를 몇 가지 살펴보고 교차 검증을 해보자. 첫 번째 정의를 살펴보자. Single sign-on (SSO) is an identification method that enables users to log in to multiple applications and websites with one set of credentials.  SSO는 웹사이트에서 한 번의 인증(one set of credentials)으로 복수의 어플리케이션에 로그인 할 수 있는 인증(identification) 방법(method) 이다. 두 번째는 위키피디아의 정의이다. Single sign-on (SSO) is an authentication scheme that allows a user to log in with a single ID to any of several related, yet independent, software systems. SSO는 독립적이지만 연관되어있는 몇몇 소프트웨어에 대해 하나의 ID로 로그인을 할 수 있도록 하는 인증 구조(scheme) 세부 설명에 조금 차이가 있어 보이지만 전체적인 틀은 매우 비슷해 보인다.  몇 가지 포인트가 되는 단어를 추출해 이를 연결해보자면 아래와 같은 의미를 산출 할 수 있다. 독립적이지만 연관되어 있
자세한 내용 보기

[ Neural Network, Python, Loss Function ] Python에서 뉴럴 네트워크는 어떻게 표현되는가? : 손실 함수의 구현

-
이미지
이전 포스트에서 손실 함수와 역전파에 대해 왜 필요한지에 대한 솔루션 관점에서 이야기를 해 봤다. 어느 정도 뉴런 네트워크에 대한 이미지가 잡히는듯 하다. 이제 본격적으로 손실 함수와 구현에 대한 이야기를 해보자. 손실 함수의 구현 먼저 손실 함수의 구현을 해보자. 손실 함수를 구현할 수 있다면, 앞서 구현했던 예측 값들이 잘 계산되어졌는지를  이 손실 함수에서 보여줄 것이다. 여기서 구현한 코드가 정말로 잘 구현되었는지는  같은 input으로 구글의 tensorflow의 Keras에서 제공하는 모듈로 이진 교차 엔트로피와 범주형 교차 엔트로피의 결과물과 다른지를 확인해 구현이 올바른지를 증명하려고 한다. 또한 샘플 데이터로 사용하고 있는 실제 확률 분포가 일반적인 행렬로 되어있지 않고, 10진수로 표현되어 있는다. 예컨데, 아래와 같이 분류가 되어 있다고 가정해보자. 1은 고양이, 2는 개, 3은 새, 4는 소와 같이 분류하였다. 이를 ont hot encoding화 하면 아래와 같다. 즉, one hot encoding은 분류를 이진화 하는 것이라 말할 수 있다.   내가 이용하는 데이터는 이 처럼 이진화 되어있지 않아 정확히 수식 그대로 사용할 수 없기 때문에 이 계산하기 위한  convertY_true 클래스를 추가해 one hot encoding 처리를 하는 함수를 추가 했다. 이항 교차 엔트로피의 구현 기존 구현에서 추가된 코드는 아래와 같다. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 class  Loss:      def  BCE_calculate( self , output, y):          #상속 받은 이진 교차 엔트로피를 계산         bce_matrix  =   self .BCE_forward(output,y)         loss_bce  =  np.mean(bce_matrix)          return  loss_bce  
자세한 내용 보기

[ Neural Network, Python, Loss Function, Back Propagation ] Python에서 뉴럴 네트워크는 어떻게 표현되는가? : 손실 함수와 역전파에 대해

-
이미지
다음으로 손실 함수와  역전파 알고리즘에 대해 이야기를 나누어보자. 이전 포스트에서 이야기한바와 같이  손실 함수는 비용 함수는 사실상 같은 의미로 사용되어지고 있다. 나는 처음에 비용 함수를 선호했으나, 한국어에서는 손실 함수 쪽이 좀 더 의미가 정확하게 전달되기 때문에  이 후 비용 함수를 손실 함수 쪽으로 부르기로 하겠다. 이런 예측한 순전파에 대한 오류률을 나타내는  손실 함수 그리고 역전파까지 구현까지 가능하다면, 이제 기본적인 뉴런 네트워크 아키텍처를 구축했다고 볼 수 있을 것이다. 순(방향)전파를 진행해 예측 값을 얻어내고  손실 함수와 역전파를 이용해 오류률이 최소화된  값으로 각 노드를 최적화 해준다면  더 높은 정확도를 가지게 될 것이며 이로서 정말로 우리가 알고 싶은 판단을  머신 러닝이라는 의미대로 0과 1로 이루어진 기계가 내려주게 될 것이다. 이런 과정을 통해 최종적으로는  이 사진이 고양이인지 사람인지 등의 판단이 가능해지는 것 이다. 다만, 여기서 이야기하고 다루고자하는 내용은  자세한 수학적인 내용까지는 하지 않고, 이 솔루션이 왜 필요하게 되었는지를 중심으로 이야기할 것 이다. 수학적인 내용 과거 나의  Machine Learning by Andrew Ng 라벨을  의 포스트들을 참고하거나 나의 포스트 보다 훌륭한  다른 사람들이 작성한 포스트를 참고하기를 바란다.   그렇다면 이제 본격적으로 이야기를 시작해보자. 순전파를 통해 예측값을 구했지만.. 앞서 우리는 입력 데이터로 예측 값을 구하고,  여기에 활성화 함수까지 더해  순전파를 통해 최적화된 값을 구할 수 있었다. 하지만,  이 값이 정말로 잘 계산된 값이라고 할 수 있을까? 이를 검증하지 않는다면, 그리고 이 검증 값을 기반으로 개선이 이루어지지 않는다면 이 뉴런 네트워크라는 것은 결국  신뢰성이 떨어질 수 밖에 없고, 유용성은 더더욱 떨어지게 될 것이다. 이런 검증 방법은 손실 함수(Loss Function) 혹은  비용 함수(Cost Function)라는 장치에서
자세한 내용 보기

[ Neural Network, Python, Active Function ] Python에서 뉴럴 네트워크는 어떻게 표현되는가? : 활성화 함수 구현

-
이미지
뉴런 네트워크가 다른 기술들과 다르게 훌륭한 점은 매우 수학적으로 잘 정의되어 있기 때문에  명쾌하고 명확하다는 점이다. 물론 이런 기술을 읽기 위해 다소 수학적 지식이 필요하고  뿐만 아니라 이를 이해할 수 있어야만 하지만 말이다. 그렇기 때문에 어쩌면 개발자가 배우기 까다로운 기술일지도 모른다는 생각을 한다. 어쨋든 앞서 순 방향 전파 중 하나를 구현해봤다 이것만으로는 완성된 순방향 전파라고는  하기 힘들다. 이제 활성화 함수 구현에 대한 이야기를 해보자 활성화 함수에 대해 활성화 함수란 계산한 해당 노드를 훈련 데이터로서 사용할 것인지 아닌지에 대한 판단을 해주는 함수이다. 인간으로 비유하자면, 중요한 정보와 덜 중요한 정보를 판단하는 해주는  장치라고 생각하면 편할지도 모른다. 다만, 활성화 함수에 대한 자세한 이야기는  이전에 포스팅했기 때문에 해당 포스트를 참고하기 바란다. ( https://nitro04.blogspot.com/2021/07/toy-project-machine-learning-it-neural.html ) 활성화 함수의 구현 서론에서도 이야기 했듯이  뉴런 네트워크는 다른 기술들과 다르게  수학적으로 잘 정의된 기술이기 때문에 코드가 굉장히 짧다. 이를 잘 나타내주는 것이  바로 활성화 함수라고 나는 생각하고 있다. 놀라울 정도로 간단하기 때문이다. 몇 가지 활성화 함수들을 구현해 보자. ① Sigmoid  가장 간단한 시그모이드 부터 구현해보자. 1 2 3 class  Active_Function:      def  sigmoid( self , inputs):          self .sig_output  =  ( 1 / ( 1   +  np.exp( - inputs))) cs 코드는 위와 같으며, 앞서 언급했듯이 뉴런 네트워크는 수학적으로 매우 잘 정의되어진 기술이기 때문에 코드는 매우 간결하다. ② Leakly ReUL 다음은 Leakly ReUL이다. 1 2 3 class  Active_Function:      def  
자세한 내용 보기

[ Neural Network, Python ] Python에서 뉴런 네트워크는 어떻게 표현되는가? : 최적화와 라이브러리를 이용한 구현, 클래스 구현

-
이미지
앞선 글에서  가벼운 이론에 대한 설명, 그리고 단층 퍼셉트론(SLP)와 다층 퍼셉트론(MLP)에 대한 설명과 원시적인 코드 작성 까지 이야기를 나누었다. 다음으로 코드를 조금 정리할 필요가 있다. 왜냐하면, 프로그래밍 특성상 같은 데이터를 담을 변수를 일일이 선언하는 것은 나중에 코드를 수정할 때 시간을 잡아먹는 원인이 되기도 하며, 버그를 낳을 수 있는 리스크 또한 증가하게 된다. 따라서 특히 가중치(Weight) 부분은 손을 볼 필요가 있다. 코드 최적화 사실 최적화라고 해봤자  그리 대단한 것은 아니다. 단순히 같은 속성을 가지고 있는 데이터들을  하나의 변수로 묶을 뿐이다. 최적화 할 코드는 이전 포스팅에서 다루었던 다층 퍼셉트론의 예제 코드이다. 해당 코드는 아래와 같다. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 inputs  =  [ 3 ,  1 ,  5. 5 ]   weights11  =  [ 0. 3 ,  0. 4 ,  - 0. 7 ] weights12  =  [ 0. 5 ,  - 0. 33 ,  - 0. 26 ] weights13  =  [ - 0. 26 ,  - 0. 57 ,  0. 57 ] weights14  =  [ 0. 7 ,  - 0. 22 ,  0. 43 ]   weights21  =  [ 0. 5 ,  - 0. 3 ,  - 0. 2 ,  0. 4 ] weights22  =  [ 0. 33 ,  - 0. 33 ,  - 0. 34 ,  0. 2 ]   bias1  =   2   bias2  =   3   h_node  =  [inputs[ 0 ] * weights11[ 0 ]  +  inputs[ 1 ] * weights11[ 1 ]  +  inputs[ 2 ] * weights11[ 2 ]   +  bias1,             inputs[ 0 ] * weights12[ 0 ]  +  inputs[ 1 ] * we
자세한 내용 보기