라벨이 IT인 게시물 표시

[ Essay - Technology ] 바이브 코딩의 허와 실

이미지
지금 우리는 가히 AI 시대라는 패러다임의 전환에 시대에 살고 있다고 해도 과언이 아니다. 특히, IT 업계에서 대다수의 작업량을 차지하는 프로그래밍의 영역에서 생성 AI를 이용한 생산성 향상의 가능성이 보이면서 어느 분야보다 가장 빠르게 괄목적인 성과를 이루고 있는듯 하다. 고작 몇 년전에는 커서에 의해 프로그래밍을 AI에게 프로그래밍을 위임하는 것이 더 나을 수 있다는 것이 어느정도 증명되면서, 작년에는 Claude Code의 영향으로 인해 이러한 이슈가 좀 더 가속화되지 않았나 싶다. 이러한 굉장히 빠르게 이루어지고 있는 생성형 AI 솔루션의 발달은 개발자의 종말론을 더더욱 부각시키면서 업계 전반이 큰 변화를 겪고 있는 것으로 보인다. 특히 이러한 변화 속에서 “프로그래밍을 몰라도 생성형 AI만 있으면 제품을 만들 수 있다”는  주장도 자연스럽게 힘을 얻고 있다. 최근에는 Saas 솔루션은 종말할 것이라는 다소 파격적인 이야기도 들리는 것으로 보면 소프트웨어 업계가 큰 격변의 시기가 온것임에는 틀림 없어 보인다. 허(虛): 빠르게 만들 수 있다는 환상 이런 상황에서 가장 주목받는 주장들은 서론에서 언급했다시피 ‘프로그래밍을 알지 못한다고 하더라도  생성형AI를 이용하면 빠르게 제품을 개발이 가능하다’라는 주장이고, 실제로 이는 어느 정도 타당성이 있어 보인다. 정말로 움직이는 결과물을 단 몇초 만에 보여주기 때문이다. 하지만, 이러한 ‘빠르게 제품 개발 가능하다’는 주장의 가장 큰 맹점이 있는데 개발자의 존재 이유가 단순한 제품이나 기능개발에 있지 않다는 점이다. 만약, AI를 통해 그럴듯 한 솔루션을 만들었다고 치자. 이것에 얼마만큼의 비지니스성과 지속가능성이 있을까? 더 나아가 당신이 이 솔루션을 이용하려고 하는 유저라면, 이 솔루션에 어떠한 가치를 내리고 얼마 만큼의 돈을 지불할 수 있을까? 당신이 금세 만들 수 있는 제품을 상대방이라고 못 만들 이유가 없지 않을까? 그러니깐, 앞서서 이런 것들을 생각하지 못 한 솔루션들은 상대적으로...

[ Essay - Technology, Neural Network, IT, Math] 왜 뉴런 네트워크에서 편향(bias)이 필요한가?

이미지
일반적으로 Input으로 부터 시작해  히든 레이어를 거쳐,  Output의 값을 추출해 내는 것이 뉴런 네트워크이다. 새로운 토이 프로젝트에 진행하기 앞서 나는 우선 Python에서 뉴런 네트워크가 어떻게  표현되는지에 대해 알아야 할 필요가 있었고, 이에 대한 튜토리얼을 포함해  과거에 배웠던 이론들과 연결시키는 작업을 하고 있었다. 그런 도중, 나는 갑자기 편향(Bias)값에 대해 의문점이 들었다. 왜 편향 값이 필요할까에 대한 의문이다. 물론 그런 것은 그냥 넘어 갈 수도 있다. 엄밀히 말하면  이런 의문들은 단순한 개발자로서는 필요 없다. 하지만 이는 탐구하는 것을 좋아하는  나의 입장에서는 무척이나 중요한 일이다. 그렇기에  이번에는 좀 더 나아가기에 앞서 이 편향(Bias)이라는 것이 왜 필요한지에 대해 이야기를 해보자. 편향에 대한 정의 한 가지 알아야할 것은 편향은  뉴런 네트워크에서 나온 용어가 아니라는 점일 것이다. 정확히 말하면, 이 편향이라는 개념은 뉴런 네트워크 이론이  대수학(Generic Algebra)에서 차용해온 용어(T erm )로서 뉴런 네트워크만의 개념은 아니다. 위키피디아 영문판에 따르면 통계에서 사용하는  편향에 대해 아래와 같이 설명한다. Statistical bias is a feature of a statistical technique or  of its results  통계적 편향은 통계적 기법 또는 통계의 결과에 대한  특징(feature)로서 where by the expected value of the results differs  실제 정량적인 매개변수와 다르게  from the true underlying quantitative parameter being estimated 결과의 예상 값이 추정하는 것을 말한다. 즉, 명확히 정략적으로 표현되는 것이 아닌 추정 값이라는 이...

[ Toy Project - Machine Learning, IT, Neural Network] Active Function 그리고 Cost Function과 Loss Function에 대해

이미지
앞선 글에서 나는 뉴런 네트워크를 설계하고,  프로세스를 정했다. 하지만, 곧 문제에 직면했는데, 내가 코세라에서 배운 이론들은 꽤 예전에 이론들이며 시간이 된다면 완수하고 싶지만 나는 그 강의를 아직 완수하지 않았기 때문에 현재 Python에서 사용하고 있는 라이브러리 들은  내가 알던 것들과는 조금 다른 용어들을 사용하고 있었으며, 그에 따른 수식들 또한 달랐다. 물론 이에 대해 다시 강의로 되돌아가  이에 대해 배우는 것이 어쩌면 빠를 수 도 있지만, 나는 먼저 강의를 다 듣는 것 보다는  하나의 토이 프로젝트를 해보는 것이 더 이득이라 판단 했다. 왜냐하면 나는 기본을 바닥에 올려놔야할 때는  바텀 업을 선호하지만, 어느 정도 기본이 쌓였다면  탑 다운 방식을 선호하기 때문이다. 따라서 프로젝트를 진행하기 앞서서  내가 배웠던 것들과 실제 라이브러리에서 사용하는  수식들이 어떻게 다른지 그러니깐 어떻게 발전했는지에 대한 비교가 필요하다고 판단했다. 이에 대한 첫 장으로 먼저  Cost Function과 Active Function에 대한 이야기를 해보려한다. Active Function? Cost Function? Loss Fuction? NN관련에 대해 검색하다보면 익히 나타나는 용어는 Cost Function, Active Function,  Loss Function이 3가지 용어가 자주 보이는 듯 하다. 여기서 Cost Function에 대해서는 학습을 했었고, 과거 포스팅에도 개재한 바 있다. 과거 포스팅에서 Cost Function에 대해  내가 정의 내린 것은 아래와 같다. ( https://nitro04.blogspot.com/2020/01/machine-learning-by-andrew-ng_10.html ) 데이터들의 집합인 가설 함수(Hypothesis Function)와  해당 데이터들의 값과 가장 오차가 작은  즉, 최...

[ Essay - Technolgy, IT, Architecture, Algorithm ] C계열과 JAVA에서의 힙 영역(Heap Area)과 스택 영역(Stack Area)에 대해서

이미지
생각할 수록 C계열과 JAVA라는 언어는  비교해 살펴보기에 매우 적절한 언어라고 생각 한다. 재미있게도 말이다. 이에 대해서는 아마 최근의 핵심적인 패러다임을  담고 있기 때문이라고 생각하고 있다. 최근 객체지향 패러다임을 담고 있는 언어들은  JAVA의 영향을 받지 않은 언어를 찾기는 쉽지않으며  구조적 패러다임을 담고 있는 언어들 또한 C계열의 영향을 받지 않은 언어를 찾기란 쉽지 않다. 후에 이 두 가지 언어에 대해  어떻게 평가를 내릴지는 알 수 없으나 현재로서는 이 두 가지 언어가 프로그래밍 역사에서 한 획을 그을 수 있는  언어들이라고 개인적으로는 생각 하고 있다. 이번에는 C계열과 JAVA의 빌드 과정에 대한 이야기에 이어서 C계열과 JAVA의 힙 영역(Heap Area)과 스택 영역(Stack Area)에 대해 이야기해보자. 힙 영역(Heap Area)과 스택 영역(Stack Area)에 대해서 힙 영역과 스택 영역에 대한 이해는  개발자로서 알아둬야할 것 중에 하나이지 않나 싶다. 물론 필수라고 할 수 는 없지만, 진정한 엔지니어나 아키텍터라면 이해해야만 하는 덕목이라고 생각 한다. 왜냐하면, 언어 내부에서 힙 영역과 스택 영역을  어떻게 다루느냐에 따라 퍼포먼스가 갈릴 수 있기 때문이다. 따라서 시스템의 퍼포먼스 까지 생각해야하는  진정한 엔지니어나 아키텍터가 이에 대한 이해가 없다면 훌륭한 엔지니어나 아키텍터가 될 수 없을 것이다. 어쨋든 먼저 C계열과 JAVA를 비교하기전에 힙 영역과 스택 영역이 무엇인지에 대해 간단히게 이야기 해본 후에 실제 C계열 중 C#과 JAVA에서 메모리 관리를 하기 위해  어떻게 이 스택과 힙이라는...