티스토리 뷰

728x90

 

[ 밑줄/연결 ]

 

딥러닝 을 '서빙(Serving)'..

학습을 완료한 Custom 모델로 추론을 통해 서비스를 하는 것을 의미합니다. 

즉, 모델의 추론 결과를 클라이언트에게 전달하는 것을 '서빙'이라고 합니다.

 

(SageMaker 파이프라인)

AWS SageMaker 모델 빌드 파이프라인은 JSON으로 정의된 일련의 상호 연결된 단계입니다.

DAG(Directed Acycle Graph, 방향성 비순환 그래프)를 사용하여 파이프라인을 인코딩합니다. 

이 DAG는 파이프라인 각 단계 간의 요구사항 및 관계에 대한 정보를 제공합니다. 

DAG 구조는 단계 간의 데이터 종속성에 의해 결정됩니다. 이러한 데이터 종속성은 단계 출력의 속성이 다른 단계의 입력으로 전달될 때 만들어집니다. 예를 들면

 

 

백엔드 서비스와 프론트엔드 서비스를 종합한 AI/ML Pipeline을 AWS 클라우드에 직접 작성하고 테스트

AI서비스를 위해 처음 실험 레벨의 모델 개발이 끝나게 되면 서비스를 위한 파이프라인을 자동화하는 것이 무엇보다 중요

AWS SageMaker 파이프라인에 AI모델이 나와서 서비스되기 전까지 최대한 모든 것을 넣어두고, 발전시켜 나간다면, 초기에는 어느 정도 시간이 소비되더라도 나중을 감안하면 소중한 시간을 아껴줄 것입니다.

 

 

 

[ 자평 ]  아주 단순하게 구현과 작동 방식을 단계별로 알 수 있게 잘썼다.  초보자라면 훑어 읽고 직접 구현해 볼 수 있음 더 좋겠다.

 

언어는 기본적으로 자기 표현과 타인 공감을 통한 소통을 목적으로 한다. 

특정 산업, 특정 업종, 특정 계층, 특정 조직, 특정 업무에서만 쓰이는 용어들이 있다.

따라서 어떻게 보면 '단어'는 일종의 그 들만의 두레의식이고, 패권의식이며 권력이다.

직장생활을 하다 보면 '단어'를 가지고 꽤나 주접을 떠는 사람들이 있다. 

비유하건대 조직에  권력구조가 바뀌면

어제까지는 나랑 같이 농사를 지며 살아가는 사람인데, 지나가는 왕 눈에 띠어 입궁을 하는 성덕을 받는 친구들이 더러 나오게 된다.  성은을 받지 못한 내가 안타까울 뿐이지만 당연한 일이고, 그럴만한 일이다.

 

그 친구를 10년 후 만났는데 촌 무지렁이 언어는 다 있어 버리고 궁중의 언어를 쓰는 사람으로 변해 있다면 놀랄 일도 아니다. 또 이왕 성은을 입고 입궁을 했다면 군주와  나 같은 민초를 위해 궁중의 언어로 잘 소통하여 나라를 잘 이끌어 주는데 이바지 하면 좋지 않은까. 그가 잘 되야 나라가 잘 되고 나라가 잘되야 내 입에 풀칠이라도 한 번 더하게 되는 일이니.

 

하지만 한 일주일 궁에 있었을 뿐인데, 아주 궁중 언어로 도배가 되어 있는 것을 '욱'하는 주접에 속이 다 뒤틀린다는 자들이 있다. 처음 보는 사람이 보면 궁에서 태어나서 궁밥만 잡순 인간으로 오해할 만큼  '언어적 화장'에 능한자들이 있다. 

 

언어에 대한 과도한 화장은 듣는 사람을 거북하게 한다. 

 

야구는 잘 모르지만 미국 진출 초반에 잠시 귀국하여 연예가중계라는 프로그램에서 '빠다 발음'으로 혀를 요란히 굴리던 박찬호씨가 생각난다. 

 

'머신 러닝 서비스 개발, 테스트 및 운영 단계나 절차'라고 해도 될 것을 꼭 '머신러닝 파이프라인'이라 한다.

이를 넘어서 그냥 '상용 서비스 제공' 이라고 해도 되는데 꼭 '서빙'이라고 한다.

그 단어가 보편적으로 어느 정도 사용된다면 소통을 빠르게 할 수 있는 장점이 있다.

하지만 보편적이지 않을 때는 현장 소통을 방해한다. 그런데 왜 사용을 할까? 

나는 이 정도 단어가 친숙한 사람이라는 자기만족과 자기우월의식에 기반한 것이다. 

 

그런 멍청이가 되지 않기 위해서 AI란 서비스가 어떻게 만들어지고 서비스 되는가를 빠르게 훑어 보기 위해 읽었던 책이다. 다시 읽어 봐도 책을 쓴 목적에 맞게 딱 괜찮게 쓰여 졌다고 본다. 

 

강아지와 고양이의 종을 분류하는 기능을 FastAPI, Sreamlit, Open API기반으로 AWS 기반 위에 SageMaker 스튜디어를 가지고 머신러닝 파이프라인을 구축하는 서비스를 만드는 과정을 가르쳐 주는 책이다.

 

딥러닝 서비스를 만든 방식이 기존의 프로그램 방식과 뭐가 다르고 뭐가 같으며, 뭐가 더 발전했는지 보기 위해 봤다.

 

실제 환경 셋팅부터 코딩, 테스트, 운영까지 다 해 봤으면 더 좋았겠지만 현직에 있을 때는 그럴 시간이 없어 아키텍처와 매커니즘, 프로세스 중심으로 기본적인 이해를 하기 위해 읽었다. 

 

목적은 달성했다. 다만 실제 코딩을 해보면 더욱 많은 깨달음을 줬을 것인데.....그럴 정도의 시간이 안되었고...그럴 필요성까지 없었다.

 

하여 마치 읽은 것을 체험한 것처럼 주접을 떨지 말자고 다짐하면서 읽어고 다시 읽으면서 정리한다.

 

댓글