쉽게 배우는 AWS AI 서비스 by 피터 엘거

[ 밑줄/연결 ]

 

(서비스리 AI)

AIaaS 플랫폼을 이해하기 위한 사고 방식을 네 가지 요소에 기반을 두고 도식화한다면...

 

(아키텍처)

ㅇ 서비스리 컴퓨팅을 사용하기 위한 효과적인 아키텍처 패턴은 무엇인가? 

ㅇ 마이크로서비스, SPA, 프로토콜, 메시지, 큐, 이벤트 드리븐, DRY, SRP, 데이터 포털

 

(개발)

ㅇ 최고의 개발 툴, 프레임워크, 기술은 무엇인가? 

ㅇ 프레임워크, 툴, 디버깅, 환경, 기술, 클라우드 서비스, API

 

(AI)

ㅇ 사용 가능한 머신러닝과 데이터 처리 서비스는 무엇이며, 어떻게 하면 가장 적절하게 비즈니스 문제를 해결할 것인가? 

ㅇ 이미지 인식, STT , TTS, NLP, 챗봇, 데이터 과학, 딥러닝

 

(운영)

ㅇ 어떻게 하면 이 서비스를 효과적으로 프로덕션과 운영 관리에 투입할 수 있을까? 

ㅇ CI/CD, 로깅, 모니터링, 퍼포먼스, 분석, 데이터베이스, 보안

 

(서비리스란?)

서버리스 컴퓨팅은 클라우드 공급자가 서비스 사용자의 기본 리소스를 동적으로 관리하는 클라우드 유틸리티 컴퓨팅의 한 형태이다. 서버리스 컴퓨팅은 기본 인프라에 대한 추상화 계층을 제공해 최종 사용자의 관리 부담을 덜어 준다.

 

서버나 컨테이너처럼 인프라를 명시적으로 생성하고 관리하지 않는다. 

즉 기존 컴퓨팅 리소스는  클라우드 공급자가 관리하고 실행하는 함수로 대체되며 이것을 서비스형 함수(FaaS)이라고 한다.

 

(서버리스 컴퓨팅의 원칙)

ㅇ 서버와 컨테이너는 필요에 따라 실행되는 클라우드 함수로 대체된다.

ㅇ 맞춤형 리소스보다는 관리형 서비스, 서드파티 API를 선호한다.

ㅇ 아키텍처는 주로 이벤트 기반이며 분산되어 있다.

ㅇ 개발자는 하위 수준의 인프라가 아닌 핵심 제품 구축에 집중할 수 있다.

 

(마이크로서비스가 주류가 되게 이끈 원동력은 클라우드, 컨테이너, 커뮤니티였다.)

ㅇ AWS와 같은 클라우드 인프라 덕분에 빠르고 저렴하게 효용성 높고 안전한 머신 클러스터를 배포, 제거할 수 있게 되었다.

ㅇ 컨테이너는 마이크로서비스 규모 단위에서 SW를 포함하는 불변 단위를 빌드, 패키징, 배포할 수 있는 기능을 제공했다.  이전에는 불가능했던 겨우 수백 줄의 코드를 단일 단위로 배포하는 일이 가능해 졌다.

ㅇ 커뮤니티는 수많은 소규모 배포 단위를 다루기 시작할 때 나타나는 새로운 형태의 복잡성을 관리할 수 있는 도구를 제공했다. 여기에는 쿠버네틱스 형태의 오케스트레이션, ELK(Elasticsearch), Logstash, Kobana 또는 Zipkin 형태의 모니터링은 물론 넷플릭스 개발팀의 오픈소스 작업과 같은 방대한 범위의 도구가 포함된다.

SW의 신속한 개발과 배포에 대한 요구는 규모 단위의 감소로 이루어졌다.

이런 추세의 논리적인 다음 단계는 완전한 서버리스 아키텍처를 채택하는 것이다.

 

이전에는 음성 인식 시스템을 구축하려면 고도로 전문화된 맞춤형 HW와 SW를 사용하거나 직접 음성 인식에 대한 연구를 수행해야 했지만, 오늘날에는 클라우드 네이티브 음성 서비스 하나만 연결하면 플랫폼에 음성 인터페이스를 추가할 수 있다. 

 

(표준 AIaaS 아키텍쳐)

서버리스 AI 플랫폼의 일반적인 구조를 표현하는 표준 아키텍처이며 이 표준 아키텍처를 '공통 참조 모델'로 가리킬 것이다. 

(웹 애플리케이션)

웹 애플리케이션 계층, 즉 HTTP(S) 프로토콜을 사용하여 기능을 제공함

 

(실시간 서비스)

대체로 웹 애플리케이션 계층에서 사용자 요청에 즉각적으로 반응하기 위하여 사용되며, 플랫폼의 모든 부분 간의 공통 접착 계층(common glue layer)으로 작용한다. 예를 들어, 이미지를 가져와 AI 서비스 분석하도록 전달한 다음 그 결과를 사용자에게 반환하는 서비스가 여기에 해당한다.

 

(배치 서비스)

장기간 실행되는 비동기 작업을 위한 서비스로,  ETL 프로세스와 장기 실행 데이터 로딩, 기본적 애널리틱스 등이 포함된다. 대개 하둡 또는 스파크와 같이 널리 알려진 클라우드 네이티브 서비스로 제공되는 분석 엔진을 사용한다. 

 

(통신 서비스)

대부분의 플랫폼에는 일종의 비동기 통신이 필요하며, 이는 보통 특정 형태의 메시지 전달 인프라 또는 이벤트 버스 위에서 구현된다. 비동기 통신 내에서 서비스 등록 및 검색과 같은 것을 찾을 수도 있다.

 

(유틸리티 서비스)

간편 인증(SSO), 연합ID와 같은 보안 서비스가 포함되며, VPC(Virtual Private Cloud), 인증서 처리와 같은 네트워크 및 설정 관리 서비스도 포함된다. 

 

(AI서비스)

서버리스 AI 플랫폼의 지능형 코어를 형성, 플랫폼의 목적에 따라 챗봇 구현, 자연어 처리 또는 이미지 인식 모델과 서비스 등 다양한  AI 서비스를 사용할 수 있다. 대부분 이미 완성된 클라우드 네이티브 AI 서비스를 사용하여 플랫폼에 연결된다. 

 

(데이터 서비스)

서비스 AI Stack의 토대는 데이터 서비스로, 일반적으로 RDBMS, NoSQL, 클라우드 파일 스토리지 등을 혼합하여 사용한다. 

 

(운영 지원)

플랫폼의 성공적인 작동에 필요한 로깅, 로그 분석, 메시지 추적 경고 등과 같은 관리 도구가 포함된다. 

특히 경보 및 이상 감지를 지원하는 운영 지원 서비스에서 AI 서비스를 자체적으로 사용하도록 구현할 수 있다. 

 

(개발 지원)

플랫폼 배포와 관련된 것, 다른 서비스 그룹을 위한 클라우드 패브릭 형성에 필요한 스크립트를 담는다. 또한 다른 서비스 그룹 각각에 대하여 CI/CD 파이프라인과 플랫폼의 종단간 테스트를 지원한다. 

 

 

[ 자평 ]  만들지는 못하더라도 남들이 뭘 만들어는지는 아주 기본적인 것은 좀 알고 떠들자...

 

개발자는 아니라 세부 소스코드 부분은 건너 뛰고 아키텍처와 설명 부분만 읽었다. 잘 썼다. 

 

국내 AI 산업을 어쩌고, 국내 AI 생태계를 어쩌고 저쩌고 하는 분들이 많다.

 

제발 글로벌 3 top AI 서비스 Player들이 어떤 수준의 데이터로, 어떤 수준의 서비스를 제공하는지 좀 파악하고 호기를 부렸으면 한다.

 

그들에게 미리 겁을 먹고, 그들을 넘을 생각을 하지 말자는 것이 아니다.

 

나의 목표가  Gobal Top인지, Asia Top인지, 국내 Top인지? 경기도 Top인지? 동네 Top인지? 집안 Top인지?

그 목표과 그 목표 시장 평균이 어느 정도인지, 알고 좀 떠들자는 것이다.

 

장대 높이뛰기 세계 신기록은 6m 21cm라고 한다.

내가 세계적인 수준을 넘겠다고 떠들면 그 세계적 수준이 어느 정도인지는 좀 알고 떠들었으면 한다.

이제 겨우 장대 좀 만져 본 수준이거나, 3~4m도 넘지 못한다면, 일단 입닥치고 연습이나 하는 것이 맞다.

 

자기 수준을 모르는 초보는 무모하지만 어리석은 법이다. 

열정이나 도전의식에서 시작은 하되, 우숩게 시작은 하지 말아야 하지 않겠는가....