비전공자도 이해할 수 있는 AI 지식 by 박상길

[ 밑줄/연결 ]

데카르트의 좌표 덕분에 기하학을 방정식과 숫자로 표현할 수 있게 되었다. 새넌의 디지털 논리회로와 정보 이론 덕분에 컴퓨터는 모든 정보와 숫자를 계산할 수 있게 되었다.

2009년 구글의 인공지능 연구 디렉터인 피터 노빅(Peter Norvig)도 <믿을 수 없는 데이터의 효과 The Unreasonable Effective of Data>라는 유명한 논문에서 "많은 데이터를 가진 간단한 모델이 적은 데이터를 가진 정교한 모델보다 더 뛰어나다."라고 주장했습니다.

베이즈 정리는 확률이라는 것은 믿음에 불과(?)할 뿐이며, 세상에는 절대 원칙이란 존재하지 않으므로, 무엇이든 조심스럽게 관찰하며 의심해야 한다고 얘기합니다.

전자파를 이용하는 레이더는 장거리 측정이 가능하고, 물체 내부까지도 감지할 수 있습니다. 날씨의 영향도 거의 받지 않죠. 하지만 물체의 거리나 방향, 모양이나 구조는 제대로 파악하기가 어렵습니다. 반면 빛을 이용하는 라이다는 정확하게 물체를 인식하고 밀도 있게 표현할 수 있지만 거친 날씨에 영향을 받고, 장거리 측정은 정확도가 현저히 떨어집니다.

음성을 잘못 인식하더라도 그동안의 학습 결과를 토대로 사용할 확률이 높은 단어로 보정해준다면 휠씬 더 좋은 성과를 낼 수 있겠죠. 이것이 바로 언어 모델의 역할입니다.

확률 기반으로 다시 보정합니다. "오늘 날씨가 엿 돼"를 우리가 흔히 묻는 "오늘 날씨가 어때"로 보정하는 것죠.

언어 모델은 우리가 일상에서 자주 쓰는 문장에서 출현하는 단어의 확률을 학습합니다. 보통은 책이나 뉴스의 문장으로 학습해서 책이나 뉴스에 많이 나오는 단어일수록 더 높은 점수를 부여하죠.

사용자의 의도를 파악해야 합니다. 이를 인텐트 분류라고 합니다.

스마트 스피커는 문제해결용 대화시스템(Task-Oriented Dialogue System)이다. 목적이 분명한 대화만을 주로 한다는 애기죠.

연결 합성 또는 USS (Unit Selection Synthesis: 음편 선택 합상)이라고 하는데, 미리 녹음된 음성을 기준에 따라 잘게 쪼개어 음편(Unit)을 만들고 가장 적합한 음편을 선택하여 음성을 합성하는 방식을 말합니다.

더글러스 호프스태더는 이에 대한 연구를 꾸준히 진행합니다. 그러나 아쉽게도 주류 인공지능 연구와는 많이 다르게 가정, 유추, 비유 같은 뇌의 고차원적 작동 원리를 탐구하는 호프스태더의 접근 방식은 21세기 들어 사실상 폐기되다시피 합니다. 이후에는 무어의 법칙으로 대표되는 연산 능력의 눈부신 발전에 힘입어 계산의 시대가 열리게 되죠.
---> 글쎄? 호프스태더의 생각에 많은 사람들이 동의하고 참여하지는 않는 것에는 동의하지만, 폐기되다시피 했다는 비판은 동의가 얼른 되지 않는다.
--> 이 분야 전공자가 아니라 확실히는 모르겠지만, 특히 아래 <사고의 본질>에 대한 추천을 해 준 분들이 폐기되다시피 한 생각에 추천을 해줬다는 것인가? 나는 폐기된 것이 아니라 통계기반 인공지능의 다음 단계가 유추를 하는 컴퓨팅이 아닐까? 싶다.

[ 자평 ] 문과들에게는 원리에 대한 쉬운 학습이 필요하다. 딱 거기까지, 그러나 이 정도를 안다고 하면 안된다. 이 정도 알아서는 명함을 내밀 수 없다. 원리란 쉽고도 어려운 것이다.

개발자나 공학자가 아니어도 원리 정도는 알고 있어야 한다.
그런 목적으로 문과들을 위한 기술 원리를 쉽게 설명해 주는 책들이 더러 있다.
그런 목적으로 훑어 보기에 훌륭하다.

하지만 자연어 처리 부분에서 '어텐션'이나 '트랜스포머'를 이 책만 읽고 이해할 수 있을까?
아래 개발자를 위해 쓰여진 책중 code를 빼고 원리 부분만 읽는 것이 휠씬 진일보 시켜 준다.
이 책에 나온 내용 정도를 원리를 알았다고 하다가 현장에서는 큰 코 다친다.
기획자라고 해도 이 정도 수준보다는 휠씬 더 알아야 밥벌이 가능하다.