기계는 어떻게 생각하고 학습하는가 by 뉴 사이어니스트 외

[ 밑줄/연결 ]

 

(1장. 인간을 본뜬 피조물)

 

인간의 지능에 근접하기 위해서는 시스템이 특정 작업만 모델링하는 것이 아니라 그 작업이 일어나는 세계를 모델링해야 한다. 즉 , 환경을 감지하고 그에 따라 적절히 행동을 변경하고 조정하면서 동작해야 한다. 불확실한 환경에서도 올바른 결정을 할 수 있어야만 지능을 가진 기계라 부를 수 있다.

 

튜링은 만약 어떤 기계의 반응을 인간에게 기대되는 반응과 구별할 수 없다면, 그 기계까 지능을 가졌다고 판단할 수 있다고 했다.

 

힐베르트는 2+2= 4와 같은 수학적 명제가 모두 '결정가능(decidable)한지 알고자 했다. 다시 말해, '어떤 수학적 명제가 주어져도 이 식이 참인지 거짓인지 결정할 수 있는 단계적 절차가 존재하는가?' 라는 질문으로, 수학자들에게는 근본적인 문제였다. 

 

사실 튜링의 결론은 컴퓨터가 할 수 없는 일의 가짓수는 무한이라는 것이었다.

기호추론은 생각과 개념을 단어, 구문, 문장과 같은 기호로 표현하고, 그 기호들을 논리규칙에 따라 처리하는 수학적 접근법이다. 이런 기호추론 시스템은 정보가 충분히 주어지기만 하면 궁극적으로 지능을 가질 수 있을 것이라 여겨졌다. 

 

대부분의 연구자들은 인공지능을 정의할 때 인간이 그런 동작을 했다면 지능을 가졌다고 인정할 만한 방식으로 동작하는 기계를 만드는 것을 목표로 한다는 정도까지는 동의할 것이다. 

 

(2장. 학습하는 기계)

 

1956년 다트머스 세미나에서, 그리고 그 뒤 많은 연구자들의 모임에서 인공지능의 목표는 이미 분명하게 세워져 있었다. 세부 목표는 기계번역, 영상처리, 텍스트 이해, 음성인식, 로봇제어, 머신러닝이 들어가 있었다. 하고 싶은 일에 대한 목록은 이미 있었던 셈이다.

 

답을 찾기 위해 문제를 완전히 이해할 필요는 없다. 많은 데이터를 가지고 결합해 유용한 상관관계를 뽑아낼 수만 있으면 된다.

 

데이터가 이론적 모델보다 더 강력할 수 있다는 사실이다.

 

60년 전의 가정과는 달리, 기계가 인간의 지능을 흉내 내도록 하기 위해서 지능의 특징을 정확하게 규정해낼 필요는 없다.

 

단순한 통계적 기법들을 아주 많은 양의 데이터와 결합하면 몇십 년간 최고의 이론가들조차 달성하지 못한 목표와 비슷한 수준의 결과들이 나온다는 것이다.

 

촘스키는 통계적 기법에 의해서는 예측할 수 있지만 이해할 수는 없다고 지적했다.

 

피터 노빅은 촘스키와 같은 과학자들이 세계를 설명하기 위해서 더 단순하고 더 아름다운 모델을 만들려고 노력하는 방법은 낡은 것이라 주장했다. "자연의 블랙박스를 반드시 단순한 모델로만 설명할 수 있는 것은 아닙니다." 

 

타자기는 단어를 추천하거나 맞춤법 오류를 지적하지 못했다. 기계적 행동이란 고정되고, 예측 가능하며, 경직된 행동이었다. 

 

프로그래머는 사용자의 의도나 사용자가  쓰는 언어의 복잡한 문법규칙에 대한 모델을 개발한 적이 없다. 그 보다는 알고리즘이 다음에 가장 높은 확률로 사용될 단어를 추천하는 것이다.

 

고객에 대해서는 연령, 성별, 접속주소 등이 유용한 설명기준이 될 수 있다. 머신러닝에서는 이런 설명 기준을 특성이나 신호라고 부른다. 이런 기준들을 통해 이미 충분한 데이터가 쌓인 유사 항목을 찾아낼 수 있다.

 

진정한 위험은 인간이 질문하기를 포기할 때 온다. 우리를 위해 결정해주는 인공지능에 익숙해져서 아예 신경도 쓰지 않게 되는 날이 올까? 

 

인간의 뇌는 1000억 개의 뉴런을 연결하는 100조 개의 시냅스망이다. 이 뉴런의 대부분은 초당 10번에서 100번까지 상태를 바꾼다. 

 

증거를 통한 추론을 거치지 않고 결정을 서두를 때, 이를 가리켜 직관을 믿는다고 표현한다.

 

뇌는 소비전력을 줄이고자 하는 목적으로 만들어진 부정확한 연산의 완벽한 사례다.

 

인간은 신체에서 떠난 존재가 아니다. 인간의 지능이 인간의 세계를 감각으로 느끼고 상호작용하는 방식과 연결되어 있다고 생각할 수 있는 많은 근거들이 있다. 이 때문에 몇몇 인공지능 연구자들은 생각하는 기계에는 신체가 필요하다고 항상 주장해왔다.

 

인지과학자인 조지 레이코프는 인간의 지능 또한 인간의 신체적 감각이 환경과 상호작용하는 방식과 분리할 수 없이 결합되어 있다고 주장했다.

----> 아마 이 책 중 어디에서 그랬을 것 같은데, 절판이라 구하기 어렵다.

 

느낌이란 지능과 의식을 잇는 중요한 연결다리일 수 있다. 

----> 내가 읽은 감정이나 느낌에 관한 가장 멋진 책 중 안토니오 다마지오 (Antonio Damasio) 책...

" 생명의 탄생부터 인간 문명의 발달에 이르기까지 긴 진화적 과정 동안 느낌과 감정이 생명 유지에 핵심적인 역할을 담당한다. 특히 감정이 의사 결정이나 행동, 의식, 자아 인식에 아주 중요한 영향을 미친다." 

(3장. 인간이 할 수 있는 일이라면)

 

스위스 제네바 근처에 있는 유럽입자물리연구소는 입자 충돌 데이터 내에서 패턴을 찾아내는 데 딥러닝 기법을 이용하고 있다.

 

기계가 아직 역부족인 영역 중 하나는 물리적 세계와 상호작용하는 일이다.

 

바둑이 매우 복잡하기는 해도 바둑 게임은 분명한 규칙으로 정의된다. 현실세계에 그런 편리한 규칙이 있는 경우는 거의 없다.

 

다음 도전할 중요한 목표는 바로 세상을 그저 관찰함으로써 상식을 형성할 수 있는 컴퓨터의 능력을 개발하는 비지도학습이 될 겁니다. 아직 이런 알고리즘은 등장하지 않았죠.

 

영상의 내용에서 다음에 무슨 일이 일어날지 예측하려면 먼저 이미지를 생성할 수 있는 시스템이 있어야 하기 때문입니다. 

 

(6장. 창작하는 기계)

 

작가 필립 풀먼이 말했듯이, "먹을 것, 쉴 곳, 그리고 동반자 다음으로, 이야기는 우리가 세상에서 가장 필요로 하는 것이다."

 

컴퓨터에게 은유를 가르치는 것이다. "은유는 인간이 한 영역에서 다른 영역으로 지식을 확장하고 투사할 수 있는 인지적 지렛대입니다." 

----> 비슷한 주장을 하는 '기억에서 은유의 역할이 중요하다'는  다우어 드라이스마 (Douwe Draaisma)책과  유추가 지능에 중요하다는 더글러스 호프스태터 (Douglas R. Hofstadter)의 책

---> 하지만 '은유'하면 제일 처음 생각나는 책은 수전 손택 (Susan Sontag)의 책

 

(7장. 인공지능의 진정한 위험)

 

걱정해야 하는 것은 기술 자체가 아니라 인간이 어떻게 기술을 설계하고 이용하는지에 대한 것이다. 

신경망은 고양이가 고양이라고 할 수 는 있지만, 고양이가 어떤 존재인지 이해하지는 못한다.

 

(결어)

 

특이점이 오지 않더라도, 인공지능은 오늘날 사회에 만연한 불평등을 심화시킬 수 있고 현재의 세계질서를 불안정하게 할 수 있다. 이슈 중 한 가지는 인공지능을 가진 자와 못 가진 자의 차이와 관련되어 있다. 

[ 자평  ]  읽고 생각해 볼 만한 Agenda. 하지만 2018년 출판 책인되도 벌써 낡은 곳이 있다.