인공 지능은 뇌를 닮아 가는가? by 유신

[ 밑줄 ]

 

ㅇ 기호로 생각하기

- 17~18세기 계몽주의는 종교적 전통과 거리를 두고 개인주의적 합리주의와 이성에 대한 믿음을 바탕으로 사회 전반을 재구성하려는 움직임이었다.

- 철학과 수학, 과학에 사용되는 언어에 대한 의구심을 가졌다. 일상적인 언어는 합리적인 사상을 피력하기에는 충분히 논리적이지 않았다는 것이다. 즉 이성적인 사상을 전개하고 교환하는 데는 일상 언어보다는 기하학이나 대수학과 같이 추상적인 기호를 사용하는 것이 더 낫다는 것이었다.

 

ㅇ 이성과 논리....철학과 수학, 과학에 사용되는 언어에 대한 의구심....이성적인 사고를 전개하고 교환하는 데는 일상적인 언어보다는 기하학이나 대수학과 같이 추상적인 기호를 사용하는 것이 더 낫다는 생각.....

 

ㅇ 홉스(Hobbes)는 <리바이어던 Leviathan> (1691)에서 "이성적 사고를 한다는 것은 곧 계산을 한다는 것"라고 주장..

 

ㅇ 라이프니츠(Gottfried Leibniz)는 논리적인 기호 체계를 이용하면 철학은 곧 계산이 될 것이라며..."두 명의 회계사가 서로 다툴 일이 없는 것처럼 두 명의 철학자 또한 서로 논쟁할 필요가 없어진다. 각각 공책과 연필을 들고, '자, 계산해 봅시다'라고 하면 그만이기 때문이다."

 

ㅇ 기호를 통한 사고를 정형적 추론(formal reasoning)이라고 함...단순히 일상 언어의 단어를 기호로 치환하는 것을 넘어 기호를 조합해 의미를 만들어 이를 기계적으로 조합해서 새로운 의미를 만들어 내는 법칙을 포함함

 

ㅇ 화자가 사용하는 언어와 관계없이 중립적인 표현, 또한 기호를 통해 같은 개념을 휠씬 간략하게 표현할 수 있다는 것은 정형적 기호 체계의 중요한 장점..(예를 들어 사과 하나와 배 두 개를 --> 1+ 2 =3) .....인공 지능의 관점에서 더욱 중요한 것은 정해진 규칙만 따르면 기호 체계를 '기계적으로' 조작할 수 있다는 점이다.

 

ㅇ (근의 공식 등) 공식을 배우는 까닭은 기계적으로(거의 자동적으로) 해당 공식을 적용하기 위해서다. 매번 똑같은 방법으로 공식을 자동으로 적용할 수 있다는 것은, 다시 말하면 해당 기호를 다룰 줄만 알면 기계도 인수분해를 할 수 있다는 뜻이다.

 

ㅇ 질문의 초점은 정형적 기호 체계를 통해서 표현이 가능한 지식은 어디까지이며 정형적 추론이 정말 모든 문제를 해결할 수 있는가로 옮겨간다.....수학자 다비트 힐베르트(David Hibert)가 1928년 국제 수학자 회의(ICM)에서 이른바 결정 문제를 제시했을 때 알고자 했던 것은 근본적으로 라이프니츠를 괴롭혔던 것과 같은 문제였다.

 

ㅇ 문제가 되는 것은 새로운 지식을 습득하면서 기존에 잘 못 알고 있던 결론은 수정해야 할 경우, 고전 논리 체계로는 이를 마땅히 표현할 방법이 없다는 것이다.

 

ㅇ 유추는 주어진 지식에 기반을 두어 가장 그럴듯한 것을 결론으로 선택하는 추론이다.유추는 새로운 지식이나 정보를 알아내는 데 사용할 수 있으므로 역시 고전 논리로 표현이 어렵다.

 

- 고전 논리에서 말하는 연역법

   (a) 비가 오면 땅이 젖는다(법칙)

       -> (b)간밤에 비가 왔다(사실)

           -> (c) 그러므로 땅이 젖어 있다.(결론)

 

- 유추의 과정

   (a) 땅이 젖어 있다 (지식: 사실 또는 관찰)

       -> (b) 간밤에 비가 왔다. (설명. 결론)

 

ㅇ 양상 논리(Modal Logic):  양상(Modal)이란 주어진 서술의 당위성, 가능성 등을 뜻한다. 고전 논리로는 'A이면 B이다'라고 할 수밖에 없었던 데 비행 양상 논리는 'A이면 B일수 있다'라든지 'A이면 B라고 믿는다'라는 식의 서술을 정형 기호를 통해 표현하고 조작할 수 있게 해준다.

 

ㅇ 계산 이론은 컴퓨터를 낳았고, 컴퓨터는 인공 지능을 낳았다. 

- 덧셈과 뺄셈만을 수행할 수 있는 기계식 계산기는 17세기부터 존재했지만, 모든 프로그램을 실행할 수 있는 컴퓨터의 이론적 바탕이 된 것은 튜링 기계다.

 

- 튜링 기계는 알고리즘을 실행함으로써 다양한 문제에 기계적으로 답할 수 있었다. 

 

ㅇ 강한 인공 지능: 모든 면에서 인간과 구별할 수 없는 지능

    약한 인공 지능: 특정한 문제의 해결에 특화된 지능

 

ㅇ 컴퓨터 이외의 모든 기계는 한 가지 기능을 목표로 만들어졌다.  자동차 엔진은 화석 연료를 운동 에너지로 바꾸고, 텔레비전은 전파로 받은 신호를 영상으로 바꾸고, 전화기는 음성을 전기 신호로 바꾸고.....

 

ㅇ 인공 지능은 기계로 지능을 구현하는 것....지능은 한 가지 기능만 가지고 있지 않다. 두뇌는 수학 문제도 풀 수 있고, 문학 작품을 읽고 이해할 수 있으며, 농담에 웃고 슬픈 이야기에 울 줄도 안다.

 

ㅇ 앨런 튜링....그가 남긴 가장 중요한 업적 중 하나인 계산 이론과 튜링 기계는 현대 컴퓨터 과학 전체를 꿰뚫는 이론적 기반이다...

 

ㅇ 알고리즘이란 주어진 계산을 기계가 수행할 수 있도록 계산 과정을 정형적 기호를 이용해 단계별로 적어 놓은 지시 사항이라고 할 수 있다. 

 

ㅇ 1928년 힐베르트가 제시한 결정 문제..

"입력으로 주어진 임의의 일차 논리식이 주어진 공리 하에 참인지 아닌지를 언제나 결정할 수 있는 알고리즘이 존재하는가? "

--> 힐베르트가 물은 것은 정형 추론, 즉 알고리즘으로 계산이 불가능한 문제가 있느냐는 것이다. 라이프니츠가 궁금해 했던 바로 그 질문이다. 

--> 결정 문제에 대한 답이 "예"라면 어떤 계산 문제든지 그에 해당하는 1차 논리식을 구한 다음 만능 알고리즘에게 질문만 하면 될 테니 말이다. 

--> 완벽하고 아름다운 체계로서 수학을 정립하기를 원했던 20세기 초의 많은 수학자들이 원했던 답은 "예" 였다. 

 

ㅇ 결정 문제 자체는 주어진 논리식이 참인지 아닌지만을 답할 것을 요구하지만, 실제로는 논리식의 내용을 통해서 더 넓은 범위의 문제를 풀 수 있다. 예로 {1, 5, 2} 세 개의 숫자 중 가장 큰 숫자를 찾는 문제를 결정 문제로 환원하면 다음 세 개의 논리식 세 개를 가지고 세 번의 질문을 하면 된다.

 

1) 1이 { 1, 5, 2 } 중 가장 큰 숫자이다. (거짓)

2) 5가 {1, 5, 2 } 중 가장 큰 숫자이다. (참)

3) 2가 {1, 5, 2 } 중 가장 큰 숫자이다. (거짓)

 

ㅇ 괴델의 불완정 원리

- 산술체계처럼 내부에 모순이 없는 공리체계는 모두 참이지만 그 자체 안에는 증명이 불가능한 명제가 포함돼 있다.

- 또한 공리 체계는 자기 내부에 모순이 없음을 스스로 증명할 수 없다. 

- 괴델은 하나의 공리 체계인 수학은 수학을 이용해서 수학 자체에 모순이 없음을 증명할 수 없다고 단언한 것

 

ㅇ 튜링은 괴델의 불완전성 원리가 사용한 증명 기법을 이용해서 힐베르트의 결정 문제에 "아니로"라고 답했다.

- 결정 문제에 "예"라고 답하기 위해서는 어떤 일차 논리식이든 참/거짓을 판별할 수 있는 알고리즘이 존재해야 한다. 

- 튜링은 어떤 알고리즘도 참/거짓 중 하나로 답을 정할 수 없는 (불완전성 정리를 표현을 빌면, 참/거짓을 증명하기가 불가능) 문제가 존재한다는 반례를 들어서 "아니로"라는 답을 이끌어 냈다.

- 이 과정에서 튜링이 남긴 중요한 결과물이 두 가지 있는데 1) 계산 가능성 이론 2) 튜링 기계이다.

 

ㅇ 계산 가능성 이론: 주어진 문제의 답이 가능한지 아니면 아예 결정 불가능인지를 연구하는 이론으로 수학 이론의 범주에 속한다.

 

ㅇ 튜링 기계: 튜링이 계산 가능성 이론을 탐구하면서 이용한 사고 실험 속의 기계로, 주어진 알고리즘을 수행할 수 있는 가상의 기계이다.

 

ㅇ 컴퓨터가 다양한 기능을 수행할 수 있는 것 = 다양한 알고리즘을 실행할 수 있는 것 => 튜링의 계산 이론과 보편 튜링 기계에 기반을 두었기 때문이다. 

 

ㅇ 가우스가 보인 통찰력, 즉 주어진 문제 안에서 특정한 구조를 발견한 뒤 이를 이용해서 더 빨리 해답을 찾아낸 능력이야말로 지능의 정수 중 하나라고 할 수 있다.

 

ㅇ 1994년 52명의 과학자들이 함께 발표한 '지능에 대한 주류 과학의 입장'은 지능을 다음과 같이 정의한다.

(월 스트리트 저널, 1994년 12월 13일)

 

" 추론하고 계획하며 문제를 해결하고 추상적 사고를 하며 복잡한 개념을 이해할 수 있을 뿐 아니라 빠른 시간 안에 경험으로부터 학습할 수 있는 매우 일반적인 정신적 능력. 

지능은 단지 책에 적힌 내용을 외우는 것, 혹은 좁은 의미의 학문적 기술이나 시험을 보는 요령을 가리키는 것이 아니다.  지능은 더 넓고 깊은 의미에서 우리의 주변 환경을 이해하는 능력, 따라잡고, 의미를 파악하며  다음 할 일을 깨닫는 능력이다. "

 

ㅇ 문제 해결 능력과 학습 능력

- 문제에는 추상적인 논리나 수학뿐 아니라 일생 생활이나 사회에서 마주치는 다양한 문제를 해결하는 것을 말함

- 문제를 해결하려면 논리뿐 아니라 감각과 지각 능력, 신체적 운동 능력, 타인에 대한 공감 능력 등도 필요...

- 지능은 학습을 통해 계발되는데 (지능의 정의 중 하나가 학습할 수 있는 능력이다), 학습은 결국 감각과 지각을 통해 이루어진다. 

 

ㅇ 심리학자 하워드 가드너(Howard Gardner)는 < 다중 지능 이론 > 에서 지능이란 하나의 일반적 능력이 아닌 다양하고 서로 독립적인 능력의 집합이라고 주장한다... 논리/수리 능력/시각-공간 인지 능력/ 음악-리듬-화음 이해 능력/ 대인 관계 감지력-자기 성찰 능력/ 자연환경과 교감할 수 있는 능력 및 존재론적 고민이나 종교적 성찰을 할 수 있는 능력 등 등

 

ㅇ 우리는 인간이고 우리가 아는 진정한 지능은 인간의 지능뿐이기 때문에, 우리의 시각에서 지능이란 '사람과 똑같이 생각하고 행동할 수 있는 능력'이라고 할 수 있다.

- 정의로 허술해 보이지만 튜링 테스트가 제시한 목표야말로 이 정의에 부합하는 것...

- 튜링 테스트가 아직도 인공 지능 연구의 궁금적 목표로 남아 있는 이유는 지능에 대한 포괄적으로 정의하고 있기 때문임...

 

ㅇ 강한 인공 지능

- 인간과 같거나 인간을 능가하는 지능을 가진 인공적 존재...

- 주어진 계산을 빨리 하는 컴퓨터가 아니라, 문제에 내재한 패턴과 구조를 인식하고 새로운 풀이 방법을 생각해 낼 수 있는 인공 지능

 

ㅇ 모라벡(Hans Moravec)의 패러독스

-  고도의 추상적, 논리적 작업은 얼마 안 되는 계산량을 통해서 수행할 수 있는 반면, 운동 능력이나 감각 능력을 사용하는 작업에 필요한 계산량은 엄청나게 많다....

 

ㅇ 초기 인공 지능 연구자들은 대체로 수학이나 논리학, 전자 공학을 학문적 배경으로 가지고 있었다. 이들은 달리기를 할 수 있는 능력보다 복잡한 수학 문제를 풀거나 체스를 두는 능력을 지능적으로 더 높은 수준으로 보았다.

 

ㅇ 모라벡에 따르면 인간과 똑같은 인공 지능을 만드는 것은 수억 년에 걸쳐 진화한 생명체인 인간의 작동 원리를 밝혀내고 재구성하는 일종의 역공학(reverse engineering)이다.  인간의 작동 원리 중 운동 능력이나 감각 능력처럼 동물적 본능에 가까운 능력일수록 오랜 진화 과정을 통해 최적의 상태로 다듬어져 있으므로, 이를 재구성하는 것이 더 어렵다는 것이다.

 

ㅇ 추상적, 논리적  사고를 하는 지능은 상대적으로 새로운 능력이므로, 진화 과정을 통해 다듬어질 시간과 기회가 부족했고 그 결과 역공학을 통해 재구성하는 것이 더 쉽다는 것이다.

 

ㅇ 중국어 방 패러독스는 강한 인공 지능이 지닌 철학적 한계를 지적한다. 컴퓨터에 구현된 인공 지능도 결국은 사람이 작성한 프로그램이므로, 프로그램가 의도한 기능을 반복적으로 수행할 뿐 무언가를 진정 '이해하거나' '의도하거나' 혹은 '자의식'을 가지고 있다고는 할 수 없다.....중국어 방 패러독스는 튜링 테스트에 대한 반론이기도 하다. 

 

--> 우선 존 설은 '중국어 방 논쟁'으로만 알고 있는데 탁월한 철학자 임을 알아야 한다. 

--> 이렇게 단순하게 정리하고 결론 내리기에 (상식적인 듯 하지만) 이 문제는 복잡하다. 

--> 첫째, 인공 지능도 짜인 프로그램을 그대로 반복 수행한다는 것은 인공 지능을 구현해 보지 못한 사람들의 생각이다. 인공 지능 개발자 누구도 프로그램이 짜진 그대로 수행된다(이렇다는 것은 프로그래머가 입력에 대한 결과를 예측할 수 있어야 한다) 고 확언하기가 어려운 상황들이 발생하고 있다. 알파고가 왜 그런 수를 두었는지, 개발자들은 모른다고 했다. 이 부분에 대한 논쟁만으로도 한 권의 책이 된다.

 

--> 둘째, 사람이 무엇일 이해하고, 의도하고, 자의식을 가졌다는 것이 무엇인지? 인문학계에서도 명확히 이해하지 못하고 있다. 이러는 인공 지능이 그렇지 못할 것다는 한계 설정 자체도 모호한 것이 아닐까? .... 이 중 인간이 자의식을 가지고 있다고 자신 있게 말할 수 있는지 조차 의문스럽다는 것을 아래 책은 알려준다.

 

ㅇ 인간의 지능을 총체적으로 재현하는 것이 지난하다면, 특정한 문제를 사람보다 빠르고 정확하게 해결하는 인공 지능은 더 수월하게 만들 수 있지 않을까? 미리 정의된 특정 형태의 문제를 해결하기 위한 인공 지능을 약한 인공 지능이라고 부른다....예를 들면 5G 기지국을 최소의 비용으로 최적의 위치에 배치하는 설계 방법을 제시하는 문제.... 정상 메일과 스팸 메일을 자동 분류하는 문제.....영화를 추천하는 문제.... 등

 

ㅇ 학습이란 몰랐던 지식을 습득한다는 뜻이다....기계학습에서 말하는 학습이란 주어진 자료를 분석해서 일반화된 법칙을 이끌어 내는 것이다....실제로 의미하는 것은 컴퓨터가 '주어진 자료로부터 확률 모델을 계산했다'는 것이다.

 

ㅇ 기계학습은 어떤 면에서는 사람이라면 누구나 본능적으로 가지고 있는 학습 방법을 확률에 기반을 둔 계산으로 바꿔 놓은 것뿐이다.

 

ㅇ 기계 학습 알고리즘은 

- 학습에 필요한 자료의 양이 많으면 많을수록 더 정확한 결과를 내놓는다. 사람이 더 많은 것을 경험할수록 지식이 풍부하다는 것과 같다.

 

- 만일 주어진 자료가 편파적일 경우, 올바른 확률적 지식을 얻을 수 없다.....자신이 학습할 때 경험하지 못한 입력에 대해서는 어떤 답도 할 수 없다.

 

ㅇ 강한 인공 지능은 의식, 자유의지, 창의력, 상상력과 같이 고차원적인 개념과 연결되어 있다. 기술적으로 이런 개념을 어떻게 구현할 것인가의 문제 이전에 대답해야 할 여러 질문들이 있다. 예를 들어,

- 의식과 자의식은 인간에게만 고유한 것인가?

- 의식 없는 지능의 존재가 가능한가? 

- 자유의지는 지능에 필수적인 존재인가? 만약 그렇다면 우리는 기계가 자유의지를 갖길 원하는가? 

 

ㅇ 인공 지능을 바라보는 관점에는 크게 두 가지가 있다.

- 계산주의: 인간의 뇌가 개념과 정보를 기호로 저장한 뒤 이를 마치 방정식을 풀 듯 조작함으로써 문제를 해결하거나 사고를 펼쳐 나간다고 본다....인공 지능도 같은 방식으로 구현될 수 있다는 것이다.....계산 주의 역사는 철학을 기호와 계산으로 치환하고자 했던 계몽주의 시대로 거슬러 올라간다. 인공 지능에게 시키고자 하는 일이 수학적, 논리적 계산뿐이라면 계산주의적으로 접근하는 것이 옳다. 하지만 계산주의는 컴퓨터 안의 가상공간을 벗어난 복잡한 실제 세계를 다루는 데는 효과적이지 않음이 드러났다. 

 

계산주의는 인간의 뇌가 작동하는 방식이 일련의 논리적인 기호들을 조작하는 계산 과정으로 본다.....우리의 뇌를 일종의 보편 튜링 기계와 같다고 간주한다. ( = 인간의 생각은 다양한 알고리즘이고, 뇌는 알고리즘을 실행하는 것일 뿐..)

 

우리가 행하는 모든 지능적인 활동은 알고리즘을 통해서도 수행될 수 있다 -> 범용 컴퓨터는 모든 알고리즘을 실행할 수 있다.  --> 뇌는 범용 컴퓨터다 

 

- 연결주의: 뇌의 생물학적 기제에 집중해 인공 지능 프로그램은 뇌를 구성하는 뉴런 연결 방식을 닮아야 한다는 주장. 우리의 뇌는 수많은 뉴런으로 구성되어 있고, 그것들의 연결망을 통해 기능한다. 지능은 이러한 구조를 가진 뇌의 활동이라고 할 수 있다. 각각의 뉴런이 어떻게 연결되고 활성화되는냐에 따라 외부 세계에 대한 감각, 사실을 종합하는 인식, 추상적 사고, 감정과 마음까지도 결정된다고 여겨진다. 

 

ㅇ 기호로 정리된 정보를 입력하는 것만으로 인공 지능이 복잡한 현실 세계를 파악하는 것이 불가능하다면, 인공 지능 스스로 세상에 대한 지식을 학습하도록 해야 한다. 

 

ㅇ 계산주의의 한계..... 세상의 모든 물체를 속성의 집합으로 표현하는 것은 불가능에 가까우며, 설사 정확도를 어느 정도 포기함으로써 가능해진다고 하더라도 엄청난 양의 저장 공간을 필요로 하기 때문에 실용적이지 못하다......예를 들어 고양이를 정확하게 규정하기에 충분한 속성의 개수는 몇 개나 될까?..."다리가 네 개고, 꼬리가 있고, 뾰족한 귀가 두 개고..... 꼬리가 잘렸을 수도 있고, 사고로 다리를 잃은 경우라도...." 

 

ㅇ 물체의 속성으로 '뾰족한 귀가 있는?"라는 항목을 붙였다. 인공 지능은 "뽀족한 것이 어떤 형태? 정의? "인지..."귀가 뭔지?"를 일단 알아야 한다......카메라로 화소만으로 귀가 어는 부분인지? 뽀족한 것이 무엇인지? 를 알아내야 한다. 즉, 속성이라는 추상적인 '개념'을 카메라를 통해 인지된 '감각'과 연결해야 하는 문제가 남는 것이다.

 

ㅇ 감각을 지능과 어떻게 연결할 것인가 하는 지점에 이르면, 지능을 단순히 '기호를 논리적으로 다루는 능력'으로 보는 계산주의의 한계가 명백해진다... 카메라 화소 데이터는 빛을 기록한 것일 뿐, 그 안에는 어떤 기호도 논리도 없기 때문이다....계산주의 지능 모델은 전형적인 모라벡의 패러독스에 빠지고 만 셈이다. 

 

ㅇ 기호의 얄팍함

- 수학에서 사용하는 x, y는 추상적인 기의(signifie)을 가진 기표(signifiant)가 아니라 글자 그대로 자기 자신을 가리키는 기호에 지나지 않는다.

- 컴퓨터 프로그램은 수학적인 기호를 조작해서 증명을 완료하는 과정 중에 x나 y기 무엇을 의미하는지 알아야 할 필요가 없다. 중요한 것은 x나 y 같은 기호의 위치 및 맥락이지 그 의미가 아닌 데다, 애초에 의미 자체도 없기 때문이다.

- 일반적인, 일상적인 개념을 다루고자 하면 기의가 없는 기표로서의 기호를 다루는 능력은 별 소용이 없게 된다. 고차원적인 개념을 임의의 기호와 일대일로 연결한 다음, 이 기호들을 이리저리 조작한다고 해서 컴퓨터가 해당 기회의 의미를 이해했다고 볼 수 없기 때문이다.

- 인간 두뇌는 물건을 배운다 -> 물건들(사물들)의 공통된 속성이나 스스로의 경험에 기반을 두고 이끌어 낸 추상적인 개념을 익힌다 -> 추상적인 개념들을 연결해 자신의 생각을 표현한다.

- 계산주의는 지능의 문제를 추상적인 기호의 체계로 치환하려고 했다. : 실패 

 

 

ㅇ 연결주의는 지능을 하나의 강력한 논리적 체계가 아니라 매우 간단한 기능만을 가진 작은 단위들이 서로 복잡하게 연결된 상태에서 얻어지는 발생적인(emergent)현상이라고 본다. 가장 이해하기 쉽고 또 널리 사용되는 연결주의적 접근은 뇌의 신경망(neural network)의 구조에 기반을 둔 것이다. 

--> 핵심은 본다는 것이다. 관점이라는 것이 검증된 가설이나 동의된 것이 아니다. '생각, 마음, 의식이 물리적인 뇌에서 창발 한다'라고 퉁 치고 넘어갈 수 없음을 얼마나 따져 볼 수 있는지? 는 아래 책을 보면 알 수 있다.

 

ㅇ 인간의 정신 상태는 복잡한 신경망 내에서 어떤 뉴런이 얼마나 활성화되어 있느냐로 나타낼 수 있고, 기억은 뉴런들이 연결된 구조를 변형함으로써 저장된다. 

 

ㅇ 비유(analogy)란 서로 다른 지식 분야 사이에 존재하는 구조적인 유사성이다.

 

ㅇ 인공 신경망(Artificial Neural Network)은 컴퓨터를 이용해 뉴런 연결망이 하는 기능을 흉내 냄으로써 궁극적으로 지능을  성취하려는 시도인 것이다.....인간의 지능이 제아무리 강력하고 신비한 존재라 하더라도, 물리적인 차원에서 보면 뇌 안에 연결된 뉴런들이 주고받은 전기 신호의 상호작용으로 벌어지는 현상이다. 

 

--> 우선 이런 관점(생각)이 물리주의라는 관점임을 나중에 알았다. 또한 물리주의의 세계 최고의 권위자가 한국 분(김재권 교수)이라는 것도 알게 되었다.  (김재권 교수님의 책은 모두 절판이라 구할 수가 없다. 중고책 시장에서 살 수는 있지만 6만 원 ~ 10만 원 정도다. 전공자가 아닌 내가 굳이 살 만한 이유는 없다. 특히 김재권과 물리주의 공동 저자 중 숭실대 철학과 교수로 계신 백도형 교수가눈에 띈다.)

 

 

--> 이 책을 읽을 때만 해도 인공 신경망이 뇌를 모사한 줄, 그런 줄 알았다. 하지만 '흉내'에 정도가 있었다는 것을 알 수 있다.

--> 인공 신경망은 신경세포(뉴런)의 작동 원리를 수학적으로 흉내 낸 것이다. 정밀하게는 신경세포(뉴런)의 전기적인 작동 방식의 아주 기본적인 것을 흉내낸 것이다. .하지만 신경세포(뉴런)는 전기화학적으로 작동한다. 또한 집단적으로 작동한다.

--> 이런 문장은 마치 인간의 뇌가 인공 신경망처럼 작동한다는 오해를 줄 수 있다는 것을 알아가고 있다. 내 아들이 나랑 대체로 닮은 점이 있다고 해서 내 복제품이나 모사품이 아니 듯.... 닮았더라도 다른 존재다... 인공 신경망이 뇌를 흉내 냈다는 것은 너무 작은 공통점을 크게 서술한 것이다. 이 문장의 그냥 그렇구나 수긍하기에는 적합하지 않다... 이 문장 하나로 언급된 좋은 책들은 무수히 많다. 

 

 

ㅇ 신경망 이론의 토대는 1949년 신경과학자인 도널드 헵(Donald Hebb, 1904~1985)이 제시한 헵 이론(Hebbian Theory)...햅 이론은 학습을 뉴런들 사이의 연결 관계로 이해하면서 뉴런 사이의 연결 관계가 활성화된다는 경험이 반복될수록 학습 능력이 강화된다고 본다..... 

 

ㅇ 파블로브의 '조건 반사'라도 일종의 학습이다...개는 원래 음식을 보면 침을 흘린다. 뉴런 1이 시각 신호에 활성화되면 그 신호가 연결 1을 통해 뉴런 3에 전달되고 그 결과 침 분비 신호가 근육으로 보내지는 것....음식을 줄 때마다 종소리를 들려주면....1번 연결이 활성화될 때마다 2번 연결도 활성화되고, 그 결과 연결 2가 강화된다......나중에는 시각신호 없이 청각 신호만 주어도 뉴런 2의 활성 상태가 연결 2를 통해 뉴런 3에 전달되고 결국 침이 분비되는 것..

ㅇ 인공 신경망의 핵심은 각 노드가 사용하는 가중치에 있다....반복되는 실수와 역전파 학습을 거칠수록 인공 신경망의 정확도는 향상된다....역전파를 통해 스스로의 가중치를 조절해야만 한다. 주어진 기호의 조작만으로 문제를 해결할 수 있다고 믿는 계산주의의 전제와는 큰 차이가 있다. 

 

ㅇ 심화학습(Deep Learning) 이론을 통해 은닉층 노드를 이해하는 실마리를 얻게 된다. 은닉층의 노드 각각은 오직 출력단에서의 의미를 위해 조작되는 것이 아니라 그 자체로 특정한 용도를 가지고 학습된 것이기 때문에, 의미를 파악하는 것이 훨씬 쉬워진다 

 

ㅇ 대통합 이론: 계산주의는 고차원적이고 추상적인 체계이며, 사람이 논리나 수학과 같은 추상 체계를 다루는 법을 잘 설명한다. 반면 연결주의는 지능의 하드웨어를 설명하는 이론이며, 좀 더 본능적이고 생물학적인 기능(시각과 같은 감각)을 더 잘 설명한다.....심화학습(딥러닝)에서 중간 개념에 해당하는 은닉층 노드들은 계산주의에서 말하는 기호와 유사한 점이 있다......뇌 과학 연구 결과에 따르면 우리 뇌가 실제로 작동하는 방법 또한 기호 기반의 계산 주의와 연결망 기반의 연결주의의 양면을 모두 보인다고 한다.

--> 이 부분은 페드로 도밍고스 (Pedro Domingos) 교수의 책이 가장 잘 설명이 된 것 같다.

 

ㅇ 뇌의 구조 자체는 연결주의로 설명되지만 우리가 특별한 관심을 두는 개념이나 사람의 얼굴은 '개념 뉴런'이라고 불리는 특정한 뉴런에 지정된다는 것이다. 뇌과학자들은 영화배우 제니퍼 애니스턴의 얼굴에 반응하는 개념 뉴런(개념 세포, concept cells)은 물론 피타고라스의 정리와 같이 복잡한 개념에 반응하는 뉴런도 관찰했다고 보고한다. 피타고라스 정리의 경우는 수학 문제를 즐겨 푸는 엔지니어에게서 관찰되었다고 한다. 개념 뉴런은 신경만 안에 구현된 일종의 기호라고 할 수 있지 않을까? 

 

ㅇ 계산주의가 뇌는 '무엇'을 하는지를 기술한다면 연결주의는 뇌가 '어떻게'하는지를 기술하는 것이다....지능은 추상과 감각을 모두 필요로 한다. 

 

ㅇ 발생적 지능(emergent): 복잡한 행동은 기초적이고 단순한 행동 여러 개가 동시에 상호작용함으로써 발생한다. 이는 브룩스가 '포섭 구조'(subsumption architecture)라고 부르는 것이 기반이 된다. 예를 들어 로봇에게 1) 다른 물체와 충돌하면 안 된다, 2) 주어진 목표물을 향해 움직인다는 두 규칙을 준다고 가정해 보자. 두 규칙이 동시에 적용될 경우 그 결과는 로봇이 주어진 목표를 일정한 거리를 두고 따라가는 행동이 될 것이다. 포섭 구조를 따르는 로봇은 단순한 행동 한 가지만을 맡아 처리하는 제어 회로 여러 개를 동시에 탑재하는 형태로 만들어진다. 

 

ㅇ 브룩스의 인공 지능 연구는 처음부터 인간의 지능을 목표로 하기보다 곤충 정도 수준을 목표로 하는 것이 맞다고 한다.... < 코끼리는 체스를 두지 않는다 Elephant don't play chess>라는 논문에서 브룩스는 물고기와 척추동물이 처음 등장한 것이 550만 년 전인데 인류는 고작 250만 년 전에 지금의 형태로 등장해 1만 9,000여 년 전에 농경을 시작했음, 더구나 문자를 사용한 것은 겨우 5,000년 전임을 지적했다.

 

그는 "일단 생존 및 (주변 환경에 대한) 반응 기제가 해결되고 나면 문제 해결 능력, 언어, 전문 지식 및 그 활용, 그리고 이성 등은 상대적으로 간단한 문제'라고 주장한다. 

 

ㅇ "인공 지능이 개발되면 인간이 열등감을 느낄 것이라고 우려하는 사람들이 있다. 하지만 온전한 정신을 가진 인간이라면 꽃 한 송이를 쳐다볼 때마다 열등감을 느낄 것이다. " by 앨런 케이 

 

ㅇ < 괴델, 에셔, 바흐: 영원한 황금 노끈 >으로 유명한 인공 지능 연구자 더글러스 호프스태너는

" 딥 블루가 체스를 잘 두는 건 알겠는데, 그래서 뭐? 딥 블루가 사람이 체스를 어떻게 두는지를 조금이라도 설명해 줬는가? 게리 카스파로프가 체스판을 머릿속에 어떻게 그리고, 어떻게 이해하는지 조금이라도 더 알게 됐느냔 말이다. "

( 애틀랜틱 The Atlantic, 2013년 11월 호)

 

ㅇ 호프스태터에 따르면 인공 지능 연구의 목표는 지능 그 자체를 더 잘 이해하는 데 있으며 이 목표와 관계없는 기술, 다시 말해 실용적 가치를 최우선시하는 현대적 접근은 대부분은 모두 돌아가는 길에 불과하다. 이 견해는 소수 의견에 속하지만 경청할 만한 가치가 있다. 

--> 호프스태터....이 분의 생각을 좀 이해하고는 싶다. 한 권은 (원서 출판 기준) 1979년에 냈고 한 권은 000년에 냈다. 

1979년 첫 책은 1999년에 번역되어 나왔는데 일단 '이미 1970년 대에 이런 생각을 하고 정리를 한 사람이 있다니'라는 놀라움을 준다. 하지만 읽었다는 분들로부터 번역에 이슈 제기가 많았다.

나도 읽다가 이해가 안 되어 괜히 번역 탓으로 돌린 적이 많다. 번역의 잘못은 10%도 안 될 것이고 이해력과 지식 격차가 90% 이상일 거라 확신한다.  이 책은 읽었지만 나는 이 책을 분명 이해하지 못했다. 두 번째 책은 소장만 하고 있다..

--> 새로운 번역은 2017년에 다시 나온다. 역자인 박여성 교수님(언어 쪽 전공이신 듯한데..)을 존경하지 않을 수 없다. 동일 책을 20여 년 만에 다시 번역을 하는 정성도 만만치 않은 몰입이고 기여다. 

 --> 번외로 나는 호프스테터의 책을 이해하지는 못하지만 너무 좋아해서 저자의 번역본을 다 가지고 있다. 

(너무나 궁금해서 어떻게 생기셨는지 조차 궁금하다. 언론에 잘 안 나오나 보다. 러시아 수학자 페럴만처럼..)

 

ㅇ 호프스태터는 인공 지능이라는 이름 하에 발표된 연구의 상당수가 실제로 지적인 요소는 하나도 성취하지 못했으면서도 언론을 통해 결과를 부풀려 전하는 행위에 대한 강한 반발인 면이 크다...그는 지능 전반보다는 지능을 구성하는 하위 요소에 집중하는 한편, 정답이 정해져 있지 않은 열린 문제를 택함으로써 가정, 유추, 비유와 같은 뇌의 고차원적인 작동 원리를 탐구하는 것이 특징이다....이들의 개발한 인공지능 알고리즘들은 결코 사람보다 문제를 더 잘 풀기 위해 만들어진 것이 아니다. 이 그룹의 목표는 우리 뇌가 특정한 문제를 푸는 방식은 이러저라하지 않을까 하는 가설을 가지고 뇌의 작동 과정을 모델링하는 것이다. 

 

 

[ 연결 ] '지능'이라는 주제로 읽은 수 백 권의 책을 정리하고 있음...

 

인간 지능(뇌)과 인공지능 분야는 내 책장에 가장 많이 꽂혀 있는 주제의 책이다.

문과 출신이다 보니 인공지능을 접할 때도 인문학적인 접근이 손쉬웠다.

 

책장에 있는 많은 이 분야 책 중 다시 봐도 볼만 하여 정리가 필요한 책들을 보면...

 

대중교양서로 읽은 최초의 인공지능 책은 아마 1999년 출판된 '인공지능 이야기'라는 책일 것이다.

(존 L. 캐스터라는 복잡성 전문가가 철학적 관점에서 서술한, 역사적 인물들의 토론을 가정 한 방식으로 서술훈 인공지능 책이다.)

2008년 출간된 이화인문과학원 신상규 교수가 쓴 책 대중교양서...

 

 

하지만 인문학적 관점을 넘어 실제 인공지능이 어떻게 구현하는지 원리가 궁금했다.

그래서 이과적인 대중교양서를 좀 훑어 본 것으로 방향을 돌아 섰다.

 

2003년 출간된 일본 개발자가 인공지능의 개발 원리를 쉽게 풀어쓴 '성냥갑으로 재미있고 쉽게 배우는 인공지능 이야기' ( 뉴런 네트워크도 나오지만 홉필드 모델, 유전자 프로그램도 핵심을 비유적으로 잘 설명했다.)

 

일본 교수님이 쓰신 인공지능의 기술적 원리에 관한 책 (2014년판)

 

2015년에 출판된, 일본공대 교수 마쓰오 유타카가 쓴 '인공지능과 딥러닝', 가장 쉽게 잘 쓰여지고 폭넓은 주제를 다룬 초급자 용으로 가장 잘 쓴 책이 아닐까 싶다. 

 

철학을 전공한 김재인 씨가 쓴 '인공지능의 시대, 인간을 묻다' (2017년)

(폭넓게 총알을 날렸다는 점은 좋았다. 하지만 초점(영점)을 잡아서 날렸다면 더 좋았을 것이다.)

(이런 분야에 내가 아는 전문가는 이 분이다. 내가 이 분야 전문가는 커녕 전공자도 아니기에 길을 잃지 않기 위해서 이 분의 서평을 참고하여 이 분야 책을 골라 읽는다.)

(blog.aladin.co.kr/qualia : 퀼리아님)

소프트웨어 교수인 지승도 교수님이 초인공지능과의 대화 형식으로 쓴 책....(2018년)

인공지능 기술의 과거, 현재, 미래에 대해 물리학자가 정리한 가장 큰 판..."Life 3.0"

 

가장 최근에 읽은 책은, 많은 실제 경험이 없으면 쓸 수 없는 책... 책상머리에서는 절대 안 나오는 책....

김진석 철학과 교수님이 쓰신 최근에 사서 아직 못 읽은 책.... 

 

 

[ 자평 ] 잘 쓴 책... 또다시 책을 써주셨으면 하는....

 

2014년 출판 당시 런던 유니버시티 칼리지 컴퓨터 과학과 교수라고 했다.

2020년 정리를 위해 다시 읽어 봐도 기본적인 사항을 이해하기 쉽게 잘 정리한 좋은 책이다.

이런 분은 다음 단계의 책을 좀 내주셔야 하는 거 아닌가 싶다. 

(저자가 컴퓨터 과학가 교수지만 인공지능의 작동 원리를 이해하려면 이 책으로는 부족하다)

 

 

인공지능 관련하여 (내가 읽어 본 책으로만 판단하건대) 한국은 일본, 중국에 뒤처지는 것 같다.

인문학적 관점이나 기술적 관점 모두 뒤지는 것 같다. 매우 뒤진다고 생각한다.

(그나마 인문학자가 쓴 책은 더러 읽을 만 한데 기술/공학 쪽에 책은 거의 없는 것 같다. 번역서 빼고는...)

 

리카이푸처럼 AI업계를 이끌어 보고, 전 세계적 시각으로 과거/현재/미래를 읽는 시각이 없다.

마쓰오 유타카 교수처럼 기술을 평이한 용어로 한 판으로 정리하는 내공도 없다.

사이토 고키라는 개발자가 쓴 인공지능 기술서를 보면서 탄복스러웠다.

조우쯔화가 쓴 교과서를 보면서 이 정도로 중국이 벌써 정리를 낸다는 것에 대해 탄복했다.

외국 책 짜깁기는 그만둬야 한다.

젊은 분들이 자신의 경험을 정리하고 공유하는 움직임들이 많이 나와야 한다.

 

그나마 읽어 보고 (어떤 책은 훑어보고) 괜찮아 보였던 국내 기술/공학 쪽 책으로는...

 

개발자 출신으로 정보통신공학과 교수라 있다가 회사 임원으로 계신 윤덕호씨,,,,,(내가 개발자가 아니라 다 읽을 필요는 없어 필요한 부분만 읽었지만) 존경스럽다..

 

설명 가능한 인공지능에 대해서는 국내 번역된 책도 거의 없는 듯 한데....국내 저자가 이 분야를 정리했다는 것만 해도 존경할 만한....넥슨코라아에서 데이터 과학자로 있다는 안재현 씨의 책...  (물론 내가 개발자가 아니라 읽을 필요는 없지만.. ㅠㅠ)