푸른 요정을 찾아서 by 신상규

(인공지능과 미래 인간이 조건)

[ 밑줄 ]

 

ㅇ 도대체 어디까지를 인간이라 할 수 있으며, 인공장기를 가지고 있는 인간의 지위는 어떻게 되는 것인가?

 

ㅇ 영화 <바이센테니얼 맨>은 인공지능 로봇과 관련해 매우 흥미로운 질문들을 제기하고 있다. 그 중에서도 단연 우리의 관심을 끄는 것은 '도대체 인간이 인간이기 위한 조건은 무엇인가?'라는 질문이다. 

ㅇ 다른 장기는 모두 대체할 수 있지만, 인간의 두뇌만은 대체할 수 없음을 혹은 대체되어서는 안된다는 것을 암시한다.

 

ㅇ 미래학자 한스 모라벡(Hans Moravec)도 우리 스스로가 사이보그화한 슈퍼로봇이 바로 인류의 후손이 될  것이라고 단언한다.... 왜 두뇌는 꼭 유기질로 이루어져야만 하는 것일까? 

 

ㅇ 우리는 소위 정신적 활동이라 부르는 작용이 두뇌에서 진행된다는 것을 알고 있으며, 이런 정신 활동이야말로 인간적인 가치가 있는 활동이라고 생각하기 때문이다.

 

ㅇ 먼저 인간 정신이 본성이 무엇이며, 인간에 대한 우리의 이해에서 정신이 차지하고 있는 비중이나 역할에 대해 보다 면밀한 검토가 선행되어야 할 것처럼 보인다.

 

ㅇ 데카르트는 세상을 구성하는 두 가지 실체가 있다고 보았다. 여기서 실체라는 개념은 다른 어떤 것에도 의존하지 않고 스스로 존재할 수 있는 대상을 일컫는다. 

 

ㅇ 데카르트는 이 세상에 존재하는 것 중에서 독립적으로 존재할 수 있는 실체는 궁극적으로 정신과 물질, 두 가지 종류가 있다고 보았다. 이는 달리 말해, 그 외 나머지는 모두 존재를 위해서 정신이나 물질에 의존해야만 한다는 것이다.

 

ㅇ 유물론은 존재하는 모든 것은 궁극적으로 물질적인 것이며, 그런 의미에서 생명현상이나 정신현상도 원리적으로 넓은 의미의 물리적 법칙만으로 설명할 수 있을거라 주장한다. 

 

ㅇ 신경과학에서 두뇌 작용이나 신경계를 통한 육체의 움직임을 설명하는 방식은, 물리학에서 물질적 대상의 작용을 설명하는 방식과 그 근본에 있어서 크게 다르지 않다....그렇다면, 두뇌 작용을 설명하고 이해하는 일이 곧 정신을 기계적으로 이해하는 것이라 말할 수 있지 않을까? 

 

ㅇ 데카르트는 우리의 정신과 육체가 서로 전혀 다른 차원에 속하는 별개의 실체들이라고 생각했다.....이때 우리의 두뇌는, 육체가 정신이라는 또 다른 종류의 실체와 상호작용을 일으키는 인퍼페에스 역할을 한다.

--> 이것이 그렇게 간단한 문제가 아니라는 것은 아래 책을 보면 알 수 있다.

ㅇ 물질적 세계는 기본적으로 원인과 결과의 인과적 연쇄를 통해 작동하는 기계적 체계....보통 철저한 결정론적 체계로 간주됨....모든 물리적 사건은 그것에 선행하는 모종의 원인으로부터 귀결되는 결과임....

 

ㅇ 자유의지의 주체인 정신을 인과적 세계이 바깥에 위치시키는 것이다.....데카르트의 전략이 바로 그것.......우리의 정신은 그 체계의 바깥에 존재하며, 정신의 자유로운 선택을 통해서 우리의 육체에 새로운 인관적 연쇄를 촉발할 수 있다는 것이다.

 

ㅇ 결국 정신과 물질의 분리를 통해 데카르트가 확립하고자 의도했던 철학적 결론 중의 하나는, 정신 혹은 사유 작용을 통한 인간의 존엄성 혹은 우월적 지위의 확보다.

 

ㅇ 프로이트(Sigmund Freud)는 과학의 역사에서 세 가지 중요한 혁명적 사건이 있었다고 지적한다.

첫 번째가 코페르니쿠스(Nicolaus Copernicus)의 지동설 주장.

두 번째가 다윈의 진화론

세 번째가 프로이트 자신의 무의식에 대한 발견이다.

 

ㅇ  이들 사건들의 한 가지 공통점은.....이론들은 어떤 형태로든 우주나 세계 속에서 인간이 차지하고 있던 지위를 격하시켰다.

- 지동설을 인정한다는 것은 인간이 우주의 중심에서 그 변방으로 밀려났음을 의미하며, 결국 인간의 존재론적 지위의 격하에 관한 것

 

- 진화론에 따르면, 인간을 포함한 지구의 모든 생물은, 신과 같은 지성적인 존재가 지금 현재의 모습으로 창조한 것이 아니라, 원시적인 유기체로 부터 꾸준히 진화해온 결과이다....단지 유전과 그 과정에서의 개체 변이 그리고 자연 선택이라는 단순한 매커니즘만이 필요할 뿐...... 다윈의 기여는 진화의 정확한 매커니즘을 밝혀낸 것이다....개체의 변이와 그에 따른 자연 선택의 결과가 오랜 시간에 걸쳐 누적되면서 새로운 종이 출현한다고 주장했다.

 

-  다윈의 이론은 거시적인 생태 차원에서, 생명현상이라는 것이 어떻게 지성적 존재의 개입 없이도 자연선택이라는 우연적 과정의 축적에 의해 발생할 수 있는가에 대한 모형을 제시한 것이다.

 

- 1953년 왓슨과 크릭이 DNA의 구조와 작용을 밝혀냄으로서...유전 과정을 화학적이고 물리적인 과정으로 설명했고, 그 결과 우리는 유기체의 재생산 능력을 원리상 기계적인 과정으로 충분히 이해할 수 있게 되었다

 

ㅇ 오늘날 우리가 받아들이고 있는 과학적 세계관은 기본적으로 유물론....이 세계를 궁극적으로 구성하고 있는 것은 물질적인 입자와 그것들 사이의 인과적 상호작용....

 

ㅇ 데카르트에게 인간의 정신은 자연적인 생물학적 과정으로 환원될 수 없는, 인간만이 소유하고 있는 비자연적인 능력....

 

ㅇ 측두엽 인격: 감정 상태가 고양되어 있으며, 사소한 사건에도 심오한 의미를 부여하는가 하면, 유머가 없고 자신을 매우 중요하게 여긴다는 특성..

 

ㅇ 인간 정신의 출현을 설명하는 가장 유력한 가설은 직립보행에 따른 두뇌의 팽창......이동 기능으로부터 자유로워진 손과 발의 조작 기능이 급속도로 발전하면서 두뇌가 팽창했고 그 결과 정신의 출현을 가져왔다는 것이 정신출현에 대한 표준적인 설명....결국 정신의 출현은 우리의 조상인 유인원의 뇌가 커지게 된 것과 밀접한 관련이 있다.

 

ㅇ 정신에 대한 20세기 논의의 가장 큰 특징은 이제 정신을 더 이상 실체적인 대상으로 간주하지 않는다는 점....현대철학자들은 정신 혹은 정신적인 것을 어떤 특수한 성질이나 능력, 특징을 갖는다는 말로 이해한다.

 

ㅇ 정신은 이제 더 이상 육체로부터 독립적으로 존재할 수 있는 실체적 대상이 아니라 그 존재를 물질적인 대상에 의존하고 있는 속성이나 능력과 같은 것이다.....정신을 갖는다는 것은, 무생물과 달리 고등동물이 모종의 추가적인 성질이나 특징, 능력을 갖고 있다는 말일 뿐.....

 

ㅇ 신경의학자 월더 팬필드(Wilder Penfield)....우리의 두뇌에는 엄청나게 많은 신경조직이 있지만 통증 수용체(Pain receptor)가 없어서, 두뇌의 피질을 눌러도 통증을 느끼지 못한다..

 

ㅇ 많은 기능주의자들의 정신의 작용을 컴퓨터상의 SW적인 계산에 비유하며 두뇌를 SW가 작동하고 있는 물리적 HW와 유사한 것으로 생각한다... SW(프로그램)은 특정한 일을 수행하기 위한 일련의 절차적 규정...... 주어진 입력 값에 일련의 조작을 가한 후 특정한 출력 값을 산출하게 하는 규칙들의 집합...

 

ㅇ 철학자 김재권은 모든 종류의 유물론은 최소한 수반논제(supervenience thesis)라는 것을 받아들여야 한다고 주장한다... 수반 논제는 대략 다음과 같은 주장들의 모음이다..

 

1) 물리적 차이가 없이는 심리적 차이도 있을 수 없다. 

2) 모든 심리적 속성은 그것의 발생을 보증하는 물리적 기반을 갖는다. [ 물리적 기반이 없이 심리적 속성은 예회(instaniation)될 수 없다. ]

3) 물리적 기반 속성 P는 필연적으로 그것에 수반되는 심적인 속성 M의 발생을 보증한다. [ 물리적으로 똑같은 복제자는 필연적으로 심리적 복제자이다. ]

 

ㅇ 대부분의 기능주의자는 물질적 속성에 대한 정신 속성의 수반적 의존성을 충분히 인정한다는 의미에서 유물론자...

 

ㅇ 네이버 지식인의 '인공지능'의 정의.."인간의 학습능력과 추론능력, 지각능력, 자연언어의 이해능력 등을 컴퓨터 프로그램으로 실현한 기술"

 

- 인간이 지능으로 할 수 있는 사고, 학습, 자기 계발 등을 컴퓨터가 할 수 있도록 하는 방법을 연구하는 컴퓨터 공학 및 정보기술의 한 분야로서, 컴퓨터가 인간의 지능적인 행동을 모방할 수 있도록 하는 것....

 

ㅇ 인공지능이란 인위적으로 만든 인간의 지능적 능력 혹은 그러한 능력을 발휘할 수 있는 장치를 뜻함

 

ㅇ 컴퓨터의 계산 과정은 인간의 인지에 대한 시뮬레이션일 뿐 그 자체가 인지적 과정일 수 없다는 입장... 약한 AI

 

ㅇ 인공지능의 출현을 이론적으로 뒷받침하고 있는 입장이 바로 계산적 기능주의의 입장이다. 기능주의는 오늘날 철학이나 심리학, 인지과학에서 주류적인 위치를 차지하고 있다.

 

ㅇ 정신에 대한 표준적인 이해가 바로 기능주의의 입장....정신의 본성은 그것이 무엇으로 만들어졌느냐가 아니라, 그것이 수행하고 있는 역할이 무엇이냐에 달려 있는 것으로 이해된다는 것...

 

ㅇ 컴퓨터는 우리의 정신 작용 자체가 일종의 계산 과정이며 그런 의미에서 우리의 정신은 일종의 컴퓨터에 불과하다는 생각을 가능하게 하였다......민스키는... 우리의 두뇌를 자연이 만들어놓은 생물학적 컴퓨터로 이해하고자 하는 생각....

 

ㅇ 정신은 두뇌에 구현된 형식적 계산 체계의 작동으로 이해되며, 우리의 사유나 인지는 두뇌를 구동시키는 SW에 해당..

 

ㅇ 정신의 본성은 계산적 기능....중요한 것은 정신이 만들어지는 물질(재료)보다는, 그 재료들이 조직화되는 방식 그리고 그것이 지원하는 작동(operation)의 종류에 초점을 맞추는 것...

 

ㅇ 근대엔 정신의 작용을 시계에 비유하거나 도시 내부에 복잡하게 뻗어 있는 수로 체계에 비유하려는 시도가 있었다...

 

ㅇ 그 당시 생각할 수 있었던 가장 복잡한 형태의 기계 시스템에 정신을 비유했다.....컴퓨터와 정신을 동일시하는 것이 단순한 비유에 그치지 않고, 정신을 정보처리 장치로서의 컴퓨터로 본다는 점이 바로 그렇다.

 

ㅇ 토마스 홉스(Thomas Hobbes)의 리바이던....우리의 이성적 추리는 계산이다 (reasoning is reckonining)

 

ㅇ '인간의 사유가 계산 과정'이라는 생각관 관련된 또 한명의 중요한 근대 과학자는 라이프니츠다. 라이프니츠는 우리의 사유나 관념이 갖고 있는 애매성과 모호성, 불투명성을 제거하고 사유의 전 과정을 마치 수학 문제를 푸는 것과 유사한 기계적 과정으로 환원시켜 줄 '보편문자'(characteristica universalis)을 꿈꾸었다.....우리의 관념을 이 언어의 개념들로 번역한 뒤, 수학과 유사한 기계적 계산을 수행함으로써 많은 지적 논쟁을 해결할 뿐 아니라 새로운 이성적 진리를 발견할 수 있을 것이라 믿었다. 

 

ㅇ '보편문자'에 대한 라이프니츠의 꿈은, 19세기 말에서 20세기 초에 등장한 형식논리학의 발전과 함께, 튜링의 '보편튜링기계'라는 아이디어를 거쳐서 오늘날의 디지털 컴퓨터에 이르러 일정 부분 달성되었다고 말할 수 있다.

 

ㅇ 인간이나 동물의 학습을 통한 적응 능력은 예상에서 벗어나지만 일어날 가능성이 있는 행동들을 처음부터 획득하는 매커니즘이다.

 

ㅇ 인공지능이라는 생각을 떠받드는 핵심적인 가정은 사유를 비롯한 우리의 인지적 과정이 포괄적인 의미에서 일종의 계산적 과정이며, 그런 의미에서 우리가 정신이라고 부르는 것이 일종의 컴퓨터에 불과하다는 생각이다. 즉, 믿음이나 욕구와 같은 우리의 인지적 상태나 과정자체가 곧 문자 그대로 모종의 계산적 상태나 과정이라는 것...

 

ㅇ 정신 작용은 두뇌에 구현된 형식적 계산 체계의 작동으로 이해되며, 우리의 사유나 인지는 두뇌를 구동시키는 SW에 해당한다.

 

ㅇ 정신이 만들어지는 물질(재료)보다는, 그 재료들이 조직화되는 방식 그리고 그것이 지원하는 작동(operation)의 종류에 초점을 맞추는 것이다..

 

ㅇ 인공지능이라는 생각을 떠받드는 핵심적인 가정은 사유를 비롯한 우리의 인지적 과정이 포괄적인 의미에서 일종의 계산적 과정이며, 그런 의미에서 우리가 정신이라고 부르는 것이 일종의 컴퓨터에 불과하다는 생각이다. 즉, 믿음이나 욕구와 같은 우리의 인지적 상태나 과정자체가 곧 문자 그대로 모종의 계산적 상태나 과정이라는 것이다

 

ㅇ 계산이란? 기본적으로 형식적 규칙에 따라 기호를 조작하는 과정...수학적 함수의 개념....

 

ㅇ 함수의 값을 찾아내는 기계적인 절차를 우리는 알고리듬이라고 부른다. 알고리듬은 함수의 값을 계산하는 방법...

 

ㅇ 어떤 함수의 값을 계산하는 알고리듬이 존재한다면, 우리는 언제나 기계적인 절차를 통하여 그 함수의 값을 계산할 수 있다는 것...

 

ㅇ 어떤 함수에 주어질 수 있는 모든 입력 값에 대하여 그 출력 값을 찾아내는 알고리듬이 존재한다면, 우리는 그 함수를 계산가능한(computable) 함수라고 부른다. 계산이란 함수에 대한 알고리듬적 조작이다....계산에 대한 수학적 이론은 계산 가능한 함수(알고리듬이 존재하는 함수)에 대한 이론이라고 말할 수 있다.

 

ㅇ 튜링기계가 할 수 있는 일은 기본적으로 아래 네 가지 작업뿐...

1) 테이프상의 기호를 읽는다.

2) 테이프를 한 번에 한 칸씩, 왼쪽이나 오른쪽으로 이동시킨다.

3) 빈칸이나 혹은 기호가 쓰여 있는 칸에 새로운 기호를 쓴다.

4) 내적인 상태를 변경한다.

 

ㅇ 튜링은 모든 종류의 튜링기계 동작을 시뮬레이션할 수 있는 튜링기계가 있을 수 있다고 생각했다. 그는 그 기계에 보편튜링기계(Universal Turinig Machine)라는 이름을 붙였다. 각각의 튜링기계와 그것이 수행할 수 있는 작업은 각 기계의 기계표를 통하여 완전히 규정된다....

 

ㅇ 튜링기계에서 계산할 수 있는 함수는 그에 대한 알고리듬이 존재하는 함수다...

 

ㅇ 튜링이 말하는 보편튜링기계(컴퓨터)는 정보를 처리하는 조작적 절차(명령)의 묶음에 해당하는 일종의 추상적 기계이다.....추상적 계산 기계로서의 컴퓨터를 이해함에 있어서 가장 핵심이 되는 두 개념은 알고리듬과 기호 조작이다. 기호 조작이란 말은 컴퓨터가 구문적으로 정의된 기호들을 구문적 규칙에 따라서 조직하는 방식으로 작동한다는 점을 나타낸다.

 

ㅇ 컴퓨터가 기호들에 대한 구문적 조작을 통하여 작동한다는 말은, 기호들의 의미를 문제 삼지 않고 오직 그 물리적 형태만을 고려함으로써 작동한다는 말이다.

 

ㅇ 컴퓨터는 일련의 기호들을 입력받아서, 알고리듬적인 절차에 따라 이들을 조작한 후, 기호들의 새로운 조합을 출력으로 산출한다. 그런 의미에서, 컴퓨터는 기호 조작의 알고리듬(a symbol manipulating algorithm)으로 정의할 수 있다.

 

ㅇ 존 서얼에 따르면 정신의 작용 특히 의식은 일인칭적이고 주관적인 현상이며 이는 우리 두뇌의 구성에 의존하는 생물학적 현상이다. 의식 작용은 두뇌가 가지고 있는 모든 인과적 능력을 복제하지 않는 한, 단순한 기계적 계산과정만으로 결코 만들어낼 수 없는 현상이라는 것이다...

 

ㅇ 그가 하고 있는 일은 단지 메뉴얼의 지침에 따라 기호의 형태에 근거해 기호 조작을 하는 것이다.

 

ㅇ 우리의 정신은 의미에 반응하는 것이지, 단순히 구문(syntax)에 반응하는 것이 아니기 때문이다. 우리의 정신은 의미적 조작자이다.

 

ㅇ 다니얼 데닛(Daniel Dennett)은....컴퓨터에 대응하는 것은 중국어 방 전체이지 중국어 방 속의 사람이 아니라고 주장한다....온전한 인공지능에 해당하는  것은 <사람 + 방 + 규칙 + 데이터 + 문답 입출력 장치 > 이다. 사람이 중국어를 이해하지 못한다고 해서, 컴퓨터 전체가 중국어를 이해하지 못한다는 주장은 합성의 오류에 해당한다.  --> 시스템 반론(system replay)

 

ㅇ 규칙과 데이터를 모두 기억하고 어떠한 형태의 질문에도 아무런 어려움없이 대답할 수 있다면, 과연 이때도 그 사람이 중국어를 이해 못한다고 할 수 있을까?

 

ㅇ 철학자들은 계산적 과정만으로 정신적 현상의 산출이 충분한지의 여부는, 경험과학의 성과에 의해 결정될 문제지 사유실험을 통해 결정될 문제는 아니라고 주장한다....처치랜드 부부...'빛나는 방' 논증....

 

ㅇ 처치랜드 부부는 우리의 직관이 신뢰할만한 안내자가 아니라고 말한다.

 

ㅇ 인공지능을 연구하는 이들이 부딪쳤던 원리적인 난제로 프레임 문제라는 것이 있다. 우리는 수많은 상식적 지식을 가지고 있으며 적재적소에 그러한 지식을 활용한다. 그런데 컴퓨터에게는 이것이 매우 어려운 일이다. 

 

ㅇ 데이터로 저장된 지식을 바탕으로 해서, 어떤 일반적인 절차로 문제를 해결하는 것을 '일반 문제 해결자'(General Problem Solver)라고 한다....어떤 문제 상황에서 저장된 모든 정보나 지식을 검색하고, 일반적인 절차에 따라 가능한 경우의 수를 모두 가늠해 봄으로써 문제의 해결책을 찾는 방법...

 

ㅇ 대신 우리 인간은 문제 상황의 특수성에 맞추어 순간적으로 그에 적합한 내용만을 떠올리고 그것에 입각해 즉각적인 의사결정을 내린다.....일상적으로 발생하는 문제의 실제적인 해결에 무한한 시간이나 자원이 주어지지 않는다..

 

ㅇ 드레퓌스(Herbert Dreyfus)는 아무리 많은 돈이나 시간을 들여도 인공지능은 원칙적으로 불가능하다고 주장한다. 컴퓨터는 근본적인 의미에서 정보를 명제적인 형태로 표상하고 수학공식과 같은 엄격한 명시적 규칙을 따라 작동하기 때문이다.....실제 상황에서 부딪치는 문제를 해결하고 극복해나가는 일상적 행위능력을 갖고 있어야 한다. 이러한 능력의 가장 중추적인 부분이 바로 우리 상식이다......상식을 구현하는 방법은 모든 상식적 지식을 명제적인 형태로 저장하고, 그것들을 기호적으로 조작하는 규칙들을 명시화하는 것이다.

 

ㅇ 가령 '의자'가 무엇인가를 알고 사용할 줄 아는 것은 단순히 '의자'라는 말의 정의나 거기에 대한 명제적 지식을 아는 것이 아니다.

 

ㅇ 오늘날의 컴퓨터는 명시적 규칙에 따라 명제적 표상을 처리하는 기계이다.

 

ㅇ 인간이 상식에 해당하는 능력을 갖게 된 것은 지금 같은 생물학적 신체를 가지고 있고 물질세계와 상호작용하며, 문화를 통한 훈련을 거친 덕분이라는 것이다.

 

ㅇ 연결주의를 옹호하는 사람들은 인공지능에 대한 전통적 접근 방식의 한계를 인정하고, 전혀 새로운 가능성을 모색한다.....

 

ㅇ 일반적인 디지털 컴퓨터는 폰 노이만 아키텍처라는 구조를 가지고 있다..... 데이터 구조와 데이터에 적용되는 규칙(프로그램)을 구분하고 특정 주소의 메모리 공간에 필요한 데이터를 불러온 다음, 명령어를 한 번에 하나씩 순차적으로(직렬적으로) 적용하여 처리해나간다.......이런 컴퓨터 구조를 통하여 인공지능을 만들고자 하는 시도를 고전적인 인공지능이라고 한다......지식이나 정보는 모종의 구문적 형태나 구조를 갖는 기호적 표상이며 프로그램의 계산 과정은 이것들에 대한 구문적 조작이다. 

 

ㅇ 고전적AI와 구분되는 새로운 접근 방식이 1980년대에 대두한 연결주의의 입장....연결주의 방식은 신경망(neural network) 혹은 병렬분산처리(Parallel Distributed Processing) 모형이라고 불리기도 한다..... 우리 두뇌가 작동하는 방식을 모방하고자 하는 입장......

 

ㅇ 인간의 두뇌는 뉴런이라고 부르는 대략 1,000억개의 신경세포와 100조개의 시냅스 연결(뉴런간의 연결)로 이루어져 있다. 우리 두뇌의 신경계는 기본적으로 전기적인 신호를 주고받는 전기적 장치이다. 이것은 폰 노이만의 직렬방식이 아니라 일종의 병렬적 구조를 가지고 있다. 

 

ㅇ 각 노드가 산출하는 출력 값은 해당 노드의 발화 임계점(threshold)과 연결 강도(가중치 값)에 의해 결정된다.

 

ㅇ 노들의 연결은 크게 흥분적(excitatory) 연결과 억제적(inhibitory)연결의 두 종류로 구분된다....

 

ㅇ 연결된 노드들이 동시적으로 상호 영향을 주고받으면서 전체 네트워크 차원에서 병렬 분산적으로 처리된다....입력층과 출력층은 특정한 무엇인가를 표상하는 상태이며 네트워크 전체도 모종의 복합적인 규칙이나 정보를 표상하는 것으로 간주할 수 있다. 이때의 정보나 규칙은 특정의 노드에 국지적(local)인 방식으로 구현되는 것이 아니라 네트워크 전체에 걸쳐 분산적으로 표상된다. 메모리나 CPU의 특정 주소에 정보와 규칙을 국지적으로 저장하는 폰 노이만 방식의 직렬 컴퓨터와는 구분되는 방식이다. 

 

ㅇ 신경망 규칙의 내용은, 특정한 입력 값이 주어질 경우에 네트워크에 분산된 노드 간의 연결 강도를 매개로 특정의 값을 산출하고자 하는 성향의 행태로 체화되어(embodied) 있다. 

 

ㅇ 신경망 컴퓨터의 가장 큰 특징은 '훈련'이나 '학습'의 가능성이다.

 

 

ㅇ 인공지능 연구의 초창기 30여 년 동안에는 컴퓨터에 수많은 지식과 정보를 저장하고 이를 바탕으로 중앙통제장치가 모든 의사 결정을 내리는 하향식 방법(top down)이 주로 이용되었다.....전문적 지식이나 언어적 추리를 요구하는, 인간 지능의 복잡한 능력을 모방하는 데에는 효과적이었다

 

ㅇ 1980년대 후반부터 연결주의의 신경망에 기초한 상향식 접근이 대안으로 부상......다니얼 데닛의 논문...'차라리 온전한 이구아나를 만들어 보는 것은 어떨까?'... 영리하지만 무능한 뇌를 만드느니 차라리 온전한 파충류를 만드는 것이 낫다는 것.....이들이 특히 주목한 것은 신경망 컴퓨터가 가지고 있는 학습능력이다.

 

ㅇ 로드니 브룩스의 '행위 기반의 포섭구조' ....하부구조 단위들이 환경의 자극에 대해 일으키는 아주 단순한 반응들이 모여 집합적으로 전체 시스템을 통제하는 구조.....지능을 시스템에 하향식으로 부과하는 것이 아니라 육체와 환경의 대립 속에서 환경의 자극에 반응하는 간단한 반사작용을 통하여, 로봇 스스로 지능이 생겨나도록 만드는 것...

 

ㅇ 그 전 행동의 결과를 포섭해 그 다음 계층의 로봇 행동이 제어되므로' 포섭구조'라고 명명...

 

ㅇ 인간이나 동물의 행동 양상이 복잡한 것은 기본적으로 환경과의 복잡한 상호작용 때문....환경은 복잡 다양할 뿐 아니라 계속해 변하는 것으로, 그것에 대한 지식을 선천적으로 모두 갖추고 있을 수는 없다. 인간이나 동물의 학습을 통한 적응 능력은 예상에서 벗어나지만 일어날 가능성이 있는 행동들은 처음부터 획득하는 매커니즘이다.

 

ㅇ 환경과 부딪히는 과정에서 성능이 떨어지는 회로를 제거하고, 스스로 새로운 환경에 적응할 수 있는 자율적 신경시스템을 완성해 갈 것....

 

ㅇ 연결주의에는 명제적 표상기호나 이들을 조작하는 명시적 규칙이 없다.... 병렬분산시스템의 통화는 기호(symbol)가 아니라 흥분과 억지라고 말한 바 있다.

 

ㅇ '학습'이란 연결 강도를 조정하여 출력 값을 목표치에 맞추는 과정....계산은 가장 단순한 장치인 노드에서 이루어짐....표상의 차원에서는, 네트워크 전체의 상태가 분산적인 방식으로 표상을 하고 있는 것으로 생각할 수 있다....연결주의는 기능주의와는 말할 것도 없고 계산주의와도 양립 가능한 주장이다.

 

ㅇ 제도화된 오랜 전통과 습성의 힘....작은 사기에는 잘 속지 않지만 제도적이고 공식적인 방식으로 진행되는 큰 사기에는 설마하며 자신이 믿고자 하는 바에 집착하는 것...

 

ㅇ 정신은 전통적인 의미의 영혼이 아니라 우리 두뇌가 가지고 있는 기능적 혹은 계산적 성질이나 특징에 해당하는 것...이런 입장은 근본적 성격에 있어서 유물론적이다.

 

ㅇ 인지과학이나 로보틱스, 신경과학의 발전과 함께 정신에 대한 유물론적 이해의 정당성은 더욱 강화되고 있다.

 

ㅇ 가설이라고 해서 곧 그것이 거짓일 가능성이 높음을 뜻하지는 않는다. 가설이라 함은 그것이 공개적인 비판과 검증 과정에 철저히 노출되어 있다는 말....

 

ㅇ 철학은 인간과 세계를 가능한 한 포괄적이고 합리적으로 이해하고자 하는 노력이다.

 

ㅇ 전기적 두뇌를 가진 인공적인 존재라 하더라도 여전히 인간과 동일한 정신적 능력을 가질 수 있다. 정신이란 물질적 구조가 수행하는 기능이며 그 물질이 꼭 뉴런과 같은 생물학적 세포로 이루어져 있어야 할 이유는 없다.

 

ㅇ 도덕성은 '인간은 어떤 존재인가?'라는 과학적 물음의 차원으로 환원되지 않는, '인간은 어떠한 존재여야 하는가?'라는 규범적 차원에 속하는 문제....

 

ㅇ '흄의 길로틴'.....데이비드 흄은 사실에 관한 전제로부터 평가적인 규범적 결론을 도출할 수 없다고 주장했다. '~ 이다(is)'의 사실은 '~을 해야 한다(ought)'는 당위적 판단을 함축하지 않는다는 것이다.

 

ㅇ 다윈은 인간과 동물의 정신적 차이는 단순히 정도의 문제일 뿐이며, 동물들도 의식을 갖고 고통을 느낄 수 있는 존재인 한에 있어서 도덕적 고려의 대상이 되어야 한다고 생각했다.

 

ㅇ 감각질(qulia)....고통이나 지각경험에 동반하는 '날 느낌'(raw feel)....고통의 감각질이라 함은 고통을 경험할 때 우리가 주관적으로 느끼게 되는 그 무엇이다...감각질은 그 경험의 주체가 아니라면 그 누구도 정확히 그것이 어떤 것인지를 알 수 없다. 

 

ㅇ 네이글(Thomas Nagel)의 '박쥐가 된다는 것은 무엇과 같은 것일까?'....감각경험의 의식 내용이 오직 1인칭의 관점에서만 접근할 수 있는 주관적 현상이라는 사실...

 

ㅇ 인간은 이성적인 숙고와 판단을 통하여 도덕적 행위를 할 수 있는 도덕적 차원의 존재이기 때문에 존엄하다는 것이다. 

--> 규범적으로는 그렇지만, 살아보니 현실적으로는 아닐 경우가 많다....인간 종 모두가 이성적 판단으로 도덕적인 행위를 하기 때문에 존엄하다.(is)가 아닌 것 같다... 말 장난 같지만.. 이성적 판단으로 도덕적 행위를 하는 인간 개체만 존엄하다.(should인 것 같기 때문이다.....

 

ㅇ 도덕이란 기본적으로 타자의 고통에 반응하는 것이며, 타자의 이익을 함께 배려하는 것이다. 그런 의미에서 도덕이란 개념 자체가 이미 타자와의 관계를 전제로 한다.

--> 이런 주장에 대한 공감은 수전 손택의 '타인의 고통'만한 것이 없는 듯... 

 

"우리가 타인과 공유하는 이 세상에 인간의 사악함이 빚어낸 고통이 얼마나 많은지를 인정하고, 그런 자각을 넓혀나가는 것도 아직까지는 그 자체로 훌륭한 일인 듯하다. 이 세상에 온갖 악행이 존재하고 있다는 데 매번 놀라는 사람, 인간이 얼마나 섬뜩한 방식으로 타인에게 잔인한 해코지를 손수 저지를 수 있는지 보여주는 증거를 볼 때마다 끊임없이 환멸을 느끼는 사람은 도덕적으로나 심리적으로 아직 성숙하지 못한 인물이다."

 

"이미지가 스스로의 생존을 위해 자극적이 될수록 타인의 고통은 소비될 수밖에 없으며, 그에 따라 고통의 이미지를 담는 행위는 일종의 '포르노그라피'가 되고, 이미지를 보는 행위는 '관음증'으로 변한다."

 

"특권을 누리는 우리와 고통을 받는 그들이 똑같은 지도상에 존재하고 있으며 우리의 특권이 (우리가 상상하고 싶어하지 않는 식으로, 가령 우리의 부가 타인의 궁핍을 수반하는 식으로) 그들의 고통과 연결되어 있을지도 모른다는 사실을 숙고해 보는 것, 그래서 전쟁과 악랄한 정치에 둘러싸인 채 타인에게 연민만을 베풀기를 그만둔다는 것, 바로 이것이야말로 우리의 과제이다."

 

"부디 다같이 슬퍼하자. 그러나 다같이 바보가 되지는 말자. 역사를 조금이라도 알고 있다면, 그동안 무슨 일이 벌어졌는지, 그 다음에는 무슨 일이 벌어질지 이해하는 데 도움이 될 것이다. "미국은 강하다"라는 말을 우리는 끊임없이 들어 왔다. 나로 말할 것 같으면, 이런 말은 전혀 위안이 되지 않는다. 미국이 강하다는 사실을 누가 의심하겠는가? 그러나 꼭 강해지는 것만이 미국이 해야 할 일은 아니다." (2020년 6월 20일... 이 말이 더 쩌렁쩌렁하게 느껴진다.)

 

 

ㅇ 인간이 진화의 산물이라고 해서, 인간 삶의 모든 국면이 진화적 과정을 결과물에 불과한 것은 아니다.....인간의 이성적 능력이 그런 질적인 변이를 가능케 했다고 생각한다.....인간이 이성적 능력을 획득하게 된 것은 분명 진화의 우연적 결과이다....

--> 심지어 진화적 과정의 결과물에 불과하다라도 대단하지 않은가? 우연한 사건이라 하여 놀랍지 않은 것이 아니다. 

 

ㅇ 필자는 도덕의 규범적 차원이 결코 생물학적 설명의 사실적 차원으로 환원되지 않는다고 생각한다.

 

ㅇ 우리들의 두뇌를 일종의 병렬분산처리 시스템으로 간주할 경우 2*10의 10승 MIPS(1 MIPS는 1초에 백 만개의 명령을 수행할 수 있는 능력)의 연산능력을 갖는다고 생각한다....커즈웰은 이런 정도의 컴퓨터라면 충분히 튜링 테스트를 통과할 수 있을 것이라 예측한다.

 

ㅇ 인간과 비슷하게 행동하는 로봇을 만들고자 한다면, 단순히 인지적 능력만이 아니라 감정적 능력을 주입시켜야 되 것이다......로봇이 감성적인 능력을 갖게 되면 그 결과로 로봇은 그 나름대로의 윤리적이거나 심미적인 감각 혹은 충동을 가지게 될 것...

 

ㅇ 모라벡....우리 스스로가 로봇화의 과정을 거쳐서 그 후손이 될 것읻....생물학적 기관이 원래 담당하고 있던 기능을 기계적 장치를 이식하여 대행하게 한 존재를 사이보그라 부른다...

 

ㅇ 생물 이후의 시대(postbiological)가 도래한다는 것....현재 진행되고 있는 기술 발전 속도로 볼 때, 그러한 시대는 우리가 생각했던 것보다 휠씬 더 빨리 도래할지도 모른다.

 

ㅇ 빌 조이(Bill Joy)는 인공지능 연구의 잠재적 위협을 가장 강력하게 경고하고 있는 사람 중 한 명.....'미래는 인류를 필요로 하지 않는다..

 

[ 연결 ]

 

심리철학, 인공지능의 철학, 트랜스휴머니즘, 포스트휴머니즘 등을 연구하는 교수님의 책이다.

다작인 편인데, '푸른 요정을 찾아서'란 책의 저자로 2008년 처음 접했다.

 

아래 책을 번역하신 점도 큰 기여를 했다고 본다. 

 

 

 

[ 자평 ]

 

 

저자가 말하는 푸른요정은 영화 AI에 나오는 이 요정이 아닐까 싶다.

인공지능과 관련하여 초기에 읽은 책 들 중 하나다. 

2008년에 출판되어 10년이 넘은 책인데 지금 다시 읽어 봐도 훌륭하다.

깔끔하게 정리가 된 점이 좋다. 

 

이런 관점과 깊이로 정리한 책은 이 책과 10년 차이가 나는 김재인교수가 2017년에 내놓은 아래 책이다.

공통적인 부분은 두 분다 철학박사라는 것....