인공지능 이야기 by 존 카스터

[ 밑줄 ]

 

ㅇ 가장 어려웠던 문제... 즉 '사람이 뭐가 그렇게 특별한가?'라는 문제는 계속 의문으로 남아 있다. 이 질문을 구체적으로 바꾸면 이렇게 된다. '계산 기계의 인식 능력이 사람만큼 될 수 있을까?' 좀더 일반적인 질문으로 바꾸어보자. '우리가 총체적 인권을 부여할 수 있을 만큼 기계가 발전할 수 있을까?'

 

ㅇ 비트겐슈타인은.....언어는 공공의 혹은 사회적 현상이라고.....언어란 사회적으로 소용이 되는 사회적 실체이지, 순수 이론만으로 머릿속에서 이루어질 수 있는 성질의 것이 아니오..

 

ㅇ 말의 의미란 단순히 말이 사용될 수 있는 모든 방법의 총합일 뿐이라고 믿게 되었소...

 

ㅇ 우리는 우리의 정신 세계에 관하여 마치 개인적 경험을 다른 사람에게 알리듯이 말할 수 없소

 

ㅇ 규칙에 따라 계산할 수 있는 기계.....그런 기계에 쓰이는 일련의 규칙....이 규칙을 프로그램이라고 부릅니다....

 

ㅇ 1920년대 후반의 수학계에서는 가정이 바른 수학 질문에는 반드시 참 아니면 거짓의 확정된 답이 있다는 것을 당연한 사실로 받아들였습니다..... 하지만 1931년 논리학자 괴델이.....수를 다루는 모든 명제를 구성할 수 있는 논리적 체계에서 옳고 그름을 증명할 수 없는 진술이 반드시 적어도 하나는 존재한다는 것을 보여주었습니다.

 

ㅇ 골드바흐의 추측 : 2보다 큰 모든 짝수는 두 개의 소수의 합으로 나타낼 수 있다는 이론....수학적으로 증명은 되지 않았으나 아직 반례가 나타나지 않은 이론을 '추측'이라고 하는데, 골드바흐의 두 가지 추측 가운데 이 추측은 이미 증명이 되었다.

 

ㅇ 괴델은 모든 수학 문제에 <예/아니오>의 정답이 있어야 하는 것은 아니라는 것을 증명했다....어떤 논리 체계의 규칙으로 논증되지 않는 문제가 그 체계를 뛰어넘으면 실은 참인 것으로 보이는 경우가 존재한다는 것의 그의 연구에서 증명되었다. 다만 이 문제들이 참인 것으로 증명되지 않을 뿐...

 

ㅇ 괴델의 결론은 우리가 사용하는 논리 체계에 모순이 없어야 한다는 중대한 가정에 근거를 두고 있다는 점은 반드시 명심해 두어야 할 점이다...이는 곧 체계를 논리적으로 운용한다면, 동일한 명제가 참이면서 동시에 거짓임을 입증하는 것이 가능하지 않음을 뜻한다.. 그렇다면 어떤 논리체계가 모순이 있는지 없는지를 우리가 어떻게 알 수 있는가 하는 의문이 제기된다. 괴델의 답은 알 수 없다!는 것이다. 그는 어떤 논리 체계도 그 자체로 모순이 없음을 증명할 수 없다는 사살을 입증했다.

 

ㅇ 생각하는 기계를 만드는 데 방해가 될 논리적이고 철학적인, 혹은 기술적인 장애가 있는가? 

 

ㅇ 알고리즘(Algorithm): 계산의 방법, 도형 작성의 순서, 문제를 푸는 절차 등 정보처리의 구체적인 방법이나 순서

 

ㅇ 프로그램은 앞으로 마추치게 될 상황마다 기계에게 무엇을 어떻게 해야 할지 알려주는 지시사항 목록이다.

- 어느 단계에 있거나 두 가지 정보, 즉 현재 테이브에서 읽히고 있는 기호와 그것의 현재 상태를 갖고 있음

- 전형적인 지시사항은,,,'상태 A에 있으면서 기호 0을 읽고 있다면, 오른쪽으로 한 칸 옮기고, 예컨대 상태B 라고 기록하라.'

 

ㅇ 일반적으로 계산을 시작하기 전에 어느 정도의 테이프가 필요할지, 혹은 몇 단계를 거쳐야 그 계산을 끝날지 알 수 있는 길은 없다. 다만 계산이 전개됨에 따라 테이프의 길이를 늘일 준비를 하면 된다.

 

ㅇ 괴델이 밝혀낸 결과는 어떤 프로그램의 단계를 따르는 것으로는 해결되지 않는 문제가 존재함을 보여준다. 반면에 튜링의 결과는 하나의 문제가 주어져 있다면, 그것이 풀릴 수 있는지 여부를 알아낼 방법이 없다는 것을 말한다.

 

ㅇ 둘 다 막대한 양의 기초 정보를 저장하지요. 계산기는 테이프 상에 0과 1로, 두뇌는 신경에 켜짐과 꺼짐 상태로 말이오. 계산기와 두뇌 둘 다 정보를 유형으로 처리합니다.....두뇌는 신경이 흥분했을 때 만든 유형으로 정보를 저장합니다. 각각의 유형은 흥분 당시의 신경이 켜짐이지 꺼짐인지에 관한 목록일 뿐입니다. 

 

ㅇ 대뇌피질은 두뇌 표면에 겹겹이 형성되는 층이예요.....진화론적으로 말하면 두뇌에서 가장 새로운 부분이예요.... 이곳은 추리와 사고가 일어 나는 곳이지요.

 

ㅇ 입력 신호의 켜짐/꺼짐 유형을 기계 테이프의 입력 기호와 유사한 것으로 간주하면, 출력 신경의 흥분 유형이 테이프의 출력 기호에 해당되어, 신경간의 연결이 입력층의 유형을 출력층의 유형으로 변형시키게 됩니다. 이는 곧, 이들 연결이 계산 기계의 프로그램과 동일한 기능을 수행한다는 뜻이 됩니다. 따라서 이 두 체계 즉, 신경 회로망과 튜링 기계는 완전히 대등한 것이 됩니다. 한 쪽에서 할 수 있는 것은 다른 한쪽에서도 할 수 있는 것이지요..

 

ㅇ 행동주의 심리학: 심리학의 대상이 의식이 아니고 사람 및 동물의 객관적 행동이라고 하는 입장. 내관을 배척하고 오로지 자극과 반응과의 간계, 거기에서 구성된 체계를 다룬다.

- 튜링이 행동주의 심리학자들이 주장한 학습, 정보, 처리, 인식 활동으로 이어지는 연속적인 구도와 연산 구조 간의 관계를 명시하기 이해서 다소 과감한 주장을 펼치고 있다는 것을 알 수 있다.

 

ㅇ '어떻게 정답을 얻었는가?'는 사용된 규칙에 관한 물음이오. 정답을 도출해 낸 것만으로는 어떤 이, 혹은 어떤 것이 수학적 공식에 따라 계산했다고 말할 수 없는 것이오.

 

ㅇ 생각하는 존재.....두 개의 눈, 또는 외형적인 특성을 지녔기 때문이 아님....오직, 어떤 상황에서 지적인 사람이라면 보일 정상적인 반응이라고 제가 판단하는 방식으로 여러분이 행동하고 반응하기 때문입니다.

 

ㅇ 지적 능력 시험의 초점을 기계나 사람의 두뇌 속에서 일어나는 일이 아니라 이들의 외적 행동에 맞춤으로써, 튜링은 자신을 행동주의 심리학의 정 중앙에 위치시켰군요..

 

ㅇ 행동주의자들의 주장에 따르면, 정당한 과학적 행동 이론의 근거를 구성할 수 있는 것은 외부에서 관찰되는 행동뿐이라지요. 튜링의 지적 능력 테스트는 이 행동주의 이론틀을 사람에서 기계로 옮겨놓은 것이군요..

 

ㅇ 언어가 사회적 합의로부터 비롯되는 것....그렇지 않다면 토론이나 공동체적 행동이 불가능할 것....기계는 어떤 종류가 되었거나 지적 능력을 지녔다고 간주할 수 있을 만한 최소한의 조건으로서 사람의 언어 능력을 갖춰야만 한다는 점을 시사하는 듯함....그러한 능력은 오직 공통의 생활 양식을 누리는 데서 비롯되는 것이며 기계는 여기에 들어설 여지가 없다는 것....여기에는 기계가 사람처럼 생각한다는 개념과 정면으로 대립되는 모순이 있는 것으로 보이는 군요....

 

ㅇ 중국어 방 안에서 진행되는 것은 기호들의 형태나 '통사론'에 기초하여 기호를 조작하는 일뿐이다. 그러나 진정한 이해란 '의미론', 즉, 그 기호들이 표상하거나 의미하는 바를 알 때 이루어진다. 설은 컴퓨터 안에서 이루어지는 일이 이 중국어 방에서 이루어지는 것과 유사하다고 전제했다. 즉 기호를 형태에 기초하여 규칙적으로 지배하고 조작이라는 것이다.....정신은 기호를 규칙에 따라 통사론적으로 조작하는 것 이상의 것이라는 것이 설의 결론이다.

 

ㅇ 사고 실험으로, 다음과 같은 논증으로 전개되었다.

- 전제1: 컴퓨터 프로그램은 형식적 혹은 통사론적이다.

- 전제2: 사람의 생각에는 심적 내용 혹은 의미가 들어 있다.

- 전제3: 통사론 그 자체만으로는 의미론을 구성하지 못하며 그 구성에 충분하지도 않다.

- 결론: 컴퓨터 프로그램은 심적 상태를 구성하지 못하며 그 구성에 충분하지도 않다

 

ㅇ 방 전체를 하나의 완전한 체계로 간주한다면 이 체계에서는 분명히 의미론적 내용을 갖춘 상태가 담겨 있습니다....전체 체계의 상태를 보아야지 체계의 어느 한 부분만 보아서는 안 된다는 설명이었다.

 

ㅇ 튜링은 사람과 기계의 지적 행동 여부를 증명하는 방법으로 모방 게임을 제시했음....행동주의 심리학의 전통.....감각기관에 대한 자극에 반응하는 대상의 외부 행동에 초점을 맞추는 것이다. 질문을 기계에 확대 적용했을 때 우리가 그 대응이 사람의 것인지 기계의 것인지 구분할 수 없다면, 기계가 '생각한다'고 단언해야 한다는 것이 튜링의 주장이었다.

 

ㅇ 프로그램으로 코드화된 법칙에 맞추어 테이프 위에다 기호들을 이리저리 옮기는 것을 계산 기계의 내부로부터 상상해 볼 때.....그 기호들이 실제로 무엇을 의미하는지 전혀 이해할 도리가 없으며... 생각한다고 할 수 없다..

 

ㅇ 슈뢰딩거는....어떤 기호 배열을 새로운 배열로 처리하는 기계가 그 과정에서 의미를 발생시킨다는 데 아무런 논리적 결함을 찾지 못한다.....한 계산 과정에서 실제로 의미가 발생하느냐의 문제라면, 그것 실험상의 문제가 될 것이다... 그건 오직 관찰과 실험으로써 해결할 수 있다.

 

ㅇ 시계의 능력은 부품들이 조립된 상태에서 이웃하는 부품들과 제대로 상호작용을 하느냐에 달려 있습니다......시간을 알리는 것은 시계의 외부적, 전체론적 기능입니다. 톱니바퀴, 도르래, 태엽 따위의 집합체 내부에 서 있을 때는 인지하지 못하는 것이지요. 이는 단편들과 이들의 상호작용의 결과에서 비롯된 논리적으로 타당한 특성입니다.

 

ㅇ 그림 이론의 주요 주장은 언어의 논리적 구조와 언어로 표현되고 있는 사실의 논리적 구조에는 반드시 어떤 공통점이 있다는 거군요..

 

ㅇ 언어는 결코 그림이 아니오, 오히려 도구, 정밀한 도구요...판단을 내리는 데 쓰는 도구요...

 

ㅇ 사고가 언어를 필요로 하고, 언어가 특정 유형의 두뇌 구조를 필요로 한다면 (아마도 다른 조건들도 필요하겠지만) 그렇다면 기계는 언어에 필요한 '소질'이 없다는 점을 받아 들임으로써 생각하는 기계 문제를 종결지을 수 있을지도 모른다. 전자두뇌의 가능성에 대한 튜링의 믿음에 비트겐슈타인이 노골적인 적대감을 표시하는 이면에는 이러한 논거가 자리잡고 있는 것이 아닐까?

 

ㅇ 개인의 언어란 있을 수 없다... 언어는 사회적 관습의 문제다...

 

ㅇ 생각은 판단을 내리는 것과 같은 것.....하지만 판단을 내리기 위해서는 언어의 사용을 필요로 한다. 그 결과로 생각에는 어떤 유형의 언어가 요구된다. 그리고 생각은 실제 세계의 대상과 개념을 기호로 표현하는 것을 포함하지만, 그렇다고그 기호들을 일련의 언어 규칙에 맞추어 두뇌에서 직접 조작 처리하는 것이라고 생각할 수 있을 만큼 그렇게 단순하지가 않습니다. 생각에는 문법이 없기 때문입니다. 

 

ㅇ 계산 기계가 정말로 생각하는 것으로 간주할 수 있으려면, 그 기계에서 사람의 언어가 있어야 한다는 점에는 모두 동의한 것 같아요...

 

ㅇ 기계의 행동일 잘못되었을 때는 고통 자극이 일어날 것이며, 제대로 되었을 때는 쾌락 자극이 발생하리라는 것이 제가 이 실험에서 의도한 바였습니다.

 

ㅇ 생명은 분자간의 방향현상이에요......생명이 더 큰 단위의 구조가 아니라 분자들간의, 반향 현상이다.....

 

ㅇ 홀데인은....정신은 물질계의 최상단을 차지하고 있는 어떤 신비한 현상이 아니라, 보통의 물질 체계와 상호작용을 주고받는 별개의 실체라는 것이 저의 믿음이에요..

 

ㅇ 우리가 아는 한은 오직 살아 있는 존재만이 감각 및 정보 처리 과정을 인식의 수준으로까지 결합해 낼 수 있소..

 

ㅇ 생물과 무생물을 구분하는 세 가지 특징

1) 물질대사: 환경으로부터 에너지를 흡수해서 생존 능력을 강화시키는 것

2) 자가치료: 세포 안에는 세포 조직이 본 궤도를 이탈할 때 자기치료를 수행하는 과정이 들어 있음

3) 복제: 복제를 할 수 있어서 양호한 복제본을 생산해 낸다..

 

ㅇ 카프카의 소설 변신.....'정신의 지속성'...스노우는 철학자 로크가 기억을 정신적 지속성의 적절한 예로 들었던 것을 기억해 내고는 한 사람의 지난 경험을 현재의 의식에 연결시켜주는 것은 기억이며, 그런 면에서 기억은 그 누구의 의식과도 연결될 수 없는 것이라고 말했다.

--> 로크 자체의 책을 읽어 본 적이 없고, 그저 고등학교 때 '통치론'을 쓴 사람, 17세기 영국 의회 민주주의의 사상적 기틀을 확립한 정치철학 정도로 외웠다. 

--> 김남호 철학 교수의 최근저서 '신경과학시대의 인간을 다시 묻다' (2020년)에서...."로크(1632~1704)의 ‘인간(human)’과 ‘인격(person)’의 구분을 받아들여 ‘인간’ 대신에 ‘인격’이라는 단어를 사용하고 있지만, 인간이 곧 인격이라면 결국 인간에 대한 이해라고 할 수 있을 것이다."라고 했다..

 

ㅇ 정신적 지속성 이론을 뒷받침하는 것은 신체 전체의 지속성이 아니라 두뇌의 지속성입니다.

 

ㅇ 홀데인은... 심적 상태가 두뇌의 연산 능력의 결과라고 단언하고 있소. 이는 심적 상태를 두뇌의 처리 과정으로 간주하는 일종의 계산주의(computationalism)인데, 그렇게 되면 개인의 정체성은 그저 연산의 '처리 주체'에 불과하오.

--> 이 것은 그리 만만한 주제가 아니다. 

 

---> 전공자가 아니라 평가를 할 수 있는 수준은 못 되지만 스티븐 핑거와 주장과 반론인 제리 포더의 주장을 다 읽어 볼 필요가 있다. 

 

--> 1960년대 앨런 튜링의 제안 이래 인지과학 연구를 자극해온 ‘심적 과정은 곧 계산’이라는 관점이 아직도 유지되고 있다. 이른바 계산주의 마음이론은 인간 인지가 '통사론적'으로 작동한다고 가정한다. 마음은 어떤 제한된 요소와 이를 관장하는 유한한 규칙에 의해 지배되는 “국소적 통사 기계'로 본다. 인지 과학자 스티브 핑거의 '신종합성'(New Suynthesis'을 주장하다. 계산주의와 대량 모듈성 논제, 적응주의를 세 축으로 하는 이론으로 '마음은 어떻게 작동하는가?'에 잘 기술되어 있다. (원서기준 1997년)

 

--> 제리 포더는 인간의 마음속에 '사고 언어' (language of thought)가 있다는 가설을 설득력 있게 제시한 것으로 뷰명하다. 또한 '마음의 모듈성' (The Modularity of mind)란 책에서 인간의 많은 인지과정들이 '모듈'이라고 불리는 여려 개의 구소소적인 단위로 나뉘어 있다는 제안을 한다.  제리 포더는 스티븐 핑거의 주장에 대한 반론으로 '마음은 그렇게 작동하지 않는다'를 출판했다. (원서기준 2001년)

 

ㅇ 개성을 존재의 지속성이 아니라 하나의 과정의 지속성을 기초로 한 정신적 지속성으로 보는 설명에도 해당됩니다.

 

ㅇ 폰 노이만 교수는 자기 자신을 복제하는 기계를 제작하는 데 아무런 논리적 결함이 없다는 사실을 증명했습니다. 따라서 자기 복제를 하는 기계 집단을 상상할 수 있다면, 기계 집단이 자연선택을 거쳐 사회적 무리를 형성하고, 나아가 일종의 '문화'를 발생시킬 수 있으리라는 가정을 해보는 것도 과연 무리가 아닌지요

 

ㅇ 새 종을 발생시키는 진화 능력은..... 복제물은 불완전해야만 하는 거에요.....그래야 일부 복제물이 다른 것에 비해 좀더 균등하게 창조될 수 있거든요. 자연선택이 계속해서 일어날 수 있는 것도 바로 이 차이점 때문이지요....

 

ㅇ 우리로 하여금 그것이 사람처럼 생각하는 것으로 믿게끔 착각시키는 기계가 만들어질 수 없을 물리적 또는 기술적 근거를 전혀 찾을 수 없다.

 

ㅇ 저의 관심사는 사람의 생리 기능이 아니라 사람의 사고 과정을 복제하는 것입니다.

 

ㅇ 1960년대 기계 지능 문제에 관하여 두 가지 접근 방식이 제기되었다.

 

1) 뉴웰과 사이먼이 주장...인식을 두뇌 가운데서 따로 '떼어낼' 수 있는 고차원의 현상으로 보았다. 지적 능력은 두뇌에서 이루어지는 기호 처리 과정이라는 것이 이들 연구 집단의 근본 믿음이었다. 따라서 기계에 이와 유사한 지적 능력을 부여하기 위해서는 두뇌가 사용하는 기호를 대체할 수 있는 적절한 실리콘 대용물을 만들고, 두개골 안에서 기호들을 이리저리 부릴 때 사용하는 것과 같은 법칙을 산출하기만 하면 되는 것이다. 이것이 사후에 '하향식' 인공지능이라고 알려전 이론의 핵심이다.

 

2) 프랭크 로젠블래트가 주도...두뇌의 실질적 신경구조를 중시...'상향식 견해'는 두뇌가 인식 기능을 수행하는 데는 실제의 두뇌 구조가 중요한 역할을 하며, 따라서 기계적 지능을 만들고자 한다면 HW에 이 구조를 모방해 넣어야 한다고 생각....

 

ㅇ 연결주의(Connectionism): 인간 두뇌의 신경 구조를 본 뜬 새로운 인지 이론을 제시....병렬 분산 처리 입장..

 

ㅇ 괴델의 공리에 기댄 로저 펜로즈의 베스트 셀러 '황제의 새마음'''

 

 

 

[ 연결]

 

이 책과 유사하게 인공지능 분야에서 쉽고 스토리 형식으로 쓴 책 중 내가 읽은 것들...

 

일본인 오제키 마사유키라는 응용정보과학가 기계학습의 주요 원리를 백설공주와 일곱 낸장이를 등장시킨 '백성공주 거울과 인공지능 이야기'.....

 

카와조에 아이란 언어를 전공하고 사회 공유 지(知) 연구 센터 교수가 쓴 '게으른 족제비와 말을 알아 듣는 로봇'이 있다. 

인공지능 분야를 넘어 대중과학서를 이런 유명인들을 등장시켜 대화 형식으로 풀어 쓴 중 유명한 것은 '지식인 마을 시리즈'가 있다.

(2020년 6월 기준 40권까지 나온 것 같다)

분야를 좀 넓혀 보면  공자, 노자, 부처가 토론하는 형태로 기술한 책.....

모로하시 데쓰지 교슈가 쓰고 2001년에 나온 '공자 노자 석가'도 있다.

2017년 국내 출간되어 인기를 끈 하타케야마 소우 교수의 '대논쟁! 철학배틀'도 유사한 형식이다.

 

 

[ 자평] 기념으로 가지고 있는 책......

 

1999년에 국내에 출판된 꽤 오래된 책이다. (물론 지금은 절판)

원서가 1989년에 나왔으니, 이런 책을 1년 만에 번역하다니... 

1999년에 바로 읽었던 것 같지는 않고 2000년 중반쯤이 아닐까 싶다. 

 

저자는 존 L. 캐스티 (John L. Casti)라는 복잡성 과학 전문가이다. 

저자이 책 중 몇 권이 번역되어 있으면 나는 '인공지능이야기',  '현대과학의 6가지 쟁점', 'X이벤트'를 읽어 보았다.

X이벤트를 제일 좋아한다. 

 

글의 전개는 1949년 비바람 부는 어느 여름날, 케임브리지의 크라이스트 칼리지에서 세계적인 과학사학자 스노우의 초대로 호화로운 만찬이 열렸다. 이 자리에 초대된 다섯 사람이 '생각하는 기계'에 대한 논쟁을 하는 형식이다. 참석한 다섯 사람은 비트겐슈타인, 홀데인, 스노우, 튜링, 슈뢰딩거 등 5명이다. 

(존 버든 샌더슨 홀데인(유전학자, 1892~1964)이 나는 가장 낯설 분이었다. 이 분의 번역서를 나는 찾지 못했다...)

 

다섯 사람들이 어떤 분야를 대표하는 지는 옮긴이의 말에 언급된다.

마르크스주의 유전학자 홀데인, 언어철학자 비트겐슈타인, 양자물리학자 슈뢰딩거, 암호 해독자이자 수학자인 튜링...

 

대체적인 흐름은 사람의 두뇌가 복잡한 컴퓨터 그 이상은 아니어서 충분히 복제할 수 있다는 튜링의 주장과, 사람이 살면서 겪는 온갖 감정과 경험 없이 기계가 생각을 한다거나 사람과 소통하는 일을 있을 수 없다는 비트겐슈타인의 주장을 중심으로 이루어 진다.  (옮긴이 이민아씨의 말..)

 

이 책에 '튜링 기계'의 작동 방식이 아주 간단하게 나온다. 

 

어려운 것들 (철학적 견해, 기술적 방법, 과학적 가설 등)을 쉽게 풀어 주는 것도 재주다. 대체로 전문가들 중에 이러한 재주가 좋은 사람들이 대중적인 인기를 얻는다... 설민석, 최준기,,, 강신주 등 등

 

하지만 저자처럼 어려운 것들을 배경으로 하나의 또 다른 스토리를 엮어 내는 것은 또 다른 능력이다.