당신은 왜 인간입니까 by 송은주

[ 밑줄/연결 ]

 

현재 일어나는 변화의 성격과 방향도 모르면서 남들이 뛴다고 무작정 따라 뛰기만 하면 오히려 잃는 것이 더 많을 수도 있다.....최근 담론들을 살펴보면 대체로 이를 새로운 돈벌이 기회로 바라보는 산업 담론이나, 모두가 자기계발에 매진하여 변화에 적응해야 한다고 채근하는 생존 기술 담론이 주를 이룬다.

---> 맞는 말이지만 이는 두 가지 문제가 있다. 

---> 첫 번째 변화의 성격과 방향을 알 때 까지 기다릴 수가 없거나 아무리 기다려도 알 수가 없을 지도 모른다.

---> 두 번째 모르면서도 뛰기라도 해야 비슷한 방향에서로도 동조까지는 할 수 있다는 것이다. 

---> 그래서 기업에 있는 사람들도 바보가 아님에도 그냥 뛰기라도 하는 것이다. 

 

내가 가려는 데가 어디인지, 그곳에 가면 무얼 얻을 수 있는지, 얻을 수 있다는 무언가가 내가 정말 원하는 것인지 한 번쯤은 곰곰히 생각해보아야 하지 않을까? 

---> 이런 질문의 의도적으로 던지고, 의도적으로 하게 해야 하는 것이 저자 같은 인문학자, 사회학자들, 정치인들의 몫이다...

---> 기업 안에 있는 사람들은 절대로 이런 질문을 할 수 가 없다..

 

과학이 객관적이고 구체적인 사실들을 다루고, 철학이 이러한 사실들을 토대로 세계를 인식하기 위한 추상화된 개념 틀을 짠다면, 문학은 과학 이론과 철학 담론을 구체적인 생활 세계를 배경으로 하여 사람들과 삶의 이야기들로 풀어낸다. 

 

스튜어트 러셀과 피터 노빅의 <인공지능: 현대적 접근 방식>에서는 인공지능에 대한 접근 방식으로  

ㅇ 인간적 사고: 인공지능을 인간처럼 생각하는 컴퓨터이자 마음을 가진 기계로 만들기

ㅇ 인간적 행위: 지금은 사람이 더 잘하는 일들을 컴퓨터가 하게 만들기 

ㅇ 합리적 사고: 계산 모형을 이용하여 컴퓨터가 인지와 추론 능력을 갖추게 만들기

ㅇ 합리적 행위: 인공지능이 처한 상황에서 가장 합리적인 행동을 하게 만들기 

 

인공 지능 연구자 제리 카풀라은 인공지능의 핵심은 실은 '인지 자동화'일 뿐이라고 지적한다.

 

튜링은 인간의 뇌와 의식에는 과학적으로는 결코 해명되지 않는 신비로운 요소가 있으며 이것이 인간을 유일무이하고 특별한 존재로 만든다는 믿음을 받아들이지 않는다. 철학자들 중에서 이와 비슷한 관점을 고수하는 대표적인 인물이 대니얼 데닛이다. 

 

인간은 자기 의도나 생각을 다른 인간, 심지어 사물들에도 투사하고 의인화는 경향이 있다.

---> 2021년 1월 대표적인 사례가 '이루다AI'이다..... 이루다는 그저 편견이 있는 데이터를 학습했을 뿐이다. 

---> 이루다가 성희롱, 장애인을 비난했다고 하여 서비스가 폐쇄된다고 한다. 이루다는 그저 학습한 데이터에 따라 질문에 대한 예측 처리했을 뿐이다. 그러나 사람들은 이루다의 발언에서 기분 나쁨과 섭듯함을 느낀다.....이루다를 의인화하는 것이다. 

일단 인간 수준의 강인공지능이 나오면, 이를 바탕으로 인간을 휠씬 능가하는 초지능에도 이를 수 있다는 주장은 1965년 이미 수학자 어빙 존 굿이 내놓았다. 

물리학자 폴 데이비스는 생물학적 육체는 기나긴 진화 과정에서 필연적으로 거쳐야 할 중간 단계에 불과하며, 우리가 외계인과 마주친다면 아마도 그들은 생물학적 육체를 초월한 후생물학적(post-biological) 존재일 것이라고 말한다.

--> 1990년대 내가 빠졌 읽던 물리학자 중 한 분이다. 나는 '폴 데이비스'와 '프리초프 카프라'.....

--> 1990년대 혜화동에 있던 정신세계사에서 산 <정신과학총서2번>인 <현대물리학이 발견한 창조주>를 나는 아직도 고이 모셔 두고 있다.  또 다른 하나 더 고이 모셔 두고 있는 책은 <정신과학총서1번인> 이차크 벤토프의 책....

모라벡은 같은 신체로 유지되어야만 동일한 인격이 보존된다는 시각을 '몸동일성 입장'이라고 부르며 이를 반박하는 '패턴 동일성 입장'을 주장한다. 패턴 동일성 입장은 자신의 본질을 머리와 몸 안에 있는 정보의 패턴으로 정의하고, 그 패턴이 유지되면 자아가 보존되는 것이고 나머지는 버려도 되는 젤리에 불과하다고 본다. 

 

그러나 그릇(몸)과 내용물(정신, 또는 정신의 패턴)이 서로 무관하다고 하기에는 어려운 것이, 우리의 자아 정체성은 성격이나 기호 같은 의식적이고 주간적인 요소 뿐 아니라 신체에 대한 자기인식까지 포함한다. 우리가 신체를 통해 접촉하고 감각하는 외부 환경은 우리의 의식을 구성한다.

 

일라이저 프로그램이 보여주듯이, 인간은 사물에 인간적 특성을 투사하여 의인화하려는 습성을 가지고 있다. 개발자였던 와이젠바움은 이렇게 인공지능을 의인화하는 인간의 습성이 인공 지능에 대한 심각한 오해를 초래하여 큰 위험을 불러올 수도 있겠다는 깨달음을 얻고 인공지능 반대론자로 전향했다. 

--->1970년대에 있던 일이 2021년 '이루다'로 다시 재연되고 있는 듯 하다...

---> 와이젠바움의 책은 국내에는 <이성의 섬>이 있다. (더 오래 전에 출판된 책도 가지고 있는데.. 창고 어딘가에 있어 제목을 알 수 없고....아마 오래 전에 절판되어 구할 수 가 없을 것이다..)

잭스를 키우면서 애나가 얻은 교훈이 하나 있다면 지름길 따위는 존재하지 않는다는 사실이었다. 이 세상에서 20년 동안 존재하면서 습득하는 상식을 얻고 싶다면 그 일에 20년을 들여야 한다. 이에 상응하는 자기 발견적 방법론을 그보다 더 짧은 시간 내에 조립할 방도는 없다. 경험은 알고리즘으로 압축할 수 없기 때문이다.

 

인간 수준의 인공지능 개발은 단순히 연산 속도를 높이거나 인지 능력을 강화하는 문제를 넘어 감정이 동반될 필요가 있다. 

 

감정이 지능의 일부라는 사실은 뇌과학 연구를 통해 이미 증명되었다. 지능은 문제 풀기나 체스 두기처럼 머리를 쓰는 지적 능력만을 의미하지 않고, 휠씬 복잡하고 다양한 요소들을 아우른다.

 

뇌를 컴퓨터와 같은 정보처리 시스템으로 보는 계산주의 관점에서는 뇌의 패턴을 스캔하여 다른 플랫폼에 똑같이 구동시킬 수 있다고 생각하며,나아가 뇌 정도가 아니라 우주 전체를 방대한 양의 연산을 수행하는 거대한 컴퓨터로 본다. 에드워드 프레드킨과 스티븐 울프램이 주장하는 바에 따르면 현실은 우주라는 컴퓨터에서 실행되는 프로그램이다. MIT의 기계공학과 물리학 교수인 세스로이드는..."우주는 양자 컴퓨터이다. 생명, 성, 뇌, 인간사회는 모든 원자, 광자, 소립자 레벨에서 정보를 처리하는 우주의 능력에서 나온다. 연산이 세계의 근본이라는 이런 견해는 하라리가 말하는 '데이터교'와도 비슷하다. '데이터'교란 "우주가 데이터의 흐름으로 이루어져 있고 어떤 현상이나 실체의 가치는 데이터 처리에 기여하는 바에 따라 결정된다는 믿음"이다. 

---> 에드워드 프레드킨의 책은 내가 알기로 지금은 절판된 <3인의 과학자와 그들의 신> 뿐이다. 

--> "세계는 원자나 분자 같은 것이 아닌 정보로 구성되어 있으며 우주는 거대한 컴퓨터 프로그램에 의해 지배되고 있다고 주장하는 MIT의 컴퓨터 과학자" 라고 소개 되어 있다. 

 

데이터교의 두 기둥은 생명과학과 컴퓨터과학이다. 생명과학은 유기체를 생화학적 알고리즘으로 풀어내고, 컴퓨터과학은 전자 알고리즘으로 설계한다. 이 두 분야가 결합하면 동물과 기계의 장벽이 허물어지고 전자 알고리즘이 생화학적 알고리즘을 해독할 수 있다는 것이다. 다시 말해 우리 몸을 구성하는 요소들과 생명을 유지하는 모든 화학반응들을 0과 1의 디지털 데이터로 변화하여 다른 매체로 전송하거나 재생할 수 있게 된다.

 

정신 혹은 의식이 물질에 우선하며 물질세계를 지배한다는 고전적인 관념론이다. 정신(트랜스휴머니즘에서는 정보)과 물질을 상호 대립하는 관계로 설정하고 정신을 더 우위에 놓는 이원론적 관점은 플라톤 이후 서양철학의 주류가 되었다.

 

트랜스휴머니스트들이 보기에 우리 시대의 이데아는 바로 코드와 알고리즘이다. 

디지털화된 정보 패턴이 모든 실재를 다 재현할 수 있다는 트랜스휴머니스트들의 믿음은 아날로그적 프로세스를 과소평가한다는 문제가 있다.........단백질이 잘못 접히면 알츠하이머나 당뇨 등 치명적인 질병을 일으키기 때문에 과학자들이 그 비밀을 푸는 데 매달리고 있다. 이 단백질접힘은 형태의 연속적인 변형이라는 점에서 아날로그 프로세스인데, 이것이 디지털 DNA와 결합하면 유전자에 정보를 저장하고 전송하는 힘을 부여하는 것이다. 

 

트랜스휴머니즘의 탈신체화  경향을 비판하는 대표적인 이론가인 캐서린 헤일스는 물질과 정보 패턴, 신체와 의식, 아날로그와 디지털 같은 이질적인 요소들이 영향을 주고받고 서로를 변화시키는 상호 매개 작용이 일어난다는 점을 강조한다....이전에 없었던 새로운 요소가 갑자기 출현하는 창발이 반드시 있어야 진화가 생긴다. 창발은 상반된 두 요소들의 상호 매개를 통해서 일어난다. 아무리 복잡하더라도 디지털 계산 과정만으로 우주가 생성되지는 않는다.

---> 영문학 교수인 N. 캐서린 헤일스 (N. Katherine Hayles)의 책은 국내 두 권이 번역되어 있다. 아직 읽어 보지 못했다.....

---> 기술철학에 대해서 시몽동의 책을 먼저 읽은 것을 보니 내 책 선택이 꽤나 편향적인 듯 하다...

특이점 이후에 나타날 개인의 소멸은 데이터교의 관점에서 본다면 당연한 일이다. 이들이 보기에 인간 종은 단일한 데이터 처리 시스템이고, 개인은 시스템을 이루는 칩이며, 역사 전체는 이 시스템의 효율을 높이는 과정이다. 이 종교가 지향해야 할 최고의 가치는 정보의 흐름을 더 넓고 깊게 확장하는 것이다....... 데이터교의 이상은 인류의 신세대가 개인을 버리고 하나의 에너지로 통합되는 <유년기의 끝>의 결말이기도 하다. 

유발 하라리가 예견한 미래에서는 인간 주체가 기계와 알고리즘에 주도권을 넘겨주고 사라지는 것이 아니라, 기계와 알고리즘과 연결되면서 분산되고 확장된다.

 

<대량살상 수학무기>를 쓴 수학자 캐시 오닐은 알고리즘에는 인간의 편견, 오해, 편향성이 코드화되어 있다고 지적한다. 

 

문학평론가 김현은 <책읽기의 괴로움>에서 책읽기가 고통스러운 이유는 "책읽기처럼 세계를 알 수 없기 때문"이라고 말했다......분명한 것은 세계가 책이 설명하는 바와 달리 선명하지 않고, 분명하지 않은 세계에서 분명하게 살기는 불가능하기 때문이다.

----> 나는 책을 불안하고 심심하여 읽는다. 또는 지루하고 권태로와서 읽는다. 책 읽기는 내가 <지적인 무기력>을 준다. 읽을 수록 모르는 것이 쌓이고, 정말 알게 되는 것이, 알게 되는 날이 올까? 라는 무기력들이 쌓인다.

 

 

 

[ 자평 ]

 

인문과학원 학술연구교수의 책이다.

<2001 스페이스 오디세이>, <소프트웨어 객체의 생애 주기>, <어둠의 왼손>, <유년기의 끝>, <클라우드 아틀라스> 등 SF문학이 던지는 질문에 엮어서 이런 저런 생각들을 펼치는 방식의 글이다.

 

인공지능과 관련하여 깊게 읽어 볼 필요가 있는 책이었다.

 

2021년 1월 16일 읽고 있는 <SF는 정말 끝내주는데>를 쓴 송완성씨처럼 기대가 되는 저자였다. 

다음 책이 기대된다. 더욱 내공이 깊어 졌을 거라 믿는다.