로봇시대에 불시착한 문과형 인간 by 다카하시 도루

[ 밑줄/연결 ]

 

기계, 정확히 말하면 로봇이나 인공지능 같은 기계는 인간이 감정 및 사고를 모방하기 시작했다. 인간과 기계의 거리가 가까워지기 시작했으며 이후 이러한 움직임은 더욱 빨라져 마침내 인간을 뛰어넘을 것이다. 

 

인간은 생물이기 때문에 인과관계를 따진다.....이에 반해 기계는 이 변수와 저 변수가 관련되어 있다라는 상관관계를 분석하여 추출한다. 

 

인공지능이 점차 시각용 인공지능, 청각용 인공지능이라는 특화된 인공지능을 뛰어넘어 복합적 기능을 손에 넣게 된다..

 

영국 임페리언칼리지런던의 인지로봇 과학자 머리 샤나한(Murrey Shanahan)은 저서 <기술적 특이점>을 통해 인공지능 연구의 방향성을 크게 두 가지 분야로 나누었다.

(1) 전뇌 에뮬레이션 (whole brain emulation)

(2) 기계학습(machine learning)

에뮬리이션은 한 컴퓨터 시스템이 다른 컴퓨터 시스템의 동작을 재현하는 것을 말하는 컴퓨터 용어이다.....'전뇌 에뮬레이션'이란 미세한 부분까지 정확하고 정밀하게 모방하여 인간의 뇌 전체를 재구성하는 것이다......신경세포와 신경아교세포의 구성 요소를 전부 재현한다. 한마디로 인간의 뇌를 똑같이 재현하는 것이다. 

 

기계학습은 인간의 뇌를 간소화한 모델을 만들어 이 모델을 기계에 도입하는 것이다. 뇌를 간소화한 모델은 컴퓨터로 신경세포의 움직임만을 모방한다.....즉 신경아교세포를 생략하고 간소호한 방식이다. 

---> 2018년에 얇은 책으로 번역이 되어 나와 있다.

인공지능에 의한 인간 뇌의 모방 정도가 낮으면 낮을수록 인간이 봤을 때 이해하기가 더욱 어려울 것이다.

 

인공지능 과학자들은 인공지능이 점, 직선 ,곡선 또는 모든 조합을 통해 차례차례 읽어 들이는 형태를 '특징값(feature value)'이라고 한다. 한마디로 신경망은 대상으로부터 특유의 특징값을 추출하여 대상을 인식한다. 

 

(딥러닝의 핵심 '자기부호화(Autoencoder')

2006년 제프리 힌튼이 개발....

인공지능 장치 안에서 입력 정보와 출력 정보가 일치하도록 정보를 비교하는 방법...이 과정을 통해 대상을 정확하게 인식한다.....입력 데이터를 압축한 다음 출력 시에 앞 단계로 되돌리는 것....이러한 압축 작업에 의해 '입력 데이터를 정확하게 나타내는 '특징'을 획득할 수 있다.'....이 작업을 층마다 반복한다. 이 방법으로 이전 영상과의 일치를 매번 확인하기 때문에 최종 출력층 단계에서는 대상 인식의 정확성이 보장된다. 

 

사전에 '대상을 정확하게 인식하라'라는 목표를 인공지능에게 명령하기만 해도 이후 딥러닝은 자동으로 대상을 정확하게 인식한다.....이렇듯 현재 딥러닝은 자동 학습기이지 자발적 학습자가 아니다. 인간처럼 지적 호기심을 바탕으로 학습하는 구조가 아니기 때문이다. 딥러닝은 목적과 목표를 자율적으로 설정하지 않는다. 

---> 나는 이것이 욕망의 문제라고 생각한다. 

 

계산기과학의 이상은 자기 자신을 프로그래밍하는 인공지능을 만드는 것이다. 자기 자신을 만들어내는 것, 한마디로 재생산과 생식은 생명체의 본성이다.

 

감정 '자율형' 로봇 페퍼.....

인간의 감정은 세로토닌, 아드레날린, 도파민 등의 신경전달물질 분비에 따라 결정된다. ...페퍼가 느끼는 감정은 페퍼 안에 설치된 화면의 '감정 지도'가 지시한다. 

오그멘테이션(Augmentation)이란 '증가, 확장'을 의미한다. 토머스 데븐포트는 기계의 도움을 받아 인간이 새로움을 발견하고 학습하여 시야를 넓이는 '확장의 기회'로 기계와의 공존을 받아들여야 한다고 주장한다.

 

인간의 뇌는 뇌 하나로 시각, 청각, 언어 등의 기능을 수행한다. 범용 인공지능이 이러하다.....범용 인공지능은 '다각적인 문제 해결을 자율적'으로 실시한다. 그렇게 되면 기계 스스로 문제를 발견하고 '스스로 해결'한다. 

 

뇌의 가소성이란 인간의 뇌가 '상황 및 환경의 변화에 빠르게 대처하는 능력으로 이해할 수 있다. 그러한 변화를 실현하기 위해 뇌는 자신의 신경망 구조를 변화시킨다.

 

인공지능은 복수의 인격을 가지며 인격의 아톰(atom)적 제약(하나의 인격으로 제한되는 것)이 없다는 것이다. 이에 반해 인간은 복수의 인격으로 존재하지 않으며 아톰적 개인, 즉 개체로 존재한다. 아톰적 개체로 존재하는 인간과 개체로 제한되지 않는 인공지능은 결론부터 말해 서로 엄연히 다른 존재다. 인간은 자아 안에 다수의 인격이 존재한다면 정신적으로 이상이 생기고 만다. 하지만 이에 반해 인공지능은 개체성에 제한을 받지 않는다. 

 

우리 스스로 인간을 뛰어넘는 존재가 되어야만 한다. 이제는 인간이 인공지능을 따라잡아야 할 차례다.....어떻게 해야 할까?......나이 대답은 매우 간단하다. 인공지능과 융합하는 것, 즉 '인간의 사이보그화'다.

 

<공각기동대>...인간의 뇌가 인터넷에 직접 연결되어 있다는 설정....즉 인간에게 '전뇌'가 있다. 이 작품 속 세계는 살아 있는 인간, 전뇌화된 사이보그, 인공지능 로봇 등이 공존하는 사회로 우리 사회가 언젠가 이렇게 될지 모른다고 예견하기 충분했다.

 

사이보그론 영역에 '능력 증강'이라고 부르는 행위가 있다. 현재는 의료 목적의 유전자 변형 기술을 적용하거나 뇌-기계 인터페이스 기술을 파킨슨병 치료에 응용하는 등 대부분 별다른 이견이 없다. 하지만 능력 증강을 위해 기술을 사용하는데는 찬반이 크게 갈린다.

 

<공각기동대>의 마지막 장면에는 구사나기 토모코와 인형사의 대화....

(인형사) 난 스스로를 생명체라 말하지만 지금 상태로는 불완전해. 왜냐면 내 시스템에는 자손을 남기고 죽음을 얻는 생명의 기본적인 과정이 없거든

(구사니가 소령) 복사체를 남기잖아

(인형사) 복사체는 유사품에 불과해. 바이러스 하나로 전멸할 가능성을 부정할 수 없을뿐더러 무엇보다 개성이나 다양성을 가질 수 없어. 영원히 존재하기 위해선 복잡하고 다양해져야 하고 때로는 버릴 수도 있어야 해.....

---> <공각기동대> , <아바론>, <인랑> 등의 기획과 각본을 쓴 오시이 마모루 (押井守, Mamoru Oshii)는 애니메이션이라는 매체를 사용하는 현대 철학자 인 듯....

뇌가 끊임없이 변화한다는 뇌의 가소성은 환경에 적응하며 살아가기 위한 '뇌의 전략'이기도 하다.....뇌의 형태를 만드는 뉴런(신경세포)의 결합이 변화하는 과정에서 발생한다. 정보의 전달과 처리를 담당하는 신경세포 뉴런은 대뇌피질에 평균 약 140억개, 전체 신경계에 1,000억 개 이상 존재한다. 이 결합이 변화하는 것, 즉 뇌 가소성은 순열과 조합의 변화다. 

 

뇌의 가소성이란 우리 뇌가 시간과 상황에 따라 변화하는 것인데, DNA 역시 보다 유리한 조건의 환경 변화에 맞춰 뉴런의 순열조합을 변경한다....뇌의 가소성은 DNA 가소성보다 우수한 생명 전략이라고 할 수 있다. 

 

철학에서 가소성은 현재 자신의 삶을 지속적으로 변화시킴으로써 자기만의 방식으로 끊임없이 한계를 뛰어넘는 것을 의미한다 . 즉 끊임없이 거듭해서 자기 자신을 초월하는 것이다. 이것이 인간이 살아가는 동안 지속되는 욕망의 꼴이자 가소성의 철학적 의미다. 다시 말해 자기 초월은 가소성의 철학적 표현이다.

 

자연 상태의 자기 자신을 뛰어넘어 변화하려면 두 가지 단계를 거쳐야 한다.

첫째 단계는 자신과는 다른 자기 자신을 뛰어넘는, 앞으로 되어야 할 존재를 설정하는 것. 즉 방향성을 정해야 한다.

둘째 단계는 자신이 뛰어넘어야 할 대상과 동화하는 것. 

이 두 가지 단계를 거쳐 과거의 자신과 다른 새로운 자신이 된다. 이것이 바로 자기 초월의 회로다.

 

우선 인간은 첫째 단계에서 현재의 자신을 뛰어넘는 존재를 설정한다. 그런 존재란 궁극적으로 하이퍼 인공지능을 가리킨다. 그리고 둘째 단계에서 인간은 자신이 설정한 존재가 된다. 즉 하이퍼 인공지능과 동화된다.

---> OK. 내가 아는 지식으로 이런 자기 초월이 있고 다른 하나는 도교나 선불교에서 일컬는 '무위진인', 일없는 사람, 참사람 등 등 이 되는 것도 있다. 즉, 정신이 각성된 자....스스로 깨어난 자 등 등 (진짜 이런 단계가 있는지는 실제 이런 사람을 본 적이 없어 모르겠다)

자신을 능가하는 존재에 대한 인간의 욕망이 계속될 경우 이러한 욕망을 어떻게 대해야 할지 생각하는 것이 우리에게 중진 가장 큰 과제다.

---> 개인적으로 나는 욕망을 없애는 것은 불가능하다고 본다. 그럴 필요도 없다. 대부분의 사람들이 없애고 싶은 것은 집착하는 갈애다. 갈애와 욕망은 다른 것 같다. 

 

어떤 기술이 인간을 위협할지는 도구성과 자율성에서 구분된다. 인공지능 기술도 상황은 마찬가지다. '특화형 인공지능'은 도구에 불과하지만 자율성을 가진 '범용 인공지능'은 인간에게 위협적인 존재가 된다.

 

영화의 아버지라 불리는 뤼미에르(Lumiere) 형제의 영화 <열차의 도착>(1895년)에 얽힌 유명한 일화...

당시 영화를 관람하던 관객들은 기차역 안으로 증기기관차가 들어오는 장면을 보다가 실제로 기차가 오는 줄 알고 도망쳤다고 한다. 이처럼 영화는 시각뿐 아니라 신체에도 충격을 준다. 우리라는 존재 전반에 근원적인 영향을 미친다.

플라톤이 말하는 문자의 독자적 행동.....문자, 즉 문장은 음성언어에 비해 읽는 사람이 제멋대로 해석할 위험에 노출되어 있다고 말했다......문장 자체는 원본과 완벽하게 일치하지만 이에 대한 해석은 독자에 따라 달라진다는 것이다.

 

벤야민은 "오늘날의 인간은 누구나 영화에 등장하고 싶어 한다."고 말했다. 누구나 영화배우가 되고 싶어하며 모두 영상화되고 싶어 한다. 즉 모든 사람이 영상에 융합하고, 영상과 동화되기를 바란다는 것이다.

이런 방식으로 영화라는 복제기술은 자기 초월의 두 가지 단계를 밟는다. 인간은 자기를 뛰어넘는 운동에서 자신의 설정한 존재로 동화되고 융합한다. 이것은 문자나 영상 모두 동일하다.

---> 벤야민의 놀라운 통찰은 빛을 발할 것 같다. 모든 사람이 자기계발로 책을 내야 한다는 묵시적 압박이 휩쓸고 간적이 있다. 아직도 그렇지만.....현재는 또 다들 유튜버에 도전할까? 하는 시대가 되었다. 

 

자기를 뛰어넘는다는 것은 가소성의 철학적 표현이다. 인간이 가소성이라는 본성을 가지고 살아가는 한 여기서 벗어날 수 없다.

 

(2030년 '기계화 경제'가 끝나다)

인공지능 측면에서 경제가 어떻게 바뀔지 추적해보자.....

(1) 인공지능 출현 이전 시대의 경제에서 특화형 인공지능 시대 경제로 이행하는 과정

(2) 특화형 인공지능 시대의 경제에서 범용 인공지능 시대의 경제로 이행하는 과정, 두 가지 단계로 나누어 이야기 하겠다....... 이노우에 도모히로 교수는 <2030 고용절벽 시대가 온다>에서......2030년 이전을 '특화형 인공지능 시대', 이후를 '범용 인공지능 시대'로 구분하여 경제 방식을 예측했다.

 

기계화 경제란 인간과 기계가 협동하여 생산 활동을 하는 것....영국의 면직물 공업.....컴퓨터의 도입에 따른 정보혁명.....까지 기계는 유용한 도구라는 지위를 차지....

 

특화형 인공지능과 인간의 협동 끝에 등장하는 것이 사이보그다. 기계화 시대, 특화형 인공지능 시대의 마지막에는 사이보그가 경제 활동을 담당학 될 가능성이 크다.

 

2030년 이후 다가올 범용 인공지능 시대의 경제는 '순수 기계화 경제'라고 이름 붙였다.....더 이상 인간이 필요하지 않다는 것을 의미한다.....자율성을 획득한 기계가 완벽하게 인간을 대신한다. 기계는 도구의 수준을 넘어 '주체'가 된다.

 

기계의 기계 생산을 무한히 반복함으로써 생산 규모를 한없이 확대하는 프로세스다. 결국 이는 기계가 자율적으로 자신을 개선하면서 끊임없이 확대해가는 자기 생산 과정이다.....

인공지능에 의한 생산성 향상은 공급곡선을 오른쪽으로 옮긴다....수요자인 인간이 공급곡선의 오른쪽 이동에 맞춰 수요곡선을 오른쪽으로 옮기면 두 곡선의 균형을 유지할 수 있다.....또한 범용 인공지능 시대의 경제에서도 생산성이 향상됨에 따라 공급곡선은 오른쪽으로 이동한다. 그러나 이동 속도는 지수 함수적이다. 그렇게 되면 '수요가 부족해져 수요곡선을 남겨두고 이동하게 된다.'......자연 상태의 인간의 욕망을 범용 인공지능에 기대 공급곡선의 지수함수적 성장에 맞춰야 한다......이러한 이동을 위해서는 사이보그화 그리고 포스토휴먼화를 꾀할 수 밖에 없다. 

---> 그럴 것 같다. 그렇다면 항사 공급과잉으로 상시 디플레이션 위험이 있지 않을까? 그래서 항상 확대되는 공급을 받아 줄 수요창출이 경제의 핵심 문제가 될 것 같다. 기본 소득을 줘서 기본적이 소비를 지탱해 줘야 하는 경제적 근거도 생기는 것 같고.....이는 인류 경제가 당면해 보지 못한 또 다른 문제를 던져 주는 것이다.....

 

범용 인공지능 시대에 종말을 맞이하는 것은 생물학적 인간, 인간의 생물성 그리고 생물성에 뿌리 내린 자본주의다.....순수 기계화 경제에 대응하기 위해서는 인간은 자신의 생물성을 버려야만 한다. 인간은 그리고 사이보그, 포스트휴먼으로 바뀌어야 한다. 

 

뇌-기계 인터페이스로 인간의 뇌가 직접 대화를 할 수 있다고 가정해보자. 인공지능으로 얻은 정보가 사이보고의 머릿속으로 전달되며, 사이보그가 현장에서 얻은 경험은 뇌-기계 인터페이스를 경유해 실시간으로 공유된다. 또한 이러한 경험을 인공지능이 분석하여 사이보그의 작업 효율을 높이는 명령을 사이보그에게 전달한다. 이러한 과정을 통해 사이보그의 생산성이 향상되고 만족도 역시 크게 상승한다.

 

'신경경제학Neuroeconomics'이라는 뇌과학과 경제학의 융합 연구가 진행 중이다......신경경제학의 연구 성과에 따라 뇌 속 괘락물질의 수치가 물건의 가격이 된다.....뇌 속 쾌락물질 혹은 측정값이 '화폐'가 된다. 화폐는 사이보그 뇌 사이에서 전자네트워크를 경유해 유통된다. 현재의 전자머니는 사이보그 경제에서 뇌로 연결된다. 

 

경제는 점차 쾌락만을 요구하는 체계로 옮겨간다. 그 과정에서 생물학적 인류가 지금까지 갈구해온 현실의 의식주 문제는 중요성이 줄어든다. 인간의 생물성에 기반을 둔 현실세계의 만족에서 비현실 세계의 쾌감을 좇는 쪽으로 무게 중심이 이동하는 것이다. 

 

사이보그는 전자 네트워크 안에서, 즉 가상공간 속에서 뇌 속 쾌락물질의 자극만으로 삶의 욕망을 채울 가능성이 있다.

 

오히려 우려스러운 부분은 인간의 근본적인 욕망인 가소성(자식의 구조를 변화시키는 힘)이 범용 인공지능의 등장으로 움직임을 멈출지도 모른다는 것이다. 이것이 휠씬 더 두려운 일이다. 

 

내가 볼 때 가소성의 욕망은 이미 오래전에 약화되었다. 사람들은 문명생활에 완벽하게 스며들었고 이에 대체로 만족한다. 생물로서 가능한 욕망은 진작 충족되었다. 조금 더 자세히 말하면 인류는 생물학적 유통기한의 끝을 맞이하고 있으며 생물성의 한계를 보이기 시작했다. 

 

자본주의란 뇌와 DNA의 가소성이 인간의 욕망을 역사적이고 구체적인 형태로 나타낸 꼴이다. 인간의 욕망이 충족된 오늘날, 이 욕망의 결과인 자본주의는 정체되어 있다. 

 

발달 과정에서 가소성은 자신의 생물성을 버리고 기술로 자신을 포장했다. 우리의 삶의 방식은 새로운 포스트휴먼의 삶으로 변한다. 이것이 가소성이라는 인간의 욕망이 만들어내는 역사이다.

 

마인드 업로딩과 관련된 첫번재는 기억의 업로딩이다...쥐의 뇌 속 신호를 전자 형태로 기록할 수 있다는 것은 뇌  속 신호를 인공 소뇌라는 전자장치에 업로딩할 수 있다는 것을 증명한다. 

 

현재 인류의 상식으로는 포스트휴먼을 이해할 수 없다. 포스트휴먼은 현 인류의 한계를 뛰어넘는 존재이기 때문이다. 그들의 뇌나 신체에는 우리가 이해할 수 없는 부분이 있다. 

 

포스트휴먼은 인터넷상에서 서로 연결되어야만 하기 때문에... 개인과 타인을 구별하는 경계가 없다.....SF에서는 마인드 업로등이 실행되어도 등장인물의 개성은 유지되는 것처럼 그려지는 경우가 많은데, 지금까지의 이론을 바탕으로 보면 불가능한 일이다. 

---> 영화 <Her>가 적합한 개연성 있는 상상일 것이다.

 

포스트휴먼은 개체의 틀을 뛰어넘는다....인터넷 접속으로 기술화되어 '탈 개체적 집합체'로서 존재한다. 

 

포스트휴먼은 뇌와 신체에서, 즉 존재 자체가 탈 개체적 집합체로 존재한다. 

 

"인류는 포스트휴먼이 되면 행복한가?"......."행복해질 것"이다.

 

자기를 뛰어넘는 과정 속에서 느끼는 희열과 위기감의 양면성을 쾌락 혹은 행복이라 말한다.

 

자동차에 올라타면 인간은 자연 상태로는 불가능한 상태에 이른다. 즉 자신을 뛰어넘게 되고 속도를 더욱 높이면 위험과 하나 된 쾌락을 느끼게 된다. 포스트휴먼은 인터넷에 업로딩된 존재이자 전자공학이라는 기술과 하나 된 존재이다. 자동차 기술에 의한 자기 초월의 쾌락은 포스트휴먼의 행복을 생각하게 만드는 하나의 힌트다. 

 

자기를 극복한다는 것은 가소성의 움직임을 가리킨다. 가소성의 움직임은 자기 자신을 뛰어넘는 것이다. 자기 초월 속 희열과 위기감이 쾌락과 행복을 느끼게 한다는 것은 우리가 가소성의 움직임을 통해 쾌락과 행복을 실감한다는 것이다......

 

업로딩된 인간은 전자기술과 일체되어 포스트휴먼이 된다. 따라서 인간으로부터 계승된 가소성은 전자기술과 일체된다. 그리고 가소성의 움직임에 따라 쾌락과 행복도 전자기술과 일체됨을 체험할 수 있다.....포스트휴먼은 전자기술과 일체화된 가소성의 자기 초월에서 쾌락과 행복을 누린다.

 

포스트휴먼은 생물 시대에 느끼던 쾌락과 행복을 전자기술로 느낀다. 포스트휴먼은 전자 방식으로 쾌락과 행복을 높이며, 전자 방식만이 포스트휴먼의 가소성을 자극하고 자기 초월을 활성화한다. 

 

순수 기계화 경제는 결국 기계가 자율적으로 자신을 개량하고 무한히 확대하는 자기 생산 프로세스를 밟는다. 포스트휴먼은 범용 인공지능과 일체화되기 때문에 포스트휴먼 시대이 경제, 즉 포스트휴먼 경제란 순수 기계화 경제를 말한다. 이러한 시대에 포스트휴먼은 무한히 확대하는 자기 생산을 실시한다.....지수함수적 발전이 포스트휴먼 경제의 자기 초월 속도가 된다. 

 

 

[ 자평 ]

 

저자 다카하시 도루 (岡本裕一朗)는 현대 서양 철학의 전공하고 <사이보그 철학>과 <독일어>를 가르친다고 한다.

 

일본 저자들이 쓴 인공지능 관련 (인문서, 경영서, IT개발서 등)이 꽤 괜찮았다고 본다.

특히 밑바닥 부터 시작하는 딥러닝 시리즈는 내게 충격적이었다.

(시리즈는 3까지 나왔다)

 

2019년 부터 내가 주로 접한 이 분야 책들 중 중국 저자들의 책이 놀랍다.

대체로 훌륭하다....아님 흠짓 놀랐다.....이해의 폭이 탄탄하고 단단하다는 .....

자료 조사로 쓴 것이 아니라 경험에서 우려 냈다는 느낌이 많아 들었다. 

국내 자칭 인공지능 전문가들 (정확히는 인공지능 분야 작가)들이 분발할 필요가 있다고 본다. 

오히려 국내 작가들이 책은 초보적 수준에 머물러 있어 깊이와 폭에서 확장성이 낮은 것 같다.

그 만큼 수준이 고만 고만한 것이 아닌가....걱정이다....