생각하는 뇌, 생각하는 기계 by 제프 호킨스

[ 읽은 이유 ]

 

2000년 이전에 IT 산업에서 근무했던 사람들에게 제프 호킨스는 팜 이라는 PDA와 함께 전설적인 영웅 중 한 분이고...

그런 분이기에.. 또 인공지능에 관심이 있다면

그저 당연히 읽어야 한다고 생각했기 때문에

 

지금 처럼 인공 지능, 빅 데이터가 뜨기 전에 잡아 보았던 책....

 

간만에 이 분의 인터뷰 기사가 떠서 반가웠다.

http://www.hani.co.kr/arti/science/science_general/777906.html

 

 

[ 배운 점 ]

 

결론적으로 다시 요점만 읽어 봤지만 내가 이 책의 몇 %나 이해하는지 모르겠다.

양심상 10%는 넘지 않을 것 같다.

 

다만 이 책 이후 박문호씨의 '뇌, 생각의 출현' 외에 뇌에 관한 책을 포함한 몇 권의 책을 읽었고,

빅 데이터를 포함한 기계학습, 인공 지능에 관한 책을 몇 권 섭렵한 후에

다시 읽어 보니 조금은 감이 잡히는 듯 하다.

 

혹시 전문가들이 비평한 것이 있나 봤더니 그닥 찾은 것이 업다.

다만 아래 블로거를 봤을 뿐이다.

 

http://blog.aladin.co.kr/qualia/7601688

 

[ 주요 내용 ]

 

ㅇ 기존의 기계 중심의 컴퓨팅을 연구하기 위해서는 기계를 잘 아는 것이 중요했다. 고전적인 전산학이나 전자공학에서 다루는 내용은 그런 것들이다. 하지만 '인간 중심' 컴퓨팅이라면? 인간을 잘 아는 것이 기계를 잘 아는 것보다 더 중요하다. 더 정확히는 인간이 어떻게 생각하고 반응하고 행동하는지, 그래서 외부 세계와 어떻게 상호 작용하는지 아는 것이 중요하다.

 

ㅇ 마셜 맥클루언이 주장했듯, 미디어, 혹은 기계는 인간의 확장이고, 이제는 단순한 인간 능력의 확장을 넘어 세상을 인지하고 세상과 교감하는 방식 자체를 바꾸고 있다. 생각하는 기계, 지능을 가진 기계는 인간이 가진 감각 기능과 운동 기능의 확장을 넘어 인간의 정의를 확장시키는 매개가 될 수 있다.

 

ㅇ 지능을 컴퓨터 문제로 생각하는 것이다. 즉 생물학과 컴퓨터과학의 중간 입장을 취하고 있는 셈이다. 많은 생물학자들은 컴퓨터 용어로 뇌를 생각한다는 개념 자체를 거부하거나 무시하는 경향이 있고, 컴퓨터 과학자들은 생물학에서 배을 것이 있다는 말을 불신하는 태도를 보이곤 한다.

 

ㅇ 신피질은 인간의 뇌에서 지능을 담당하는 부위이다. 이 책은 뇌가 어떻게 활동하는가에 관한 포괄적인 이론을 다루고 있다. 또 지능이 무엇이며, 우리의 뇌가 어떻게 그것을 만드는지도 다룬다.

 

ㅇ 나는 이 이론과 지능을 연구하는 내 접근 방식을 '인공 지능'과 구분하기 위해 '진짜 지능 real intelligence'라고 부르곤 한다.  인공 지능 과학자들은 지능이 무엇이며 이해한 다는 것이 무슨 의미인가라는 물음의 해답을 구할 생각은 하지 않은 채, 인간처럼 행동하는 컴퓨터 프로그램부터 짜려고 시도했다. 그들은 지적 기계를 만들 때 가장 중요한 부분인 지능을 쏙 빼놓았다. '진짜 지능'이라는 말은 지적 기계를 만드는 시도를 하기에 앞서 뇌가 어떻게 생각을 하는지를 이해해야 한다는 점과 인공과 전혀 무관하다는 점을 가리킨다.

 

ㅇ 몇십 년 동안 인공 지능 분야의 과학자들은 컴퓨터의 성능이 충분히 좋아지면, 컴퓨터가 지적으로 될 것이라고 주장해왔다. 나는 그렇게 생각하지 않으며, 그 이유를 설명할 것이다. 뇌와 컴퓨터는 근본적으로 다르다.

 

ㅇ 대다수 과학자들은 뇌가 대단히 복잡하기 때문에, 이해하려면 아주 긴 시간이 걸릴 것이라고 믿는다. 나는 동의하지 않는다. 복잡성은 원인이 아니라, 혼란의 한 증상이다. 나는 몇몇 직관적이지만 부정확한 가정들이 우리를 잘못 인도했기 때문에 그런 것이라고 주장하련다. 가장 큰 오류는 지적인 행동이 지능을 정의한다는 믿음이다.

 

ㅇ 뇌는 대량의 정보를 이용하여 세계의 모형을 만든다. 우리가 알고 배운 것들이 이 모형에 담겨 있다. 뇌는 기억을 토대로 구축한 이 모형을 이용하여 장래 사건들을 계속해서 예측한다. 지능의 핵심은 바로 이런 미래 예측 능력이다. 나는 뇌의 예측 능력을 상세히 다룰 것이다. 그것이 이 책의 핵심 개념이기 때문이다.

 

ㅇ 컴퓨터와 뇌는 전혀 다른 원리를 기반으로 만들어져 있다. 전자는 프로그램이고, 후자는 스스로 학습을 한다. 전자는 일을 완벽하게 해내야 하는 반면에, 후자는 본래 유연하며 실패를 용납한다. 전자는 중앙 처리 장치를 갖고 있고 ,후자는 중앙 통제 같은 것이 없다.....나는 인공지능이 유용한 산물들을 내놓을지는 모르겠지만 진정한 지적 기계를 만들지는 못할 것이라고 추론했다.

 

ㅇ 인공지능은 지능이 무엇인지, 무언가를 이해한다는 것이 어떤 의미인지를 제대로 규명하지 못하기 때문에 근본적인 결함을 안고 있다.

 

ㅇ 튜링의 인공 지능의 핵심 원리는 이렇다. 뇌는 일종의 컴퓨터에 불과하다는 것. 인공 지능 시스템을 어떻게 설계하느냐는 중요하지 않으며, 인간 같은 행동을 하게끔 만들기만 하면 된다는 것이다.

 

ㅇ 나는 '이해'가 무엇인지를 이해할 필요가 있으며, 그것을 어떻게 정의하느냐에 따라 어느 시스템이 언제 지적이고 언제 그렇지 못한지, 언제 한자를 이해하고 언제 그렇지 않은지가 명확히 드러날 것이라고 확신했다. 시스템의 행동을 보고는 그런 사실을 알 수 없다.

 

ㅇ 이 책에서 내세우는 한 가지 명제는 외부 행동을 통해서는 이해 여부를 판단할 수 없다는 것이다. 이해는 뇌가 사건을 기억하는 방식과 기억들을 이용하여 예측을 하는 방식이라는 내면의 과정을 통해 파악되는 것이다. 중국어 방, 딥블루 그리고 대다수 컴퓨터 프로그램들은 그런 내면 과정과 비슷한 것조차 지니지 않고 있다. 그것들은 자신이 뭘 하는지 이해하지 못한다. 컴퓨터가 지적인지를 판단할 수 있는 방법은 오직 출력, 즉 행동을 보는 것밖에 없다.

 

ㅇ 먼저 뇌가 무슨 일을 하는지 이해하지 않고는 뇌를 모사할 수 없다.

 

ㅇ 신경망은 CPU가 없고 중앙에 집중된 기억 장체에 정보를 저장하지 않는다는 점에서 컴퓨터와 다르다. 신경망의 지식과 기억은 연결된 망 전체에 분산되어 있다. 진짜 뇌처럼 말이다.

 

ㅇ 신경망 분야에 환멸을 느꼈다. 나는 뇌를 이해하는 데 핵심이 되는 사항이 세 가지 있다는 견해를 갖게 되었다.

 

1) 뇌 기능에 시간을 포함시켜야 한다는 것. 진짜 뇌는 급속히 변화하는 정보의 흐름들을 처리한다. 뇌로 들락거리는 정보의 흐름은 결코 정적인 것이 아니다.

 

2) 되먹임(Feedback)이 중요하다는 것. 한 예로 신피질과 시상이라는 더 하위 구조를 연결하는 회로는 역방향(입력되는 쪽으로 향한) 연결이 순방향 연결보다 거의 열 배 더 많았다. 즉 신피질로 정보를 입력하는 신경 섬유 하나에 거꾸로 감각 기관 쪽으로 정보를 보내는 신경 섬유가 열 개는 있다는 뜻이다.

 

3) 뇌 이론이나 모형은 뇌의 물리적 구조를 설명해야 한다는 것. 그것은 반복되는 계층 구조를 이루고 있다. 이 구조를 받아들이지 않는 신경망이 있다면, 그것은 뇌처럼 활동하지 않을 것이 분명했다.

 

ㅇ 역전파망이라고 하는 가장 흔한 형태의 신경망은 출력 장치에서 나온 오류를 입력 장치로 되돌림으로써 학습을 하도록 되어 있었다.

 

ㅇ 신경망에는 조금 전에 무슨 일이 일어났는지 전혀 기록되지 않았다. 즉 역사가 기록되지 않았다..... 모든 것을 프로그램으로 짜야 했던 인공지능과 달리 , 신경망은 사례를 학습했으며, 따라서 좀 더 지적인 듯 보였다.

 

ㅇ 진짜 뇌와 세가닥으로 된 신경망은 똑같은 뉴런으로 이루어져 있지만, 그 외에는 거의 아무런 공통점이 없다.

 

ㅇ 해답,, 패턴,, 출력....인공 지능과 신경망은 둘 다 지능이 프로그램이나 신경망이 입력을 처리하여 내놓은 행동 속에 담겨 있다고 가정한다...행동은 지능의 한 표현 형태이지, 지능을 지니고 있음을 나타내는 핵심 특징도, 지능을 규정하는 주요 요소도 아니다.

 

ㅇ 자동 연상 기억....각 뉴런의 출력을 다시 입력으로 삼았다. 자기 자신에게 전화를 거는 것과 비슷했다....진짜 뇌에도 발견되는 몇 가지 중요한 특성들을 지니고 있다.... 가장 중요한 특성은 검색하고자 할 때 원하는 패턴 전체를 제시할 필요가 없다는 것이다. 패턴의 일부만 지니고 있어도 되고, 다소 뒤섞인 패턴을 지니고 있어도 된다...."제가 볼 때 이 종이 쪼가리가 100만원 짜리 수표 같네요 그걸 주시면 빳빳한 새 100만원짜리 수표를 드리겠습니다"

 

ㅇ 대다수 신경망과 달리, 자동 연상 기억은 패턴들의 순서, 즉 시간별 패턴을 저장하도록 설계할 수 있다.  서열의 일부를 입력하면, 기억은 나머지를 재생할 수 있다....사람들은 사실상 모든 것을 이런 식으로, 즉 패턴의 서열 형태로 학습한다. 그래서 나는 뇌가 자동 연상 기억이 사용하는 것과 비슷한 회로를 사용한다고 주장한다.

 

ㅇ 자동 연상 기억은 되먹임과 시차 입력이 중요할지 모른다는 것을 암시했다. 하지만 인공 지능, 신경망, 인지과학 연구자들은 대부분 시간과 되먹임을 무시했다.

 

ㅇ 뇌기능 영상 촬영은 특정한 순간에 어디에서 무슨 일이 벌어지는지를 밝히는 데 도움이 되었지만, 뇌 활동이 시간별로 어떻게 변하는지는 쉽게 포착할 수 없다...

 

ㅇ 나는 입력-출력 오류가 인공 지능과 연결주의 패러다임이 실패한 주된 이유라고 본다.

 

ㅇ 지능은 뇌의 내면적 특성이므로, 우리는 지능이 무엇인지 이해하려면 뇌 안쪽을 들여다보아야 한다.

 

ㅇ 지적기계를 만들어내려면, 자연의 지적 엔진인 신피질을 상세히 살펴보고 모방할 필요가 있다. 우리는 뇌안에서 지능을 끄집어내야 한다. 다른 길은 없다....

 

신피질에 초점을 맞출 것이다. 지각, 언어, 수학, 미술, 음악, 계획 등 우리가 지능이라고 생각하는 거의 모든 것들이 이곳에서 이루어진다.

 

ㅇ 나는 지능의 모든 본질적인 측면들이 신피질에서 나타나며, 그 밖에 시상과 해마라는 두 뇌 영역도 중요한 역할을 한다는 점을 납득시키고 싶다.

 

ㅇ 명함 여섯 장을 쌓아 놓은 두께는 약 2mm이다. 신피질도 두께가 약 2mm이고, 여섯 층으로 이루어져 있다. 각각은 카드 한 장 두께에 해당한다.

 

ㅇ 인간은 다른 포유동물보다 더 영리하다. 우리의 피질이 더 두껍고 어떤 특수한 종류의 '영리한' 세포들을 지니고 있기 때문이 아니라, 몸집에 비해 우리 피질의 면적이 더 넓기 때문이다.

 

ㅇ 1mm인 작은 정사각형에 약 10만 개의 뉴런들이 있다. 일부 해부학자들은 인간의 신피질에 약 300억 개의 뉴런이 있다고 추정했다. 그 300억 개의 세포들이 바로 당신이다. 그것들은 당신의 기억, 지식, 솜씨, 축적된 인생 경험을 거의 전부 다 담고 있다.

 

ㅇ (신)피질에서 정보는 늘 반대 방향으로도 흐르며, 계층 구조를 따라 위로 뻗어 있는 연결보다 휠씬 더 많은 연결들이 아래로 뻗어 있다.

 

ㅇ 한 뉴런의 축삭이 옆 뉴런의 수상돌기와 접촉하면, 시냅스라는 미세한 연결이 이루어 진다. 한 세포에서 나온 신경 흥분은 시냅스를 통해 다른 세포의 행동에 영향을 미친다. 확실한 것은 시냅스의 형성과 강화가 기억 저장을 일으키는 원인이라는 것이다.

 

ㅇ 신피질에는 대강 30조 개의 시냅스가 있는 셈이다.

 

ㅇ 차이점보다 휠씬 더 놀랍고 흥미로운 것은 유사성이다. 마운트캐슬은 피질 영역들 사이의 사소한 차이점을 찾느라 매진하고 있는 해부학자들이 가득한 분야에서, 차이점들에도 불구하고 신피질이 놀라울 정도로 균일하다는 데 초점을 맞춘다.

 

마운트캐슬응ㄴ 피질의 모든 영역이 같은 활동을 수행한다고 주장한다. 시각 영역이 시각을 전담하고, 운동 영역이 운동을 전담하도록 만드는 것은 피질 영역들이 서로 그리고 중추 신경계의 다른 영역들과 연결되는 방식이 다르기  때문이라는 것이다.

 

피질의 영역들이 서로 약간 다르게 보이는 이유는 기본 기능이 다르기 때문이 아니라, 연결되는 양상이 다르기  때문이라고 주장한다. 그는 모든 피질이 수행하는 공통의 기능, 공통의 알고리즘이 있다고 결론을 내린다. 시각은 청각과 다르지 않으며, 청각은 운동 출력과 다르지 않다. 그는 우리 유전자들이 피질 영역들이 연결되는 방식을 규정하며, 그 방식은 기능과 종에 따라 다르다는 것을 인정하지만, 피질 조직 자체는 어디에서나 똑같은 일을 한다고 말한다.

 

피질에 귀에서 오는 신호를 처리하는 방식과 눈에서 오는 신호를 처리하는 방식이 같다고 말한다. 더 나아가 운동 제어도 같은 원리 하에서 작동한다고 말한다.

 

ㅇ 뇌 내부의 물리적인 형태를 파악할 때는 엑스레이의 3차원 입체 촬영인 CT를 사용하며, MRI나 PET는 대개 뇌 특정 구역의 활동량을 추정할 뗴 사용한다.

 

ㅇ 마운트캐슬이 옳았다. 피질의 모든 영역에서 실행되는 하나의 강력한 알고리짐이 있다는 말이다.....놀라운 사실이다. 피질로 들어오는 입력들은 근본적으로 모두 똑같다는 것이다.  이런 입력들은 전선 다발이나 광섬유 다발에 비유할 수 있다.

 

신경 흥분은 화학적 및 전기적 형태로 전달된다. 이런 신호들은 제각기 다른 감각 기관들에서 제공되지만, 일다 뇌로 향하는 활동 전위로 전환되고 나면, 모두 똑같다. 판지 패턴일 뿐이다.

 

ㅇ 감각 입력들은 추상화가 이루어진 뒤에는 모두 본질적으로 똑같으며, 모두 여섯 층으로 된 피질에서 비슷한 방식으로 다루어진다. 당신은 소리를 듣고, 빛을 보고, 압력을 느끼지만, 뇌 속에서 이 정보들은 근본적으로 아무런 차이도 없다. 활동 전위는 활동 전위일 뿐이다...순식간에 전파되는 이 신경 흥분들은 처음에 어떻게 생겼든 간에 모두 똑같다. 당신의 뇌가 아는 것이로곤 패턴뿐이다.

 

ㅇ 사실 뇌는 몸에서 감각 기관이 전혀 없는 유일한 부위다. 당신의 마음속으로 들어가는 모든 정보는 축삭을 지나는 공간적 및 시간적 패텬의 형태를 취한다.

 

ㅇ 시각....더 이상 영상이 아니다...그것은 단지 패턴을 보이는 전기 활동일 뿐이다. 영상 같은 속성들은 피질이 서로 다른 영역들 사이에 패턴을 분배하고, 선별하고, 걸러내는 등 정보를 처리할 때 급속히 사라진다.

 

ㅇ 뇌로 들어오는 입력들은 단지 패턴에 불과하다. 패턴들이 어디서 오는가는 중요하지 않다. 장시간 일관적으로 상관관계를 보여주기만 하면, 뇌는 그것들을 이해할 수 있다. 뇌는 패턴 기계이다...피질의 기본 알고리듬은 똑같다. 피질은 패턴이 시각이든 청각이든 다른 어떤 감각에서 기원했든 간에 상관하지 않는다.

 

ㅇ 신피질의 알고리듬을 해독하고 패턴을 과학적으로 규명할 수만 있다면, 지능을 부여하고 싶은 모든 시스템에 적용할 수 있다.

 

ㅇ 세계에 관한 우리의 지식은 모두 패턴들을 토대로 구성한 하나의 모형이다...세계가 존재한다는 우리의 확신은 패턴들의 일관성과 그것들을 우리가 해석하는 방식에 토대를 두고 있다. 직접적인 인식 같은 것은 없다....뇌가 입력 신경 섬유들을 통해 시시각각 흘러드는 패턴들 말고는 아무것도 알지 못하는 고요한 암흑 상자라는 사실을 명심하자. 당신의 세계 패턴 인식은 오로지 이런 패턴들을 통해 형성된다. 존재는 객관적일 지 모르지만, 우리가 접하는 것은 오로지 뇌의 축삭 다발로 흘러드는 시공간 패턴들 뿐이다.

 

ㅇ '무엇인 진짜 현실인가?'라는 문제는 '무엇이 진짜 지능인가?'에 대한 고민과 함께 영원한 인류의 숙제일 것이다.

 

ㅇ 뇌는 감각 집합을 통해 세계를 알며, 각 감각은 절대 세계의 일부부만을 검출할 수 있다.  감각들은 패턴을 만들어 피질로 보내며, 그 패턴들은 똑같은 피질 알고리즘으로 처리되어 세계에 대한 모형을 만든다....이런 패턴들을 통해 피질은 실제에 가까운 모세계 모형을 구축한 다음, 그것을 기억으로 저장한다. 피질로 들어온 뒤에 이런 패턴들에 일어나는 일이 바로 기억이다.

 

ㅇ 세계는 당신의 뇌로 들어와 철썩이며 부서지는 끊임없이 변화하는 패턴들의 바다다.

 

ㅇ 뇌가 컴퓨터라는 비유는 한 가지 중요한 사실을 무시하고 있다. 뉴런이 컴퓨터에 든 트랜지스터에 비해 아주 느리다는 점을 말이다. 뉴런은 시냅스로부터 입력을 받아 그것들을 취합하여 다른 뉴런으로 출력을 보낼 것인지를 판단한다. 대개 뉴런은 약 5밀리초(5ms) 내에 그 일을 끝내고 원상 복귀한다. 즉 초당 200번 그 일을 하는 셈이다. 빠른 듯이 보이겠지만, 현대의 실리콘 기반 컴퓨터는 그런 조작을 초당 10억 회나 할 수 있다. 그것은 컴퓨터가 뇌보다 기본 작동 속도가 500만 배 더 빠르다는 의미이다.

 

ㅇ 상상할 수 있는 가장 큰 병렬 컴퓨터가 100만 혹은 10억 단계 내로는 도저히 풀 수 없는 어려운 과제를 뇌는 어떻게 100단계 내에 수행할 수 있는 것일까? 답은 뇌가 문제의 해답을 '계산'하지 않는다는 것이다. 뇌는 기억에서 해답을 불러낼 뿐이다. 본래 그 해답은 오래전에 기억에 저장되어 있었다. 기억에서 무언가를 불러내는 데에는 고작 몇 단계면 된다.....뉴런들 자체가 바로 기억을 이루고 있다. 피질은 전체가 하나의 기억 체계이다. 피질은 컴퓨터가 아니다.

 

ㅇ 공을 잡는 법에 관한 기억은 원래부터 당신의 뇌 속에 프로그램 되어 있던 것이 아니다. 그것은 오랜 세월에 걸친 반복 훈련을 통해 학습된 것이며, 뉴런들이 계산하는 것이 아니라 뉴런들 속에 저장되어 있다.

 

ㅇ 신피질은 문제들의 답을 계산하는 대신에, 저장된 정보를 활용하여 문제를 풀고 행동을 일으킨다. 신피질의 기억은 컴퓨터의 기억과 근본적으로 다른 네 가지 속성을 지니고 있다.

 

1) 신피질은 패턴들의 서열로 저장한다.

2) 신피질은 패턴들을 자동 연상을 통해 불러낸다.

3) 신피질은 패턴들을 불변 형태로 저장한다.

4) 신피질은 패턴들을 계층 구조에 저장한다.

 

ㅇ 모든 기억들은 뉴런들 사이의 시냅스 연결 속에 저장된다....뇌에서 어느 한 순간 옺기 한정된 수의 시냅스과 뉴런만이 기억 회상에 적극적으로 관여하고 있다고 추론할 수 있다.....수많은 것들을 저장하고 있다고 할지라도, 우리는 한 번에 몇 가지만 떠올릴 수 있으며, 오직 연상 순서를 따라서만 그렇게 할 수 있다.

 

ㅇ 우리 뇌는 보고 듣고 느낀 것을 고스란히 기억하지 않는다. 피질과 뉴런들이 엉성하거나 오류를 쉽게 저지르기 때문이 아니라, 뇌가 세세한 사항들에 개의치 않고 중요한 관계들을 기억하기 때문이다.

 

ㅇ 기억은 당시이 세부 사항들이 아니라, 관계의 핵심을 포착하는 형태로 저장된다. 무언가를 보거나 만지거나 들을 때, 피질은 고도로 구체적인 세세한 입력을 받아서, 그것을 불변 형태로 전환시킨다. 기억에 저장되는 것은 바로 이 불변 형태이며, 각각의 새로운 입력 패턴은 이 불변 형태와 비교된다. 기억 저장, 기억 회상, 기억 인식은 불변 형태들의 수준에서 일어난다. 컴퓨터에는 그에 해당하는 개념이 없다.

 

ㅇ 나는 신피질의 한 가지 중요한 기능이 기억을 이용하여 예측을 하는 것이라고 주장할 생각이다. 하지만 피질이 불변 형태들을 저장한다면, 어떻게 구체적인 예측을 할 수 있을까?

 

ㅇ 구체적인 예측을 하려면, 뇌는 불변 구조에 대한 지식을 가장 최신의 구체적인 사항들과 결합시켜야 한다....당신의 뇌는 그녀 얼굴을 불변 구조에 관한 기억을 이 순간 알아차린 세세한 사항들과 결합시킴으로써 그렇게 하는 것이다....불변 표상과 현재의 입력을 결합하여 상세한 예측을 하는 것은 뇌가 하고 있는 일 그대로이다. 그것은 피질의 모든 부위에서 일어나는 보편적인 과정이다.

 

ㅇ 피질 기억의 세 특성 (순서 저장, 자동 연상 회상, 불변 표상)은 과거의 기억을 토대로 미래를 예측할 때 반드시 필요한 요소들이다.

 

ㅇ 뭔가 다르다는 점에 주목하려면, 전에 활성을 띠지 않아던 내 뇌의 일부 뉴런들이 활성을 띠어야 한다.

 

ㅇ 우리 뇌는 저장된 기억을들 이용하여 우리가 보고 만지고 듣는 모든 것에 관해 끊임없이 예측을 한다. 방을 둘러볼 때 뇌는 기억들을 이용하여, 내가 직접 경험하기에 앞서 경험하리라 예상되는 것들을 미리 에측한다. 예측은 대부분 의식하지 않은 상태에서 이루어진다.....예측이 아주 만연해 있으므로, 우리가 '지각하는' 것, 즉 우리에게 보이는 세계는 감각들로부터만 오는 것이 아니다. 우리가 지각하는 것은 감지한 것과 뇌의 기억에서 파생된 예을 조합한 것이다.

 

ㅇ 당신의 뇌가 매순간 어떠한 것들을 보고 듣고 느끼겠지 하고 낮은 수준에서 감각적 예측들을 하며, 그런 것들이 병렬적으로 이루어진다는 것이다. 신피질의 모든 영역들은 각자 동시에 다음에 무슨 일이 벌어질지 예측하려고 시도한다. 시각 영역은 모서리, 형태, 대상, 위치, 운동 등을 예측한다. 청각 영역은 어조, 소리의 방향, 소리의 양상 등을 예측한다. 체성감각 영역은 촉감, 결, 윤곽, 온도 등을 예측한다.  '예측'은 문을 감지하는 뉴런들이 실제로 감각 입력을 받기에 앞서 미리 활성을 띤다는 것을 뜻한다. 그 뒤 감각 입력이 들어오면, 그 입력은 예측과 비교된다.

 

ㅇ 예측은 신피질의 주된 기능이며, 지능의 토대라고 말이다. 피질은 예측 기관이다. 지능이 무엇인지, 창조력이 무엇인지, 뇌가 어떻게 움직이는지, 지적 기계를 어떻게 만드는지 이해하고 싶다면 , 우리는 이런 예측들의 특성을 이해하고 피질이 어떻게 그런 예측들을 하는지 이해해야 한다. 행동도 예측의 부산물로 보는 것이 가장 제대로 이해하는 것이다. 나는 예측이 지능 이해의 열쇠라고......

 

ㅇ 예측이 틀리면, 즉시 주의가 환기된다.

 

ㅇ 당신은 자신의 세계 인식, 즉 세계 이해가 예측과 긴밀하게 엮여 있다는 사실을 이해하기 시작할 것이다. 당신의 뇌는 세계 모형을 구축해 왔고, 그 모형을 현실에 비춰보면서 끊임없이 점검한다. 그 모형이 타당해야, 당신의 자신이 어디에 있으며 무엇을 하고 있는지를 알 수 있다.

 

ㅇ 과학 자체도 예측 훈련이다. 우리는 가설과 검증 과정을 통해 세계에 대한 지식을 발전시켜 나간다.

 

ㅇ 지능은 언어, 수학, 대상의 물리적 특성, 사회 상황 등을 비롯한 세계의 패턴들을 기억하고 예측하는 능력으로 추정된다. 당신의 뇌는 바깥 세계로부터 패턴들을 받고, 그것들을 기억으로 저장하고, 전에 보았던 것과 지금 일어나고 있는 것을 결부시킴으로서 예측을 한다.

 

ㅇ 나는 피질이 팔이 보일 것이라고 예측하며, 그 예측이 운동 명령으로 하여금 예측을 실현하게끔 만든다고 믿는다. 먼저 생각을 하고, 그것이 원인이 되어 생각을 실현시키는 행동을 한다는 것이다.

 

ㅇ 자연은 정교한 감각과 정교하지만 비교적 융통성이 없는 행동을 지닌 파충류라는 동물을 먼저 만들어냈다. 그 다음 기억 체계를 덧붙이고 감각 입력을 그쪽으로 흐르게 한다면, 동물이 과거 경험을 기억할 수 있다는 것을 발견했다. 같거나 비슷한 상황에 처해 있다는 것을 깨달았을 때, 기억이 회상되면서 다음에 무슨 일이 일어날지를 예측할 수 있게 된 것이다. 따라서 지능과 이해는 예측을 감각 입력에 끼워 넣는 기억 체계로서 출발했다. 이 예측이 바로 이해의 본질이다. 무언가를 안다는 것은 그것에 관해 예측할 수 있다는 것이다.

 

ㅇ 피질은 두 방향으로 진화했다. 첫째, 저장할 수 있는 기억들이 더 많아지고 더 정교해졌다. 따라서 더 많은 것들을 기억하고 더 복잡한 관계들을 고려하여 예측을 할 수 있게 되었다. 둘째, 오래된 뇌의 운동 체계와 상호 작용을 시작했다. 다음에 무엇을 듣고 보고 느낄지 예측하려면, 어떤 행동이 취해질지 알아야 했다. 인간은 운동 행동을 대부분 피질이 책임지고 있다. 인간의 신피질은 오래된 뇌의 행동을 토대로 그냥 예측하는 수준에서 그치지 않고, 예측을 실현시키도록 행동을 지시한다.

 

ㅇ 기억 - 예측 기본 틀. 이제 우리는 앨런 튜닝이 잘못된 방향으로 나아갔다는 것을 알 수 있다. 지능의 증거는 행동이 아니라 예측이다.

 

ㅇ 미래 사건을 예측하려면, 당신의 신피질은 패턴의 서열을 저장해야 한다. 적절한 기억을 회상하려면, 유사성을 토대로 과거 패턴들을 불러내야 한다. (자동 연상 회상), 그리고 과거 사건들에 대한 지식이 비슷하지만 똑같지는 않은 새로운 상황에 적용될 수 있도록 기억은 불변 형태로 저장되어야 한다.

 

ㅇ 예측을 하려면, 피질이 사건들의 순서를 기억하고 지식을 저장할 방법이 있어야 한다. 새로운 사건들을 예측하려면, 피질은 불변 표상들을 만들어야 한다.

 

ㅇ [ 대상들의 인식에 관여하는 첫 네 시각 영역들 ]

 

    - 시각 피질 : V1, V2, V3, V4, V5(MT라고도 부름), 총 5가지 영역을 통칭

    - V1: 1차 시각 피질 또는 줄무늬 피질 영역

    - V2 ~ v5: 줄무늬외 시각 피질 영역

    - IT는 하측두피질의 약어. '어떤 물체인지 판단하는 역할. 관자놀이에 위치

    - V5 또는 MT : 중측두피질. '어디에' 물체가 있는지 인지 판단한느 역할. 정수리께 위치

 

ㅇ 피질은 특정한 과제들을 전담한 기능 영역들이 들어 있는 넓은 판 모양의 조직....이 영역들은 정보를 한 영역에서 다른 영역으로 순간적으로 전달하는 커다란 축삭다발을 통해 서로 연결되어 있다. 어느 순간에 섬유 다발들 중 일부가 전기 흥분을 일으킬 것이다. 그것을 활동 전위라고 한다. 섬유 다발의 집단 활동이 바로 패턴을 뜻한다.

 

ㅇ 촉각, 청각, 시각의 불변 표상 형성

 

ㅇ 피질의 핵심 기능이 예측을 하는 것임을 깨닫는다면, 그 모형에 되먹임까지 넣어야 한다. 즉, 뇌는 입력을 받은 영역으로 역방향으로 정보를 보내야 한다. 예측은 일어나는 것과 일어나리라 기대하는 것을 비교해야 한다. 실제로 일어나고 있는 것은 위로 흐르고, 일어나리라고 기대하는 것은 아래로 흐른다.

 

ㅇ 하향 흐름은 현재의 입력에 추가되어, 다음에 무엇을 경험할지 예측하게 해준다. 감각들 사이에서도, 즉 시각, 청각, 촉각 사이에서도 같은 과정이 진행된다.

 

ㅇ 피질은 어떻게 작동하는가? 예측을 하고 통일된 감각 경험을 일으키는 감각 계층 구조로의 상하 정보 흐름

 

ㅇ 감각들이 어떻게 상호 연결되는지 이해하고 나면 신피질 전체, 즉 모든 감각 영역들과 연합 영역들이 하나로서 행동한다는 결론을 내리게 된다. 요점은 모든 예측은 경험을 통해 배운다는 것이다.

 

ㅇ 피질은 어떻게 작동하는가? 피지 계층 구조를 보는 다른 관점

 

- V1은 이웃들과 간접적으로만 연결된, 계층 구조의 상위 영역들을 거쳐서 연결되어 있는 무수한 작은 영역들로 이루어져 있다.

- V2 영역은 자신이 다루고 있는 것이 V1의 여러 부위에서 오는 시각 입력이라는 것을 알 필요가 없다. 연합 영역은 자신이 다루고 있는 것이 시각과 청각 입력이라는 것을 알 필요가 없다. 오히려 피질 영역이 하는 일은 입력들이 어떻게 연관되는지 알아내고, 그것들 사이의 관계를 순서대로 기억하고, 그 기억을 이용하여 다음에 그 입력들이 어떻게 행동할지를 예측하는 것이다. 피질은 피질일 뿐이다. 어디에서나 똑같은 과정이 진행되고 있다. 공통의 피질 알고리듬 말이다.

- 가장 상위 영역인 IT는 하나의 영역일 것이다. IT의 세포들이 시각 영역 전체를 조망할 수 있는 이유도 그 때문이다.

 

 

ㅇ 불변 표상은 모든 피질 영역에서 형성된다. 모든 영역은 하위 계층에 있는 영역에서 받은 입력으로 불변 표상을 형성한다.....피질의 모든 영역들은 계층 구조의 각 지점에서 세계의 불변 표상을 형성하고 있다.

 

ㅇ 이 책에서 가장 중요한 개념 중 하나는 피질의 계층 구조가 실제 세계의 계층 구조에 관한 모형을 저장하고 있다는 것이다. 피질에 깃들인 구조는 실제 세계가 깃들인 구조를 비춘 거울상이다.  ...세상의 모든 대상은 더 작은 대상들의 집합으로 이루어져 있으며, 대상들은 대부분 더 큰 대상의 일부이다......사물들에 대한 당신의 기억과 당신의 뇌가 그것들을 드러내는 방식은 피질의 계층 구조에 저장되어 있다. 당신의 집에 대한 기억은 피질의 어느 한 영역에 들어 있는 것이 아니다. 그것은 집의 계층 구조를 반영하는 피질 영역의 계층 구조에 저장되어 있다. 규모가 큰 관계들은 계층 구조의 위쪽에 저장되며, 규모가 작은 관계들은 아래쪽에 저장된다.

 

ㅇ 당신이 '코'를 응시하면서도 '얼굴'을 지각한다면, 다음 패턴은 '펜'이나 '자동차'가 아니라 '눈'이나 '코'일 가능성이 높다. 피질의 각 영역은 그런 패턴들의 흐름을 본다. 다음에 무슨 패턴이 나타날지 영역이 예측하는 법을 배울 수 있을 만큼 패턴들이 서로 관계를 맺고 있다면, 피질 영역은 그 서열에 대한 지속적인 표상, 즉 기억을 형성한다.

 

ㅇ 피질 영역의 상향식 분류와 하향식 서열은 평생에 걸쳐 끊임없이 상호 작용하면서 변화한다. 이것이 학습의 본질이다. 사실 모든 피질 영역은 유연하므로, 경험을 통해 변화할 수 있다. 새로운 분류를 하고 새로운 서열을 형성하는 것이 당신이 세계를 기억하는 방법이다.

 

ㅇ 카메라의 기억 장치와 달리, 뇌는 세계를 보이는 대로가 아니라 있는 그대로 기억한다. 세계에 관해 생각할 때, 당신은 세계의 대상들이 어느 한 순간에 특정한 감각을 통해 보이는 방식이 아니라, 세계에서 존재하는 방식과 활동하는 방식에 맞는 패턴 서열들을 회상하고 있다.

 

ㅇ 피질의 어는 영역에 있든 간에 불변 표상은 그 패턴을 계층 구조의 아래로 전파함으로써, 감각 기관들에 어떻게 나타날것인가 하는 구체적인 예측으로 전환될 수 있다는 것을 잊지 말자.

 

ㅇ 피질 계층 구조로 올라가는 수렴성 패턴들, 피질 계층 구조를 따라 내려가는 분산성 패턴들, 시상을 거치는 지연 되먹임.

 

 

ㅇ 우리는 관찰된 패턴들이 계층 구조를 따라 올라가고 예측이 그 계층 구조를 따라 내려오는 것을 볼 수 있다.

 

ㅇ 학습의 두 가지 기본 요소는 패턴들을 분류하는 것과 서열을 형성하는 것이다... .서열 형성의 기본 원리는 같은 대상의 일부를 나타내는 패턴들을 하나로 묶는 것이다. 시간적으로 연속되어 나타나는 패턴들을 묶는 것이 한 가지 방법이 될 수 있다... 변화하는 패턴들의 집합을 하나로 묶을 수 있다.

 

ㅇ 특정한 대상 집합을 반복해서 공부한다면, 당신의 피질은 그 대상들에 대한 기억 표상을 점점 더 계층 구조의 아래쪽에 재형성한다. 그럼으로써 상위 영역은 더 미묘하고 더 복잡한 관계를 학습할 여유를 갖게 된다. 이 이론에 따르면, 이것이 바로 전문가가 되는 과정이다.

 

ㅇ 우리는 가장 기본적인 것, 가장 단순한 구조를 학습하는 일부터 시작한다. 시간이 흐르면서 우리의 지식은 피질 계층 구조를 따라 아래로 내려가고, 그럼으로써 계층 구조의 위쪽이 비워져서 고차원적인 구조를 학습할 수 있게 된다. 우리를 경험자로 만다는 것은 바로 이런 고차원적 구조이다. 전문가와 천재는 다른 사람들이 보는 것 이상으로 구조의 구조와 패턴의 패턴을 보는 뇌를 갖고 있다. 당신은 연습을 통해 전문가가 될 수 있지만, 재능과 천재성은 유전적 요소도 분명히 있다.

 

ㅇ 해마는 특정한 사건과 장소에 대한 기억을 저장한다....피질 피라미드의 정상으로 가면, 결국 과거 경험으로는 이해할 수 없는 부분만 남게 된다. 즉 진정으로 새롭고 예기치 않았던 입력 부분만 남는다.....해마로 들어가서 저장되는 것들을 이렇게 설명도 못하고 예견도 못했던 남은 것들, 즉 새로운 것들이다. 이 정보는 영구히 저장되지 않을 것이다. 밑의 피질로 전달되든지, 결국 사라지든지 할 것이다.

 

ㅇ 요점은 어느 종은 지능이 있고 어느 종은 지능이 없다고 꼬리표를 붙이지 말라는 것이다. 모든 생물은 기억과 예측을 이용한다. 단지 사용방법과 정교함이 하나의 연속체를 이루고 있을 뿐이다. 식물들도 기억과 예측을 동원하여 세계의 구조를 이용한다.

 

ㅇ 신피질은 단지 가장 최근에 진화한 신경 조직에 불과하다. 하지만 피질이 계층 구조, 불변 표상, 유추를 통한 예측을 구비하고 있기에, 포유동물은 피질이 없는 동물보다 세계의 구조를 휠씬 더 잘 활용할 수 있다.

 

ㅇ 커다란 신피질 덕분에 우리는 집을 마을의 일부로, 마을을 지역의 일부로, 지역을 지구의 일부로, 지구를 우주의 일부로 볼 수 있다. 즉 구조 내의 구조를 볼 수 있다. 인간 외에 이렇게 깊이 생각할 수 있는 포유동물은 없다.

 

ㅇ 쥐는 평생 많은 패턴들을 배울 수 있지만, "아가야, 이것이 할아버지가 내게 가르쳐 준 전기 충격을 피하는 방법이란다"와 같은 생생한 정보를 전달하지는 못한다. 따라서 지능의 역사는 크게 세 시기로 나눌 수 있다. 모두 기억과 예측을 활용했다.

첫 번째 시대는 종이 DNA를 기억의 매체로 사용하면서 시작되었다. 이 시기에 개체들은 살아가는 동안에는 학습하고 적응할 수 없었다. 그들은 오직 DNA에 담긴 세계에 대한 기억을 유전자를 통해 다음 세대로 전달하는 것밖에 못했다.

두 번째 시대는 자연이 기억을 형성할 수 있는 변형 가능한 신경계를 발명하면서 시자고 되었다.....신피질의 생성과 확장은 이 두 번째 시대에 일어났지만, 아직 엉성한 수준이었다

세 번째이자 마지막 시대는 인간에게만 해당한다. 이 시대에는 언어의 발명 및 우리 신피질의 팽창과 더불어 시작되었다.... 살아가면서 세계의 구조를 많이 학습할 수 있고, 그것을 언어를 통해 많은 사람들과 효과적으로 공유할 수 있다.

 

ㅇ 창조성은 모든 피질 영역의 본질적인 특성이다. 그것은 예측의 필수 요소이다.

 

ㅇ 우리는 다음에 무엇이 일어나야 한다는 불변 기억 회상을 현재 일어나고 있는 구체적인 사건과 결합함으로써 예측을 한다. 예측은 불변 기억 서열을 새 상황에 적용하는 것이다. 따라서 피질의 모든 예측은 유추를 통한 예측이다. 우리는 과거를 유추하며 미래를 예측한다.

 

ㅇ 창조적인 활동....과거를 유추하며 미래를 예측하는 것이다. 우리는 대개 이것을 창조적 활동이라고 생각하지 않지만, 그것은 지극히 창조적인 것이다.

 

ㅇ 예술 작품을 위대하게 만드는 것은 모순된 긴장이다. 우리는 예술이 친숙해지기를 바라지만, 동시에 독특하고 예상을 벗어나기를 바란다. 너무 친숙해지면 모방이나 키치가 된다. 너무 독특하면 거슬리고 이해하기 어렵다. 최상의 작품은 어떤 예상되는 패턴을 타파하는 동시에 우리에게 새로운 무언가를 가르치는 것이다.

 

ㅇ 더 많이 읽거나 볼수록, 창조적이 세부 사항과 구조의 복잡성을 더 많이 알아차리게 된다.....창조성은 당신이 경험했거나 살아오면서 알게 된 모든 것의 패턴들을 뒤섞고 끼워 맞추는 것이다.

 

ㅇ 배움은 우리가 살아가면서 무엇에 노출되느냐에 따라 전적으로 결정된다.

 

ㅇ 창조성도 갈고 닦을 수 있는가? 그렇다. 거의 확실하다.

첫째, 풀고자 하는 문제에 해답이 있다는 것을 진심으로 믿어야 한다... 오랜 기간 끈기 있게 문제를 생각해야 한다.

둘째. 정신이 방황을 하도록 허용할 필요가 있다. 뇌에 해답을 발견할 시간과 공간을 주어야 한다. 어떤 문제의 해답을 찾는다는 것은 말 그대로 세계에 있는 패턴이나 당신이 풀고 있는 문제와 유사한 피질 내에 저장된 패턴을 찾는 것이다.

 

ㅇ 우리의 뇌는 예측 불가능성을 협오하며.....우리 뇌는 일관성 있고 예측할 수 있는 시스템을 선호하며, 우리는 새로운 기술을 배우기 좋아한다.

 

ㅇ 우리 뇌는 늘 패턴을 보고 유추를 한다. 올바른 상관관계를 찾을 수 없을 때, 뇌는 아주 기꺼이 잘못된 상관관계를 받아들인다. 사이비과학, 편협함, 신념, 옹졸함도 잘못된 유추에서 비롯될 때가 많다.

 

ㅇ 의식은 큰 문제가 아닙니다. 저는 의식이 단순히 우리가 피질을 갖고 있다는 느낌이라고 생각해요

 

ㅇ 나는 의식이 선언적 기억 형성과 동의어라고 주장한다. 선언적 기억은 당신이 회상할 수 있고 남에게 말할 수 있는 기억들이다. 그런 기억은 말로 표현할 수 있다. 지난 주 어디를 갔는지 묻는다면, 나는 당신에게 말할 수 있다. 그것이 선언적 기억이다... .자전거의 균형을 잡는 법은 주로 오래된 뇌의 신경 활동과 관련이 있으므로, 그것은 선언적 기억이 아니다......

 

다리를 잘라 버리겠다고 주장하는 사람도 있다.

 

ㅇ 우리 정신이 몸이 죽은 뒤에도 계속 존재한다는 상상을 하는 것은 자연스럽지만, 뇌가 죽으면 정신도 죽는다. 몸보다 먼저 뇌가 쇠약해지면 진실이 명백히 드러난다. 알츠하이머병에 걸리거나 심각한 뇌 손상을 입은 사람들은 몸이 건강해도 정신을 잃는다.

 

ㅇ 이 회로를 '접힘 되먹임'이라고 부른다. 눈을 감고 하마를 상상해보면, 피질의 시각 영역은 실제로 하마를 보고 있을 때와 똑같이 활성을 띨 것이다. 당신은 상상하는 것을 본다.

 

ㅇ 당신의 세계 이해와 그에 따른 당신의 반응은 내부 모형을 통해 나온 예측에 토대를 둔다. 매순간 당신은 세계의 극히 일부만을 직접 감지할 수 있다. 그 일부는 어떤 기억을 불러낼지 규정하지만, 그 자체로는 당신의 현재 지각하는 전체를 구성하기에 부족하다.

 

ㅇ 과거의 경험에 유추하여 어머니가 여기 있다고 예측하는 것은 내 세계 기억 모형이다. 당신이 지각하는 것은 대부분 감각을 통해 오는 것이 아니다. 그것은 내면의 기억 모형을 통해 생긴다. 따라서 '현실이란 무엇일까?'라는 질문은 대체로 세계의 진정한 특성을 반영하는 우리의 피질 모형이 얼마나 정확한가 하는 문제이다. 우리 주변 세계의 많은 측면들은 아주 일관성을 띠고 있기 때문에, 거의 모든 사람들이 그런 것들에 대해 똑같은 내면 모형을 지니고 있다.

 

 

ㅇ 정형화하는 것은....불변 기억(혹은 불변 표상)이라는 말로 대체할 수 있다. 유추를 통한 예측은 정형화한 것을 통해 판단하는 것과 거의 같다....정형화가 바로 피질의 작동 방식이기 때문이다. 정형화는 뇌의 본질적인 특성이다.

 

ㅇ 정형화한 것들이 일으키는 해약을 제거하는 방법은 아이들에게 가짜 정형화된 것들을 깨닫게 하고, 감정 이입을 하는 법과 회의적이 되는 법을 가르치는 것이다. ...우리가 아는 한 사실에서 허구를 몰아내는 방법은 오로지 과학적 방법의 핵심인 회의주의 뿐이다.

 

 

ㅇ  3-4년이 아니라 그 이상으로 기술의 미래를 예측하는 것은 불가능하다. 

 

ㅇ 나는 우리가 인간처럼 행동하거나 인간적인 방식으로 우리와 상호 작용나는 지적 기계를 만들 것이라고는 믿지 않는다. 두 가지 이유가 있다.

 

1) 인간 정신은 신피질뿐 아니라 오래된 뇌의 감정 체계 및 복잡한 신체를 통해 형성된다. 인간이 되려면 피질만이 아니라, 모든 생물학적 기구들을 갖추어야 한다. 모든 문제들에 인간처럼 대화를 하려면 진짜 인간의 경험과 감정을 거의 다 구비하고, 인간처럼 삶을 살아가는 지적 기계가 되어야 할 것이다.

 

2) 인간형 로봇을 만들고 유지하는데 드는 비용과 노력을 생각할 때, 그들이 과연 실제로 쓰일 수 있을지 의심스럽다. 

 

 

ㅇ 지적 기계를 만들려면, 계층 구조를 이루고 피질처럼 작동하는 커다란 기억 체계를 구축할 필요가 있다. 여기서 용량과 연결성이라는 도전 과제에 직면한다.

 

용량: 피질이 32조 개의 시냅스를 가지고 있다고 하자. 각 시냅스를 2비트만 사용하여 나타내고 각 바이트는 8개의 비트로 이루어진다고 하면 약 8조 바이트의 메모리가 있으면 된다. 약 8 Tera 바이트만 있으면 인간의 피질과 같은 양의 기억을 담을 수 있게 된다.

 

연결성: 진짜 뇌는 대량의 피질하 백질을 갖고 있다. 피질의 각 세포는 5천 ~ 1만 개의 세포들로 연결되어 있다. 기존의 실리콘 제조 기술로는 이런 대량의 병렬 배선을 구축하기가 어렵고 아예 불가능하다.....진짜 뇌는 대화하는 세포들끼리 전용 축삭으로 연결되어 있지만, 우리는 연결을 공유하는 전화망에 더 가까운 지적 기계를 만들 수 있다.

 

ㅇ 나는 지적 기계가 지금까지 개발된 그 어떤 기술보다도 가장 덜 위험하고 가장 큰 혜택을 줄 것이라고 본다.

 

ㅇ 지적 기계를 만드는 것과 자기 복제 기계를 만드는 것은 다르다. 둘 사이에는 논리적 연관성이 전혀 없다......자기 복제는 지능을 필요로 하지 않으며, 지능은 자기 복제를 요구하지 않는다.

 

ㅇ 일부 사람들은 지적이 된다는 것이 인간의 정신을 지닌다는 것과 근본적으로 같다고 가정한다. 그들은 인간이 노예가 디는 것을 싫어하므로, 지적 기계도 '노예 상태'에 분개할 것이라고 우려한다.....그런 두려움들은 잘못된 유추에 토대를 두고 있다. 그것들은 지능, 즉 신피질 알고리듬과 오래된 뇌의 감정적 충동들, 즉 공포, 편집증, 욕망 같은 것들이 융합된다는 생각에 토대를 둔다. 하지만 지적 기계는 그런 충동들을 지니지 않을 것이다.

 

ㅇ 지적 기계는 우리가 수고스럽게 인간의 감정을 집어 넣으려 설계를 하지 않는 한, 인간의 감정과 비슷한 것을 갖지 않을 것이다. 지적 기계가 이용될 가능성이 가장 높은 분야는 인간의 지성이 어려워하는 곳, 우리의 감각들이 제대로 기능을 못하는 곳, 우리가 지루해하는 분야가 될 것이다. 대개 이런 분야들에서의 활동은 감정과 거의 무관하다.

 

ㅇ 미래를 예측하는 방법 중 우리가 택할 수 있는 최선의 방법은 포괄적인 경향을 이해하는 것이다. 포괄적인 개념을 이해한다면, 세부 사항들이 어느 쪽으로 전개되는 간에, 그 개념을 올바로 추구할 수 있다.

 

ㅇ 하나는 두뇌형 기억 시스템의 초기 용도를 상상해 보는 것.....두 번째 접근 방식은 무어의 법칙처럼 우리 미래의 일부가 될 가능성이 있는 용도를 상상하는 데 도움이 될 만한 장기 추세를 생각해 보는 것이다.

 

ㅇ  지적 기계의 미래를 엿볼 수 있는 한 가지 방법은 그 기술에서 잘 발달할 측면들을 생각해 보는 것이다. 즉 지적 기계 중에서 점점 더 싸지고, 빨라지고, 작아지는 부분들을 말이다. 지수 성장을 하는 부분들은 우리의 상상을 빠르게 초월할 것이고, 미래 기술에 가장 급진적인 변화를 일으키는 핵심적인 역할을 할 가능성이 가장 높다.

 

실리콘 메모리 칩, 하드디스크, DNA서열 분석 기술, 광섬유 등은 오랜 세월에 걸쳐 지수 성장을 보여온 기술이다.

 

전지, 모터, 기존 로봇처럼 발전이 더딘 기술들도 있다. 로봇공학, 칩설계, SW 확산 같은 것도 지수 성장 곡선을 전혀 보이지 않는다.

 

ㅇ 나는 우리의 능력을 초월할 (지적 기계의) 속성들이 네 가지 있다고 본다. 속도, 용량, 복제 가능성, 감각 체계가 그렇다.

 

1) 속도

   - 뉴런은 밀리초 단위로 작동하지만, 실리콘은 나노초 단위로 작동한다. (백만배 차이)

 

3) 복제 가능성

   - 각 생물의 뇌는 처음부터 성장하고 훈련을 받아야 하며, 인간의 뇌는 그 과정을 거치는 데 몇십 년이 걸린다.

   - 각자는 피질에 세계 모형을 구축하기 위해 똑같은 학습 과정을 밟아가야 한다. 앞서 같은 과정을 밟은 사람들이 무수히 많다고 해도 말이다.

   - 지적 기계는 소프트웨어처럼 복제될 수 있다. 일단 원형 시스템을 흡족할 만큼 갈고 닦고 훈련시키고 나면, 그것을 원하는 만큼 무수히 복제할 수 있다.

 

4) 감각 체계

   - 자연에 존재하는 모든 감각뿐 아니라 인간이 고안해 낸 전혀 새로운 감각을 통해서도 세계를 지각할 수 있을 것

   - 음향 탐지기, 레이더, 자외선 안경 등

   - 당신과 내가 대상들과 사람들을 생각하고 이해하는 것처럼, 우리 날씨 뇌는 지구 날씨 체계를 생각하고 이해할 것이다.

   - 다른 대규모로 분포된 감각 체계들은 동물의 이주, 인구 변동, 질병의 전파를 이해하고 예측하는 지적 기계를 만들 수 있도록 해 줄 것이다.

   - 우리가 그 문제를 풀지 못하는 이유는 주로 인간의 감각들이 우리가 이해하고자 하는 물리 현상들에 맞추어진 것이 아니기 때문이다. 지적 기계는 우리가 풀 수 없는 문제들을 풀게 해 줄 맞춤 감각들과 인간 이상의 기억 능력을 가질 수 있다.

 

--------------------------

 

ㅇ 기계는 사람과 동시에, 혹은 사람에 앞서 환경을 인지하고, 인지한 환경에 대해 사림이 하기 어려운 연산을 통해 문제 해결 방안을 제안하는 방식으로 동작한다.

 

ㅇ 기계는 이미 인간이 보지 못하는 것을 보고, 인간이 들을 수 없는 것을 듣는다. 다만, 그것이 무엇인지 인지하고 판단하지 못할 뿐이다.

 

ㅇ 사실 지금도 내가 판단했는지 내가 읽은 신문이 판단했는지, 내가 판단했는지 어제 본 TV가 판단했는지 모르는 사람들이 대부분이지 않은가