인공 지능은 뇌를 닮아 가는가 by 유신

[ 읽은 이유 ]

 

궁금했다.

인공지능과 뇌의 차이가 무엇일까?

인공지능은 어디 까지 와 있을까?

 

[ 배운 점 ]

 

인공지능의 기본적인 역사에 대하여 상식 수준에서 scan할 수 있는 정도의 글이다.

어디가서 이 정도는 들었다고 할 수 있을 지언정 인공지능을 안다라고 할 수 는 없다.

 

E=mc 제곱은 누구나 다 아는 방정식이다.

그 방정식이 의미하는 것이 무엇인지를 아는 것은 또 다른 차원의 문제이다.

그 방정식을 도출할 수 있는 것은 또 다른 차원의 또 다란 차원이다.

 

결론적으로 인공지능은 뇌를 닮아 가는지? 아닌지? 답도 없고,

닮아 가는 중인지? 아닌지에 대한 답도 찾지 못했다.  나는......

 

[ 주요 내용 ]

 

ㅇ 이제 우리는 지능이 한 번에 잘 설계해서 만들 수 있는 SW가 아니라, 방대한 경험과 반복된 학습을 통해 개발되는 능력에 가깝다는 것을 안다.

 

ㅇ 일상적인 언어는 합리적인 사상을 피력하기에는 충분히 논리적이지 않다는 것이다. 즉 이성적인 사상을 전개하고 교환하는 데는 일상 언어보다는 기하학이나 대수학과 같이 추상적인 기호를 사용하는 것이 더 낫다는 것이었다.  철학자 토마스 홉스는 '리바이어던'에서 "이성적 사고를 한다는 것은 곧 계산을 한다는 것이다"라고 주장했다. 라이프니츠는 "논리적인 기호 체계를 이용하면 철학은 곧 계산이 될 것이다"라고 했다.  기호를 통한 사고를 '정형적 추론'이라고 한다....."사과 한 개를 갖고 있는 엄마가 두 개를 주면...." --> '1+2=3' : 화자가 사용하는 언어와 관계없이 동일한 개념을 명확하게 표현할 수 있다.

 

ㅇ 인공 지능 관점에서 더욱 중요한 것은 정해진 규칙만 따르면 기호 체계를 '기계적'으로 조작할 수 있다는 점이다. 예를 들면 (a＋b)²=a²＋2ab＋b²

문제를 풀 때 매번 공식을 유도해서 계산하지는 않는다. 기계적으로(거의 자동으로) 해당 공식을 적용하기 위해서다....대당 기호를 다룰 줄만 알면 기계도 인수분해를 할 수 있다는 뜻이다.

 

ㅇ 정형적 추론으로는 절대 답을 구할 수 없는 문제가 존재한다는 것이 증명된 것이다. 이게 왜 역설적인 과정이냐하면 결정 문제에 '아니오'라고 답하기 위해 튜링이 구상해 낸 상상 속의 기계, 이른바 보편 튜링 기계가 오늘날 우리가 사용하는 모든 컴퓨터의 청사진을 제시했기 때문이다.....보편 튜링 기계는 디지털 컴퓨터라는 형태로 구체화되었고 인공 지능은 컴퓨터에서 실행되는 SW로 구현될 수 있게 된 것이다.

 

ㅇ 1971년 스티븐 쿡(Stephen Cook)은 '공리 증명의 복잡도'에서 튜링 기계로 풀기엔 너무 복잡한, 다시 말해 시간이 엄청나게 걸리는 문제가 존재한다는 개념을 소개한다. ...즉 NP문제....예를 들면 자동차로 가장 짧은 거리만을 운전해서 x개의 도시를 모두 방문하려 할 경우의 방문 순서....

 

ㅇ 예를 들어 우리는 '새는 난다' 다시 말해서 'X가 새이다가 참이면 X가 난다도 참이다'는 명제를 일상적으로 큰 무리가 없이 받아들일 수 있다. 그렇지만 날지 못하는 펭귄도 새다. 고전 논리의 단가성과 우리에게 친숙한 연역적 삼단논법을 결합하면 '펭귄은 새이다. 새는 난다. 따라서 펭귄도 난다.'라는 결론을 내릴 수 밖에 없다. 결국 여기에서 문제가 되는 것은 새로운 지식을 습득하면서 기존에 잘못 알고 있던 결론을 수정해야 할 경우, 고전 논리 체계로는 이를 마땅히 표현할 방법이 없다는 것이다.

 

ㅇ 결국 고전 논리 체계의 한계는 인공 지능 연구자들과 논리학자들을 새로운 논리 체계, 이른바 양상 논리 (modal logic)을 구상하는 작업으로 내몰았다. 양상(modality)이란 주어진 진술의 당위성, 가능성 등을 뜻하낟. 고전 논리로는 'A이면 B이다'라고밖에 말할 수 없었던 데 비해 양상 논리는 'A이면 B일 수 있다'라든지, 'A이면 B라고 믿는다'라는 식의 서술을 정형 기호를 통해 표현하고 조작할 수 있게 해준다.

 

ㅇ 현재의 인공 지능이 이룩한 성과 중 많은 부분은 지느에 대해 새로운 접근 방법이 발견되었기 때문이 아니다. 접근 방법 자체는 예전과 변한 게 거의 없지만, 엄청나게 발전한 컴퓨터 하드웨어 덕분에 똑같은 알로리즘이 이전보다 휠신 더 빨리 실행되기 때문에 얻어진 성과다.

 

ㅇ 인공 지능은 기계로 지능을 구현하는 것이다. 그런데 지능은 한 가지 지능만 가지고 있지 않다. 우리 뇌는 수학 문제도 풀 수 있지만 문학 작품을 읽고 이해할 수도 있으며, 농담에 웃고 슬픈 이야기에 울줄도 안다.

 

ㅇ 튜링 기계를 이해하기 위해 먼저 알아야 할 용어는 알로리즘이다. 알고리즘이란 주어진 계산을 기계가 수행할 수 있도록 계산 과정을 정형적 기호를 이용해 단계별로 적어 놓은 지시 사항이라고 할 수 있다. 중요한 것은 '기계가 수행할 수 있도록'이라는 부분이다.

 

ㅇ 1928년 힐베르트는 결정 문제를 제시했다. "입력으로 주어진 임의의 일차 논리식이 주어진 공리하에 참인지 아닌지를 결정할 수 있는 알고리즘이 존재하는가?' ....결국 힐베르트가 물은 것은 정형 추론, 즉 알고리즘으로 계산이 불가능한 문제가 있느냐는 것이다. 라이프니츠가 궁금해했던 바로 그 질문이다. 결정 문제에 대한 답이 '예'라면 어떤 계산 문제든지 그에 해당하는 1차 논리식을 구한 다음 만능 알고리즘에게 질문만 하면 될테니 말이다.

 

ㅇ 괴델의 불완정성 정리.....산술 체계처럼 내부에 모순이 없는 공리체계는 모두 참이지만 그 자체 안에는 증명이 불가능한 명제가 포함돼 있다. 또한 공리 체계는 자기 내부에 모순이 없음을 스스로 증명할 수 없다. 말하자면, 괴델은 하나의 공리 체계인 수학은 수학을 이용해서 수학 자체에 모순이 없음을 증명할 수 없다고 단언한 것이다. 그 자체로서 완결하고 모순이 없는 아름다운 수학적 체계를 원했던 수학자들에게 이는 쉽게 받아들일 수 없는 엄청난 선언이었다.

 

ㅇ 튜링은 어떤 알고리즘도 참/거짓 중 하나로 답을 결정할 수 없는 (불완전성 정리의 표현을 빌면, 참/거짓을 증명하기가 불가능한) 문제가 존재한다는 반례를 들어서 '아니오'라는 답을 이끌어 냈다. 이 과정에서 튜링이 남긴 중요한 결과물이 두 가지가 있는데, 하나는 계산 가능성 이론이고 또 하나가 튜링 기계이다. 계산 가능성 이론은 주어진 문제의 답이 계산 가능한지 아니면 아예 결정 불가능인지를 연구하는 이론으로, 수학 이론의 범주에 속한다. 튜링 기계는 튜링이 계산 가능성 이론을 탐구하면서 이용한 사고 실험 속의 기계로, 주어진 알고리즘을 수행 할 수 있는 가상의 기계이다. 튜링이 상상한 기계는 반도체를 이용한 오늘날의 컴퓨터보다는 배비자가 만들려고 시도했던 분석 기관에 더 가까워 보인다.

 

ㅇ 어쩌면 지능에 대한 유일한 정의는 '미리 정의하는 것은 불가능하되 지능을 가진 존재끼리는 서로 알아본다'는 것일지도 모른다.

 

ㅇ 한스 모라벡....고도의 추상적,논리적인 작업은 얼마 안 되는 계산량을 통해서 수행할 수 있는 반면, 운동 능력이나 감각 능력을 사용하는 작업에 필요한 계산량은 엄청나게 많기 때문이다...언뜻 우리의 직관과는 배치돼 보이는 이 결론을 '모라벡의 패러독스'라고 한다.

 

ㅇ 이유는 인류의 긴 진화과정에서 찾는다. 모라벡에 따르면 인간과 똑같은 인공 지능을 만드는 것은 수억 년에 걸쳐 진화한 생명체인 인간의 작동 원리를 밝혀내고 재구성하는 일종의 역공학이다. 인간의 작동 원리 중 운동 능력이나 감각 능력처럼 동물적 본능에 가까운 능력일수록 오랜 진화 과정을 통해 최적의 상태로 다듬어져 있으므로, 이를 재구성하는 것이 더 어렵다는 것이다. 반면, 추상적, 논리적인 사고를 하는 지능은 상대적으로 새로운 능력이므로, 진화 과정을 통해 다듬어질 시간과 기회가 부족했고 그 결과 역공학을 통해 재구성하는 것이 더 쉽다는 것이다.

 

ㅇ 사람처럼 생각하는 기계가 가장 어려워하는 점은 복잡한 수학 문제가 아니라 걷기, 뛰기, 듣기, 보기, 만지기인 것이다.

 

ㅇ 기계학습은 인공 지능의 다양한 갈래 중 가장 성공한 분야 중 하나이다. 기계 학습에서 말하는 학습이란 주어진 자료를 분석해서 일반화된 법칙을 이끌어 내는 것이다.

 

ㅇ 기계 학습 알고리즘은 학습에 사용한 자료의 양이 많으면 많을수록 더 정확한 결과를 내놓는다. 사람에 비유하자면, 더 많은 것을 경험한 사람일수록 지식이 풍부하다고 할 수 있는 것과 같다. ....만약 알고리즘에 주어지는 자료가 편파적일 경우, 기계 학습은 올바른 확률적 지식을 얻을 수 없다.

 

ㅇ 약한 인공 지능의 합격 기준에 비해 강한 인공 지능은 의식, 자유의지, 창의력, 상상력과 같이 고차원적인 개념과 연결되어 있다. 기술적으로 이런 개념을 어떻게 구현할 것인가의 문제 이전에 대답해야 할 여러 질문들이 있다.

 

- 의식과 자의식은 인간에게만 고유한 것인가?

- 의식 없는 지능의 존재가 가능한가?

- 자유의지는 지능에 필수적인 존재인가? 만약 그렇다면 우리는 기계가 자유의지를 갖길 원하는가?

 

ㅇ 인공 지능을 바라보는 관점에는 크게 두 가지가 있다. 계산주의와 연결주의다. 계산 주의는 인간의 뇌가 개념과 정보를 기호로 저장한 뒤 이를 마치 방정식을 풀 듯 조작함으로써 문제를 해결하거나 사고를 펼쳐 나간다고 본다. 따라서 인공 지능도 같은 방식으로 구현될 수 있다는 것이다. 반면 연결주의는 뇌의 생물학적 기저에 집중해 인공 지능 프로그램은 뇌를 구성하는 뉴런의 연결 방식을 닮아야 한다고 말한다.

 

ㅇ "진짜 위험은 컴퓨터가 사람처럼 생각하는 게 아니라,

     사람이 컴퓨터처럼 생각하는 것이다. "  - 시드니 해리스(미국 언론인) -

 

ㅇ 계산주의는 인간의 뇌가 작동하는 방식이 일련의 논리적인 기호들을 조작하는 일종의 계산 과정이라고 본다. 다시 말하면, 우리의 뇌가 일종의 보편 튜링 기계와 같다고 간주한다. 인간이 하는 생각은 다양한 알고리즘이고, 뇌는 단지 그러한 알고리즘을 실행할 뿐이라는 것이다.

 

ㅇ 결론적으로 세상 모든 물체를 속성의 집합으로 표현하는 것은 불가능에 가까우며, 설사 정확도를 어느 정도 포기함으로써 가능해진다고 하더라도 엄청난 양의 저장 공간을 필요로 하기 때문에 실용적이지 않다.

 

ㅇ 실제 지능적인 활동은 컴퓨터가 행하는 기호의 조작보다는 사람이 개념을 기호로 치환하는 과정에서 더 많이 벌어진다. 사람은 치환 과정에서 기호가 나타내는 원래의 개념을 이해하지만, 컴퓨터에게 기호는 말 그대로 기호일 뿐이기 때문이다.

 

ㅇ 인간의 지능도 복잡 미묘한 개념을 언어라는 '기호'를 통해 다룬다는 점을 생각해 보면, 기호의 조작을 통한 지적 활동이라는 계산주의의 기본적인 전제 자체를 버리는 것은 옳지 않다....구조적인 유사성을 통해 복잡한 개념을 이해하고 발전시킨다는 발상 또한 근본적으로 타당한 것으로 보인다. 문제는 '개념 X를 기호 Y로 나타내자'고 했을 때 컴퓨터가 주어진 기호의 의미를 해석할 수 있는 방법이 전혀 없다는 점이다. 개념 X가 고양이나 사과가 아닌 추상적인 개념일 경우에는 더욱 그렇다.

 

ㅇ 사물을 인지할 수 있게 된 다음에야 이를 바탕으로 추상적인 개념을 형성할 수 있을 것이고,.....카메라에 보이는 것이 고양이인 줄 어떻게 알아채야 할까? 이 질문에 대한 답은 계산주의에서는 찾을 수 없다.

 

ㅇ 지금까지의 인공 지능 역사에서 지각 능력에 탁월한 능력을 보인 것은 단연 연결주의적 접근 방법이다.

 

ㅇ 계산주의는 지능의 문제를 추상적인 기호의 체계로 치환하려고 했다. 이에 반해 연결주의는 지능을 하나의 강력한 논리적 체계가 아니라 매우 간단한 기능만을 가진 작은 단위들이 서로 복잡하게 연결된 상태에서 얻어지는 발생적인(emergent) 현상이라고 본다.

 

ㅇ 가장 이해하기 쉽고 또 널리 사용되는 연결주의적 접근은 뇌의 신경망의 구조에 기반을 둔 것이다. 신경망 모델에 따르면 어떤 순간 인간의 정신 상태는 복잡한 신경망 내에서 어떤 뉴런이 얼마나 활성화되어 있느냐로 나타낼 수 있고, 기억은 뉴런들이 연결된 구조를 변형함으로써 저장된다. 앞서 말한 '작은 단위'를 해석하는 것은 이론에 따라 다른데, 각각의 뉴런 한 개로 보는 입장도 있고 어려 뉴런의 집합으로 보는 입장도 있다.

 

ㅇ 연결주의 인공 지능에서 가장 성공적인 것이 인공 신경망이다. 연결주의 인공 지능은 H/W, 즉 우리의 뇌를 모방함으로써 탈출구를 찾는다. 컴퓨터를 이용해 뉴런 연결망이 하는 기능을 흉내 냄으로써 궁극적으로 지능을 성취하려는 시도인 것이다.

 

ㅇ 인간의 지능이 제아무리 강력하고 신비한 존재라 하더라도, 물리적인 차원에서 보면 뇌 안에 연결된 뉴런들이 주고받는 전기 신호의 상호작용으로 벌어지는 현상이다. 그렇다면 신경 연결망의 기능을 흉내 냄으로써 지능도 흉내 낼 수 있지 않을까? 이것이 연결주의 발상이다.

 

ㅇ 각각의 노드가 하는 역할은 매우 단순해서, 자기보다 앞쪽 (다시 말해서 입력에 가까운 쪽)에 있는 노드들이 내놓은 출력값을 모두 취합한 다음 이를 바탕으로 스스로를 활성화할 것인지 아닌지를 결정하는 것 뿐이다.

 

ㅇ 인공 신경망의 핵심은 바로 각 노드가 사용하는 가중치에 있다. 입력 신호가 노드 한 단계를 지날 때마다 새로운 가중치가 적용되고, 최종적으로 출력 활성값이 결정된다....'실수로부터의 학습'은 오른쪽에서 왼쪽 방향으로 벌어진다...

 

ㅇ 반복되는 실수와 역전파 학습을 거칠수록 인공 신경망의 정확도는 향상된다.

 

 

ㅇ  4*6 격자망은 카메라의 화소 데이터...

  1) 격자의 각 칸을 입력 노드 한 개씨과 연결

  2) 해당 격자가 주로 검은색이면 입력값이 1, 주로 흰색이면 입력값이 0

  3) 이 인공 신경망이 숫자를 읽으려면 화소 데이터에 보이는 숫자에 해당하는 출력 노드의 활성값이 가장 커야 한다. 따라서 이상적인 학습 데이터는 다음과 같다.

 

   - 화소 데이터 1: 출력 노드 1의 활성화 값만 1. 나머지는 모두 0

   - 화소 데이터 2: 출력 노드 2의 활성화 값만 1. 나머지는 모두 0

    '''''

   - 화소 데이터 9: 출력 노드 9의 활성화 값만 1. 나머지는 모두 0

 

ㅇ 이 인공 신경망을 훈련하면, 숫자를 읽을 수 있는 인공 신경망이 태어난다. 1부터 9까지의 숫자를 모두 정확히 구별할 수 있을 때까지 역전파 학습을 통해 가중치를 조절하면 되는 것이다.

 

ㅇ 인공 신경망의 장점 중 하나는 노이즈에 강하다는 것이다.

 

ㅇ 심화 학습(딥 러닝) 구조를 따르는 신경망은 단순히 입력과 출력 사이에서만 학습을 행하는 것이 아니라 각각의 층위 사이마다 학습을 행해야 한다. 다시 말해서, 기하학적 구성 요소로부터 바로 오토바이를 학습하는 대신, 그로부터 바퀴나 운전대 등의 개념을 학습하고 다시 관찰된 바퀴의 개수에 이륜차와 사륜차라는 개념을 학습하며, 엔진에 해당하는 것이 관찰되었는지에 따라 최종적으로 자전거인지 오토바이인지를 학습한다는 식이다.

 

ㅇ 심화 학습에도 약점은 있다 . 그 중 하나는 다양한 층위의 개념을 효과적으로 학습하려면 은닉층 및 중간 노드의 개수가 크게 증가하는데, 이를 구현하기 위해서는 엄청난 양의 연산 능력이 필요하다는 것이다.

 

ㅇ 계산주의는 고차원적이고 추상적인 체계이며, 따라서 사람이 논리나 수학과 같은 추상 체계를 다루는 법을 잘 설명한다. 반면 연결주의는 지능의 HW를 설명하는 이론이며, 따라서 좀 더 본능적이고 생물학적인 기능 (예를 들어 시각과 같은 감각)을 더 잘 설명한다. 심화 학습 이론 (딥 러닝)의 성공은 두 가지 관점이 서로를 보완할 수 있다는 가장 설득력 있는 증거일지도 모른다. 심화 학습에서 중간 개념에 해당하는 은닉층 노드들은 계산주의에서 말하는 기호와 유사한 점이 많기 때문이다.

 

ㅇ 최근의 뇌과학 연구 결과에 따르면 우리 뇌가 실제로 작동하는 방법 또한 기호 기반의 계산주의와 연결망 기반의 연결주의의 양면을 모두 보인다고 한다.  뇌의 구조 자체는 연결주의로 설명되지만 우리가 특별한 관심을 두는 개념이나 사람의 얼굴은 '개념 뉴런'이라 불리는...

 

ㅇ 인류 지식의 상당 부분이 인터넷에 담겨 있다는 사실만큼이나 중요한 것은, 그 지식이 이미 컴퓨터가 읽을 수 있는 전자적인 자료 포맷으로 저장되어 있다는 점이다.

 

ㅇ 로드니 브룩스...."애초에 왜 실제 세계를 재현하려고 하는가? 인공 지능에 감각 기관을 장착한 뒤 일정 시간마다 필요한 정보를 관찰해서 얻으면 되지 않는가?" 실제 세계를 컴퓨터 내부에 재현하는 대신, 컴퓨터로 하여금 물리적인 환경 안에서 실제로 존재하고 행동하도록 하는 것이 지능으로 향하는 실마리라는 것이다.

 

ㅇ 모라벡의 패러독스는 고차원적 인지 능력과 저차원적인 감각 및 근육 운동 능력을 철저히 분리해서 생각하기 때문에 일어나는 현상이다. 인지 능력이 감각 및 근육 운동 능력과 엮여 있다면, 고차원적인 지능만을 재현하려고 한 기존의 인공 지능 연구 방향은 크게 잘못된 것이 된다.

 

ㅇ 복잡한 행동은 기초적이고 단순한 행동 여러 개가 동시에 상호작용함으로써 발생한다.

 

ㅇ 강한 인공 지능 연구는 그야말로 인간의 지능을 똑같이 복제한다는 원대한 목표로 시작했지만 근본적인 벽에 부딪힌 상황이다. 반면 약한 인공 지능 연구는 실용적인 성과를 내놓았음에도 본질적으로 반복 계산을 통한 통계적 관찰에 지나지 않아 조금 시시해 보인다. 최근 성과들은 대부분 강한 인공 지능을 목표로 한다기보다는 지능의 특정한 면에 집중해 실질적인 결과를 내놓을 수 있는 분야에서 나오고 있다.

 

ㅇ 우리가 지금까지 보아 온 인공지능이라 사실 인간에 의해 작성된 프로그램이 빠른 속도로 실행되며 방대한 데이터를 참고해 기계적으로 행동하는 것에 지나지 않는다. 과연 인공지능이 즉흥성, 창의성, 개성과 같은 특징을 갖추고 나아가 자의식을 가질 수 있을까?