인공지능 개발 이야기 by 야마모토 잇세이

[ 밑줄/자평 ]

 

컴퓨터가 할 수 있는 일은 본질적으로 두 가지 밖에 없다.

첫 번째는 '아주 단순한 계산'이다. 단, 가공할 속도로 처리할 수 있다. 

두 번째는 '기억하기'이다.

 

모든 지적인 행동은 대략 두 가지 행위를 통해 이루어진다. 바로 '탐색'과 '평가'다.

(탐색)

지능이 생존에 유리한 까닭, 그것은 지능이 '미래를 내다볼 수 있는 능력'이기 때문이다.

미래를 에뮬레이션(emulation)하는 방법이 있다. 에물레이션이란 '주관이나 가치 판단을 배제한 채 사물을 추측한다'..

탐색이란 앞날을 올바르게 에뮬레이션하는 것을 뜻함. '1+1=3'으로 예상했다면 제대로 에뮬레이션하지 못한 것

 

(평가)

평가를 제대로 하면 탐색 양을 적절히 줄일 수 있다.

 

탐색과 평가의 조합을 시뮬레이션이라고 한다.

탐색=에뮬레이션 (기계적이고 정확성을 우선시하는 예측 방식)

탐색+평가 = 시뮬레이션 ('평가'를 통해 무엇을 탐색해야 하는지 표시해가며 하는 것이라 더욱 심도 있는 탐색이 가능)

 

기존에 계산 불가능한 문제들 계산 가능하게 만드는 것이 인공 지능 연구의 과제라고도 할 수 있다....

그 분야의 문제가 극히 최근까지 컴퓨터로 계산 불가능한 것으로 여겨지다가 이제 계산 가능해지고 있다.

 

해석성과 성능의 trade-off. 즉 인공지능의 성능이 향상될수록 왜 그렇게 성능이 좋아졌는지는 설명할 수 없는 현상이 나타난 것...이러한 경향은 이제 인공지능 개발에서 하나의 전제, 혹은 원칙 같은 것이 되었다.

 

딥러닝은 환원주의적 사고방식으로는 이해할 수 없다.

 

인간은 '기하급수적 성장'을 직관적으로 이해할 수 없다.

 

몬테카를로 방식을 바둑에 적용시키기.....어떤 국면에서 무작위로 수를 둔 뒤, 그 결과 이겼나, 졌나를 따져 그 정보를 수집하면 된다.......굉장한 발상이다. 평가 한 번 없이 오직 탐색만으로 어떤 수를 둘 것인가 하는 문제를 해결해 버렸다.

 

이런 방식은 지능이 아니란 말은.....'우리 뇌 속의 뉴런이 인접한 뉴런에 신호를 전달하는 것은 지능이 아니다'라는 말과 다를 바 없는 것 같다. 이 세상에는 우리 인간이 지닌 것 이외의 지능이 존재한다는 이야기다.

--> 동의한다. 정확히는 지능이란 개념적 정의는 인간이 내린 것이니까 그런 정의는 인간의 정의이다. 다만 인간이 알고 있고, 정의한 '지능'이란 것이 '인간이 알고 있지 않은 방식으로 작동하는 지능도 존재한다'. 정도가 아닐까 싶다.

 

(앎의 본질)

1. 인간만 있을 경우 (천재와 보통사람 사이에 존재)

2. 인간과 동물이 있을 경우 

3. 인공지능, 인간, 동물이 있을 경우

-->WoW.... '앎의 본질'에 대한 멋진 비유와 설명. 생각해 볼 만하고, 어디에서도 본 적이 없는 독특한 생각이다. 

 

지성: 목적을 설계할 수 있는 능력

지능: 탐색과 평가로써 목적지에 다다르는 길을 찾아내는 능력

--> 따지고 들면 이렇게 단순하지 않다. 아직 인간은 '지능'의 정의도 합의를 못하고 있다.

--> 하워드 가드너 (Howard Gardner) 하버드대 교수는 600 페이지가 넘게 지능에 대한 책을 썼다.

오늘날 인공지능은 '지능'이라는 틀 안에서는 이미 인간을 능가하려 하고 있으며 일부 분야에서는 완전히 능가한 상태다. 그러나 '무엇을 해야 하는가?'라는 목적을 설계하는 능력, 즉 지성은 인공지능이 아직 지니지 못한 능력이다.

---> 애닯다. 인공지능 전문가들에게 인공지능을 넘은 인간만의 무엇?을 기대하기는 어려울 것 같다. 너무 단순하고 2차원 (높다/낮다로 대별시키는)적이고, 억지스럽다.

 

인간은 모든 것에서 의미를 발견하고 이야기의 형태로 받아들이려 한다. 지성은 인간으로 하여금 인공지능에 맞먹는 Performance를 발휘하기도 하지만 한편으로는 의미나 이야기에서 벗어나지 못하게 하는 제약으로 작용하기도 한다.....

인공지능이 진정한 의미에서 인간을 뛰어넘으려면, 이 세계를 이야기로 해석할 줄 알아야 하고, 중간 목적을 스스로 설정하는 지성도 갖추고 있어야 한다.

 

나는 특이점은 반드시 온다고 본다....특이점 이후, 인류는 인공지능을 통제할 수 없게 될 것이다. 곤충이 인류를 통제할 수 없듯, 지적 능력에서 열위에 있는 존재가 우위에 있는 존재를 뜻대로 주무를 수는 없다.

---> 많은 어폐가 있다. 인간보고 누가 곤충을 통제하라가 한 것도 아니고 인간이 모든 것을 통제해야 하는 것도 아니다. 지능을 무기로 통제하는 것이지.....또한 우리가 곤충을 통제할 수 있다고 해서 곤충을 다 일부러 멸종을 시키는 것도 아니다. 그렇게 보면 우리 보다 더 나은 지능이 우리를 포함한 곤충까지 통제하는 것에 왜 불만과 위험을 느낄까? 

 

적어도 이번 세기 말경에는 인공지능이 인간을 졸업해서 '초지능'이 탄생할 것이다. 이는 거의 확정적인 일이다. 이때 그 초지능을 인류가 실망시키지 말아야 한다......'좋은 사람 이론'.... 아마도 인류가 '좋은 사람'으로 존재한다면 인공지능은 특이점이 온 후로도 존경의 마음으로 인류를 대할 것이다.

 

[ 자평 ]

 

왜 읽었을까? 하는 책이 있다.

들인 돈과 시간이 좀 아까워지는 책이 있다.