기계는 어떻게 생각하고 학습하는가? by 뉴 사이언티스트 외

[ 밑줄/연결]

 

인간의 지능에 근접하기 위해서는 시스템이 특정 작업만 모델링하는 것이 아니라 그 작업이 일어나는 세계를 모델링해야 한다. 즉, 환경을 감지하고 그에 따라 적절히 행동을 변경하고 조정하면서 동작해야 한다. 불확실한 환경에서도 올바른 결정을 할 수 있어야만 지능을 가진 기계라 부를 수 있다.

 

튜링은 만약 어떤 기계의 반응을 인간에게 기대하는 반응과 구별할 수 없다면, 그 기계가 지능을 가졌다고 판단할 수 있다고 했다.

 

힐베르트는 2+2 = 4와 같은 수학적 명제가 모두 '결정가능 decidable'한지 알고자 했다. 다시 말해, '어떤 수학적 명제가 주어져도 이 식이 참인지 거짓인지 결정할 수 있는 단계적 절차가 존재하는가?라는 질문으로, 수학자들에게는 근본적인 문제였다. 

 

사실 튜링의 결론은 컴퓨터가 할 수 없는 일의 가짓수는 무한이라는 것이었다.

 

기호추론은 생각과 개념을 단어, 구문, 문장과 같은 기호로 표현하고, 이 기호들을 논리규칙에 따라 처리하는 수학적 접근법이다. 

 

답을 찾기 위해 문제를 완전히 이해할 필요는 없다. 많은 데이터를 가지고 결합해 유용한 상관관계를 뽑아낼 수 만 있으면 된다.

 

단순한 통계적 기법들을 아주 많은 양의 데이터와 결합하면 몇 십 년간 최고의 이론가들조차 달성하지 못한 목표와 비슷한 수준의 결과들이 나온다는 것이다.

 

기계적 행동이란 고정되고, 예측가능하며, 경직된 행동이었다.

 

프로그래머는 사용자의 의도나 사용자가 쓰는 언어의 복잡한 문법규칙에 대한 모델을 개발한 적이 없다. 그보다는 알고리즘이 다음에 가장 높은 확률로 사용될 단어를 추천하는 것이다. 

 

언어 자체에 대해서는 전혀 알지 못하고, 아주 많은 단어와 구절들의 조합의 상대적 빈도만 알고 있다....그냥 단어 단위로 다음에 어떤 단어가 올 가능성이 높은지를 계산한다. 인공지능에게는 전부 확률 문제일 뿐이다.

 

인공지능의 결정은 추천이자, 수학적 확률에 불과하다. 

 

인간의 뇌는 1,000억 개의 뉴런을 연결하는 100조 개의 시냅스 망이다. 이 뉴런의 대부분은 초당 10번에서 100번까지 상태를 바꾼다. 

 

인간의 지능에 근접하기 위해서는 시스템이 특정 작업만 모델링하는 것이 아니라 그 작업이 일어나는 세계를 모델링해야 한다. 즉, 환경을 감지하고 그에 따라 적절히 행동을 변경하고 조정하면서 동작해야 한다. 불확실한 환경에서도 올바른 결정을 할 수 있어야만 지능을 가진 기계라 부를 수 있다.

 

튜링은 만약 어떤 기계의 반응을 인간에게 기대하는 반응과 구별할 수 없다면, 그 기계가 지능을 가졌다고 판단할 수 있다고 했다.

 

힐베르트는 2+2 = 4와 같은 수학적 명제가 모두 '결정가능 decidable'한지 알고자 했다. 다시 말해, '어떤 수학적 명제가 주어져도 이 식이 참인지 거짓인지 결정할 수 있는 단계적 절차가 존재하는가?라는 질문으로, 수학자들에게는 근본적인 문제였다. 

 

사실 튜링의 결론은 컴퓨터가 할 수 없는 일의 가짓수는 무한이라는 것이었다.

 

기호추론은 생각과 개념을 단어, 구문, 문장과 같은 기호로 표현하고, 이 기호들을 논리규칙에 따라 처리하는 수학적 접근법이다. 

 

답을 찾기 위해 문제를 완전히 이해할 필요는 없다. 많은 데이터를 가지고 결합해 유용한 상관관계를 뽑아낼 수 만 있으면 된다.

 

단순한 통계적 기법들을 아주 많은 양의 데이터와 결합하면 몇 십 년간 최고의 이론가들조차 달성하지 못한 목표와 비슷한 수준의 결과들이 나온다는 것이다.

 

기계적 행동이란 고정되고, 예측가능하며, 경직된 행동이었다.

 

프로그래머는 사용자의 의도나 사용자가 쓰는 언어의 복잡한 문법규칙에 대한 모델을 개발한 적이 없다. 그보다는 알고리즘이 다음에 가장 높은 확률로 사용될 단어를 추천하는 것이다. 

 

언어 자체에 대해서는 전혀 알지 못하고, 아주 많은 단어와 구절들의 조합의 상대적 빈도만 알고 있다....그냥 단어 단위로 다음에 어떤 단어가 올 가능성이 높은지를 계산한다. 인공지능에게는 전부 확률 문제일 뿐이다.

 

인간의 지능이 인간이 세계를 감각으로 느끼고 상호작용하는 방식과 연결되어 있다고 생각할 수 있는 많은 근거들이 있다.....인지과학자인 조지 레이코프는 인간의 지능 또한 인간의 신체와 감각이 환경과 상호작용하는 방식과 분리할 수 없이 결합되어 있다고 주장했다. 

---> 이 문장은 아마 '조지 레이코프 (George Lakoff)'의 아래 책에 나올 것이다.

---> 조지 레이코프는 아래 책으로 국내에서 더 유명하다. 

 

느낌이란 지능과 의식을 잇는 중요한 연결다리일 수 있다. 몇몇 인지 과학자들은 기초적인 강화 매커니즘인 불안감과 안도감과 같은 것들이 바로 인간의 의식이 작용하는 방식과 같다고 생각한다. 의식작용에서 '느낌'(빨간색을 보거나, 고통을 느끼는 것과 같은 내부 경험)이란 고차원 인지 능력이 아니라 세계와의 단순한 상호작용에서 발생한다.

 

기계가 아직 역부족인 영역 중 하나는 물리적 세계와 상호작용하는 일이다. 

 

상식과 비지도학습에 주목해야 한다. 그것이 바로 인간과 동물이 대부분 취하는 학습 방식이기 때문이다. 

 

은유는 인간이 한 영역에서 다른 영역으로 지식을 확장하고 투사할 수 있는 인지적 지렛대입니다.....예를 들면, "인생은 게임이다"라는 말은 인간의 '인생'에 대한 개념을 확장시킨다.

 

머리 셰너헌에 따르면, 미래 인공지능의 다양한 종류 중에는 인간을 닮긴 했지만 의식이 없는 '좀비' AGI, 그리고 인간보다도 더 지각과 의식이 있는 인공지능까지 포함될 것이라고 한다. 

---> 머리 샤나한 (Murray Shanahan)의 책은 한 권이 국내 번역이 되어 있다. 

 

로저 생크는...."사람들이 얘기하는 인공지능은, 진짜 인공지능을 의미하는 것이 아닙니다. 그저 단순 연산을 매우 많이 반복하는 것을 의미합니다........인공지능 거품은 훅 꺼질 수 있습니다......문제의 시작이자 끝은 결국 인공지능이란 용어예요. 그냥 '컴퓨터로 할 수 있는 멋진 일'이라고 부르면 안될까요?"

 

 

[ 자평 ] 인공지능 분야의 기라성 같은 분들을 글을 모은 책이라 한번 읽어 볼만하다.