머신러닝 기술의 이해 by 김지연, 박주영, 박정호, 김재인, 김태환

[ 밑줄 ]

 

인간은 한 번도 본 적이 없는 새로운 모양의 고양이나 개가 등장하더라도 아주 쉽게 알 수 있다.

그것은 고양이 자체를 안다기보다 고양이와 고양이가 아닌 것 사이(관계)를 아는 것에 가깝다.

고양이를 개별로 파악하는 것이 아니라, 전체 맥락 안에서 그것이 고양이라는 것을 파악하는 것이다.

 

튜링은 1937년 논문에서 '생각하는 기계'(thinking machine)개념을 창안했다.

튜링은 판단불가능한 명제가 존재하는지를 확인하기 위한 수학적 도구(기계)를 만들고 있었다.

그래서 이 논문은 괴델을 불완전성 명제를 재증명한 것으로 평가받고 있다.

튜링은 "모든 논리적 체계는 자기 자신의 논리적 일관성을 증명하지 못한다."는 괴델의 명제가 기계의 완전성 문제에도 적용된다는 것을 알고 있었다. 다시 말해서 '완전한 기계'는 스스로 불완전하다는 것이다.

 

튜링기계의 부품은 4가지로 구성으로 단순하다.

 

(1) 무한히 많은 칸을 가진 테이프, 각 칸은 유한개의 알파벳으로 채워진다. 그 알파벳은 두 개 이상의 기호로 구성되어야 한다. 이 테이프는 확장가능하다.

 

(2) 헤드(head). 테이프에 쓰인 기호를 읽거나 쓰거나 왼쪽에서 오른쪽으로 이동한다.

 

(3) 상태 기록 장치(state register). 이 기계의 상태를 저장한다.

 

(4) 작동 규칙표(action table or trasition function). 기계가 어떤 기호를 써야 하는지, 어느 방향으로 이동할지, 다음 새로운 상태는 무엇인지를 말해준다.

 

튜링은 '생각하는 기계'란 사실상 '학습하는 기계'이어야 한다고 정의했다.

기계가 생각하기 위해서는 역설적이게도 처음부터 완벽하게 정의되어서는 안 된다.

이미 잘 정의된 프로그램을 내장하려면, 이 기계의 저장 공간은 프로그램의 정의와 명세들로 거의 점유될 것이고 내적 규칙에 따라서 이미 확정된 합리적 행동만을 할 것이다. 그렇다면 그 기계는 추가적으로 무엇인가를 더 학습할 필요가 없다. 그렇다면 기계가 무엇인가를 생각할 여지가 없다. 그러므로 생각하는 기계는 필수적으로 완벽하지 않아야 하고, 대신 학습역량이 있어야 한다.

 

'자신의 행위의 결과'와 '스스로 프로그램을 수정'이라는 언급은 중요하다.

'생각하는 기계'는 자신의 행동의 결과를 자신의 목표와 비교하고, 그 목표에 도달하는 방향으로 스스로 자기 자신을 수정하고 개선할 역량을 가져야 한다. 다시 말해서 이 기계는 자신과 자신의 환경 사이의 상호작용의 결과를 관찰하여 자신을 개선함으로써 최초의 상태 즉, 이미 주어진 프로그램에 머물지 않아야 한다.

 

오늘날 기계학습 영역은 '인공지능의 한 유형으로서 명백하게 프로그램 되어 있지 않은 채, 학습할 수 있는 역량'을 말한다. 자신의 경험을 학습하는 컴퓨터를 구현할 수 있다면 상세한 프로그래밍을 대량으로 해야 하는 노고와 필요도 생략할 수 있을 것이다. 튜링이 그러했듯이 인공지능 영역은 반드시 '지능'을 이해하지 않더라도 지능을 구현하는 것을 목표로 하고 있다. 사실 우리 인간도 지능을 명백하게 이해하지는 못하고 있지만 지능을 사용하는 존재이다. 

 

썰에 따르면, '이해한다는 것'은 본래 알고리즘으로 환원될 수 없는 문맥적 지식이다. 

그에 따르면 컴퓨터는 구문론(syntax)을 가질 수는 있지만 의미론(semantics)을 가지지는 못한다. 

썰은 특히 기계는 지향성을 가지지 않는다고 주장한다. 

"지향성(intentionality)은 몸(뇌)의 인과적 특성의 생산물이다. 이것은 마음의 과정과 뇌 사이의 역동적 인과 관계에 관한 경험적 사실이다.....지향성을 인공적으로 창조하려는 모든 문헌적 시도는 단지 프로그램을 설계하는 것으로 성공할 수 없고, 인간 뇌의 인과적 힘을 복제해야만 할 것이다." 

다시 말해서 마음을 만들려면 그것만을 별도로 제작할 수 없고, 인간 자체 전부를 만들어야 한다는 것이다. 

 

지능기계가 적응해야 하는 유기체는 개별 인간의 몸이 아니라 더 거대한 유기체 즉, 사회집단이다. 

그렇다면 인공지능은 개별 인간의 뇌를 모방하는 것이 아니라 사회집단 내 전체 인간의 성능을 모방해야 할 것이다.

그러므로 인공심장이 이식될 몸에 적응해야 하듯이 기계지능은 자신이 포함될 사회집단에 적응할 필요가 있다.

 

의도와 행위를 연결하는 '코드'는 복잡하게 얽혀있고 해당 사회에 참여함으로써만 이해할 수 있다.

그러므로 모든 행동은 필수적으로 사회적이다. 우리가 '지식'또는 '지능'이라고 부르는 것은 그런 행동을 통해서만 획득될 수 있다. 그러므로, 튜링기계의 교육 과정(기계학습)은 사회적 수행을 포함해야 한다.

 

튜링 테스트의 의도는 면접관의 사회적 지식에 의존하여 상대의 '지능'을 판단하는 것이다.

사실상 인공지능이란 면접관이 속해 있는 '사회집단 구성원과 얼마나 유사한가?' 라는 기준을 통과하는 것에 가깝다.

 

알파고는 '자기 자신을 관찰하고 자신의 프로그램을 수정한다'는 튜링의 정의에 맞게 행동했다.

미리 결정된 프로그램에 의해서 행동하는 것이 아니라, 학습을 통해서 자신의 행동과 환경의 반응을 관찰하면서 확률통계적으로 자신의 프로그램을 수정함으로써 의사결정에 도달했다. 나아가 강화학습을 통해 보상함수를 적용함으로써 기계 스스로 목표를 발견할 수 있었다.

 

오히려 알파고는 인간처럼 바둑을 이해하지 않고도 승리를 할 수 있는 방법이 있음을 보여 주었다. 알파고는 인간의 실천들에 대한 일종의 역공학(reverse engineering)을 수행했고 그것을 기반으로 자기 학습을 추가적으로 달성한 것이다. 결과적으로 알파고는 인간과 다른 방법으로 바둑을 '이해'했기 때문에 인간을 이길 수 있었다. 

 

인간과 인공지능의 역량이 상이할 수 있다는 일면을 보여준다.

강화학습은 멀리 예측하는데 뛰어나고, 상대적으로 인간전문가는 먼 미래 예측보다는 현상태의 불확실성에 더 강했다. 

이것은 인간과 인공지능의 역량이 상보적일 수 있다는 함축이다.

 

헤일스(Hayles, K)는 무작위성이 변이(mutation)을 발생시킨다고 지적한 바 있다. 

유전자 코드의 사례에서 코딩 오류나 방사능 노출과 같은 어떤 무작위적 사건이 기존 패턴을 붕괴시킨다. 

변이는 진화과정에서 결정적이다. 

변이는 패턴과 무작위성 사이의 상호작용이 그 시스템을 새로운 방향으로 진화시키는 원인이 되는 분기점이다. 

 

인공지능과 신기술이 정교해지면 질수록 인간이 비교우위를 가질 수 있는 기술은 점점 없어질 것이다.

'기계가 인간노동을 대체한다'는 관점은 인간과 기계의 관계를 대표하는 발언이었다. 대체로 이 믿음에 의문을 품지 않았다. 이 관점은 일종의 믿음의 체계로서, 18세기 산업시대로 거슬러 올라간다. 이 믿음은 기계와 노동을 경쟁하는 관계로 만들었고, 인간과 기계를 대립하게 만들었다.

 

20세기 산업화 모델로서 테일러 시스템의 특질은 구상과 실행의 분리, 직무의 분할 및 재분할, 특정시간으로 할당된 개별동작이었다..... 포드시스템은 직무를 최대한 파편화하였다. 이러한 직무세분화로 노동 과정을 기계 과정처럼 만들려고 했다. 기계와 노동의 지위는 완전히 역전되었다. 기계를 중심으로 인간노동을 재배치하였다. 그 결과 포드공장에서 자동차 조립시간이 12시간 30분에서 2시간 40분으로 감소했다.

 

노동은 단순한 행동들의 통합이 아니었다. 따라서 노동은 분업적 행동의 총합과 동일한 것이 아니다. 노동자들의 직업은 노동현장에서 체화된 지식에 의한 실천과정이다. 그 지식을 때로는 의식적이고 합리적인 형태로, 때로는 무의식적이고 암묵적인 형태로 내면화된다.

또한 노동과정은 노동자의 신체를 기반으로 하여 진행되는 체화과정이라는 점도 간과되었다. 그러므로 신체가 다르다면 체화과정도 다를 수 밖에 없다. 노동자의 신체와 기계의 신체는 다르기 때문에 노동과정은 기계의 과정으로 그대로 재현될 수 없었다.

 

쉐퍼(schaffer. S)에 따르면 "기계가 노동자의 노동을 대체한다"는 믿음은 진실 자체라기 보다는 이데올로기적으로 채택된 것이다. 산업자본가들은 생산현장을 통제 하기 위해서 숙련노동자를 제압해야 했었다. 산업자본가들은 생산현장을 통제하기 위해서 숙련노동자들을 제압해야 했었다. 기계가 인간노동을 대체한다고 믿게 되자. 노동자들을 해고하거나 저렴한 임금을 주는 것이 정당화되었다.

 

1970~1980년대 버스에는 안내양이 있었다. 

어느 날 요금지불 등 버스 내 시스템이 자동화되면서 버스회사들은 안내양을 더 이상 고용하지 않았다.

우리는 자동장치들의 안내양의 노동을 대체했다고 믿는다. 

그러나 버스기사의 노동 강도가 높아졌다는 것은 주목하지 않는다.

 

기계는 인간노동을 재현하지 못했고 그런만큼 인간노동과 기계노동은 대체 관계가 아니다. 

기계와 노동의 대립은 자본과 노동의 대립을 대행한 것이고 이데올로기였다. 자본(경영)은 생산과정을 통제하기 위해서 노동자의 자율권과 숙련공의 우선권을 승인하지 않으려 했다. 그들은 숙련공과 노동자를 통제하기 위해서 기계가 노동자를 대체한다는 이데올로기를 공모했다. 그 과정에서 기계는 노동자의 대체 행위자로 '임명'되었다. 우리들을 계몽주의자들의 후예답게 기계가 노동을 대체한다고 굳게 믿고 있다. 그런만큼 노동에 대한 이해도 부족하다.

 

클라우드 슈밥은 노동과 기술을 대립적인 것으로 서술했다. 그는 "제4차 산업혁명으로 인한 도전은 주로 노동과 생산의 공급 측면에서 나타난다. 과거 몇 년 동안 대부분의 선진국과 중국 같이 빠르게 성장하는 경제는 노동이 GDP에서 차지하는 비율이 의미심장한 정도로 감소하고 있다. 노동 비중의 감소 원인의 절반은 혁신 진보에 의해 주도되는 투자 상품의 상대적 가격이 떨어지기 때문이다. 자본의 관점에서 혁신은 기업이 노동을 대체하도록 강요한다.".....슈밥은 마치 기술혁신이 노동감소를 자동으로 유도하는 것처럼 묘사했다.

 

경제정책입안자들은 본성적으로 기술이 노동을 배제하는 경향이 있다고 전제하는 경향이 있다. 

슈밥의 논리에서 노동의 의미는 단지 GDP의 비율로만 규정된다. 그 역시 노동에 대한 이해가 부족한 계몽주의자의 후예다운 태도이다. 노동은 GDP같은 정량적인 것으로 충분히 대변되지 않는다.

 

노동현장에서 기계는 인간노동을 도울 수 있다. 기계와 인간노동은 서로 보완적으로 작동할 수 있다. 인간노동과 기계노동은 서로 모방할 수 없는 독자적 기제를 가지고 있기 때문에, 서로를 대체할 수 없다. 우리의 경험은 이미 그것을 잘 알고 있다. 다만 자본주의적 근대산업 프레임이 그것을 은폐하는데 성공했을 뿐이다. 

 

인간노동과 지능이 기계의 의해서 재현되고 대체될 수 있는 것이라면 우리의 세계에서 인간노동과 지능은 점점 제거되어야만 했다. 우리의 경험은 그런 신화적 믿음과 상충하기 때문에 우리는 그동안 기이한 태도를 유지해 왔다.

노동의 대체는 원하지만, 지능의 대체는 원하지 않는 프레임의 딜레마

아래와 같은 간단한 구문들이 있다. 순서대로 우리사회에 제기되었던 주장들이다.

(1) 기계는 인간노동을 재현한다.

(2) 기계가 인간노동을 대체한다

(3) 기계의 번성은 인간노동을 제거한다.

(4) 인공지능은 인간지능을 재현한다.

(5) 인공지능이 인간지능을 대체한다.

(6) 인공지능의 번성은 인간지능을 제거한다.

 

대략적으로 이 구문들 사이 관계를 연결해 볼 수 있다.

(1)이 참이면 (2)가 가능해진다. 그대로 재현되었다면 대체가능할 것이다.

(2)가 참이면 (3)으로 유도된다.

(4)가 참이면 (5)가 가능해진다. 다시 말하지만 서로 같은 것이라면 대체될 수 있다.

(5)가 참이면 (6)으로 유도된다. 그런데 아무도 (6)을 원하지 않는다.

 

사람들은 지능의 문제에 이르러서는 오히려

(7) '인공지능은 인간지능과 상보적이다'라고 주장해 주기를 원한다. 

 

그렇다면 역으로 거슬러 올라가 보자.

(7)이 가능하려면 (4)와 (5)가 '거짓'이어야 한다. 대체관계는 경쟁관계이기 때문에 상보적일 수 없다. 

적어도 (7)이 참이 되려면 (4)와 (5)의 설명 프레임을 버려야 한다.

 

(4), (5), (6)의 프레임을 폐기하면 (1), (2), (3)의 프레임도 같은 논리적 차원에서 재고되어야 한다.

 

지능은 노동(실천)과 분리될 수 없다. 인간노동의 제거는 인간지능의 관점에서 치명적이다.

사회적 실천 없이 어떤 지능(지식)도 생산될 수 없기 때문이다. 

 

노동은 매번 재료와 도구들을 완전하게 통합해내야 하는 과정이다. 

그 과정은 노동자에게 체화된다. 그래서 노동은 세계를 이해하는 중요한 과정이다. 

흔히 말하는 단순 노동조차도 생각과 실천이 분리된 적은 없다. 

모든 노동 과정은 그 자체로 지적 실천이므로, 기계가 그것을 그대로 재현할 수 없다.

기계는 노동을 대체할 수 없었지만 산업 자본가들은 기계가 노동을 대체할 수 있다는 믿음의 프레임을 유포하고 생산현장에서 노동을 배제하는 방향으로 나아갔다.

 

결과적으로 (7)을 지향하려면 (1) ~ (6)의 프레임 전체를 제고해야 한다.

이것은 노동구조 및 노동에 대한 이해의 혁신을 요구한다. 

인공지능 시대가 오히려 노동에 대한 인식의 전복을 가져올 수 있다.

 

노동의 소멸은 우리가 원하는 세계가 아니며 실제로 그럴 수도 없다.

혹자는 노동은 고통스러운 것이므로 노동만 제거하고 지능은 남겨두자고 주장할 수도 있다. 

그러나 지능은 결코 사회적 실천(노동)과 분리될 수 없다. 인간노동은 사회적 실천이 주요 영역이다. 

따라서 노동과 지능은 분리될 수 없다. 노동(실천)만 제거하고 지능은 남겨놓는 해법은 불가능하다.

 

지능 기술에서는 '알고리즘' + '컴퓨팅 파워' + '데이터'의 삼각 구도의 활용이 점차 중요해지는 양상을 띠고 있다. 

 

[ 연결 ]

 

대체적으로 인공지능 시대가 오면 노동은 설 곳을 잃을 것 같다고 전망한다.

그렇 것 같다. 또한 전문가들을 내내 그렇게 왕왕 얘기 하니까...

 

기술과 일자리 분야에 전문가인 대니얼 서스킨드는 "10년 간의 연구로 첨단 기술과 인공지능, 정보화에 따라 앞으로는 인간만이 할 수 있었던 업무 영역이 어느 때보다 깊이, 그리고 서서히 대체될 전망이다'라는 것으로 괜찮은 책들을 냈다.

유사한 주장을 하는 전문가들은 차고도 넘친다.

 

국내 전문가도 유사한 주장을 늘 한다.

이런 주장은 새삼스럽지 않고 10년전에도 이런 주장들이 있었다.

 

 

 

 

[ 자평 ]

 

'chapter 11 인공지능과 노동' 어디서 보지 못했고 정말 내용이 좋았다.

내 기억으로 어떤 저자가 어떤 장들을 썼는지는 안 나왔던 것 같다....

 

가만히 생각해보면 (개인적으로) 국내 자기계발시장이 활성화된 시기와 신자유주의가 도입된 시점은 비슷한 것 같다..

내 직장생활 경험도 그렇고, 이 분야를 연구하시는 분도 있다..

 

 

IT화를 전제로 기업이 노동자들에게 자기계발을 (암묵적으로)협박했을 수도 있지 않을까?

원래 새로운 기술을 도입하여 노동자들을 교육해야 하는 것은 산업사회 기업의 몫이었다.

임직원 교육은 돈이 들어간다. 따라서....기업이 돈을 들여 교육해야 할 것을 교묘하게 개인에게 짐을 지우는 방법??

해법은 자기 스스로 계발하지 않으면 뒤쳐진다는 사회적, 심리적 압박감을 주는 것이다.

 

일단 4차산업혁명이라는 유행어를 나는 좋아 하지 않는다.

(또 시작이구나... 저 신규용어작명지랄증...)

하지만 내가 뭐라고 좋아 하든 안하든 높은 사람이 좋아하면 용어를 쓸 수 밖에 없었다.

몰라 나는 아래와 같은 우군들에 책을 섭렵하고 있었다....(몰래 읽었다...4차산업혁명전도사들이 싫어할까봐...ㅠㅠㅠ)

 

노동에 대해 다시 한 번 생각해 봐야 한다는 점을 일깨워 줬다.

물론 이런 일에 대한 철학적 책도 있지만 이 책을 짧은 11장에서 받은 충격도 이에 못지 않다.