인공지능과 알고리듬 사회 by 이재현

[ 밑줄/연결 ]
 

(2장. AI에 대한 세 가지 접근)
 

AI는 어떻게 구현할 수 있을까?ㅇ 인간의 행위처럼 지능적이라고 간주하는 행위를 구현할 단계별 지침들을 기호논리를 이용해 체계적으로 작성해 컴퓨터가 수행하도록 하면 가능하다고 생각ㅇ 인간의 두뇌, 즉 신경망의 기제를 모방하면 가능하다고 생각ㅇ 로봇 공학자들은 기계와 환경과의 상호작용을 구현하면 낮은 수준이지만 지능적인 행위를 구현할 수 있다고 생각

 

 

(지능적이라는 의미)

ㅇ 생각한다- 행동한다, 인간적-합리적 차원의 2*2 matrix화

 

(인간적으로 생각하기)

ㅇ 인지 모델 접근이 추구하는 것. 정신에 관한 컴퓨터 연산 모델(computational theory of mind, CTM)

ㅇ 정신에 관한 연계주의 이론(connectionist), 체화 인지(embodied cognition) 이론 등 

 

(인간적으로 행동하기)

ㅇ 튜링 테스트 접근이 추구하는 것

ㅇ 자연어 처리, 지식 표상, 추론의 자동화, 기계학습, 컴퓨터 비전, 로봇 등의 기능을 구현하는 경우

 

(합리적으로 생각하기)

ㅇ '사고의 법칙' 접근이 추구하는 것

ㅇ 삼단논법, 논리 이론가 

 

(합리적으로 행동하기)

ㅇ 합리적 행위자 접근이 추구하는 것

ㅇ 최선의 행동 결과 성취에 의한 판단, 결정

 

(기호논리 AI, Symbolic AI) : 핵심 논리, 대표적 모델, 이슈와 논쟁

 

기호(symbol)의 조작을 통해 지능의 많은 측면들을 구현할 수 있다고 가정

---> 기호(sign), 신호(signal), 상징(symbol)로 보통 번역....

 

개별적인 기호논리들이 결합되어 복잡한 논리 체계를 구성, 그렇게 구성된 체계가 바로 세계, 지식, 문제, 논리를 표현하는 기호논리 표상(symbolic representations). 이 표상은 실제로 AI체계가 따르는 규칙 체계

 

연역적 추론(deductive reasoning)의 체계 

 

탐색과 계획 알고리즘 + 휴리스틱

 

위계적 문제 분석

 

언어 이해, 의식 없는 지능은 불가능

 

 

(연계주의 AI, Connectionist AI)

 

정신은 기호처리가 아닌 뉴런이라 불리는 요소들 또는 단위들 사이의 상호작용이라 보면, 네트워크, 분산 처리, 최적화 등을 강조

 

생물학적인 '뉴런들'과 그것들 사이의 네트워크를 모델로 지능을 구현할 수 있다고 봄

 

전제는 인지와 같은 지적 정신 활동이 뉴런이라 불리는 수많은 요소들 또는 단위들의 상호작용을 통해 일어난다고 본다

 

두뇌 또는 정신활동을 추상적인 규칙 체계에 따른 절차적 사건으로만 보는 기호논리AI와 달리, 뉴런들 사이의 관계에서 발현되는 것이라고 본다는 점에서 보다 생물학적

 

"정보는 위상학적 표상이 아닌 '연계(connection)"또는 "연상(association)"속에 담겨 있다....

기억은 표상이 아니라 연계다."  -  프랭크 로젠블랫(Frank Resenblatt), 1958년

 

생물학적 체계(두뇌)를 모델로 하는 기계적 체계(퍼셉트론)에서 지능의 구현을 모색

 

'유사성'이라고 표현한, 자극-반응 사이에 형성되는, 뉴런들 사이의 네트워크 또는 패턴

이것이 바로 기억이고, 향후 판단이나 행동을 예측할 수 있는 요인이다.

 

뉴런들 사이의 네트워크 또는 패턴이란? 

두 가지 파라미터로 구성되는데, 하나는 역치이고, 다른 하나는 가중치이다....

역치와 가중치라는 개념이 연계주의 AI의 핵심...

 

1986년 데이비드 루멜하트, 제임스 매클리랜드, 제프리 힌튼이 연구 성과들을 묶어 낸 책이 <병렬 분산 처리>...

이 책이 연계주의 AId의 본격적인 출발, 또는 '연계주의 혁명'을 알리는 상징적인 문헌...

 

패턴은 저장되는 것이 아니다. 저장되는 것은 단위들 사이의 '연계 강도"이며, 이를 통해 패턴이다시 만들어질 수 있다. 

 

학습의 목표는 명시적인 규칙들의 획득이 아니라 연계 강도의 획득이며, 이를 통해 단순한 단위들 사이의 네트워크가 "마치 규칙을 아는 것처럼" 작동하게 된 것이다. 

 

표상은....분산된, 능동적 표상이며, 이는 논리기회들(로 구성된 규칙들)이 아닌 가중치나 역치와 같은 신경망 파라미터들로 표현된다. 

 

기호주의 AI는 연역적 추론 방식을 구현한다면, 연계주의 AI는 귀납적 추론 방식을 구

귀납하는 기계는 입력과 출력, 또는 데이터와 답 사이의 관계를 설명해 줄 수 있는 규칙들을 귀납적으로 만들어 낸다...

이런 과정을 학습이라고 부른다. 

 

기계학습은 정답이 표시되어 있는 훈련용 데이터를 가지고 기계를 훈련시켜 새로운 데이터를 인식, 처리할 규칙들을 가지게 하는 것이다....통계적 귀납이라는 이런 특성을 파스퀴넬리(Pasquinelli, 2017년)는 "정보가 논리로 전환된다'라고 표현한다. 규칙들을 새롭게 만들어 가는 이 과정은 인지생물학의 용러로 표현하면, '자기-조직화'과정이다.

 

이 기계의 본질은 귀납하는 능력에 있음을 주목해야 한다.

 

 

(체화 AI, Embodied AI)

 

기호논리나 연계주의AI 모두 인간의 두뇌를 모델로 삼는 이른바 '인간-두뇌 중심주의'로 이에 반대

체화, 상황, 환경과 그것에의 적응, 진화 등을 강조

 

지능 또는 지능적 행위가 인간만의 고유한 것이 아니라.....

지능은 두뇌의 산물로만 볼 것이 아니라 환경과의 상호작용을 통해 창발하는 것이라고 본다.

 

총체적 접근은 기호논리와 표상을 강조하는 분석적 접근과 달리 체화, 적응, 상황구속성을 강조하는데, 로드니 브룩스이 "새로운 AI"도 이 전통에 속한다.

 

체화는 상황구속적 활동(situated activity), 체화(embodiment), 동학(dynamics)등 세 개념으로 특징지어진다.

(3장. 알고리듬 체계)
 
기계 번역의 경우 피처 차원들, 특히 벡터 공간을 구성하는 차원의 수는 1000개다. 이는 인간이 상상할 수 없는 고도의 복잡성이다.
 
(2단계 알고리듬 체계)
 
과타리는 생명체와 마찬가지로 기술적 기계 또는 "자기생산적 기계(autopoietic machine)'라고 본다.
이는 프란시스코 바렐라의 기계 개념을 차용한 것으로, 바렐라에 따르면 기계는 "구성 요소들 자체와 독립되어 있는, 그 구성 요소들의 상호 관계의 집합"이다.
 

 
콰타리는 AI로 대표되는 최근의 컴퓨터 알고리듬이 자기조직화를 근간으로 하는 자기생산 기제를 가지는 방향으로 발전하고 있다고 본다. 
 
이재현은....
1단계 알고리듬 체계(1st Order) : 기호논리 AI(Symbolic AI)에서 보듯, 사전에 엄밀하게 규정된 논리적 규칙 체계로 간주될 수 있는데, 알고리듬은 주어진 입력을 일정한 결과로 기계적으로 산출해 낸다. ex) 워드프로세서의 맞춤법 알고리듬
 
알고리듬은 복잡성은 문제 해결을 위한 절차를 규정한 지침들의 집합이 큰가 작은가에 따라 결정될 뿐
 
우발적인 결과가 산출되는 경우도 있지만, 이는 알고리듬 자체의 창발성 때문이 아니라 유한한 코드가 무한한 데이터를 처리해야 할 때 발생할 수 있는 한계 때문
 
기계적 결정론을 따르는 1단계 알고리듬체계
 
 
2단계 알고리듬 체계(1st Order) : RNN으로 대표되는 연계주의(connectionism)나 유전 알고리듬(genetic algorithm)에서 보듯, 알고리듬의 "창발성(emergence)"기제에 주목한다. 즉, 알고리듬은 창발과 자기조직화(self-organization), 두 가지 언리를 근간으로 자기생산 체계로 규정된다. 
 
자기생산적 알고리듬의 핵심은 새로운 패턴의 생성에만 그치지 않고 자신의 생산 기제를 스스로 생산해 내는 자기조직화에 있다. 
 
알고리듬은 주어진 논리들의 집합, 즉 규칙에서 시작하지만 데이터를 처리하면서 데이터를 처리할 규칙과 논리를 스스로 변화시켜 나간다는 것이다.
 
자기조직화를 통해 창발적으로 자신의 규칙을 변화시켜 나가면서 새로운 결과를 생산해 낸다.
 
알고리듬의 불확정성은 유한한 규칙과 무한한 데이터라는 조건에서 야기되는 우발성이 아니라 알고리듬 자체의 창발성에 있다.
 
마테오 파스퀴넬리(Matte Pasquinelli)는 RNN 같은 신경망 접근은 전통적인 기회논리 AI의 기호 연역의 논리를 따르는 것이 아니라 통계적 귀납(statistical induction)의 논리를 따른다고 설명하면서 "정보가 논리가 된다(Information turns into logic)"는 표현에서 보듯 논리를 창발적으로 생성한다고 본다.
 
외부에서 들어오는 정보(데이터의 변환) --> 내적 논리로 투입 --> 알고리듬을 구성하는 새로운 논리를 만들어 낸다.
 
알고리듬은 투입되는 정보를 고정된 채로 처리하는 것이 아니라 환경의 상호작용 속에서 학습하며 스스로의 세계 모델을 수정해 나가는 인간처럼 끊임없이 변화한다. 
 
 
(4장.AI와 기계 의식)
 
일반적으로 인공지능 철학은 두 가지 문제를 다룬다고 할 수 있는데,
하나는 '지능'의 문제로, 인공적인 기계가 지능적으로 사고하거나 행동할 수 있는가, 그리고 인간의 지능과 기계의 지능은같은 것인가 하는 것
 
다른 하나는 '의식'의 문제로, 기계가 인간의 경우처럼 정신, 의식, 감정을 가질 수 있는가 하는 것이다.
 
일반적으로 인간에게 의식은 지능의 전제조건으로 간주된다.
 
 
(지능과 의식 : 블라인드 사이트)
 
과연 의식 없는 지능은 불가능한 것일까?
 
피터 와츠(peter watts)의 2006년 공상과학 소설 <블라인드사이트(Blindsight)>는 지능과 의식의 문제를 다룬 매우 통찰력 있는 작품이다.
—> 번역본

 
철학자 스티븐 샤비로(steven Shaviro)는...
"의식은 "반기능적"이라고 본다. 즉 그것은 항상 방해가 되는 "삐꺽거리는 신경학적 관료주의체"다. 생존을 위한 투쟁에 도움이 되지 않는다. 사실 의식은 그것을 가지고 있는 유기체에 큰 부담만을 준다..."
 
샤비로에 따르면, 의식은 필요조건이 아닌 잉여적 사치품이자 생존 투쟁에 방해물이라는 것이다. 
-----> 기발한 관점이라 봐서 읽어 보려 한다.  

 
메칭거(Metzinger)는...
고차원의 자아(self)는 실체적으로 존재하는 그 무엇이 아니라 하위 차원의 정보 처리 과정에서 발생한 정보의 일부분만이 의식이라는 고차원에 전달되어 구성된 모델일 뿐이라고 본다.하위 차원에서 발생하는 정보를 의식의 차원까지 전달하여 해석하는 것은 생존 투쟁에서 반기능적인 방해가 될 뿐이다. 우리가 주체적인 자아라고 간주해 온 것은 "정보의 결핍"에 따른 결과일 뿐이다. 우리가 일상적으로 살아가며 수행하는 정보 처리 중 극히 일부분만이 의식에 도달하며 거의 대부분은 의식하지고 못한 채 이루어진다. 그렇지 않을 경우 우리는 생존할 수 없을 것이다.
----> 독일 이론 철학자인 토마스 메칭거(Thomas Metzinger)의 저서는 번역된 것이 없어 보인다. 다만 수전 블랙모어 (Susan Blackmore)의 <뇌의식의 대화, 2020년> (원제: Conversations on Consciousness: What the Best Minds Think about the Brain, Free Will, and What It Means to Be Human, 2007년)에 인터뷰 정도가 실려 있다.

----> 슈테판 클라인 (Stefan Klein)이 쓴 <우리는 모두 불멸할 수 있는 존재입니다> 에서 신경 철학의 대가인 <토마스 메칭거>로 일부 내용이 실려 있다. "7장. 자아라는 수수께기 - 우리 자신을 아는 어려움과 영혼의 존재 여부에 대하여 - 

 
뇌과학자 아닐 세스(Anil Seth)도 비슷한 입장에서 의식과 지능의 별도의 차원이라고 주장한다.
인간은 의식과 지능이 함께 발전된 독특한 존재라고 볼 수 있는데, 이와 달리 지능 없이 의식만 발전한 존재, 그리고 의식 없이 지능이 발전한 존재를 상정할 수 있다는 것이다.전자에 해당하는 것이 동물이라면, 후자에 해당하는 것이 바로 AI와 같은 인공적인 지능체다. 

 
이런 관점은, 설의 주장과는 달리 의식이 정보 처리, 나아가 지능의 전제 조건이 아니라는 주장으로 이어진다. 

 
 
[ 자평 ] 좋다. 기술비평...읽은 후 읽었다는 것 자체가 가치가 있었다고 자신의 시간을 비평하게 되는 책
 
언론정보학과 교수이자 미지어 이론가, 기술 철학자라고 하신다. 
책을 내신지는 2000년 <인터넷과 사이버사회>부터라 하시니 꽤 오래 되었는데, 나는 <인공 지능 기술 비평, 2019> 부터 읽은 듯하고, 이후 이분의 펜이 되었다. 

 
"기술중심사회일수록 기술에 대한 철학적 질문을 던져야 한다.
예술 비평이 예술 작품을, 문학 비평이 문학 작품을 평가하는 것처럼 기술에 대한 철학적 질문을 던지는 것이 중요하다. 철학적 질문을 통해 기술의 본질을 통찰할 수 있다."
 
"AI는 기술적인 것 외에 주체, 의식, 언어 등 인간적 문제와 연관돼 있다.
이런 문제를 도외시하면 AI가 초래할 변화를 포괄적으로 이해할 수 없으며, 인간의 변화 또한 읽어낼 수 없다”