무자비한 알고리즘 by 카타리나 츠바이크

[ 밑줄/연결 ]

 

이 책은 우리가 머신러닝의 결과들을 너무 쉽게 믿지 말아야 할 때가 언제인지를 보여주고가 한다.

 

인공지능 시스템을 만들기 위한 도구상자 = A(알고리즘, Algorithm) + B(빅 데이터, Big Data) +  C(컴퓨터 지능 Computer Intelligence)

 

(결정에 쓰이는 도구들)

(알고소코프 Algoscope: 알고리즘과 현미경을 뜻하는 마이크로스코프를 합친 조어)

ㅇ 관심을 가져야 하는 시스템을 선별해주는 역할을 함

 

(OMA원칙)

ㅇ 추후에 어떻게 품질 평가를 할지 결정해야 알고리즘이 문제해결을 얼마나 잘했는지를 측정할 수 있음

ㅇ 이렇게 알고리즘이 구현한 모델이 정말 좋은 모델인지 판단할 수 있도록 추상적, 이론적 특성을 관찰 및 측정 가능하도록 만드는 과정을 '운영화'라고 부름

ㅇ 데이터처리 결과가 미리 정해놓은 도덕을 따르기 위해서는 측정가능하게 하는 운영화(Operationaliation), 문제 모델(Model of problem), 알고리즘(Algorithm)이 조화를 이루어야 함. 이것이 OMA 원칙임

 

(책임성의 긴 사슬)

ㅇ 문제가 되는 각각의 결정의 책임이 많은 이들에게 분산되어 나중에 어느 한 사람에게 책임을 묻기가 힘들게 됨

 

(감독필요성 측정)

ㅇ 어느 정도의 손해를 초래할 수 있으며, 그 손해를 얼마나 잘 막을 수 있는지에 따라 기계를 얼마만큼 강하게 감시할지를 알 수 있음

 

알고리즘이 어떤 상관관계를 발견했다고 해서 그로부터 직접 인과성을 추론할 수는 없다.

 

인과 고리(casual chain)란 어떻게 특정 관찰에 이르게 되는지를 설명하는 사실들의 나열이다. 그런데 머신러닝은 관찰된 행동에 대한 데이터를 근거로 상관관계가 충분하면, 새로운 데이터에 대해서도 결정을 내릴 수 있다고 약속한다.

 

---> 충격적이다.

---> 읽고 보면 당연한 말아지만 전혀 생각하지도 못했고 어디서도 읽어 본 적, 들어 본 적이 없는 지적이다.

 

검증되지 않은 순수한 가설은 팩트로 여겨지지 않는다.

 

알고리즘은 그저 수학 문제를 풀기 위해 정해진 행동지침이라는 말을 들으면 많은 사람들은 약간 실망한다.

 

'시행착오'를 거치며 발견해내는 방법은 알고리즘이 아니다. 이것은 '휴리스틱 heuristic' 이다.

 

알고리즘은 해답을 어떻게 찾을 것인지 계획을 가지고 있고, 그것이 해답임을 보장한다. 휴리스틱은 해답을 찾아내고자 하는 접근법이다.

 

실생활에서 관찰가능한 결과를 제시해주는 계산을 예측이라 부른다.

 

알고리즘의 결과를 의미있게 해석할 수 있기 위해서는 운영화(O), 모델링(M), 알고리즘(A)이 서로 조화를 이루어야 한다.

 

지적활동의 자동화

 

컴퓨터로 하여금 보통은 인간이 해결하는 인지활동을 수행하게 하는 SW를 인공지능이라 일컫는다.

 

알고리즘의 결과를 해석하는 것은 늘 모델링과 그것을 위해 필요한 운영화의 틀 안에서만 의미를 갖는다.

 

내가 보기에는 강한 인공지능을 개발하지 말아야 할 설득력있는 이유들이 있기 때문이다. 첫 번째 문제는 중대한 부작용이 없는 최적화 평가 기능을 찾기가 힘들다는 것이다.

 

 

[ 자평 ] '사회정보학'이라는 측면에서 점점 더 중요해지고 의미가 있을 것이다. 미리 읽어둘 가치가 있는 책

 

AI가 인기를 끌면서 국내에도 그 동안 꼭꼭 숨어 있던 인공지능 전문가들을 언제 그랬냐?는 듯이 하루가 다르게 대중 미디어에 얼굴을 들이민다.

 

AI시대 한국의 석학, 첨단 신경과학과 고대문헌을 넘나드는 박학함, 방대한 지식과 깊이 있는 통찰로 주목받고 등 등 어쩌니 자의반타의반 자화자찬에 도취되지 말고 이런 수준의 의미가 있는 지적 산출물이라도 좀 써 봤음 한다.