알고리즘이 지배한다는 착각 by 데이비드 섬프터

[ 밑줄/연결 ]

 

우리가 개발하는 알고리즘들은 사회가 원하는 일을 하고 있을까, 아니면 단지 소수위 괴짜들과 다국적 회사들의 이익에 기여할 따름일까? 

 

페이스북이 최신 기법들을 사용하여 10만 명이 누른 '좋아요'의 범주 100만 개를 단 몇백 개의 차원으로 줄이는데 걸리는 시간은 1초 이내다. 

 

수학이 나에게 보여 준 것은 

는 것이 전부였다.

 

수학은 '논리만 가지고 공정을 이뤄낼 수 없다'는 대답을 내놓는다. 

 

"사람들은 섣불리 기술이 객관적이고 공정하다고 믿죠. 그렇기  때문에 기술이 공정하지 않은 경우들이 가장 위험해요."

 

"기본적으로 사람들은 게으르다고 전제하세요. 그러면 사람들의 행동을 거의 다 예측할 수 있습니다."

 

캐슬린 리처드슨 교수는 최근의 알고리즘 진보는 인공지능과 대비되는 지능의 우수성을 "광고하고 있다"라고 말한다.

내가 알고리즘을 연구하면서 발견한 가장 큰 위험은, 우리가 알고리즘의 영향력을 합리적으로 평가하지 못할 때, 우리가 과학 허구 시나리오들에 휘들릴 때 들이닥친다.

 

 

[ 자평 ] 새로운 질문과 새로운 답변은 중요하다. 끊임없이 머리를 두드리는 질문이 우리에게는 필요하다. 역사는 새로운 질문을 던진 용기있는 자들을 기억한다.