신뢰 이동 by 레이첼 보츠먼

[ 밑줄/연결 ]

 

관계, 제도, 플랫폼을 넘어 누구를 믿을 것인가? 

 

2008년 금융위기....금융위기조사위원회(FCIC)가 꾸려져 당시의 위기 상황을 조사한 후 결론은 허무했다. 525쪽 분량의 보고서에서 기껏 밝혀낸 답은 이랬다.

'당시의 위기는 인간의 행동과 무대책의 결과이지, 천재지변이나 컴퓨터 모델 문제가 아니다. 셰익스피어를 인용하자면 잘못은 저 별들이 아니라 우리에게 있다.'

 

보고서에 따르면 위기의 주범은 실패한 금융제도가 아니라 제도를 제대로 운영하지 못한 인간이라는 결론에 이른다. 무모한 위험 추구와 탐욕, 무능과 어리석음, 책임감과 총제적인 윤리 의식의 부재가 원인이었다. 

---> 인공지능이 무서운 점도 인공지능 기술의 무서움보다 발전적으로 변하지 못하는 저 인간의 특성 때문일 것이라 생각한다. 

 

더욱이 이번 위기가 인공지능부터 자동화와 사물 인터넷에 이르기까지 급변하고 신속히 발전하는 기술 분야에서 시작되었다는 점은 의미심장하다. 알고리즘은 이미 우리 일상에 막대한 영향을 미치고 있다. 아마존의 추천 도서나 넷플릭스의 추천 영상을 아무 거리낌 없이 받아들인다. 그런데 이런 움직임은 단지 시작일 뿐이다. 머지않아 우리는 자율주행차를 타고 도로 위를 달리는 등 우리 삶을 보이지 않는 기술의 손에 맡길 것이다.

 

'위기에 처한 신뢰'.....정부, 미디어, 기업, 비정부기관(NGO)에 대한 신뢰가 모두 역대 최저치를 기록했다. 가장 심각하게 타격을 입은 기관은 미디어로, 조사 국가의 82%에서 주요 불신 대상으로 꼽혔다. 

 

커뮤니케이션 기업 어델만(Edelman)의 회장이자 CEO인 리처드 에델만(Richard Edelman)은..."사람들은 미디어가 엘리트 집단에 속한다고 생각한다. 그 결과 자기 관계적(self-referential)인 미디어와 또래 집단에 의존하는 성향을 보인다. 다시 말해서, 우리는 종종 아는 사람들로부터 우리가 믿고 있는 것을 강화하려고 한다."

 

역사상 가장 큰 '신뢰 이동'(trust shift, 거대한 단일 조직에서 개별적인 영역으로의 이동) 현상이 나타났다. 이제 신뢰와 영향력은 엘리트 집단과 전문가, 정부 당국보다 가족과 친구, 동료, 심지어 낯선 사람 같은 '사람들'에게로 향한다. 개인이 기관보다 중요하고, 개별 고객이 사회적 영향력을 행사하면서 브랜드를 정의하는 시대다.

 

이제 개인이 Airbnb와 Etsy, Alibaba 같은 플랫폼에서 직접 거래할 수 있는 시대다. 앞으로 10년 안에 노동력의 절반이 '독립 노동자', 즉 프리랜서와 외주 인력, 비정규직으로 일할 것이다. 또한 지금은 '네트워크의 독점'과 플랫폼 자본주의를 대표하는 페이스북과 구글 같은 기술 기업에 의존하는 시대다. 은행계정부터 데이트 상대까지 모든 것을 클릭이나 탭, 스이프로 직접 통제할 수 있는 시대다.

 

한번 생각해 보자. 사람들은 왜 은행가나 정치인은 믿을 수 없다고 성토하면서 모르는 사람은 차를 함께 탈 만큼 신뢰할까? ......에너지처럼 신뢰도 완전히 사리지는 게 아니라 단지 형태만 바뀐게 아닐까? 

 

우리는 인류 역사상 세 번째로 중대한 신뢰 혁명의 출발점에 서 있다.

신뢰의 측면에서 인간의 역사는 크게 세 부분으로 나눌 수 있다. 

첫 번째는 지역적 신뢰(local trust)의 시대로, 모두가 서로를 아는 소규모 지역 공동체에서 살던 시대다.두 번째는 제도적 신뢰(institutional trust)의 시대로, 신뢰가 계약과 법정과 상표 형태로 작동해서 지역 공동체 안의 교환을 벗어나 조직화되니 산업사회로 발전하기 위한 토대가 구축된 일종의 중개인 신뢰의 시대다. 세 번째는 분산된 신뢰(distributed trust)의 시대로, 우리는 아직 그 시대의 초기 단계를 지나고 있는 데 불과하다.

 

공유경제의 폭발적인 성장은 부산적 신뢰가 작동하는 대표적인 예다....사람들이 기술을 통해 타인을 신뢰한다.

 

사실 나는 붕괴의 진정한 원인은 기술 자체가 아니라 기술 발전에 따른 대대적인 신뢰 이동에 있다고 생각한다.

---> 이 책의 핵심 아이디어이자, 주장이다. 

 

분산적 신뢰는 단순히 기술 자유주의의 새로운 이상이 아니다.....차별과 절도와 죽음에 이르기까지 분산적 신뢰로 인해 나타나는 부정적이고 음울하고 파괴적인 결과도 있다.

 

어떤 사람과 오래 자주 소통할수록 그 사람이 어떻게 행동할지, 그 사람이 믿을 만한지에 대한 확신이 생긴다. 이런 신뢰를 개인적 신뢰(personalized trust)라고 한다.

 

일반적 신뢰(generlized trust)는 어떤 사람인지 어떤 대상인지는 알아도 직접적으로는 알지 못하는 관계인 집단이나 사람을 향하는 신뢰를 뜻한다. 예를 들면 나는 우체국에서 내 우편물을 정확히 배달해 줄 것라고 신뢰한다. 

 

"신뢰는 기대치에 대한 확신이다." - 니클라스 루만 (Niklas Luhmann) - 

신뢰와 위험은 남매 같다. 신뢰는 우리를 확실성과 불확실성 사이의 틈새로 끌어당기는 놀라운 힘이다....쉽게 말해, 신뢰는 아는 것과 모르는 것을 연결해주는 다리다. 신뢰에 대한 내 정의는 단순하다. 신뢰는 미지의 대상과의 확실한 관계다.

돈을 사용하려면 얇은 종잇조각에 실질적인 가치가 있다고 믿고, 그 믿음을 유지해야 한다. 돈을 발행하는 정부와 은행이 돈의 가치를 정당하게 결정할 거라고 믿어야 한다. 이것이 바로 신뢰 도약이다. 처음부터 인터넷에 신용카드 정보를 입력한 때를 기억하는가? 이것도 하나의 신뢰 도약이다.

"간단히 말해서 인간에게 제도는 벌의 벌집 같다. 제도는 우리가 집단을 이루고 사는 배경의 구조다. 벌이 벌집에 있어야 할 때를 알듯이, 우리는 제도 안에 있어야 할 때를 안다. 제도는 경제, 주로 벽이 있다. " - 니얼 퍼거슨(Niall Ferguson-, 위대한 퇴보에서..

엘리트 집단에 대한 신뢰가 동시다발적으로 추락한 이유...

(1) 책임의 불평등: 부정 행위로 처벌받는 사람도 있고, 부정 행위를 저지르고도 빠져나가는 살마도 있다.

(2) 격리된 반향실: 각자의 문화적 게토 안에 머물러 다른 사람들의 목소리를 듣지 못한다.

(3) 엘리트 권위자의 쇠퇴기: 디지털 시대는 계층 격차가 좁아지고 전문가와 부자와 권력자에 대한 신뢰가 하락한다.

 

제도가 사람들에게 신뢰를 받고 이를 유지하려면 규칙을 어긴 사람에게 권력이나 지위 상실, 벌금 부과 등 엄격한 처별이 가해져야 한다. 공정한 처벌이 없으면 규칙은 무의미해진다.

크리스토퍼 헤이즈(Christpher Hayess)는 <똑똑함의 숭배>라는 책에서..." 소득, 부, 정치인에 대한 접근성 등 우리가 서서서히 익숙해진 불평등에 더해 이제는 근본적인 책임의 불평등에 직면했다. 힘 없는 사람들에게는 책임의 원칙이 적용되고, 힘 있는 사람들에게는 용서의 원칙이 적용되는 사회에서 살 수는 없다."

기존 제도에 대한 '신뢰 상실'이 우리 시대의 유행어이자 진정한 위기......'생각이 같은'사람들끼리 모여서 같은 메시지만 반복해서 듣는 현상에 의해 문제는 더욱 심각해진다.

 

엘리 패리서(Eli Pariser)가 2011년 '필터 버블'효과라고 정확하기 표현한 현상....

 

자기 확신적인 온라인 공동체를 선택한다....페이스북 알고리즘은 새로운 '자기 참조의 세계'를 보여주는 증거다..

 

크리스토퍼 헤이즈의 말에 따르면, 실력 중심 사회의 꿈이 서서히 죽어가는 현상에 대한 인식에는 공공기간의 신뢰 하락과 권위의 위기가 얽혀 있고, 사람들은 아메리칸 드림의 기본 전제를 불신하기 때문에 모든 분노와 회의적이 전망을 그 꿈이 이룬 제도의 몰락에 쏟아붓든다. 이런 면에서 트럼프의 등장은 고통의 산물이라고 할 수 있다.

 

기술 발전으로 사람과 조직과 컴퓨터의 거대한 네트워크로 신뢰가 분산되면 기존 신뢰의 계층 구조가 해체된다. 분산적 신뢰의 징후는 이미 나타나고 있다. ... 크라우드펀드 사이트, 소셜미디어 플랫폼, P2P 대여, 깃허브 같은 오픈소스 프로젝트, 온라인 공개 수업, 스택 오버플로나 워키피디아 같은 정보 공유 사이트, 시민 과학 프로젝트, 그 밖에 기관이나 중개인을 건너 뛰는 다양한 개인간 직접 계약 등 분산적 신뢰 방식의 비즈니스가 다수 출현했다. 

 

사람들이 신뢰를 형성할 때 수반되는 공통된 행동 방식....'신뢰 더미 오르기'..... 우선 개념을 신뢰하고, 다음으로 회사를 신뢰하고, 마지막으로 다른 사람, 경주에 따라 기계나 로봇을 신뢰한다. 

차량 공유 개념이 안전하고 시도해볼 만한 가치가 있다고 신뢰할 수 있어야 한다. --> 일단 한번 도약하면 이후의 행동은 순식간에 달라진다.

 

캘리포니아롤은 사람들이 일본 요리를 알기 시작하는 관문이 되었다.....<훅>의 저자 니르 에얄(Nir Eyal)은..."캘리포니아롤이 주는 교훈은 단순하다. 사람들은 완전히 새로운 것을 원하지 않는다. 친숙한 것을 다르게 표현한 것을 원한다.".....새로운 것과 친숙한 것을 결합시켜서 '이상하지만 친숙하게' 만드는 기본 원리를 따랐다.. 심리학자 로버트 B. 자욘스(Robert B. Zaionc)가 '단순 노출 효과(mere-exposure effect)' 혹은 '친숙성의 법칙'(Law of Faimility)'이라고 이름 붙인 현상이다. 

우리의 개념을 사람들에게 이해시키는 가장 효과적인 방법은 사람들이 이미 아는 것과 연관시키는 것...

 

'모드 혼란'(mode confusion)..조종사들이 항공기가 조종하는지 자기가 조종하는지 헷갈릴 때 나타나는 현상.....자율주행차도 이와 똑같은 난관을 부딪힐 것...

 

자율주행차를 타면 몇 킬로미터쯤(차로 약 20분 거리)달리면 그 경험이 이내 평범하고 지루하게 느껴지기까지 한다. 컴퓨터가 대신 운전하는 차를 타는 경험은 그렇게 신나는 일이 아닌 것이다.

 

사회적 증거(social proof)....특히 확신이 서지 않을 때 우리는 대중의 집단 지식을 크게 신뢰한다. 한마디로 우리는 특히 확신이 서지 않을 때 남들이 하는 대로 따라하는 경향이 있다....특히 결과에 대한 확신이 없을 때는 사회적 증거가 새로운 개념에 관한 신뢰를 구축한다. 각종 인터넷 사이트가 이용자 평가나 이용자 수를 내세우는 것은 바로 이런 이유에서다. 

 

과거의 사람들은 호텔 체인을 신뢰했다.....호텔 브랜드를 보고 그곳에 숙박하면 안전할 거라고 생각했다. 에어비앤비를 이용하려면 플랫폼과 호스트와 게스트 사이의 연결성을 믿어야 한다. 달리 말하면, 신뢰가 플랫폼에도 있고 공동체 사람들 사이에도 있어야 한다. 이것이 바로 분산적 신뢰의 새로운 패러다임과 제도적 신뢰의 낡은 패러다임을 가르는 중요한 역학 중 하나다.

 

사람들은 자기 삶이 얼마나 지속적으로 알고리즘의 메시지에 통제받는지 알아보려 하지 않는다. 그저 모든 것이 공명정대할 것라고 무조건 믿어버린다.

---> 사람들은 편안하고 익숙해 지면 무의식적으로 반응한다 .이점은 우리가 충분히 의식적이고 의도적으로 충분히 우렵스럽게 생각해 봐야 할 중요한 문제이다.

---> 경영/경제나 컴퓨터/IT분야 등 알고리즘의 자동화를 통해 돈을 버는 쪽의 책만 읽어서는 안되고.....인문학/사회과학 분야에서 자동화, 알고리즘을 다루는 책을 봐야 한다. 

 

신뢰 신호(trust signal)...상대가 신뢰성 있는 사람인지 판단할 때 우리가 알든 모르든 근거로 삼는 단서나 상징이다. 구세군, 스코틀랜드 억량, 쾌할한 모습, 추천인, 심지의 금테 안경까지.....

 

우리는 어떤 사람의 얼굴을 보면 1/10초 안에 얼마나 신뢰할 수 있는지를 비롯해 그 사람의 특성을 순식간에 판단한다.

 

신뢰는 누군가 무엇을 할 거라도 믿는 것이다.....어떤 사람이 무엇을 할 수 있을 거라고 믿어주느냐에 대한 신뢰의 세 가지 특성인 능력과 신뢰도, 정직의 마력과 중요성이 달라진다. 신뢰는 상황에 따라 달라진다. 

 

사람들은 말은 못 해도 유능하고 믿음직한 로봇보다 실수를 해도 인간과 비슷한 로봇을 신뢰했다.

 

신뢰는 순전히 기계의 기능적 확실성, 즉 예측 가능에서 비롯된다. 하지만 거대한 변화가 일어나고 있다. 이제는 기계가 어떤 일을 처리해주기만 하는 것이 아니라 무엇을 하고 언제할지 결정해 줄거라고 믿는다.

1965년 어빙 존 굿(Irving John Good)은.....기계가 일단 튜링 테스트를 통과하면 불가피하게 우리보다 똑똑해질 거라고 주장했다. 굿은..."그러면 의문의 여지 없이 '지능 폭발'이 일어나고 인간의 지능은 한참 뒤쳐질 것이고, 최초의 초지능 기계는 인간이 만든 최후의 발평품이 될 것이다."

한마디로 더 이상 기계의 다음 행보를 예측할 수 없는 시대가 올 것이라는 뜻이다.

---> 100% 동의한다. 초지능이 탄생할 지, 초지능체가 인간을 몰살시킬지는 모르지만 나는 그럴 필요가 없어 그렇게 하지 않을까 싶다.

---> 다만 분명한 것은 우리는 초지능체를 절대 이해할 수 없을 거이라는 것이다...

 

기계가 불완전한 정보로 인간을 이길(나아가 인간을 조정할)수 있다는 사실은 포커 게임(2017년 1월)을 넘어서 거래를 협상하고 군사 전략을 세우는 영역에서부터 금융 시장에서 수완을 부리는 영역에 이르기까지 영향을 미치는 폭넓은 함의를 갖는다. 

 

마이크로소프트 '테이'의 실패는 기계의 윤리가 무엇이고 기계까 용납 가능한 행동을 하게 만드는 책임이 누구에게 있는지에 관한 진지한 질문을 제기하다. 테이가 혼돈에 빠진 건 누구의 책임일까? 마이크로소프트 프로그래머의 책임일까? 알고리즘의 책임일까?......새로운 분산적 신뢰의 시대에는 새로운 책임 체계를 갖춰야 한다. 

 

마크 메도즈(Mark Meadows)는..."우리가 기술에 갖는 신뢰는 그 기술을 생산한 주체와 연결됩니다. 봇이나 로봇도 다를 게 없습니다."

 

로봇에는 자동화할 수 없는 한 가지가 필요하다. 바로 인간의 신뢰다. 사실 우리가 로봇을 믿지 않으면 로봇을 만들 이유가 없다.....로봇을 활용하려면 그만큼 신뢰해야 한다.

 

기술이 발전하려면 인간과 인간이 아닌 것 사이의 경계가 모호해진다. 실험을 통해 경계를 더 모호하게 만들면 인간 대신 기술을 신뢰하는 마음이 커질 수 있다는 점을 알 수 있다.

 

시스템의 의사결정 과정을 신뢰하려면 시스템이 우리에게 어떤 사고 과정을 거치는지 설명할 수 있어야 한다.

 

윤리적인 로봇을 개발하려면 먼저 인간이 어떻게 윤리적인 결정을 내리는지 이해해야 한다. 

 

기계에 대한 신뢰가 갈수록 높아져 인간보다 기계를 휠씬 더 신뢰하는 경우도 생길 것이다.

 

'어떻게 로봇을 신뢰할까?' 가 아니라 '우리가 로봇을 지나치게 신뢰하는 것까?'라고 묻게 될 것이다.

 

분산적 신뢰만으로는 극단적 포퓰리즘이나 급진적인 정치 지도자들의 위험한 정책이나 분열을 조장하는 국가주의의 부활을 막을 순 없다. 다만 새로운 분산적 신뢰를 민주적이고 합리적인 과정을 통해 사람들이 원하는 방식에 대한 요구와 선호도에 맞게 구성하고 재구성하려면 앞으로 비즈니스와 정부, 미디어와 주요 제도에 나아갈 길을 제시할 수 있을 것이다. 투명하고 폭넓게 책임지는 방식으로 사람을 우선해 두는 시스템을 다시 설계할 수단을 제공하는 것이다. 

 

분산적 신뢰: 개인들 사이에 수평으로 오가고 네트워크와 플랫폼과 시스템을 통해 가능한 신뢰

 

신뢰 방해물: 새로운 개념을 신뢰하거나 서로를 신뢰할 때 장애물이나 거래를 깨뜨리는 요인(예를 들어 자율주행차를 믿지 않는 것이 안전에 적절한 결정이 될 것이다.)

 

신뢰 도약: 위험을 감수하고 새로운 일을 시도하거나 근본적으로 다른 방식으로 시도할 때 나타나는 현상

 

신뢰 이동: 지역에서 제도로, 제도에서 분산 방식으로 이어지는 신뢰의 역사적 진화

 

[ 자평 ] WoW....놀라운 통찰력 + 문장력....

 

레이첼 보츠먼 (Rachel Botsman)교수는 신뢰 전문가다. 

2011년에 < >를 출간하면서 협동 소비(요즈음은 공유경제라 일컬어지는) 것이 미래라고 주장한 분이다.

정말 멋지게도 두렵게도 잘 썼다. 

이러 저러한 현상들을 하나의 '단어'로 압축하는 능력이 뛰어나다. 

또한 그 압축된 단어로 현재를 풀어내고, 미래를 전망하는 해석력이 뛰어나다. 

 

이런 책들이 읽을 만하다, 읽어서 남는다, 또 읽어야 한다는 책이다.