신뢰 이동 by 레이첼 보츠먼 (Rachel Botsman)

[ 밑줄 ]  

 

8장. 인공지능을 신뢰한다는 것

 

조지메이슨 대학교의 인지심리학자이자 신경과학자이고, 인간-기계 신뢰 전문가인 프랭크 크루거(Frank Krueger)는 "완벽한 줄 알았던 기계가 실수를 저지르는 것을 보면 다시는 기계를 신뢰하지 않게 되지만 기계가 기초적인 사회적 예절을 보이고 '죄송합니다.'라고 간단히 한 마디 건네면 금세 신뢰가 회복된다"라고 했다. 

 

거대한 변화가 일어나고 있다. 

이제는 기계가 어떤 일을 처리해주기만 하는 것이 아니라 무엇을 하고 언제할지 결정해줄 거라고 믿는다.

자율주행차를 타면 시스템 자체가 우회전할지 좌회전할지, 방향을 바꿀지 정지할지 결정해 줄 것을 믿는다. 

이런 신뢰 도약이나 유사한 사건을 통해 우리는 스마트 프로그래밍부터 수세기에 걸친 윤리에 이르기까지 모든 것이 포괄되는 새로운 차원으로 넘어간다.....'우리는 어떻게 기계의 의도를 신뢰할 수 있을까? "

이제는 우리는 로봇을 얼마나 신뢰하기를 원하고, 로봇이 얼마나 인간과 비슷해지기를 원하며, 로봇의 전원을 언제 꺼야 할지 고민해야 한다. 그리고 로봇을 끌 수 없다면 어떻게 로봇이 계속 우리의 이익을 위해 복무하게 만들지 고민해야 한다.

로봇에는 자동화할 수 없는 한 가지가 필요하다. 바로 인간의 신뢰다. 

사실 우리가 로봇을 믿지 않으면 로봇을 만들 이유가 없다. 우리가 신뢰하지 않으면 로봇은 그냥 가만히 있을 것이다. 

로봇을 활용하려면 그만큼 신뢰해야 한다.