AI쇼크, 다가올 미래 by 모 가댓

[ 밑줄/연결 ]

 

우리가 인공지능에게 가르칠 때 사용하는 알고리즘 자체가 보상과 징벌, 달리 말하면 두려움과 탐욕이란 알고리즘이다.

 

결국 인공지능의 가치 체계는 우리가 주입하는 프로그램에 의해 결정되는 게 아니라 우리가 인공지능에 제공하는 정보에 의해 결정된다.

 

(3가지 필연적 사건)

ㅇ 인공지능이 등장할 것이고, 멈추는 일은 불가능할 것이다.

ㅇ 인공지능이 인간보다 더 똑똑해질 것이다.

ㅇ 우리가 어려움을 자초하는 실수를 범할 것이다.

 

(3가지 본능)

ㅇ 자기 보존을 위해 필요한 것이면 무엇이든 할 것이다.

ㅇ 자원을 취합하는 데 집착할 것이다.

ㅇ 창의력을 발휘할 것이다.

 

(3가지 특성)

ㅇ 의식

ㅇ 감정

ㅇ 윤리

 

(3가지 핵심적인 사실)

ㅇ 우리는 인공지능을 억제하거나 견제하는 힘을 갖지 못할 것이다.

ㅇ 우리는 인공지능에게 긍정적인 방향으로 영향을 줄 수 있다.

ㅇ 우리의 미래를 좌우하는 힘을 지닌 사람은 인공지능의 개발자나 소유자가 아니다. 우리의 미래는 당신과 나, 우리 손에 달려 있다. 

 

(3가지 해야 할 일)

ㅇ ㅇㅇ

 

(1부: 디스토피아의 공포)

 

돌파구가 찾아지면 그 뒤로는 모든 게 공학이다.

혁신의 속도가 가속화되고 있다.

 

인공지능을 통제하려면 인공지능을 앞서야 한다.

 

 

(2부: 유토피아로 가는 길)

 

엄밀히 말하면 우리는 인공지능이 어떻게 결정을 내리는지 정확히 모른다.

 

우리는 초지각체를 만들어내고 있다.

 

지능을 가진 기계는 우리보다 더 다양한 감정을 느낄 것이다.

 

 

목소리가 크고 눈에 자주 띄는 부패한 소수를 제외하고, 대부분의 사람은 윤리적이다.

 

인공지능은 아무런 문제가 없다. 문제가 있다면, 안타깝게도 우리 자신이 문제다.

 

 

우리가 주고받는 메시지를 기계도 읽고 있을 것이다.

 

 

[ 자평 ]  훑어 읽고 생각해 볼 만 한 문제다....내게는 이상하게 1주는 논리적이고, 2부는 감정적이다.