bizbuddha

[ 밑줄/연결 ] 우리가 인공지능에게 가르칠 때 사용하는 알고리즘 자체가 보상과 징벌, 달리 말하면 두려움과 탐욕이란 알고리즘이다. 결국 인공지능의 가치 체계는 우리가 주입하는 프로그램에 의해 결정되는 게 아니라 우리가 인공지능에 제공하는 정보에 의해 결정된다. (3가지 필연적 사건) ㅇ 인공지능이 등장할 것이고, 멈추는 일은 불가능할 것이다. ㅇ 인공지능이 인간보다 더 똑똑해질 것이다. ㅇ 우리가 어려움을 자초하는 실수를 범할 것이다. (3가지 본능) ㅇ 자기 보존을 위해 필요한 것이면 무엇이든 할 것이다. ㅇ 자원을 취합하는 데 집착할 것이다. ㅇ 창의력을 발휘할 것이다. (3가지 특성) ㅇ 의식 ㅇ 감정 ㅇ 윤리 (3가지 핵심적인 사실) ㅇ 우리는 인공지능을 억제하거나 견제하는 힘을 갖지 못할 것이..