인포메이션 by 제임스 클락

[ 밑줄/연결 ]

 

괴델, 튜링, 섀넌과 같은 정보과학의 대가들의 생각은 하나로 수렴한다. 세상의 모든 사고와 논리는 정보처리에 불과하며, 정보는 수로 나타낼 수 있다. 결국 사고와 논리는 계산이고, 계산은 알고리즘이다.

 

섀넌의 정보에는 의미가 들어 있지 않았다. 아니, 오히려 의미를 버림으로써 정보를 정량화할 수 있었다. 모르는 것이 많을수록 섀넌의 엔트로피는 크다. 엔트로피는 앎의 척도가 아니라 무지의 척도이다. 또한 무질서한 것, 복잡한 것은 엔트로피가 크다.

 

"우리가 과거라고 부르는 것은 비트로 구성된다."  - 존 휠러 -

 

유기체의 세포는 복잡하게 얽힌 통신 네트워크에서 송신과 수신, 코딩과 디코딩을 하는 노드이다.

진화 자체가 유기체와 환경 사이에 지속적으로 이루어지는 정보교환을 포함한다.

 

존 아치볼드 휠러는 계시와 같은 짧은 말로 이렇게 선언했다.

"비트에서 존재로 It from Bit". 정보는 "모든 존재를 낳는다. 모든 입자, 모든 힘의 장, 심지어 시공연속체 자체를 낳는다."

 

분명 비효율적인 잉여성은 혼란을 해소하는 수단으로 가능하다.

잉여성은 한 번 더 기회를 주는 것이다. 모든 자연어는 잉여성을 내포한다. 

 

말도 정보를 전달하지만 글처럼 자의식을 수반하지는 않는다. 

 

결코 증명할 수 도, 반증할 수도 없는 진술이었다. 다시 말해서 증명할 수 없는 '참'이 반드시 존재한다는 것이다. 이것을 괴델은 증명했다. 

 

기본적인 산술을 할 수 있는 모든 일관된 논리체계 안에는 언제나 참이지만 증명할 수 없는 저주받은 진술들이 존재할 수 밖에 없다. 이처럼 괴델은 일관된 형식 체계는 불완전할 수 밖에 없으며, 완전하고 일관된 체계는 존재할 수 없음을 보여줬다. 

 

히틀리는 거칠지만 설득력 있는 분석을 통해 전화와 전신 모두 전체 정보량은 두 가지 요소에 좌우된다는 점을 증명했다. 바로 가용한 전달 시간과 채널의 대역폭이었다. 음반과 영화도 같은 방식으로 분석할 수 있었다.

 

튜링은 정신의 세계에서 상상 속에서나 가능한 이상적 힘을 가진 기계를 구상하고 이 기계가 '할 수 없는' 것이 무엇인지 증명했다. 

 

힐베르트는 세 가지 질문을 던졌다.

ㅇ 수학은 완전한가? 

ㅇ 수학은 모순이 없는가? 

ㅇ 수학은 결정 가능한가? 

 

튜링은 일부 수(사실상 대부분의 수)가 연산 불가능하다는 사실을 증명했다.

 

공식을 생성하기 위한 모든 기계적 절차는 본질적으로 튜링기계이다. 따라서 '모든' 형식 체계는 결정 불가능한 명제를 가질 수 밖에 없다. 수학은 결정 불가능하다. 이 불완전성은 연산 불가능성에서 나온다.

 

정보는 엔트로피이다. 이 부분이 가장 이상하고 강력한 개념이다.  

엔트로피는 (이미 어렵고 형편없이 이해되는 개념이었다) 열과 에너지를 다루는 학문인 열역학에서 무질서도의 척도였다.

 

중요한 점은 섀넌이 정보의 원천을 다양한 확률로 메시지를 생성하는 통계적 과정으로 나타낸다는 것이었다.

 

섀넌은..." 기계가 생각한다는 발상은 결코 우리 모두가 꺼림직해할 것이 아닙니다. 사실 저는 인간의 두뇌 자체가 무생물로 그 기능을 재현할 수 있는 일종의 기계라는 역발상이 상당히 매력적이라고 생각합니다."

 

문제를 더욱 복잡하게 만든 것은 다른 학문과 달리 심리학에서는 관찰자와 관찰 대상이 얽힌다는 점이었다.

 

사고(생각)은 엔트로피를 생성한다.

정보는 물리적이다. 맥스웰의 도깨비가 그 연결고리를 만든다.

 

H는 의외성의 척도이다. 또 달리 말하면 H는 미지의 메시지를 추측하는 데 필요한 예-아니오 질문의 평균 횟수이다.

 

DNA 복제는 정보를 복사하는 것이다. 단백질 제조는 정보를 전송하는 것이다. 다시 말해 메시지를 보내는 것이다.

 

실제로 진화하는 것은 그 모든 형태 혹은 변형 안에 있는 정보이다.

내 생각에 생명체에 대한 지침서 같은 것이 존재한다면 첫 줄에 하나의 계명처럼 '너의 정보를 더 키워라'라고 적혀 있을 것이다. 

 

도킨스는 이렇게 썼다. "밈은 넓은 의미에서 모방이라고 할 수 있는 과정을 거쳐 두뇌에서 두뇌로 건너뛰면서 밈 들 속에서 자신을 번식시킨다." 밈은 두뇌 시간이나 대역폭 같은 한정된 자원을 놓고 서로 경쟁한다. 무엇보다 주의를 끌기 위해 경쟁한다.

 

대량으로 생산된 전기 컴퓨터 역시 결국 정보가 형성하는 자기 복제 패턴의 숙주가 될 것이라는 사실을 쉽게 예측할 수 있다. 

 

섀넌은 메시지 내의 잉여성, 즉 메시지를 압축할 수 있게 만드는 패턴, 규칙성, 질서도 고려했다.

메시지의 규칙성이 클수록 예측성이 높아진다. 

예측성이 높을수록 잉여성이 커진다.

잉여성이 클수록 포함하는 정보는 줄어드는 것이다.

 

대상이 단순할수록 담고 있는 정보도 적다. 복잡성이 높을수록 담고 있는 정보도 많다. 

 

정보, 무작위성, 복잡성

이 세가지는 근본적으로 동일하다. 이 세가지 강력한 추상적 개념은 마치 은밀한 연인들처럼 한데 엉켜 있다. 

 

"에너지가 클수록 비트가 더 빨리 바뀐다.

흙, 공기, 불, 물은 결국 모두 에너지로 구성되지만 이들의 취하는 다양한 형태는 정보에 의해 결정된다.

어떤 일을 하려면 에너지가 필요하고 한 일을 구체적으로 나타내려면 정보가 필요하다. " 

- 세리 로디드(2006년)-

 

휠러는 이렇게 말했다.

"달리 말하면 모든 존재, 모든 입자와 모든 힘의 장, 심지어 시공간 연속체 그 자체가  '비트'로부터 그 기능, 의미, 존재 자체를 얻는다."

 

자연은 왜 양자하된 것처럼 보일까?

정보가 양자화되어 있기 때문이다. 비트는 쪼갤 수 없는 궁극의 입자이다.

 

양자역학에 따르면 정보는 절대 파괴될 수 없다. 

 

란다우어가 쓴 유명한 논문의 제목 '정보는 물리적이다'는

연산이 물리적 대상을 필요로 하고 물리법칙을 따른다는 사실을 학계에 알리고자 하는 의미였다. 

 

중첩은 잡탕이 아니라 분명하고 명확한 수학적 규칙에 따른 확률적 요소들의 결합이다.

 

정보는 물리적이다. 양자 상태에 대한 '정보'를 고려하지 않고 양자 상태를 논하는 것은 쓸모가 없다.

 

"확률적 자연계를 모사하는 다른 방법은 여전히 그 자체가 확률적인 컴퓨터 C로 확률적 자연계를 모사하는 것일 겁니다." 파인먼은 양자 컴퓨터는 튜링 기계가 될 수 없다고 말한다. 완전히 새로운 어떤 것이 될 것이다. 

 

남은 과제는 바로 의미의 확립이었다. 

 

앨런 튜링...

튜링은 컴퓨터를 우주처럼 상태의 집합으로 보는 것이 최선이고, 모든 순간의 기계의 상태는 다음 순간의 상태로 이어지며, 따라서 기계의 모든 미래는 최초의 상태와 입력 신호로붜 예측 가능해야 한다고 보고 있다. 

우주는 자신의 운명을 연산하고 있는 것이다.

 

블로거와 트위터들에게 물어보라.

너무 많은 입과 너무 많은 귀 중에 어느 쪽이 더 나쁜가? 

 

"의미를 다시 돌아오게 하는 것이 불가피했다" 

- 장 피에르 뒤피(2000년 -

 

두뇌를 만드는 것은 지식의 양이 아니다. 심지어 지식의 분배도 아니다. 바로 상호연결성이 두뇌를 만든다.

 

 

[ 자평  ]  제대로 책을 쓴다는 것은 이런 것....

 

정보철학입문을 읽은 후 다시 이 책을 재독 하게 되었다. 

<카오스>가 1993년에 국내 출판이 되었으니  약 30년이 지났다.

 

이 분의 책은  <카오스>, <인포메이션>, <타임 트래블> 밖에 없지만 이렇게 다양한 주제를 풀어 내시는 재주가 놀랍다. 

특히 이 분이 영문학을 전공한 기자라는 생각을 하면 얼마나 많이 읽고 생각하면서 자신의 스토리로 그런 자료를 꿰어 내는 노력과 재주가 있는지 존경스러움이 생긴다. 

정말 이 분 놀랍고도 놀랍다.