bizbuddha

[ 밑줄/연결 ] 정보이론이 그토록 강력한 이유는 정보가 물리적이기 때문이다. 정보란 계량화할 수 있고 측정할 수 있는 물질이나 에너지처럼 구체적 성질을 지닌다. "엔트로피가 항상 증가한다는 법칙(열역학 제2법칙)은 자연의 모든 법칙 중에서도 가장 상위에 있다." - 물리학자 아서 에딩턴 엔트로피는 어떤 물질로 이루어진 집합 전체의 배열(Configuration)을 확률의 개념으로 정리한 것이다. 엔트로피는 정보를 측정하는 단위이다. 측정 행위는 입자로부터 정보를 추출하는 행위이다. 이 정보는 거져 얻어지지 않는다. 그 정보 - 정보를 추출하든 처리하든 - 에 대한 무언가가 우주에 엔트로피를 증가시키고야 만다. 실제로 질라드는 정보 1비트를 얻는 데 필요한 정보의 '비용'은 일정량의 유용한 에너지, 보다..