수학 지능 by 주나이드 무빈

[ 밑줄/연결 ]

 

환각(hallucination)이라는 용어는 AI 시스템에 특정 수준의 의식이 있다는 잘못된 개념을 암시할 수 있으므로, "작화증(confabulation)"이라는 용어가 더 적절해 보인다.

 

 

컴퓨터는 세상에 대한 모델을 구축하거나 그 해답이 타당한지 판단하지는 못한다. 

 

미래학자 로이 아마라가 "우리는 기술의 영향력을 단기적으로는 과대평가하지만 장기적으로는 과소평가하는 경향이 있다"라고 경고할 때 시사한 바가 바로 이것이다.

---->  기술 관련한 대중 서적에 꽤나 자주 나오는 말이다.

---->  His adage about forecasting the effects of technology has become known as Amara's law and states:

"We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run."

The law has been used in explaining nanotechnology.

Roy Amara - Wikipedia

Roy Amara - Wikipedia

 

지능적인 행동을 보인다고 해서 그 행동이 지능적인 것은 아니다.

 

철학자 마이클 폴라니가 말했듯이, "우리는 우리가 말할 수 있는 것 이상에 대한 지식을 가진다."

----> 1966년에 나온 책에서 "암묵적 지식"에 대해 언급했다.

 

 

기계가 '학습한다'고 말하는 것은 입력받은 데이터가 늘어날수록 매개변수가 변화하고 모델이 보다 정확해진다(이는 희망사항이지만, 어쨌든)는 의미에서이다.

 

인간의 뇌는 하드 코딩된 지식과 학습 알고리즘이 혼합된 하이브리드 사고 시스템의 대표적인 예다.

 

우리는 세상을 탐색할 때 우리의 사고와 행동을 여러 단계의 추상을 거쳐 계층화한다. 세밀한 세부 정보를 개념 덩어리로 묶은 다음 다른 개념들과 결합하여 한 차원 높은 수준에서 대상에 대한 이해를 발전시킨다.

 

유추는 겉보기에 이질적으로 보이는 개념들을 한데 묶는다는 점에서 또다른 압축 도구라고 할 수 있다.....

AI분야에서도 AI가 매번 처음부터 문제를 풀지 않아도 되도록 만들기 위해서 유추를 열심히 연구하고 있다.

----> 유추에 대해 내가 접한 가장 막강한 책은...

 

컴퓨터는 아무런 설명 없이 패턴 매칭 기법을 사용하여 우리의 일상적 의사결정에 큰 영향을 미치는 판단을 내린다.

 

마음은 신체의 본능적 반응 없이는 기능할 수 없다.

 

기계학습 알고리즘은 통계학의 가장 중요한 가르침, 즉 상관관계가 인과관계를 의미하지 않는다는 사실을 무시한 채 오로지 패턴만을 찾는다.

 

괴델은 기초 산술을 포함하는 어떠한 계도 이와 같이 입증하거나 반증할 수 없는, 즉 언제나 증명할 수 없는 상태로 남는 진술이 항상 존재하기 때문에 무모순적이면서 동시에 완전할 수 없다는 것을 증명했다. 

 

수학자 콘래드 울프람은....우리가 살고 있는 "연산 지식 경제"에서는 "무엇을 알고 있는가?"가 아니라 "지식으로 부터 무엇을 연산할 수 있는가"가 중요하다고 말한다.

 

결국 '결정 문제'는 결정 불가능한 문제다. 모든 문제를 해결할 수 있는 유일한 방법은 없으므로 수학자들은 계속해서 창의력을 발휘하여 새로운 문제 해결 방법을 고안해야 할 것이다.

 

괴델의 불완전성 정리를 통해서 수학의 모든 문제를 풀 수 없음은 이미 입증된 바 있다. 즉, 일부 진술은 증명할 수 없다.

 

사람들은 일상적인 대상에 대한 자신의 지식을 과대평가하는 경향이 있는데, 심리학에서는 이를  '설명 깊이의 착각'이라고 부른다. 자주 등장하는 예가 지퍼다. 사람들에게 지퍼의 작동 원리를 설명할 수 있는지 물어보면 사람들은 대개 자신이 실제로 설명을 통해서 입증할 수 있는 것보다 많은 지식을 가지고 있다고 공언한다. 

 

한 집단이 충분히 다양한 인원으로 구성되어 있다면 방대한 집단 지식의 풀이 갖춰 지므로 개별 오류는 상쇄되고 결국 전체적인 평균 추정치는 놀랄 만큼 정확해 질 수 있다.

 

 

[ 자평 ]  별스럽지 않았다. 내게는.....

 

부제는 '인공지능은 할 수 없는 인간의 7가지 수학 지능'이다.