신경망 (오창석교수의 '딥러닝을 위한 이공 신명망'일 듯)

( 신경계 )

신경계는 인간의 신체 활동을 전반적으로 통제하는 역할을 한다. 신경계는 크게 중추 신경계와 말초 신경계로 구분되며, 그 기능은

ㅇ 중추 신경계: 뇌와 척수로 구성되어 있으며, 인체의 신경계를 총괄적으로 통제하는 기능을 한다.

ㅇ 말초 신경계: 중추 신경계에서 온몸의 기관이나 조직으로 뻗어 있는 신경을 말하며, 체성 신경계와 자율 신경계로 구분된다. 체성 신경계는 감각 기관으로부터 자극을 중추 신경계로 전달하는 감각 신경, 중추 신경계로부터의 반응을 해당 기관으로 전달하는 운동 신경으로 구성되어 있다. 자율 신경계는 심장, 폐, 소화기 등의 내장 기관과 혈관에 분포하여 대뇌의 직접적인 영향을 받지 않고 우리 몸의 기능을 자율적으로 조절하는 신경계로서 교감 신경과 부교감 신경으로 구분된다. 교감 신경은 긴장하거나 흥분하는 등의 환경 변화에 대처하도록 심장 박동 증가, 혈관 수축, 동공 확대 등의 기능을 하는 반면 부교감 신경은 긴장 상태에 있는 몸을 평상시의 상태로 되돌리는 기능을 한다. 

(인간의 뇌)

인공 신경망은 인간의 뇌를 모방한 것이지만... 아직 까지 뇌에 대한 해석이 완벽하게 이루어지지 못하고 있는 실정이므로 현재 활용되고 있는 신경망 모델은 실제 뇌와는 상당한 차이가 있을 수 있다. 

 

(뇌의 구조)

인간이 뇌는 운동, 감각 등의 육체적 기능뿐만 아니라 기억, 연상, 추론, 판단 등의 정신적 기능을 담당하고 있다.

보통 1.5kg 정도의 무게이며, 대뇌, 소뇌, 간뇌, 뇌간으로 구분된다. 뇌의 각 부위별 기능은...

ㅇ 대뇌: 두개강의 2/3 정도를 차지하며, 중앙 부위가 앞뒤로 길게 홈이 파져서 좌반구와 우반구로 나뉘어져 있다. 좌반구는 오른쪽 신체의 감각과 운동, 언어 구사나 논리적인 사고 등을 담당하고, 우반구는 왼쪽 신체의 감각과 운동, 인식이나 정서적인 면을 담당한다....좌반구와 우반구가 완전히 독립적인 기능을 수행하는 것이 아니라 뇌량으로 연결되어 있어서 상호 간에 협력이 이루어진다.

ㅇ 소뇌: 몸의  자세와 균형 유지, 근육 이완 조절, 운동 등의 기능을 수행하며, 대뇌의 해당 영역과 연합하여 시각, 청각, 촉각의 조절에도 관여한다.

ㅇ 간뇌: 대뇌와 소뇌 사이에 있으며 시상, 시상하부, 뇌하수체로 나눠어져 있다. 시상은 외부로부터 들어온 감각 정보를 대뇌로 전달하는 기능을 하며, 시상하부는 체온조절, 삼투압 조절 등의 기능을 하여 항상성을 유지하는 기능을 한다. 뇌하수체는 호르몬 조절 등 내분비 기능을 담당한다. 

ㅇ 뇌간: 뇌의 아래쪽에 척수와 연결되어 있으며 연수, 중뇌, 뇌교로 나뉘어져 있다. 연수는 호흡 조절, 심장 박동, 혈관 운동, 소화 운동 등 생명과 의식 유지에 직접 관련된 기능을 담당하고 중뇌는 안구 운동, 홍체의 수축 이완 등 시각 및 청각 반사 활동을 담당한다. 뇌교는 중뇌와 연수 사이에 있으며, 연수와 함께 호흡 조절에 관여하고, 대뇌와 소뇌 간의 정보 전달을 중계하는 기능을 한다.

 

(대뇌 피질의 기능 국재)

대뇌 반구의 표층은 대뇌피질이라는 두께 2mm 정도의 회백질로 되어 있으며, 여기에 뉴런이라고 하는 신경 세포들이 거미줄처럼 연결되어 있다. 대뇌피질에 있는 뉴런들은 영역별로 담당하는 기능이 다르다. 이를 대뇌피질의 기능국재라고 한다.

(뉴런)

신경계의 기능적 최소 단위는 뉴런이다. 자극을 받아들이고 신경 흥분을 전달하는 기능을 담당한다. 감각 뉴런, 운동 뉴런, 연합 뉴런 등이 있으며, 그 기능은...

ㅇ 감각 뉴런: 감각 기관의 수용기에서 받아들인 자극을 중추 신경계에 전달하는 기능을 한다.

ㅇ 운동 뉴런: 중추 신경계로부터의 신경 흥분을 해당 기관의 반응기에 전달하는 기능을 한다.

ㅇ 연합 뉴런: 중추 신경계인 뇌와 척수를 구성하고 있는 뉴런이며, 감각 뉴런과 운동 뉴런을 연결하는 기능을 한다.

(운동 뉴런)

운동 뉴런은 세포체, 수상돌기, 축삭돌기로 구성되어 있으며 그 기능은...

ㅇ 세포체: 세포핵, 미트콘드리아 등이 들어 있으며, 수많은 수상돌기와 하나의 축삭돌기가 연결되어 있다. 일정시간 동안에 들어온 자극은 세포체내에서 가중되고, 외부 자극의 가중합이 임계치보다 커지면 뉴런이 활성화된다.

 

ㅇ 수상돌기: 세포체 주위에 섬유 더미 모양으로 연결되어 있으며, 인접한 뉴런으로부터의 신경 흥분이 세포체로 들어오는 통로 역할을 한다.

 

ㅇ 축삭돌기: 하나의 가늘고 긴 신경 섬유로 되어 있으며, 인접한 뉴런으로 신경 흥분을 전달하는 통로 역할을 한다. 이 신경 섬유에는 약 1mm 간격으로 랑비에 마디가 있어서 신경 흥분이 빠르게 전달된다.

 

(시냅스 연결 부위)

신경 흥분이 전달되는 뉴런 간의 연결 부위를 시냅스라고 한다. 시냅스를 통한 신경 흥분의 전달은 단방향으로만 이루어지며, 시냅스에는 흥분성과 억제성의 2가지 유형이 있다.

ㅇ 흥분성 시냅스: 인접 뉴런으로부터 전달되는 신경 흥분이 뉴런을 활성화하도록 하는 역할을 한다. 

ㅇ 억제성 시냅스: 인접 뉴런으로부터 전달되는 신경 흥분이 오히려 뉴런의 활성화를 억제하는 역할을 한다.

 

(뉴런의 활성화)

뉴런이 활성화되기 위해서는 일반적으로 다음과 같은 몇 가지 조건들이 만족되어야 함

ㅇ 자극의 크기가 임계치 이상으로 커야 한다.

세포막의 내부는 K+의 농도가 높고 외부는 Na- 농도가 높기 때문에 자극이 없는 안정 상태일 경우에는 세포막에 약 -70mV의 전압차가 나타나는데 이를 안정막 전위라고 한다. 안정막 전위를 -55mV까지 낮출 수 있는 자극을 임계 자극이라고 하며,뉴런이 활성화되려면 임계 자극보다 큰 외부 자극이 인가되어야 한다.

 

ㅇ 자극이 일정 시간 이상 지속되어야 한다.

뉴런의 반응 시간은 상당히 느리기 때문에 자극이 너무 짧게 인가되면 미처 뉴런이 반응하지 못한다.

 

ㅇ 자극이 약할 경우에는 자극을 반복하여야 한다.

비록 인가되는 외부 자극이 임계 자극보다 작더라도 빠르게 반복하면 자극의 가중치 현상에 의해 세포체내에 누적된 자극이 임계 자극보다 커져서 뉴런이 활성화될 수 있다. 

 

ㅇ 일단 활성화된 뉴런은 일정 시간이 경과되어야 한다.

활성화된 뉴런은 어느 정도 시간이 걸려야 원래의 상태로 복귀한다. 이 시간을 불응시간이라고 하며, 보통 수 ms 정도이다. 활성화된 뉴런은 이 불응 시간이 지난 후에만 자극에 의해 활성화될 수 있다.

 

(신비한 인간의 기억 매커니즘)

인간의 기억은 단기 기억과 장기 기억으로 구분될 수 있다.

ㅇ 단기 기억: 자극에 의해 대뇌피질에 약간의 변화가 일어나서 정보가 기억되지만 곧 바로 몇 초 이내에 소멸되는 기억

ㅇ 장기 기억: 자극이 반복적으로 가해지거나 자극이 상당히 커서 그 자극에 관련된 뉴런 간의 연결 강도가 강해지고, 그 효과가 몇 분 혹은 영구히 지속되는 기억

(인간의 뇌를 모방한 인공 신경망)

인간이 컴퓨터를 개발한 목적은 인간을 본떠 만든 기계에 복잡한 계산이나 반복되는 업무를 맡김으로써 사람들이 잡다한 일로부터 해방되어 좀 더 편안한 삶을 영위하기 위함이었다....

컴퓨터는 수치 계산 등 잘 정의된 업무 처리에 있어서는 상상을 초월할 정도로 발전하였지만 영상 인식, 음성 인식, 추론, 연상 등 인간이 수월하게 처리하는 특정 분야에 대해서는 아직도 많은 어려움이 있다. 이러한 분야의 문제를 해결하기 위하여 인간 뇌에서의 정보 처리 방식을 모방한 것이 인공 신경망이다.

 

인간 뇌의 신경망 구조를 모델링한 것이 신경망모델이며, 일반적으로는 인공 신경망, 신경망, 뉴로 컴퓨팅 등의 용어로 혼용되고 있다. 

 

(신경망의 특징)

ㅇ 디지털 및 아날로그 데이터를 처리할 수 있다.

ㅇ 데이터를 병렬로 처리한다.

ㅇ 신경망을 구성하는 기본 소자는 뉴런이다. 

ㅇ 학습에 의해 임무가 실행된다.

ㅇ 뉴런들 간의 연결 강도에 정보를 저장한다.

ㅇ 내용에 의해 정보를 검색한다.

ㅇ 인식, 추론, 연상 등 다양한 분야에 응용된다.

( 인공지능과 신경망)

인공지능은 일반적으로 사고, 학습 등 인간의 지적 능력을 컴퓨터로 구현하는 기술의 포괄적인 개념이며, 강 인공지능과 약 인공지능으로 구분할 수 있다.

 

ㅇ 강 인공지능: 인간과 마찬가지로 자의식을 가지고 자유롭게 생각하고 여러가지 일을 수행할 수 있는 인공지능

ㅇ 약 인공지능: 알파고, 의료 분야에서 암환자 진료에 실제 사용되고 있는 IBM왓슨, 음성 개인 비서 역할을 수행하는 애플의 시리 등과 같이 특정 분야에 특화되도록 학습하여 특정 목적에 활용하는 자의식이 없는 인공지능

 

(머신러닝)

인공지능의 한 분야이며, 일반적으로 데이터를 이용하여 컴퓨터를 학습하는 방법을 말한다. 용어는 1959년 A. Samuel이 "명시적으로 프로그램하지 않고 컴퓨터에 학습 능력을 부여하는 분야"라고 정의하였다.

(신경망 모델)

생물학적 신경망에 있어서 뉴런 단독으로 어떤 기능을 수행하기보다는 여러 뉴런들이 거미줄처럼 복잡하게 연결되어 서로 상호 작용을 하고 있다.

인간의 뇌에는 약 1,000억 개의 뉴런들이 있으며, 각각의 뉴런은 인접한 1,000~ 10,000개의 뉴런들과 상호 연결되어 있다. 이처럼 뉴런들이 복잡하게 상호 연결된 형태를 신경망이라고 한다.

 

(신경망의 학습)

뇌가 다른 시스템에 비해 가지는 가장 큰 장점은 바로 경험을 통해 학습을 할 수 있다는 것이다. 학습은 주어진 자극에 신경세포들 간의 시냅스 상태를 변화시킴으로써 이루어진다.

 

뇌의 구조와 동작 방식을 모방한 신경망이 가지는 가장 큰 장점 역시 학습이 가능하다는 것이다....뇌와 마찬가지로 인공 신경세포들 간의 연결 가중치를 일정한 규칙에 따라 조절하는 것으로 이루어진다. 신경망의 학습을 위해 연결 가중치를 조절하는 일정한 규칙을 학습 규칙이라고 한다. 

 

신경망에게 지능을 부여하기 위해서 가장 먼저 해야 할 일은 신경망을 학습시키는 것이다. 

 

신경망은 그것이 경험하는 환경에 따라 자신의 내적 상태를 매우 간단한 규칙에 의해 변화시킴으로써 스스로 내적 지식을 만들어 간다. 

 

(일반화,generalization)

일단 학습이 이루어진 후, 신경망은 자신이 경험했던 것들과는 다른 형태의 입력에 대해서도 적당히 반응할 수 있다. 즉, 경험을 통해 축적된 내적 지식을 새로운 형태의 입력에 까지 일반화시켜 적용할 수 있는 것이다. 

 

신경망의 이러한 일반화 능력은 입력에 섞인 잡음이나, 왜곡, 부분적인 파손에도 불구하고 그것에 대응할 수 있도록 해주며, 기존 기호 처리적 인공지능의 고지식함을 극복하고, 우리가 살고 있는 모호하며 복잡한 세상을 다룰 수 있는 가능성을 제시한다. 

 

더욱이 이러한 일반화 능력이 프로그램이라는 형태로 표현된 사람의 지능에 의해서가 아니라, 자신의 구조와 동작에 의한 결과로 부터 자연스럽게 얻어진다는 것은 그것의 가치를 더욱 빛내기에 충분하다.

 

(추상화,abstraction)

일반화 능력과는 반대로 신경망은 자신이 경험한 것들로 부터 공통적인 특징들, 즉 이상적인 형태를 추출해 낼 수 있다. 예를 들어 'A'라는 글자의 변형된 많은 입력들을 학습한 신경망은 이러한 변형된 입력들로 부터 'A'라는 이상적인 형태를 추출해 낼 수 있는 것이다....신경망의 추상화 능력은 플라톤의 이데아(idea)를 떠오르게 하며, 복잡한 세상에서 이상적인 법칙을 발견해 내는 사람들의 능력을 생각나게 한다.

 

(연관, association)

두 개의 정보를 서로 연관시키는 능력을 가지고 있다....어떤 입력이 주어지면, 그것과 연관된 출력을 내게 된다....마치 우리가 유행가 가사를 들음으로써 그것과 관련이 있는 옛 기억을 되살리는 것과 유사.....연관 능력은 부분적인 입력에 대해서도 적절히 동작하며, 적은 입력자료로부터 그것과 연관된 많은 자료들을 얻을 수 있게 해준다.

 

(분류, classification)

인간은 이 세상에 존재하는 여러 가지 것들로부터 공통되는 특징을 찾아내어 같은 특징을 갖는 것끼리 분류하는 능력이 있따...신경망 역시 주어진 많은 자료들로부터 특징을 찾아내어 그것에 따라 자료를 분류하는 능력을 갖고 있다.