AI 트루스 by 임 백준

[ 밑줄/연결 ]

 

효율성 추구가 공포의 대상이다.

미래에 인공지능이 인류 문명을 파괴한다면 그건 너무 똑똑해진 인공지능의 의도 때문이 아니라, 인공지능이 아무 생각 없이 추구하는 효율성 때문일 확률이 높다.

----> 어느 정도 동의한다. 영리를 목적으로 하는 기업은 이익 극대화를 위한 효율성 차원에서 결정은 한다.

이런 효율성이 조직 전체, 사회 전체의 영리와 항상 같이 가는 것은 아니라는 측면의 책들도 더러 있다.

----> 효율성과 더불어 자원 최적화 관점에서 결정하는 부분이 이런 '선택하지 않았지만 다가 갈 수 밖에 없는 위험'을 초래한다고 본다. 

----> 이런 비판적 관점은 경영/경제나 자기계발서를 쓰는 분들에게는 찾아 보기 힘들다. 이들은 효율성은 극대화한다는 측면의 사고에만 익숙한 사람들이다.  효율성의 극대화의 위험에 대한 관점은 주로 사회학이나 인문학 관점의 눈을 가진 분들에게 더러 있다. 그래서 이런 분들이 더욱 더 필요한 시점이다. 돈 냄새만 찾아 다니는 속물의 지적 허영을 지적해 줄 분들, 아주 작은 여유, 낭비, 느림, 멈춤의 가치를 말해 줄 수 있는 분들...

--->  '효율성'이란 개념은 역사적으로 가장 많은 현실주의적 사상가들이 추구했던 것이며 이것은 가장 내밀한 개인의 일상 차원에서부터 거대한 국제정치까지 다룰 수 있는 개념이다."

 

지식, 논리, 추론 등 지능을 이용해 노동을 수행하는 이 세상의 모든 화이트칼라 노동자가 다 함께 벼랑 끝으로 향하게 된다.

---->  거의 확실히 발생할 것 같다.

"생각의 사슬에서 추론 계산을 확장하는 강화학습(RL)의 새로운 패러다임에서 얼마나 빨리 진전될지 보여준다"라며 " 기존 1~2년 걸리던 모델의 사전 훈련 패러다임보다 훨씬 빠르다"

"추론 모델이 시전 훈련을 대체할 '새로운 스케일링 법칙'이라는 것을 입증한 셈이다.... (AGI가) 실제로 오고 있다."

출처 : AI타임스(https://www.aitimes.com)

오픈AI "o1→o3 걸린 시간은 3개월...업스케일링 주기 대폭 축소" < 산업일반 < 산업 < 기사본문 - AI타임스

오픈AI "o1→o3 걸린 시간은 3개월...업스케일링 주기 대폭 축소" - AI타임스

 

인공지능 모델이 사람처럼 자연스러운 문장을 만들어낼 수 있는 이유는 인공지능이 실제로 사고를 하기 때문이 아니라 얀 르쿤이 비판한 것처럼 확률을 사용하기 때문이다.

 

언어학계의 거물인 노엄 촘스키는 '통계 모델'을 불편하게 생각했다. 그는 명확한 원리가 아닌 통계에 기반하는 통계 모델이 과학이 아니라고까지 말했다. 로젠블랫의 퍼셉트론도 기호주의자들에게 비슷한 비판을 받은 바 있다.

 

2011년 피터 노빅은 촘스키의 통계 모델에 대한 비판을 아래와 같이 정리했다.

 

50년대 마빈 민스키나 존 매카시를 비롯하여 노엄 촘스키에 이르는 수많은 지성들이 온 힘을 다해 혹독하게 비판한 통계 모델은 불가사의한 방식으로 쭉쭉 성장했다. 

그게 왜 유용한 결과를 내며 동작하는지 명쾌하게 설명하는 과학적 방법은 없지만 풍부한 데이터와 정교한 알고리즘을 빨아먹으로 성장한 통계 모델은 오늘날 사람보다 말을 잘하고.....사람보다 바둑을 잘 두고.....사람보다 단백질 접힘 구조를 잘 예측하고.....사람보다 그림을 잘 그리는 신묘한 물건이 되었다.

다만 그런 통계 모델의 내부 작동 원리를 명확하게 설명하는 이론이 부재하다는 사실에 불길한 기분이 드는 건 사실이다.

 

언어를 잘 다루고 코딩을 잘하는 인공지능이 있으면 사용자 요구 사항 분석, 시스템 설계, 테스트, 유지보수에 이르는 소프트웨어 개발 프로젝트의 전체 과정을 잘할 수 있는 것일까? 그런 그렇지 않다. 그건 다른 종류의 문제다.

 

소프트웨어 프로젝트 전체를 다루는 일은 학습할 수 있는 데이터 형태로 존재하지 않는다. 

그래서 학습이 거의 불가능하다.

 

감정은 일단 감각이 있어야 발생할 수 있는데 인공지능은 현재 감각이 없다. 있어도 매우 제한적이다.

 

인공지능 모델은 결정론적 논리의 흐름을 따르지 않는다. 

비결정론적인 확률적 분포의 흐름에 따라 상황을 이해하고 행동하기 때문에 미리 확실하게 결정된 것이 없다.

주사위를 던지면 1에서 6사이의 수가 나올 텐데 정확히 무엇이 나올지는 아무도 알 수 없다.

 

확률의 세계에서는 미리 결정된 것이 없다.

그래서 잘못된 행동을 의미하는 버그라는 단어를 사용하기 애매하다. 

버그라고 부를 수 없으니 할루시네이션이라는 기묘한 이름을 사용한다....

뭘 어떻게 해도 할루시네이션은 완전히 제거되지 않는다. 

생성형 인공지능이라는 말 속에 이미 확률적 방식이 내포되어 있기 때문이다....

트랜스포머 아키텍처를 기반으로 하는 현재의 인공지능 기술은 AI 할루시네이션을 근본적으로 제거할 방법이 없다.

 

사람과 사람이 맺는 관계가 휠씬 더 합리적이고, 공평하고, 민주적인 방식으로 바뀌지 않는다면 그렇다는 뜻이다.

 

일을 하지 않아도 살 수 있는 세상, 즉 노동으로부터 해방된 삶이 가능해질 것처럼 보인다.

직업 대신 취미를 선택하고 강제된 일이 아니라 스스로 하고 싶은 일을 하며 더 자율적이고 주체적인 삶을 살게 된 것처럼 보인다.

착각이다.인공지능으로 강화된 최첨단 생산 수단을 소수 엘리트가 독점하면 나머지 사람들은 엘리트가 제공하기로 마음먹은 소수의 자원을 겨우 나눠 가져야 한다.

시장에서 퇴출된 잉여인간은 실존적 존재마저 위협당할 지경이다. 

실제 생명이 어찌될지 모르는 잉여인간은 엘리트와 동등한 수준의 정치적 권리를 가질 수 없다. 

21세기 초반까지 존재하던 민주주의, 대의정치 같은 개념은 새롭게 등장하는 이데올로기에게 자리를 내어 주고 점차 사라질 것이다. 인공지능이 낙관파가 그리는 세상은 이렇게 시장과 노동 그리고 민주주의가 사라지는, 지금과 많이 다른 세상을 연결될 가능성이 높다. 

---> 자본주의는 소수에게 부의 집중을 가져온다. 불평등을 심화시킨다. 자본이 AI와 결합할 때 나 같은 평민, 대중에게는 어려운 시대가 될 것이다. 우연히 자본주의와 민주주의 같이 있는 세상에서 자랐을 뿐이지, 앞으로 이 둘이 같이 공존하는 세상이 지속되리나는 보장은 없을 것 같다.  이미 2024년 11월 한국에서 몇 몇 미치광이 들 때문에 민주주의가 무너질 수도 있다는 체험을 하고 있다. 

 

 

인공지능은 이미 부유한 국가와 기업에 집중되어 있다.

 

 

 

[ 자평 ] 간만의 추억....시각과 관점이 맞춰지는 기쁨

 

벤처를 할 때 즈음에 만나 업계 지식인 중 임백준씨와 공병호씨가 생각난다.

간만에 본 두 분의 근황은 많이 달라져 있다.

임백준씨와의 책연은 아직도 이어지고 있지만, 공병호씨는 기억에서 사라지고 없다. 

 

내가 좋아하는 나만의 관점으로임백준씨는 자신의 삶으로 자신의 글을 증명하는 삶을 걷고 있고,공병호씨는 자산의 삶이 자신의 글 조차 조금도 증명하지 못하고 있는 듯 하다.

 

검색을 해 보니 임백준씨와의 인연이 깊다.

따지고 보면 아래 책을 번역한 2000년 시절부터 인연이지만,

저자 자신의 콘텐츠로 본격적인 책연은 2003년에 나온 <행복한 프로그래밍>부터 이다.

 

자신이 아는 것을 참 쉽게 잘 쓰는 작가

IT분야에서 이런 글재주를 보기 참으로 드물다.