AI경제학 by 어제이 애그러월 (Ajay Agrawal) 외

지능/인공지능

AI경제학 by 어제이 애그러월 (Ajay Agrawal) 외

비즈붓다 2025. 2. 18. 10:34

728x90

[ 밑줄/연결 ]

(1부. 무르익는 시간)

우리는 인공지능 자체의 경제적 특징, 즉 예측 비용의 하락에는 주목하면서도 인공지능을 동반해야 하는 새로운 시스템의 구축을 둘러싼 경제학은 등한시했다.

'시스템'은 작업의 완수를 보장하는 상호 연관된 절차라는 뜻으로 사용한다.

1920년대에 이르면 전기 도입을 추진하는 기업가는 전기의 핵심 가치 제안이 연료비 절감이 아니라 어마어마한 생산성 증가를 낳는 공장 디자인이라는 것을 이해하게 되었다.

우리가 주장하는 바는 의사 결정에서 예측과 나머지 부분을 서로 분리하고, 예측을 인간이 아닌 기계에 맡김으로써 인공지능이 시스템 수준의 혁신을 일으킨다는 것이다. 의사 결정은 그 시스템에서 핵심 요소이고, 인공지능은 의사 결정을 향상시킨다.

인공지능은 데이터 수집, 모델 수립, 예측 수행 등 기술적 과제 뿐 아니라 적재적시에 적절한 의사결정이 이루어져야 하는 조직적 과제를 해결할 수 있다. 정보의 질이 개선될 경우 새로운 문제 해결 방식을 찾아야 하는 전략적 과제 역시 마찬가지다.

(도입 단계 솔루션)

기존 절차를 일부 개선하면서 독립적으로 수용할 수 있다.

(응용 단계 솔루션)

새로운 절차의 도입이 가능하며 이 절차는 독립적으로 수용할 수 있다.

(시스템 단계 솔루션)

기존 절차를 일부 개선하며 하부 절차의 변화를 동방하는 새로운 절차의 도입을 가능케 한다.

인과 추론이 지닌 한계 때문에 인공지능의 유용성은 관련 데이터 수집이 가능한 분야에만 한정된다.

예측 비용이 하락함에 따라 기계 예측의 대체재인 인간의 예측은 그 가치가 떨어질 것이다....

기계 예측의 두 가지 핵심 보완재는 데이터와 판단이다.

우리는 의사 결정을 할 때, 그 결정에서 비롯될 결과의 가능성(예측)과 각 결과마다 우리가 부여하는 가치의 정도(판단)을 심사숙고한다.

(2부. 규칙)

정보가 비싸면 그 의사결정은 중요성이 낮은 의사결정과 다를 바 없이 신중히 따지는 대신 무조건 규칙을 따르는 것으로 귀결된다.

인공지능을 미세 조정된 규칙 시스템에 통합하려 하면 즉각적인 반발에 직면하게 된다.

인공지능의 예측이 중요한 것은 규칙보다 의사 결정에 도움을 주는 필수 정보를 제공하기 때문이다.

결국 인공지능이 더 강력해짐에 따라 정보(예측)의 비용이 낮아지고, 규칙에 의지하는 경우에 비해 의사 결정으로 인한 상대적 수익이 늘어난다. 이처럼 인공지능이 발전하면 규칙을 따르던데에서 벗어나 의사 결정으로의 전환이 일부 이루어진다.

맞춤형 교육의 잠재력을 해방시키기 위해서는 예측 모델을 수립하는 것보다 현재 교육 시스템 전체를 옴짝달싹 못하게 하는 연령 기반 커리큘럼이라는 규칙을 교육에서 떼어내는 일이 급선무다.

규칙은시스템 안에 한데 얽혀 있다. 그 때문에 하나의 규칙을 인공지능 기반 의사 결정으로 바꾸는 일이 어려운 것이다.

따라서 매우 강력한 인공지능을 도입하더라도 그 가치가 잘 드러나지 않는 경우가 흔하다. 시스템을 이루는 많은 부분이 대개 규칙에 맞추어져 있고 변화를 거스르도록 디자인되어 있기 때문이다. 이런 규칙은 상호 의존적이다. 다시 말해, 서로 교착되어 있다.

(3부. 시스템)

예측 기계를 효과적으로 활용하기 위해서는 규칙이 아니라 의사 결정을 할 수 있는 상태여야 한다는 것이다.

하지만 그에 앞서 작업 완수를 위한 절차로 이루어진 시스템이 그 변화를 수용할 수 있어야 한다.

시스템의 신뢰성을 유지하기 위해 규칙들이 서로 교착되어 있다면 그러한 시스템에서는 의사결정을 하더라도 아무런 실익이 없다.

새로운 시스템이 불러올 판도 변화가 너무 크다면 기존 조직에서 이 새로운 시스템을 수용하려 애쓸 게 아니라 새 시스템의 유기적 성장을 도울 새로운 조직에서 이 시스템을 시도할 필요가 없다.

---> 이것이 대기업에 변화와 혁신을 하기 어려운 근본적이고 커다란 이유일 것이다. 대기업은 기존의 돈버는 방식에 익숙하게 자원/역량/시스템이 최적화되어 있다. 그 덕분에 돈을 벌면서 이익을 내고 유지하고 있는 것이다. 따러서 완전히 새로운 자원/역량/시스템으로 돈을 버는 체계에는 약할 수 밖에 없다. 무능하고 나쁜 것이 아니라, 자연스럽게 당연한 것이다.

---> 이런 자연스럽지만 놀라운 해석은 크리스텐센 교수가 이미 오래 전에 시장에 알려 주셨다.

테크 산업의 선두 기업들에 인공지능은 시범 사업이 아니다. 이미 관련 사업은 수십억 달러의 수익을 낳을 수 있는 완전한 시스템을 갖추고 있다.

시스템 중심적 사고방식...

실제 가치를 창출하려면 기계 예측과 인간 예측을 둘 다 포함하는 의사 결정 시스템의 재구성과 개발이 필수적이라는 사실을 알고 있다는 측면에서 과업 중심 사고방식과는 대척점에 있다.

가장 지배적인 태도는 과업 중심적 사고다. 그 골자는 인공지능이 정확성, 속도, 비용에서 인간보다 더 나은 예측을 할 수 있다는 사실에 기대어 이를 적용할 구체적 과업을 밝히는 것이다.

과업 중심의 사고는 흔히 노동 대체에 의한 비용 절감에 이끌리는 도입 단계 솔루션을 낳는 반면, 시스템 중심 사고는 비용 절감이 아니라 가치 창출에 이끌리는 시스템 단계 솔루션을 낳는다.

---> 이것 혁신과 추종의 차이일 것이고, Open AI와 딥시크의 차이일 것이다.

시스템 단계 솔루션적 접근....

훈련, 의료 전달 체계, 보상 체계, 프라이버시, 의료 책임의 각 분야에 대해 다시금 생각하는 것을 의미한다.

다시 말해, 시스템 중심적 사고방식을 받아들여야 한다는 것이다.

인공지능은 범용 기술이 될 가능성도 있다. 이것이 인공지능에 시스템 변화가 필요한 이유이자 인공지능의 잠재력이 역설을 시사하는 이유다.

(4부. 지배력)

교착된 상태...

새로운 시스템은 이런 규칙을 의사 결정으로 바꾸는 것이며, 시스템 중심의 사고방식을 받아 들이지 않으면서 인공지능을 이용한다면 아무런 실익이 없을 것이다.

경제적 지배력이 있다는 것은 시장에서 가치 있는 동시에 희소한 걸 소유하거나 통제할 수 있다는 의미다.

새로운 시스템의 열매를 수확하기에 가장 좋은 위치게 있는 것은 기존 시스템의 성패에 별다른 이해관계가 없는 주자인 경우가 흔하다.

인공지능이 주도하는 의사 결정을 시스템의 일부로 삼으려면 반드시 그 인공지능을 받아들일 조직의 재구성이 필요하다.,,,

극복해야 할 과제는 바로 지금까지 중요하게 생각해온 것이 문제라는 것과 광범위한 변화의 필요성을 인정하는 것이다.

---> 이런 측면에서 나는 국내 대기업들이 AI기업으로 바꾼다는 선언을 크게 믿지 않는다.

----> HW중심의 IT에서, SW 알고리즘 중심의 IT, 데이터 중심의 IT에서 이제 AI중심의 IT로 패러다임의 수차례 바뀌었다.

----> 건설 도급 방식과 유사한 HW중심의 IT에 그 나마 성공적으로 머물러 있는 기업들이 그 후 몇 번의 패러다임이 바뀐 흐름에서 직원들도, 리더들도 경험과 지식이 없는 체계를, 금방 수용하고 심지어 선도할 수 있다는 하는 것은 단지 '희망'일 뿐이다.

로봇과 기계는 일반적으로 아무것도 결정하지 못한다. 따라서 누구도 지배하지 못한다.

의사결정의 바탕이 될 판단을 하는 것은 한 인간 또는 인간들이다..,..

기계가 결정하지 않는다는 걸 인정하는 것이 중요하다. 인공지능이 의사 결정을 기계에 맡기지는 못하지만, 의사 결정을 하는 사람이 교체되도록 할 수는 있다는 얘기다.

알고리즘이 판단을 실행할 때는 사용하는 기준은 누군가 정해준 것이다....

자동화 시스템이 효율적으로 작동하려면 알고리즘을 만들기 전에 그 알고리즘에 적용할 판단 기준을 토의해 결정하는 프로세스가 있어야 할 것이다. 의사 결정의 새로운 시스템이 필요한 것이다.

자동화의 가치는 그 편익과 오류 발생의 비용을 따져보는 인간의 판단에 달려 있다.

이 모든 것을 제대로 해내려면 데이터 수집, 의사 결정, 책임 분배에서 시스템 차원의 변화가 꼭 필요하다.

예측이 만족스럽고 그에 따라 취해야 할 판단과 조치가 뻔한 경우라면 자동화는 가능하다. 하지만 그런 상황이 아니면 인간에게 판단이 맡겨질 텐데, 이런 프로세스를 '예외 판단'이라고 부른다.

인공지능은 상황과 목적에 제약 조건이 많을수록 잘 작동한다.

기계가 의사 결정을 할 수 없다. 그러나 사람들은 기계가 의사 결정을 한다고 착각할 수 있다.

판단을 프로그래밍화한 덕분에 마치 기계가 결정하는 것처럼 보이는 것이다.

인공지능은 예측을 하며, 의사 결정의 자동 실행을 위해서는 코드로 작성한 인간의 판단이 필요하다.

의사 결정자가 바뀌면, 결국 판단을 내리던 기존 의사 결정자로부터 자동 처리를 위해 판단하는 사람 또는 판단의 자동 실행이 가능한 시스템 소유자에게로 지배력이 옮겨진다.

---> 그럴 것 같고, AI Agent가 활성화되면 조직의 중간 관리자에게 특히 위기가 될 것 같다.

인공지능이 정확해지려면 충분한 데이터가 필요하다. 이러한 최소 효율 규모에 이를 만큼 데이터를 수집하기 위해서는 시간과 노력이 든다. 선점자의 이익은 상업적으로 유용한 예측을 얻는데 쏟아야 하는 노력의 정도에 달려 있다.

(5부. 인공지능이 불러올 판도 변화의 양)

인공지능은 의사 결정을 개선할 수 있을 경우에만 가치가 있다....

인공지능으로 가치를 창출할 새로운 기회는 전부 의사 결정을 개선하는 방안이라는 걸 의미한다.

의사 결정의 핵심은 판단이다.

인공지능 예측은 판단을 눈에 보이게끔 만든다.

일단 인공지능이 예측을 제공하면 더 정확하게, 더 빠르게, 더 저렴한 예측과 더 적절한 판단의 이점을 가진 새로운 시스템이 등장할 가능성이 커진다.

판단할 주체의 선택, 판단 능력을 기를 방안, 의사 결정에서 실제 이 판단을 실행할 방안의 문제들은 - 이 문제들을 순차적으로 맞이하든 한데 뒤섞인 복잡한 문제로 맞이하든 - 인공지능 예측을 기반으로 한 시스템 디자인에서 핵심이다.

인공지능은 확률적 사고방식을 시스템에 도입한다.

---> 다부치 나오야 대표는 '실패한 결과를 후회하기보다는 '결과는 나빴지만 판단은 잘못되지 않았다'고 결론짓는 것,이 관점을 꾸준히 유지하는 것이 확률적 사고다'라고 썼다.

---> 불확실성에 대처하기 위해 미래를 '적절하게 예측'하는 것도 확률적 사고다. 예측은 미래를 맞히는 것이 목적이 아니라 '예기치 못한 사건'에 유연하게 대처하고, 예상이 빗나갔을 때 궤도를 수정하기 위한 것'이다. 예측은 모두 가설이다. 논리적으로 성립한다. 가설은 옳고 그름이 없다. 확률이 높고 낮음만 있을 뿐이다."

의사 결정 권한을 맡은 사람은 거기에 수반되는 지배력도 갖는다는 점이 중요하다. 의사 결정 권한을 맡으면 배치, 고려할 정보의 선택, 궁극적으로 누구의 이익을 위해 결정할 내릴지 지시할 수 있어야 한다.

---> 이 부분이 정말 핵심이라고 생각한다. 자본주의사회는 실제로 자본을 가진 자본가가 이런 지배력이 있다. 이익을 추구하는 집단에서는 자본력이 지배력을 갖는다. 다행히 정치/사회적으로는 1인 1표에 의해 지배력이 국민에게 분산되어 있다. 이제 데이터 및 AI 활용도가 높아 진다면 정치/사회적인 결정에 민주주의가 자본가의 지배력에 흡수될 위험이 더 커질 것이다. 그렇게 된다면 경제적인 문제를 넘어 사회적인 문제의 결정력도 AI를 기반으로 한 자본력에 흡수될 것 같다. 시간이 된다면 이런 부분에 좀 더 자료를 찾아 고민을 해 볼 필요가 있을 것 같은데..

---> 오늘(2025년 2월 18일) 신문 기사를 보고 한숨 지어 웃은 일이 있다. 이런 말도 안되는 말을 조언이라고 하고 있으니.. 이런 말은 "AI가 할 수 없는 일을 하면 생존할 수 있어요',"AI가 할 수 없는 일이 뭔데요?", "아, AI가 잘 할 수 없거나 하기에는 비용 효율/시간 효율이 안 나오는 일이요. 인간이 하면 더 잘할 수 있는 일이요." 라는 동어반복을 용어만 바꿔서 쓴 말잔치일 뿐이다. 생각할 꺼리도 제공하지 못하는, 말쏘시개로 쓸 수도 없는 쓰레기 같은 조언들..

이런 말은 AI에 기능적인 현재 수준과 현재 기술로 가능한 미래 기능에 대한 기본 조차 모르는 분들의 희망적인 말일 뿐이다. AI시대에 80-90년데 '열심'자본으로 성장한 사람들의 사고는 맞지 않는다. 조직의 지위가 높다가 통찰력이 있을 것라는 사회적 고정 관념으로 모셔다 듣는 시간 낭비는 이제 그만 둬야 한다.

"“감정과 창의력과 같은 정교한 능력이 요구되는 과업도 AI가 대신 수행할 수 있다”

“AI는 단순한 도구를 넘어서 인간의 사고와 창의성을 확장하는 협력자로 발전하고 있다”며 “AI가 인간의 일자리를 대체할 것이란 우려도 커지고 있지만, AI를 통해 인간의 잠재력이 더욱 확장되고 사회에 새로운 가치를 창출할 기회가 열릴 것이란 전망도 공존한다”

“이제 단순 반복적 업무는 AI와 로봇에 맡기고 인간은 AI와 협업해 혁신적 가치를 창출하고 복잡한 문제를 비판적으로 해결해 낼 수 있는 능력을 키워야 한다”

“AI가 콘서트홀 설계, 판례 정리… 전문직 업무 방식까지 바꾼다”

AI가 콘서트홀 설계, 판례 정리 전문직 업무 방식까지 바꾼다 태재미래전략연구원 주최 슈퍼 휴먼의 슈퍼 워크 포럼

www.chosun.com

예측 기계의 등장 이전에 우리가 높이 평가한 기량이 탁월한 예측과 판단이었다면, 그 이후의 가장 중요한 기량은 의사 결정 개선 능력이다.

(6부. 새로운 시스템 구상)