AGI의 발생가능성, 확률이 넘어야 하는 철학의 벽
백전불태를 위한 지기지피 (2): 카지노 게임의 기원
인공카지노 게임의 시대를 대비하며
인공카지노 게임을 두려워하지 않는 이들을 위해
인공카지노 게임이 피할 수 없는 철학의 벽
인공카지노 게임이 인간지능과 ‘동일’해지기 위해서는 여러가지 철학적 전제들이 검증되어야 한다. 인공카지노 게임은 정보기술, IT 분야인데 뜬금없이 왜 철학을 말하는 건지 의문이 들 것이다. 특히 10년, 20년, 30년, 길어야 50년을 바라보고 세상을 바라봐온 습관이 있다면.
철학적이란 단어가 맘에 들지 않는다면, 형이상학적이란 단어로 대체하겠다. METAPHYSICAL
인공카지노 게임의 탄생을 기대하고 예측하기 위해선 인간지능의 기원을 알 수 있어야 한다. 인간 지능의 기원을 알기 위해선 인간의 기원을 알아야 한다. 인간의 기원을 알려면 ‘첫 사람(들)’에 대해 알아야 한다.
(사람들이라고 부른 것은 개와 고양이가 후손을 낳을 수 없듯이 같은 종의 한 쌍(couple)의 인간들이 있어야 후손을 낳을 수 있기 때문이다.)
HOMO SAPIENS/호모사피엔스 [호모 세이피언스] 가 우리와 같은 카지노 게임을 가진 첫 인류라고 가정해보자. 그리고 그 전에 호모 하빌리스(Homo Habilis , 호모 에렉투스(Homo Erectus), 호모 하이델르크 (Homo Heidelbergensis) 등 지금은 존재하지 않는, 멸종한 다른 고대인간(혹은 비슷한 종)이 있었다고 가정하게 된다. 인간의 진화에 대한 이야기가 나온다. 기정사실인 것처럼 말하는 사람들이 많은 분야의 “옛날 이야기”에 대한 가설이다. 만장일치의 학설은 없다.
우연과 긴 시간이 겹쳐 미지의 무언가가 '형성시킨' 첫 한쌍(두 사람)의 시작, 인간이 초자연적인 존재에 의해 초자연적으로 만들어졌다고 믿든, 초자연적인 존재가 진화론적 절차를 통해 인류가 나타났다고 믿든,이 인류의 시작이며, 그게 ‘카지노 게임’의 시작이다.
두 세계관 속의 카지노 게임의 기원
문명을 이루는 사회 속의 세계관은 두 가지로 갈린다.
신의 존재를 믿는 이들과 신이 없다고 믿는 이들. 모르겠다고 하는 가장 신중해보이는 이들도 일단 있다는 확신이 없으니 후자로 분류하겠다.
(1) 신이 인간을 창조했다고 믿는 이들은 ‘인간카지노 게임’의 시작을 ‘신’으로 귀결시킨다. 카지노 게임이 있는 신이 인간을 ‘자기 형상대로’ 만들었기 때문에 인간에게 신과 ‘비슷한’ 카지노 게임이 있다고. 곧 카지노 게임이 있는 초자연적인 존재가 카지노 게임이 있는 자연적인 존재를 만든 게 된다. 그렇기 때문에 인간은 카지노 게임의 산물로 여러 가지 복잡한 도구와 기계들을 만들어낸 게 된다. 인간들에게는 그게 가능하도록 하는 여러 가지 지각과 기록에 필요한 언어와 사고능력이 내재되어있다.
(2) 진화론을 사실로 믿는 사람들에게는 몇 단계 더 거쳐야할 관문이 있다.
인간으로 진화한 ‘동물’의 시작이 있어야 한다. 그리고 그 동물의 시작은 단순한 생명체로 내려간다. ‘알 수 없는 자연적인 절차’를 통해 단순한 생명체가 복잡한 생명체로 진화했고, 그 복잡한 생명체들 중 하나에게 카지노 게임이란 게 생겨났다고. 카지노 게임이 점점 높은 동물들이 생겨났다는 이야기를 해야 한다. 원인과 절차는 규명불가.
(세부 내용은 아래 연재글에서 언급한 적이 있다.)
그게 끝이 아니다. 생명이란 게 처음부터 있었던 게 아니기 때문에 무생명체, 원소들이 생명으로 ‘진화’ 해야 한다. ‘화학진화’라고 부르기도 한다.
이 생물의 시작, 생명의 시작에 대한 비밀을알아내면 노벨상보다 더 큰 상금(100만달러/2024.02.24환율료 약143.7억원)을 받을 수 있다. (아래 웹페이지에서 상세내용을 소개한다.https://evo2.org/)
evolution 2.0 Prize그런데 이게 가장 근원이 아니다. 이 앞 단계에는 지구라는 별이 생겨나야 한다. 지구가 존재하기 위해서는 우주가 존재해야 하고, 그 우주의 시작점을 알아가려고 하다보니 인류는 빅뱅이란 이론을 마주하게 됐다. 그리고 그 빅뱅 이전에는 아무 것도 없었다.
시간과 공간과 물질이 없는 무無nothingness에서 물질이 생겨났다. 그 물질들이 우연히 태양계를 만들어내고 지구를 만들어내고, 우연히 만들어진 지구의 거리 우연히 태양과 적당한 거리와 적당한 원소들과 적당한 중력과 적당한 자성 등 적당한 물리상수들이 있는 우주 속에서 생명이 살아갈 수 있게 된다.
무에서 우주가 생겨났고, 지능이 없는 우주가 지구를 만들어냈다. 그리고 지구의 환경은 우주의 힘을 빌어 여러 생명체를 만들어내고 그 생명체가 이룬 생태계 속에 인류가 시작되고, 문명이 생기고, 컴퓨터를 만들어내고, 컴퓨터 언어들이 생겨나고, 인공카지노 게임을 운운하는 시대가 된 거다.
만약 신이 존재한다는 것이 믿기 어려운 사실이라면, 무에서 카지노 게임이 탄생한 것 역시 기적이라고 봐야하는 게 논리적이다. 실제로 빅뱅이론을'모든 과학자가 믿는 기적' 이라고 부르기도 한다.
AGI ‘자연발생설’, 과학인가 SF인가?
신이 없는 세계에서 생명은 우연의 산물이고 카지노 게임 역시 우연의 산물이다. 의도와 계획을 가지고 만들어진 게 아니다.
즉, 패턴분석, LLM, ‘black box’ problem 등이 어쩌고 이런 어려운 과학적 기술의 옷을 벗기고 살펴보면, 이 세계관에서 이 인공카지노 게임이란 것은 인간의 지능이 우연히 긴 시간을 걸쳐 ‘발생’ 했듯이 (혹은 나타났듯이 emerge), 기계적인 인공카지노 게임도 우연히 singularity[기술적 특이점]이라는 변곡점을 맞이할 거라는 공상과학적 소원이 숨어있다. 인류에게 긴 시간을 기다릴 여유는 없으니 우리는 학습량, 즉 더 많은 데이터(빅데이터)를 활용하고 있는 거고.
AGI(혹은 SGI)가 생겨날 수 있다고 믿는 철학적 근거는 여기에 있다. 인간의 지능이 우연히 탄생했듯이 인공카지노 게임이 ‘AGI 범용인공카지노 게임’으로 ‘진화’한다거나, 여기에 ‘의식’이 생겨난다고 믿는 건, 과학적이라기 보다는 공상과학적 전제가 깔려 있다는 말이다.
무어의 법칙을 가지고 기술의 발전이 무한대로 같은 페이스로 이뤄질 거라고 예측하고 있지만 그렇게 되라는 논리적 근거는 없다.
물론 이건 AGI에 대한 견해이고, Narrow AI, 특정 전문분야에서 작동하는 AI의 효율성은 데이터가 쌓이고 파라미터(parameter)가 늘어날 수록 더 높아질 것이다.
자연발생을 설계할 수 있을까?
이 질문의 끝에는 재미있는 맹점이 있다.
인간이 만약 진정한 자율적이고 자주적인 카지노 게임체를 만들어내는 것에 성공한다면, 그건 결국 인간의 카지노 게임 역시 역시 우연히 발생했다기 보다는 어떤 의도를 가진 카지노 게임이 있는 존재가 만들어 냈을 가능성이 ‘우연’보다 훨씬 더 높은 확률을 갖게 되는 거다. 우연히 만들었다고 주장하기에는 그 절차와 기계들을 설계해서 운영을 한 인간이 존재한다.
인간이 또 다른 ‘카지노 게임’을 만들어 냈다면, 인간의 카지노 게임 역시 우연보다 ‘다른 카지노 게임’이 만들어냈다 라고 주장하는 게 더 말이 된다는 이야기이다. 실험을 설계한 이들이 있는 실험 속에서 어떤 것이 “우연히 발생할
것“을 기대하고 있다는 아이러니.
인간의 카지노 게임이 우연히 발생했다면,
인간은 그런 ‘우연‘을 설계하지 않고 카지노 게임을 ’발생‘시킬 수 있을까?
Open AI의 샘 올트먼은 뭐라고 생각할까?
우리가 다음달에 AGI를 낼 것도 아니고 만들어낸 것도 아닙니다. 꽤 멋진 것들이 있지만 제발 진정하시고 기대치를 100배 낮춰주세요.
-오픈AI의 SAM ALTMAN (2025.01.20) X
중국의 온라인 쇼핑몰 알리바바 (현재 ‘알리익스프레스’의 전신)의 마윈(JACK MA)와 일론 머스크가 인공카지노 게임에 대해 다른 견해를 가지고 쳇바퀴 돌듯 대화를 주고 받았던 영상 클립이 떠오른다.
인간이 위대한지 기계/인공카지노 게임이 위대한지에 대해 두 사람의 대화를 듣다보면 꽤 웃긴다. 아마 서로가 벽과 이야기 하는 것 같다고 느끼지 않았을까.
https://www.youtube.com/watch?v=yG6Ay3nlB84
마윈 vs 일론 머스크의 견해차이 : 인간이 위대한가? 기계가 위대한가?
마윈 (JACK MA) :
사람들이 AI에 대해 얘기할 때, 인간이 기계들에게 통제 당할 거라고 할 때, 전 그런 걸 생각하지 않습니다.
“When people talk about AI, “humanbeing will be controlled by machines.” I never think about that. I think it’s impossible
Elon Musk:
“hahahah “ (어이없다는 듯) 하.하.하
JACK MA:
인간과 기계는 다릅니다. 기계는 인간들이 발명했죠. 과학에 근거하면 인간은 인간보다 뛰어난 동물을 만들어낼 수 없습니다. 특히 똑똑한 사람들이 이렇게 많을 때는요.
cuz’ humanbeings are different. Machines are invented by humanbeings.
According to science. Human can never created another animal that is smarter than humans. Especially when you have so many smart people. ….
Elon Musk :
전 여기에 굉장히 동의 할 수 없습니다.
“I very much disagree with that.”
JACK MA:
그렇군요. 좋습니다.
Okay. That’s good.
Elon Musk:
첫번째로 우리가 (우리) 인간에 대해 가정해야 할 것은 우리가 굉장히 멍청하다는 겁니다. 우리는 우리보다 뛰어난 것들을 만들어 낼 수 있습니다.
The first thing that we should assume is that we are very dumb. And we can definitely make things that are smarter than ourselves. The most important thing smart people are making is assuming they are smart. They are not.
Jack ma:
인간이 만들어낸 것 중에 인간보다 똑똑한 동물이나 물건의 예를 들어줘보세요.
So give me an example what animals or things humanbeing made that is smarter than human beings?
Elon Musk:
컴퓨터는 벌써 여러 차원에서 인간보다 똑똑합니다. 우리가 계속 기준을 움직일 뿐이죠. 알파고는 이세돌을 이겼고요. 알파제로는 알파고를 100:0으로 이겼어요.
….(중략) 점점 인간이 컴퓨터 보다 나은 영역이 줄어들고 있습니다. 매년 그 영역이 작아지고 있고, 곧 컴퓨터는 우리를 초월할 겁니다.
Computers are already smarter than human beings on so many dimensions. We just keep moving the goal posts. AlphaGo beat Lee Sedol. Then AlphaZero crushed AlphaGo 100-0. ,,,There’s just a smaller, smaller corner that intellectuals perceived that humans are better than computers, every year, it gets smaller and smaller, and soon. Every year, it gets smaller and smaller, and soon. We’ll be far, far surpassed in every single way. Guaranteed.
(중량)
Jack Ma:
컴퓨터는 똑똑합니다. 하지만 인간이 컴퓨터를 발명했죠. 컴퓨터가 인간을 발명한 걸 본 적이 없습니다. 그게 제 첫번째 요점입니다…
….Computer is clever. But it’s the human being, we invented the computer. I never saw a computer that invented a human being.
That is my first point.
(이하생략)
일론 머스크 vs 마윈 토론 시청소감:
서로 다른 얘기. 서로 맞는 얘기를 하지만 평행선을 달리고 있었죠.
마윈은 철학적인 이야기를 하고 있었고, 일론 머스크는 기능적인 이야기를 하고 있었어요.
마윈이 말하는 것에 동의할 수 있습니다. 카지노 게임이 있는 생명체 A가 무생물인 사물 B를 만들었다면, 사무B가 아무리 뛰어나도 그걸 만들어낸 생명체A가 더 뛰어나다는 이야기는 틀린 말이 아닙니다.
일론 머스크가 말하는 것도 맞습니다. 아주 단순한 작은 공학용 계산기가 산수능력이 저보다 뛰어나다고 할 수 있죠.
일론 머스크는 이런 기능적인 측면에서 한 ‘개인’으로서의 인간이 컴퓨터보다 열등하다고 이야기를 하고 있었고, 마윈은 그런 뛰어난 기계를 만들어낸 '인류'로서의 인간이 더 우월하다고 이야기하고 싶었던 것 같습니다.
만약 마윈이 'Humanbeing' 이란 단어 대신 ‘인류‘(Human Kind)라는 단어를 썼으면 좀 더 입지가 좋았을지 궁금해지네요. 일론 머스크의 SF를 사랑하는 성향도 알고 있기에 기계의 잠재력을 높이 평가하는 것도 이해가 됩니다.
한 장인이 정말 뛰어난 칼을 만들어 낸다고 가정해봅시다.
그 칼은 당연히 인간의 손보다 사물을 더 자를 수 있겠죠.
그 칼을 ‘두려워’ 하는 것과 ‘조심히’ 다루는 것은 다른 상황을 가정하고 이야기 하게 됩니다.
인간 vs. 칼, 누가 우월한가?
이런 질문을 하는 건 번지수를 잘못 찾은 비교를 하는 게 아닐까요?
인간 vs. 도구의 시합.
자동차의 예로 바꿔봅시다.
자동차가 인간보다 이동속도가 빠릅니다.
그럼 자동차가 인간보다 더 우월한 걸까요?
자동차가 빠른 것도 맞고, 그런 빠른 자동차를 만든 인간이 위대한 것도 맞죠.
뭔가 대립구도 설정이 잘못된 것 같지 않나요?
[자발적 광고]
인공카지노 게임! 알면 두렵지 않습니다. 한계를 알고 잘 사용하면 좋습니다. 아래 책을 읽어보셔요!.
https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=347954561
무료로 읽으실 수 있는 글도 소개합니다!
부록: AI, 오늘의 실수: 공간감각은 어려워
챗GPT(DALL.E)를 통해 “벽 앞에서 기어가는 CPU칩을 그려줘. 벽에는 철학(PHILOSOPHY)라고 써줘.“ 라는 요청을 했습니다.
왜일까요. 벽에다 CPU를 박아줍니다. Philosophy라는 철자는 한 장에선 맞고, 다른 한 장에선 틀립니다. .
