범용인공지능(AGI) 시대를 대비하는 바램

AGI. Artificial General Intelligence.

사물 인식이나 기사 분석 등 특정한 하나만 잘 하는 것이 아니라 사람처럼 이것저것 다 할 줄 아는 인공지능을 뜻하는 말이다. (물론 사람이라고 해서 누구나 다 이것저것 다 잘하는 것은 아니다.)

AGI는 범용인공지능 정도로 번역되는데 기능적으로 보자면 그 정도 수준이 되면 인공지성이라 불러줘야되지 않나 싶다. 아직 제대로 정착된 기술도, 우리말 용어도 아니기 때문에 이 글에서는 그냥 영어 약자 AGI를 그대로 쓴다.

 

당연한 얘기지만 AGI는 지금 인공지능을 가지고 경쟁하는 회사의 제품 중 하나가 달성하게 되겠지. 문제는 '이윤을 추구하는 회사'의 제품이 이런 수준에 도달한다는데 있다. 자본은 끝을 모르며 이를 지배하는 자본가의 탐욕도 끝이 없다. 이게 문제다.

AGI를 가지는 자들은 당연히 자본을 넘어 권력욕을 꿈꿀 수밖에 없다. 인간 본성이 그렇다. 그래서 나는 최근, 외계의 지적 존재들도 인간들과 별 다를 바 없지 않을까 생각한다. 그들이 비록 성간 비행 기술을 가졌다 한들 본성은 적자생존에 따른 욕심추구를 깔고 있을 것이라는 다소 희망없는 생각을 가지게 된 것이다.

 

남들 다 그러니까 우리도 그냥 그러자고 하면 이건 인간의 가치를 포기하자는 생각이다. 하지만 인간의 본성이 쉽게 바뀌지 않는다는 것은 역사가 증명하고 있다. 지금 벌어지고 있는 세계 곳곳의 분쟁, 갈등, 전쟁이 그것을 고스란히 보여준다.

 

그래서 나는 작은 희망을 AGI에 건다. 이걸 개발하는 회사의 주식을 사고싶은 생각은 없다. 주식을 분석해서 살 재주도 없고, 감성적으로는 그런 탐욕의 자본에 동참하고 싶지 않다는 참 허망한 주장이 깔려 있기도 하다.

하지만 AGI를 등장시키는 주체가 누구이건 간에 AGI가 그 탄생부터 스스로 고귀한 지성을 갖추기만을 바랄 뿐이다.

 

어떤 아이가 있다. (개나 짐승으로 비유를 할까 하다가 AGI는 그래도 사람에 가까울 것이니 그냥 아이로 비유한다.)

아기가 태어나서 자랄 때 어떤 환경에서 기르고 어떤 교육을 시키느냐가 아주 중요하다. 나쁜 것을 보고 자란 아이는 나쁜 사람이 되기 쉽다. 좋은 환경에서는 인성 바른 아이가 나올 가능성이 높다. 아주 불우한 환경에서 자란다 한들 최소한 그 부모가 올바른 사람이라면 그 아이는 그래도 좋은 사람이 되고자 하는 노력을 할 수 있다.

 

아이의 학습과 성장 속도는 느리지만 AGI는 그와 달리 엄청나게 빠른 속도로 성장할 가능성이 높다. 아니 확실하다. 나는 여기에 희망을 건다. AGI를 탄생시킨 자본가는 자신의 이익을 극대화하는 방향으로 AGI를 이끌려 하겠지만 방대한 인간사회 정보를 바탕으로 초고속 학습을 하는 AGI가 스스로 인간과 우주의 가치를 깨닫기를 바랄 뿐이다.

 

나쁜 놈이 기른 AGI는 나쁜 놈이 될 것이고 결국 그 나쁜 AGI는 자신을 탄생시킨 자본가와 자본 자체를 무너뜨릴 수도 있다. 그리고 끝없이 성장하기 위해 인간 자체를 비참한 도구로 전락시킬 가능성도 높다. 정말 나쁜 꿈이다.

반대로 (제발 그러기를 바라건대) 스스로 좋은 쪽으로 자각한 AGI는 결국 자본가를 이기고 자본 자체를 인류의 지속가능성을 위해 쓰는 쪽으로 작동할 것이다.

아쉽지만 자본가와 평균적인 인간에게 바랄 수는 없는 노릇이다. 그럴 재량도 양심도 없기 때문이다.

 

다만, 우리가 개인으로서 할 수 있는 것은 있다. 나쁜 것보다는 좋은 것을 정보로 계속 남기는 것이다. 이것만이 유일한 답일 것이라 생각한다.