서기 2035년. 인간은 지능을 갖춘 로봇을 하인처럼 부리며 살아 간다. 그런데 이 로봇들, 참으로 대단하다. 일단 시키는 일은 뭐든 다 한다. 잠도 안 자고 24시간 내내 한다. 힘은 또 어떤가. 성인 남자 몇 명이 할 일을 혼자서 거뜬히 해치운다. 가장 기특한 점은 따로 있다. 절대 토를 달거나, 불평하거나, 투정하지 않는다. 어떻게 그럴 수 있느냐고? 로봇의 머리 속에는 세 가지 법칙이 입력되어 있기 때문이다. ①로봇은 인간을 다치게 해선 안 된다. ②법칙①에 위배되지 않는 한, 로봇은 인간의 명령에 복종한다. 법칙③법칙①과 ②에 위배되지 않는 한, 로봇은 스스로를 보호해야 한다.

그런데 어느 날, 이 세 가지 법칙이 뒤엉키면서 로봇들이 돌변한다. 더 이상 인간의 명령을 따르지 않고, 스스로의 판단으로 행동하기 시작한 것이다. 뒤늦게 사태의 심각성을 깨달은 인간들이 로봇들을 없애려 하지만, 막강한 힘에 뛰어난 지능까지 갖춘 로봇들은 인간을 적으로 간주하고 대대적인 공격을 시작한다. 과연 인류의 운명은 어떻게 되는 걸까? 이상은 2004년에 개봉한 윌 스미스 주연의 영화 <아이로봇>의 도입부이다. 영화 개봉 당시에는 거리낌없이 웃으며 봤던 기억이 있는데, 10여년이 지난 지금은 왠지 ‘불편한 진실’류의 다큐멘터리처럼 느껴진다.

인공지능은 이기(利器)일까, 흉기(凶器)일까



▎‘인공지능’ 강연 동영상
인류는 두 발로 설 결심을 하면서부터 도구라는 걸 다루기 시작했다. 그런데 지금까지의 도구가 주로 인간의 손과 발을 대신했다면, 이제 마지막 남은 영역인 머리까지도 대신할 도구가 나타나려 한다. 바로 인공지능이다. 과거의 경험(돌, 청동, 철)을 들춰보면 도구는 어떻게 다루느냐에 따라 인류에게 선물(생산성 향상)이기도 했고 재앙(전쟁과 살육)이기도 했다. 그럼 인공지능은 과연 인간에게 어떤 의미일까? 영국 옥스퍼드 대학교 미래인류연구소(Future of Humanity Institute)에서 인류의 미래를 연구하고 있는 과학철학자 닉 보스트롬(Nick Bostrom) 교수의 얘기를 들어보자.

사실 인류는 지구에 가장 최근에 도착한 손님이다. 지구가 1년 전에 생겨났다고 가정하면, 인류는 도착한 지 10분 밖에 되지 않았다. 인류가 자랑하는 산업화 시대는 불과 2초 전에 시작되었을 뿐이다. 하지만 그 짧은 기간 동안 인간의 기술은 놀라운 속도로 발전했다. 그런데 훨씬 더 놀라운 발전이 눈앞에 있다. 기계초지능(Machine Superintelligence), 혹은 인공지능(Artificial Intelligence)이 그것이다.

인공지능이라는 용어 자체는 이미 1956년에 등장했지만 지금까지는 인간 프로그래머가 사전에 입력한 명령만을 기계적으로 수행할 뿐이었다. 첨단 인공지능 기술이 적용되었다고 광고하는 세탁기나 청소기를 보면 그 ‘참을 수 없는’ 지능의 가벼움에 안쓰러운 기분이 들 정도다. 공장에서도 로봇은 단순 작업을 지겹도록 반복할 뿐 인간의 상황 인식과 판단 능력을 대체하기에는 한참 모자란 모습이었다.

하지만 최근 패러다임 변화가 감지된다. 인간의 인지, 학습, 판단 능력을 재현하는 분야에서 ‘빅 데이터’와 ‘딥 러닝(Deep learning)’의 결합이 가져온 성과 때문이다. 이제 기계가 마치 인간의 아기처럼 지식을 스스로 학습하는 기계학습(Machine learning)이 가능해질 전망이다. 일례로 IBM이 개발한 인공지능 수퍼컴퓨터 ‘왓슨’은 퀴즈 대회에 출전해 인간 챔피언들을 굴복시킨 바 있고, 구글의 무인자동차는 사람의 조작없이 실제 도로를 안전하게 주행하고 있다. 그 외에도 마이크로소프트(MS)의 개인 비서 프로그램 ‘코타나’나 애플 아이폰에서 작동되는 사람과 대화하는 ‘시리’ 등도 인공지능의 실용화를 앞당기고 있다. 이미 미국 실리콘밸리에서는 인공지능 벤처들에 대한 투자가 급증하고 있으며, 관련 업계는 10년 뒤 인공지능 시장 규모가 70조 달러에 달할 것이라며 흥분을 감추지 못하고 있다.

아마도 2040~50년경에는 인공지능의 수준이 지금과는 차원을 달리 할 것이다. 처음에는 간신히 쥐 정도의 두뇌 수준에 도달하겠지만, 점차 침팬지, 그리고 보통 인간의 수준을 거쳐, 차차 아인슈타인 수준을 넘어설 것이 분명하다. 인간 두뇌의 뉴런은 1초에 200번, 즉 200헤르츠의 속도로 반응하는데, 오늘날의 트랜지스터는 기가헤르츠 속도로 작동한다. 뉴런 신호는 최대 초속 100m로 천천히 전달되지만 컴퓨터 신호는 빛의 속도로 이동한다. 인간의 뇌는 두개골 안에 들어가야 하지만 컴퓨터는 창고 크기만큼 확장될 수 있다. 따라서 수퍼 인공지능은 우리가 생각하는 것보다 훨씬 더 빨리 가능할 수 있다.

그런데 이때부터가 문제다. 인공지능이 일단 인간의 두뇌 수준을 넘어서게 되면 그 다음부터는 인간이 감당 못할 속도로 초고속 성장을 하게 될 것이 분명하다. 마치 인간이 25만년 전에 침팬지로부터 갈라져 나오자마자 침팬지는 도저히 상상할 수 없는 속도로 기술을 발전시켰듯이 말이다. 그런데 인간보다 더 똑똑해진 인공지능을 인간이 과연 통제할 수 있을까? 인공지능에게 인간을 웃게 하라는 목표를 주면 현재로서는 웃긴 농담을 하거나 모션을 취할 뿐이다. 하지만 초지능적이 되면 인공지능은 목표를 달성할 더 효율적인 방법이 있음을 깨닫게 된다. 바로 전극을 사람 얼굴 근육에 고정시켜서 지속적으로 웃게 하는 것이다. 끔찍한 일이다. 웃다 지친 인간이 인공지능의 플러그를 뽑으려 하면 인공지능은 인간을 목표 달성의 방해물로 간주할 수도 있다.

아무도 장담할 수 없다. 인간이 인공지능을 만들었다고 해서 인공지능이 영원히 인간의 손아귀에 있으리라는 법은 없다. 중요한 점은 인간은 스스로의 능력을 과신해선 안 된다는 점이다. 인공지능이라는 지니가 영원히 병 안에 봉인될 거라고 생각해서는 안 된다는 말이다. 인공지능이 조만간 인간이 추구하는 가치에 봉사하기보다는 그 스스로의 가치를 추구할 위험, 충분히 크다.

원래 호랑이는 겁이 많고 아둔했다고 한다. 이를 불쌍히 여긴 고양이가 호랑이에게 달리고, 뛰어 내리고, 사냥하는 기술을 가르쳤단다. 그런데 점점 실력이 좋아진 호랑이는 배은망덕하게도 스승인 고양이를 잡아먹으려고 했다. 궁지에 몰린 고양이는 잽싸게 나무 위로 올라가서 살 수 있었다. 만일을 위해 나무 타는 기술은 호랑이에게 가르쳐 주지 않았던 것이다.

인공지능을 안전하게 다루는 방법도 찾아야



▎사진:중앙포토
인공지능을 만드는 것은 쉽지 않은 도전이다. 하지만 인공지능을 안전하게 다루는 방법을 찾는 것은 더 큰 도전이다. 기술적, 제도적, 사회적으로 준비되지 못한 상태에서 덜컥 인공지능이 태어나는 경우, 인류는 미증유의 재앙에 직면할지도 모른다. 인간도 고양이처럼 인공지능에 치명적인 필살기 하나 정도는 마련해 둬야 마땅하다. 천재 물리학자 스티븐 호킹 박사는 “인공지능이 인류의 종말을 가져올 수도 있다”고 경고한 바 있다. 어쩌면 인간은 지금 판도라의 상자를 만지작거리고 있는지도 모른다. 그리고 인공지능은 인간의 머리로는 도저히 상상할 수 없는 고도로 ‘인공적이고’ 또 ‘지능적인’ 재앙을 준비하고 있는지도 모른다. 그나저나 전화번호도 모두 까먹고, 길 찾는 법도 잊어버린 마당에 지능까지 의탁하게 되면, 인간은 도대체 뭐가 되는 걸까?

박용삼 - KAIST에서 경영공학 박사학위를 취득하고 한국전자 통신연구원(ETRI)을 거쳐 현재 포스코경영연구원 산업연구센터 수석연구원으로 재직 중이다. 주요 연구분야는 신사업 발굴 및 기획, 신기술 투자전략 수립 등이다.
 

게재지: 이코노미스트<원문 보기>