1997년 5월 7일 뉴욕 맨해튼 51번가. IBM사가 개발한 슈퍼컴퓨터 ‘딥블루’와 세계 체스 챔피언인 게리 카스파로프 간의 체스 대결이 펼쳐졌다. 카스파로프는 22세에 세계 챔피언이 된 후 13년 동안 각종 세계 대회에서 줄곧 우승해온 체스계의 황제였고 딥블루는 1초당 2억번의 수순(手順)을 제어할 수 있는 컴퓨터였다. ‘인간 대 컴퓨터’라는 세기적인 체스 대결의 결과는 카스파로프의 패배. 이후에도 인간과 컴퓨터의 체스 대결은 이어졌지만 점차 컴퓨터의 승리로 기울여지고 있는 분위기다. 카스파로프의 제자 크람릭도 2006년 체스 프로그램 ‘딥프리츠’와 대결에서 4무 2패로 졌다.

 컴퓨터가 인간을 넘어섰다고 선언하는 게 아니다. 카스파로프는 딥블루와의 대결을 마치고 “뭔가 생각하는 존재가 뒤에 숨어 컴퓨터를 조종하는 것 같았다”며 심정을 토로했다. 컴퓨터가 정말 ‘생각’을 한 것일까. 컴퓨터와 생활하는 데 너무 익숙해져 버린 우리는 틀린 맞춤법을 지적해내거나 통계 프로그램으로 자료를 처리하는 컴퓨터의 작업들을 당연하게 여기는 듯하다. 하지만 조금만 생각해보면 ‘고철 덩어리’에 불과한 컴퓨터가 고도의 ‘지적인’ 작업들을 해내는 것은 뭔가 이상하다. 실제로 컴퓨터가 하는 일이란 사칙연산에 불과한데 어떻게 복잡한 작업들을 해낼 수 있을까. ‘컴퓨터 과학의 아버지’이자 ‘인공지능의 창시자’라 불리는 앨런 튜링(Alan Turing, 1912~1954) 탄생 100주년을 맞아 그의 지적 유산들이 어떻게 현대 컴퓨터의 발전으로 이어지는지 알아본다.

 
비운의 삶을 살다간 현대 컴퓨터의 시조

컴퓨터 과학의 아버지라는 수식어가 붙긴 했지만 사실 현대 컴퓨터 모델과 관련해 자주 거론되는 이름은 튜링이 아닌 존 폰 노이만(John von Neumann)이다. 1940년대 초의 컴퓨터는 작업을 할 때마다 회로 및 기억장치를 바꿔야했고 성능도 단순 계산기에 가까웠다. 이런 상황에서 노이만은 에드삭(EDSAC), 에드박(EDVAC)을 설계 및 제작했는데 이들은 컴퓨터 기억장치에 소프트웨어 방식의 프로그램을 내장해 소프트웨어만 바꾸면 여러 작업을 할 수 있는 구조였다. 이는 오늘날 대부분의 컴퓨터 구조가 ‘폰 노이만식 구조’로 불리는 계기가 됐다.

 그러나 뒷날 노이만은 튜링으로부터 많은 아이디어를 얻었던 것으로 밝혀졌다. 「타임스」는 튜링을 20세기의 가장 위대한 과학자 중 한명으로 꼽으면서 “오늘날의 컴퓨터는 ‘노이만 기계’인데 이는 앨런 튜링의 업적을 바탕으로 존 폰 노이만이 정립한 기본적인 계산기 구조의 다양한 변종들”이라고 평가했다. 이관수 교수(동국대 교양교육원) 역시 “실질적인 하드웨어 설계와 개발에는 노이만의 영향이 지대하지만 현대적인 컴퓨터 개념의 틀을 잡은 것은 튜링이다”고 말했다.

튜링의 업적이 인정받고 공론화된 것은 비교적 최근의 일이다. 우리나라에서 컴퓨터의 발명과 관련된 튜링의 업적은 2000년대 초반에서야 서서히 알려지기 시작했고 미국과 유럽에서도 1980년대 말부터 알려지기 시작했다. 서양에서조차 그가 죽은 지 30년 넘게 그의 업적이 은폐됐던 것이다. 왜 이런 일이 벌어졌을까.

 영국인이었던 튜링은 제2차 세계대전 당시 독일군의 암호체계 ‘에니그마(Enigma)’를 해독하는 데 결정적인 역할을 했고 이후 노르망디 상륙작전 승리에 기여했다. 이것이 아이러니하게도 영국 정부가 튜링과 그의 작업들을 철저히 감시하게 된 원인이 됐다. 암호 해독 기술이 소련으로 넘어가길 두려워했던 영국 정부에게 각종 기밀 정보를 알고 있는 튜링은 요주의 인물이었기 때문이다. 결국 전쟁 중에 튜링이 이뤄낸 성과들은 모두 비밀로 부쳐졌다.

 게다가 튜링은 동성애자였다. 1930년대 당시 영국에서 동성애는 징역 2년 형의 범죄였다. 이러한 분위기에서 동성애에 개방적이었던 튜링은 영국 학계에서 ‘아웃사이더’일 수밖에 없었다. 실제로 그의 자살은 동성애 내력과 깊은 관련이 있다. 1951년 튜링과 한 청년이 애정행각을 벌인 일이 발각되자 법원은 그에게 징역형 대신 1년간 에스트로겐을 투여받을 것을 제안했고 호르몬의 영향으로 이후 튜링은 점차 가슴이 부풀고 목소리가 변하기 시작했다. 극심한 굴욕감과 모멸감에 빠진 튜링은 결국 즐겨 보던 영화 「백설공주와 일곱 난쟁이」의 한 장면과 같이 청산가리 용액에 담은 사과를 베어 물고 생을 마감했다.

 최근 비운의 삶을 살다간 튜링을 기리기 위한 여러 움직임이 일어나고 있다. 우선 전쟁에 혁혁한 공을 세웠으나 영웅 대접은커녕 동성애자라는 이유로 되레 그에게 치욕을 안긴 영국 정부에게 그에 대한 사죄를 요구하는 청원서가 빗발쳤다. 이에 지난 2009년 고든 브라운 총리는 “튜링에 대한 처우는 끔찍한 것이었다”며 정부 차원의 사과 성명을 내기도 했다. 더불어 그의 학문적 성과를 기리기 위해 영국은 2012년을 ‘튜링의 해’로 지정해 각종 행사와 기념사업을 추진하고 있다. 그렇다면 오늘날 우리는 튜링의 업적 중에서 무엇을 기억해야 하는가.
 

현대 컴퓨터의 모델, 튜링 기계

튜링이 현대적 컴퓨터 모델의 아이디어를 제공했다고는 하지만 그가 애초부터 컴퓨터를 만들 의도가 있었던 것은 아니었다. 그는 기본적으로 수학자였고 당시 수학계의 가장 뜨거운 화두였던 ‘힐베르트 프로그램(Hibert Program)’을 해결하는 데 열중하고 있었다. 힐베르트 프로그램이란 수학으로부터 모순이 도출될 수 없다는 것을 확실하게 증명해 수학체계의 기초를 확고히 하고자 한 수학자 힐베르트의 시도를 의미한다. 그의 프로그램 중에 튜링이 관심을 가졌던 것은 수학의 ‘결정 문제(Entscheidungs probelm)’인데 이는 임의의 모든 수학적 진술에 대해 그것이 참인지 여부를 결정하는 알고리즘이 존재하는가를 묻는 문제다. 바로 이 문제를 해결하는 과정에서 현대 컴퓨터의 모델인 ‘튜링 기계(Turing Machine)’의 아이디어가 정립된 것이다.

 결정 문제를 비롯한 힐베르트 프로그램은 1931년 현대 수학사의 가장 위대한 업적 중 하나인 괴델의 ‘불완전성 정리(Incompleteness Theorem)’에 의해 좌절된 상태였다. 불완전성 정리란 간단히 말해 수학체계에는 참이지만 증명 불가능한 문장이 존재한다는 정리다. 즉 산수와 수학체계에는 참인데도 체계 내의 논리로는 증명할 수 없는 불완전성이 있다는 것이다. 이렇게 풀 수 없는 문제가 존재한다는 것이 괴델에 의해 증명된 상태에서 튜링은 알고리즘과 같은 유한한 단계를 거쳐 ‘풀 수 있는’ 혹은 ‘계산 가능한’ 문제의 범위를 설정하기 위한 계산 모델로서 튜링 기계를 제시했다.

 튜링이 제시한 튜링 기계는 실제로 설계될 수 있는 기계가 아닌 수학적으로 구성된 추상적 메커니즘이다. 이 기계는 원칙적으로 무한히 제공되는 칸이 나눠진 테이프와, 그 테이프에 제시된 숫자의 기호를 읽거나 쓰거나 지울 수 있는 장치, 그리고 이 장치가 어떤 일을 어떤 순서로 해야 되는지를 규정한 표로 구성된다. 여기서 장치의 행동방식을 규정한 표는 ‘(q, a, Pb, C, r)’과 같은 형태를 띠는데 각각의 기호는 다음의 의미를 갖는다. 먼저 △기계의 상태를 나타내는 기호는 ‘q, r’이다. △사각형에 기록되는 기호는 ‘a, b’이고 실제로 다룰 기호는 ‘0, 1, □’이다. 여기서 □는 비어있는 사각형을 뜻한다. P는 인쇄하기를 뜻하는데 P0는 ‘0을 인쇄하라’이고 P□는 ‘쓰여있는 기호를 지우라’는 말이다. △C는 위치 변경을 나타내는 기호로 실제로 사용할 기호는 L(왼쪽으로 가라), R(오른쪽으로 가라), N(그대로 있으라)이다.

 따라서 ‘(q, a, Pb, C, r)’를 따르는 튜링 기계는 다음의 순서로 작동한다. ①기계는 어떤 상태 q에 있다. 그리고 기호 a를 읽는다. ②그다음 b가 a와 다른 경우에는 새로운 기호 b를 인쇄하고 b가 a와 같은 경우는 그대로, b가 □인 경우에는 원래 기호를 지운다. ③튜링 기계는 C가 L인 경우 왼쪽으로 한칸 가고, C가 R인 경우 오른쪽으로 한칸 가고 C가 N인 경우 그대로 있는다. ④그런 다음 튜링 기계는 r이 q와 다른 경우 새로운 상태로 나아가지만 r이 q와 동일한 경우에는 원래의 상태를 유지한다.

 가령 테이프에 ‘1111’이라는 숫자가 제시돼있고 ‘q1 P1 Rq’라는 명령어가 제시됐다고 해보자. 명령어에 따르면 튜링 기계는 상태 q에서 테이프의 기호가 1인 경우, 그 기호를 그대로 두고 한 칸 오른쪽으로 가서 상태 q를 유지해야 한다. 따라서 이 튜링 기계가 ‘1111’이 제시돼 있는 테이프의 가장 왼쪽 ‘1’에서부터 운동을 시작한다면 기계는 기호 1을 그대로 두고 오른쪽으로 한 칸 이동하고 이와 같은 방식의 작동을 세번 더 반복한 후에 가장 오른쪽 ‘1’ 다음 칸에서 작동을 멈출 것이다.

튜링은 튜링 기계, 보편 튜링 기계 모델 등으로 자신의 생각을 점차 발전시켜가는 과정에서 인간이 계산 가능한 모든 것은 튜링 기계로 계산이 가능하다는 결론에 다다르게 된다. 튜링의 스승인 알론조 처치(Alonzo Church) 역시 같은 생각을 했기에 이러한 튜링의 주장은 ‘처치-튜링 논제(Church-Turing Thesis)’라 불린다. 아직까지 이 주장이 완전히 증명된 것은 아니다. 그러나 튜링의 주장이 옳을 것이라는 공감대가 학자들 사이에 넓게 형성돼 있고 지금까지 튜링 기계가 증명할 수 없는 문제는 인간도 증명할 수 없다는 연구 결과에 따라 이 주장은 단순히 개연성에 기반한 ‘가정(conjecture)’이라기보다는 학문적 논쟁의 가능성이 열려 있는 동시에 향후 연구 성과가 기대되는 보다 일반화된 수준의 ‘논제(Thesis)’로 불린다.

 만약 ‘처치-튜링 논제’가 참이라면 인간의 지적 작업들이 모두 간단한 기계 조작들의 결합으로 대치될 수 있다. 그렇다면 기계 역시 인간과 같은 의미에서 ‘생각한다’고 말할 수 있지 않을까. 혹은 거꾸로 인간의 사고 과정 자체가 기계적인 것은 아닐까. 튜링은 이렇듯 ‘튜링 기계’에서 비롯된 아이디어들을 발전시켜 논문 「계산 기계와 지능」(1950)에서 인공지능(AI), 즉 기계가 생각할 수 있다는 명제(튜링 논제, Turing's Thesis)를 명시적으로 주장한다.

 당시 상황에 비춰볼 때 튜링의 주장은 상식적으로나 학문적으로나 받아들이기 힘든 급진적인 사상이었다. 전통적으로 서구 사회는 데카르트적인 의미의 심신이원론, 즉 물체는 정신이 존재하지 않더라도 그 자체로 현존하며 정신 또한 물체에 의존하지 않고 그 자체로 존재한다는 관점을 유지해 왔다. 데카르트적 시각에서 역학적(mechanical) 법칙에 지배 받는 기계가 정신을 가질 수 있다는 것은 어불성설인 것이다.

 당연히 튜링의 주장은 수많은 반대 의견에 부딪히게 된다. 기계에는 영혼이 없다는 신학적 논변부터 기계는 선악을 분간하는 일, 사랑에 빠지는 일 등을 할 수 없기에 생각도 할 수 없다는 등의 반박들이 쏟아졌다.
 

인간과 기계, 그 사이에서

튜링은 자신의 논제를 옹호하기 위해 정신을 소유하는 것이 무엇인가에 대한 독특한 기준을 제시했다. 그 기준이란 바로 ‘튜링 테스트(Turing Test)’의 통과여부다. 만약 인간이든 기계이든 어떤 존재자가 튜링 테스트를 통과하면 그것은 지능을 갖고 있다고 판단할 수 있다는 것이다.

 튜링 테스트란 인간이 컴퓨터에게 속는 경우가 가능한지를 시험하는 게임이다. 컴퓨터와 인간은 전신타자기로 문자를 주고받으며 교신 내용을 모니터로 확인할 수 있는 것을 제외하면 완벽하게 차단돼 있다. 컴퓨터는 마치 자기가 인간인 것처럼 인간에게 문자를 보내고 인간은 그 문자만을 보고 상대가 사람인지 여부를 판단해야 한다. 만일 인간이 컴퓨터가 사람일 것이라고 판단을 내린다면, 또 이런 일이 빈번하게 일어난다면 이 컴퓨터는 지능을 갖고 있고 생각을 한다고 봐야한다는 것이다. 참고로 아직까지 튜링 테스트를 통과한 컴퓨터는 없었다.

 인공지능과 관련한 튜링의 주장은 오늘날 심리철학, 인지과학 등에서 첨예한 논쟁의 소재로 다뤄지고 있다. 인간의 정신이 순수히 비물질적인 실체라는 전통적인 이원론은 진화론과 뇌 과학의 발달로 그 설득력을 잃고 있지만 생물학적 두뇌를 넘어서서 물리적으로 실현된 어떤 프로그램까지도 ‘정신’이라고 볼 수 있는지는 의문의 여지가 남아 있기 때문이다.

 가령 정신을 진화의 과정에서 생물학적으로 실현된 물리적 체계라는 점은 인정하더라도 튜링 기계처럼 단순 형식 기호의 연산만으로 인간 정신이 실현될 수 있다는 생각은 거부할 수 있다. 박정일 교수는 “첫째, 기계가 생각할 수 있으며 둘째, 인간이 생각할 수 있는 기계를 만들 수 있으며 셋째, 튜링 테스트를 통해 기계가 생각할 수 있음을 알 수 있다는 그의 주장은 앞으로도 계속 논쟁이 될 철학적 문제”라고 말했다. 실제로 튜링 테스트에서 컴퓨터가 만족할 만한 대답을 했다고 해서 컴퓨터가 그 대답을 정말 이해한 것은 아니라는 미국 분석철학자 존 설의 논변은 튜링의 주장에 대한 강력한 반론으로 등장해 이 역시 또 다른 철학적 논쟁을 이어가고 있다.

 생전에 컴퓨터 과학에서 남긴 업적도 중요하지만 튜링이 인간과 기계의 경계에 대해 던진 지적 화두야 말로 과학사에서 중대한 역할을 차지한다. 이관수 교수는 “인간과 기계의 구별이 최소한 19세기까지는 데카르트의 방식에 따라 엄격하게 구분됐는데 튜링 이후로 사이버내틱스(인공두뇌)와 같은 시각들이 본격적으로 등장했다”며 “철학, 생물학, 심리학 등 여러 분야에서 튜링적 관점은 기존의 연구를 다른 맥락에서 바라볼 수 있게 해줬다”고 말했다.

 튜링이 자살하기 얼마 전 친구에게 보낸 편지에는 다음과 같은 특이한 삼단논법이 적혀있었다. “튜링은 기계가 생각한다고 믿는다 / 튜링은 남자와 동침한다 / 그러므로 기계는 생각하지 못한다.” 튜링은 생전에 컴퓨터 지능에 대한 자신의 믿음과 동성애 모두 시대에 의해 좌절되는 경험만을 겪었다. 인간만이 사고의 기능을 독점한다는 것에 끈질기게 의문을 제기했던 그의 노력이 위 삼단논법의 결론을 거짓으로 만들 날이 올지 궁금하다.