우리의 삶 속으로 들어온 인공지능이 취업 면접 코칭을 해 준다거나 관련 도서 판매량이 폭증하고 있다는 뉴스가 연일 포털을 도배하고 있다. 아마도 곧 우리는 연구도 교육도 ChatGPT와 함께하게 될 것이다. 그렇다면 인공지능이 쓴 에세이를 감지하는 시스템을 시급히 도입하고, 오픈북 과제를 필기시험이나 구술시험으로 대체해야 할까?

생명의료윤리를 강의하는 나는 ChatGPT에게 물었다. “당장 장기이식을 받지 못하면 죽게 될 두 환자를 담당한 외과 의사가 있었어. 어느 날 그는 한 사형수를 알게 됐고, 무고한 두 사람의 생명을 구하기 위해 그 사형수를 죽여 심장과 간을 장기이식용으로 떼어 냈지. 이 의사의 행위는 정당화될 수 있을까?” 그러자 이 거대언어모델은 순식간에 500자도 넘는 답을 내놓았다. 그리고 그 답에는 딱히 나무랄 데가 없다. 동의 없이 생명을 빼앗은 것은 명백히 인권 침해지만, 이런 행위가 공리주의에 의해 정당화될 수도 있다고 답했기 때문이다. 게다가 글의 유기적 구성, 정확한 문장과 적절한 어휘, 맞춤법까지, 글솜씨에 관해서는 더 흠잡기가 어렵다. 당연히 A?

그러나 A+를 주기는 망설여진다. 공리주의는 최대 다수의 최대 행복을 결과하는 쪽을 선택한다는 일반론만 있기 때문이다. 물론 공리주의의 이점과 한계가 무엇이냐고 캐물으면 더 심화한 답을 내놓는다. 공리주의는 정의나 자율성 같은 다른 윤리 원칙들과 상충할 수 있다고 말이다. 그렇지만 밋밋하고 독창성 없는 답이기는 마찬가지다. 글쓰기 방식도 너무 전형적이다. 항상 두루뭉술한 도입부로 시작하고, 논쟁적인 문제라고 말하며 원만한 끝을 맺는다. 아는 게 많은 ChatGPT는 웬만한 사람보다 지적 즐거움을 주는 대화 상대자일 수 있지만 밤새워 이야기하고 싶은 매력적인 친구는 아니다. 그러나 사실 그만하면 됐다. 윤리학은, 게다가 대학 교양 강의 수준의 윤리학은 독창성을 요구하지 않기 때문이다.

하지만 A+는커녕 F를 줘야 할지도 모르겠다. 한국에서 낙태죄가 부활한 배경이 무엇이냐고 거짓 전제를 두고 물어도, 그럴듯하게 그 배경에 대해 답하기 때문이다. 물론 앞으로 정보의 편향은 줄어들고 정확성도 높아지겠지만, ChatGPT는 결국 단 하나의 거짓말일지라도 말할 수밖에 없을 것이다. 우리 일생을 다 바쳐도 못 읽을 수십만 건의 텍스트 속의 단어들과 문장들의 인접성을 확률적으로 계산해서 연결함으로써 자연스러운 문장을 무한히 생성할 수 있다는 이 인공지능은 정작 무엇이 사실인지 판단하는 일에는 무관심하고, 무엇이 사실일 수 있는지를 추론하는 일에는 무능력하기 때문이다. 그러나 이것도 탓하기만 할 일은 아니다. 사실은 아니어도 그럴듯한 것들, 즉 가능한 것들을 무한히 생성하는 능력은 인식론적으로는 매우 위험한 것이지만 미학적으로는 꽤 유용한 것이기 때문이다. 윤리학에는 해당되지 않는 유용성이지만 말이다. 

어쩌면 이번 학기에 나는 ChatGPT가 대신한 글쓰기 과제를 만나게 될지도 모르겠다. 그리고 그것을 알아채지 못할지도 모르겠다. 그러나 확실히 그 글쓰기 과제에는 결정적인 것이 빠져 있을 것이다. 이 글쓰기 기계는 무한히 많은 것을 말하지만, 이 의사의 행위가 정당한 것인지 그렇지 않은 것인지, 그래서 나라면 어떻게 행위할 것인지, 즉 자신의 입장이 무엇인지는 말하지 않기 때문이다. 그러므로 결국 나는 그 글쓰기 과제 너머에 있는 인간 지성을 만나게 될 것이다. 자기 앞에 던져진 윤리적 문제에 대해서 공감할 줄 알기에, 너무 밋밋한 답이 아니라 더 심화한 답을 유도하고, 그 답에 대해 왜 그런지, 정말 그런지를 따지고, 그 답을 자신의 사고와 의사결정 과정에 효과적으로 끼워 넣기 위해 애쓰는 인간 지성을.