우리는 알고리즘의 주인이 아니다
우리는 알고리즘의 주인이 아니다
  • 오승윤 기자
  • 승인 2020.03.15 20:39
  • 댓글 0
이 기사를 공유합니다

주목, 이 책 | 『안녕, 인간(Hello, World)』, 알고리즘의 시대에 도래할 디스토피아를 예견하다

인공지능과 과학 기술의 발전으로 4차 산업 혁명이 놀라운 속도로 진행되면서, 그 주역으로 방대한 데이터를 수집하고 분석하는 알고리즘이 주목받고 있다. 서울대에 3월 중으로 개원하는 데이터사이언스대학원 역시 딥러닝, 인공지능을 기반으로 하는 과학적 방법론과 데이터 수집 및 모델링으로 개선되는 공학 기술의 알고리즘 혁신을 목표로 한다. 실제로 오늘날 우리의 삶 전반에서 알고리즘은 대량 정보의 빠른 객관화와 수치화, 그리고 이를 통한 정보 선별과 추천을 통해 개개인의 특성에 맞는 더 빠르고 편리한 생활을 영위하는 데 큰 도움을 줬고, 정치, 경제, 범죄, 의료 등 다양한 분야에서 적극적으로 활용되고 있다. 하지만 한편으로는 인공지능과 알고리즘의 도입이 과연 전보다 자유롭고 평등한 인간사회를 건설하는 일에 실질적 도움이 됐는지에 대한 문제의식이 제기된다. 해나 프라이 교수(런던대 도시수학과)는 그의 저작 『안녕, 인간(Hello, World)』 을 통해 오늘날 인간과 기계가 맺는 관계를 근본적으로 성찰하고 반성해야 할 이유를 설명한다. 그는 이런 고민으로부터 출발해 “인류 문명의 발전을 위한 인간과 기계의 운명 동반자적 관계”를 탐구한다. 

지금 우리 사회에서 알고리즘은 상상을 넘어설 정도로 광범위하게 퍼져 있다. 해나 프라이는 우리의 가시적, 비가시적 생활 전반에 자리 잡은 알고리즘이 인간과 사회를 분석하고, 또 조종한다고 설명한다. 『안녕, 인간』 에서 그가 제시한 수학적 모델들은 수집한 데이터를 지나치게 수치화, 객관화하는 인공지능과 알고리즘이 사회를 어떻게 통제하는지, 결국 어떤 디스토피아를 가져올지 보여주고 있다. 오늘날 인간은 자신의 모든 정보를 기계에 위임해 알고리즘이 분석해 준 결과를 바탕으로 선택하고 소비한다. 그중에는 데이터의 당사자조차 스스로 인지하지 못하는 정보도 포함돼 있다. 가깝게는 넷플릭스 추천 목록이나 인터넷 쇼핑과 뉴스 컨텐츠, 거시적으로는 한 나라의 정책 결정과 국책 프로젝트의 기반까지, 인공지능 알고리즘은 수집한 정보를 토대로 개인과 사회의 모든 것을 분석하고 활용한다. 저자는 우리의 주체적 선택으로 인류의 미래가 구성된다는 생각이 착각이며, 실상 우리의 생각과 감정을 우리보다 더 잘 이해하고 있는 알고리즘에 의해 결정돼 왔던 것일지도 모른다고 설명한다. 매분 매초 인간이 상상할 수조차 없을 정도의 엄청난 규모로 빠르게 불어나는 데이터를 기계가 소유하게 된다면, 이미 우리의 미래는 우리의 것이 아닐 수도 있다는 의미이다. 그에 따르면 인류가 인공지능과 알고리즘을 어떻게 다뤄야 할지 고민하는 일은 곧 인간과 알고리즘의 관계를 재정의하는 일이다. 때문에 『안녕, 인간』 이 던진 질문의 해답을 찾는 것은 곧 우리가 어떤 미래, 어떤 세상에서 살아갈지를 결정하는 중요한 키워드가 된다. 

그동안 인공지능 개발과, 신경망 알고리즘, 그리고 딥 러닝 알고리즘의 개발이 디지털 의료의 발전과 같은 혁신적인 변화를 이끌어 왔음은 부정할 수 없는 사실이다. 아울러 최근 범죄자 수배 및 검거 알고리즘이 개발돼 영화 〈마이너리티 리포트〉가 현실로 거듭난 것처럼 보이기도 한다. 해나 프라이 역시 알고리즘이 기술로서 갖는 효용을 높이 평가하지만, 동시에 우리가 알고리즘의 예측력을 맹신해 우상화를 시도하고 있는 것은 아닌지 물음을 던진다. 인공지능과 알고리즘이 정말로 오류 없이 완벽할 수 있을까? 저자는 알고리즘이 현대 사회에 끼치는 영향력을 적나라하게 보여주며 인간과 알고리즘의 한계 모두를 설명한다. 그는 앞서 언급한 알고리즘 기반의 미국 ‘범죄자 예측’ 프로그램을 예시로 들어, 해당 프로그램이 딛고 있는 데이터 자체가 빈곤 계층과 유색인종에게 불리하다고 지적했다. 알고리즘에 투입하는 데이터가 이미 편향적인 경우가 많기 때문에 알고리즘은 예측보다 더 높은 비율로 심각한 오류를 산출한다는 것이다. 나아가 저자는 알고리즘의 오류를 두고 그 책임을 알고리즘에 전가해 문제를 직시하지 않는 인간 사회가 더 큰 문제라고 지적한다. 투입하는 데이터가 편향되고 이로써 알고리즘이 ‘차별의 악순환’을 만들어냄을 인지하고 있음에도 생활의 편의 또는 인간적 한계의 보완이라는 이름 아래 심각한 문제를 묵인하고 또 외면하고 있다는 것이다. 

더불어 저자는 데이터의 접근성과 안정성에 대한 문제를 제기한다. 그는 한 쇼핑몰에서 소비자가 검색하거나 관심있게 본 상품이 다른 쇼핑몰에서도 우선 제시된다는 데 주목한다. 그에 따르면 기업, 정부와 같은 알고리즘 관계자들은 기업과 정부 등 알고리즘 관리자들이 사용자의 정보를 대중에게 공개하지 않은 채, 자신들끼리 암암리에 공유한다. 이는 인공지능과 알고리즘 도입 이래로 개인 정보 보호와 공익 사이의 갈등이 그 어느 때보다 심각할 것이라는 예측으로 이어진다. 사회 전체의 이익을 위한다는 명목 아래 개인의 정보를 수집해 분류, 재생산하려는 정부와 기업의 움직임은 필연적으로 개인의 자유권과 주체성의 영역을 침범할 수밖에 없다는 것이다.

책 말미에서 해나 프라이는 인공지능과 알고리즘으로 인해 우리의 태도와 습관이 수동적으로 변해 가지 않도록 경계하는 일이 가장 중요하다고 강조한다. 현대인들의 삶 속 깊이 들어온 알고리즘은 단순히 우리의 구매 습관을 예측하거나 선호도를 측정하는 데서 그치지 않는다. 알고리즘은 우리 인간의 주체적 자유를 훔칠 잠재력을 가졌다. 저자는 바로 이 점이 알고리즘의 진정한 위험성이라며, 알고리즘의 이로운 점만이 부풀려지고 그 위험성은 은폐된다면 그 폐해는 걷잡을 수 없이 커질 것이라고 경고한다. 『안녕, 인간』 은 알고리즘이 언제나 온전한 공정성을 보이며 완벽하게 작동하는 것이 아니므로 그에 절대적으로 의존해서는 안 된다는 점을 이야기하고 있다. 4차 산업 혁명시대, ‘알고리즘의 시대’를 살아가는 우리는 알고리즘의 편향, 오류, 책임 소재, 그리고 데이터의 접근 공정성이라는 숙제를 풀어야 한다. 곧 “알고리즘이 인류를 지배하는 세상이 올지도 모른다”라는 『안녕, 인간』 의 경고를 지나치지 않고 알고리즘으로 대표되는 기계와 인간의 관계에 대해 끊임없이 숙고해야 할 것이다.

안녕, 인간(해나 프라이, 김정아 옮김, 352쪽, 2019. 7., 와이즈베리)
안녕, 인간(해나 프라이, 김정아 옮김, 352쪽, 2019. 7., 와이즈베리)

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.