민주주의는 자동화될 수 있는가?

박영득
연세대학교 디지털사회과학센터 연구교수

 인공지능과 빅데이터를 중심으로 한 지능정보기술은 의사결정의 자동화를 가능케 하였으며 자동화된 의사결정은 기업은 물론이고 법조, 행정과 같은 부문에서도 적극적으로 활용되고 있다. 정치영역에서도 지능정보기술을 활용해 정치적 의사결정의 자동화를 시도하려는 움직임이 있다. 뉴질랜드의 프로그래머 닉 게릿센(Nick Gerritsen)은 2017년에 인공지능 정치인 샘(SAM)을 개발하여 공개했다. 미국의 오픈코그재단(OpenCog Foundation)은 로바마(ROBAMA: RObotic Analysis of Multiple Agents)를 개발하고 있으며 2025년에 완성하는 것을 목표로 하고 있다. 로바마는 현존하는 법, 제도, 정책과뉴스, 소셜미디어에서 획득한 정보를 종합하여 정치사회적 의사결정을 내리는 인공일반지능(Artifical General Intelligence)으로 개발되고 있다. 정치에 의해 이루어지는 공동체의 의사결정을 지능정보기술로 대체하려고 하는 시도는 인간에 의한 정치가 부패에 노출되어있으며 비효율성을 야기하고 편향적인 결과를 가져온다는 문제의식에서 비롯된다. 이러한 시도를 뒷받침하는 또 다른 중요한 동기는 인간 정치인과 달리 기계는 가치중립적이고 당파적 이익에 의해 움직이지 않으며, 빠르고 정확한 의사결정을 한다는 믿음이다.

공공서비스 부문 중 단순하고 반복적인 업무가 주를 이루는 영역에서는 지능정보기술은 이미 효과적으로 활용되고 있다. 캐나다 브리티시컬럼비아주는 16개 도시에서 공공서비스에 관련된 문서를 학습하고 시민들의 질의 중 65%에 자동으로 응답할 수 있는 인공지능을 활용하고 있다. 일본 국회에서는 인공지능이 국회의원실에 제기되는 시민들의 민원에 대응하는 답변서의 초안을 작성하는데 활용되고 있다(최용인 2018, 31). 인공지능 알고리즘에 의해 자동화된 의사결정은 대단히 신속하고 효율적이며, 때로는 놀라운 모습을 보여주기도 한다. 만일 한 나라의 시민들의 인터넷 검색기록, 작성 글내용 등을 수집하고 분석하여 시민들의 요구를 정확히 추정할 수 있다면 시민들의 요구를 파악하고 그에 부응해야 하는 민주정치는 매우 효율적으로 작동할 뿐만 아니라 시민들의 의사를 정파적 이해관계에 사로잡힌 정치인들이 왜곡하는 일 없이 정부정책에 반영할 수 있을지도 모른다. 이것은 시민들에게도 인간에 의한 정치에 비해서 매우 매력적인 대안일 수 있다.

그러나 알고리즘에 의해 자동화된 의사결정이 공정할 것이라는 예상은 환상에 불과하다. 구글의 온라인 광고는 여성에게 상대적으로 낮은 임금을 제시하는 채용공고를 보여주는 경향이 높고, 미국 형사법원에서 활용하고 있는 재범예측 알고리즘인 콤파스(COMPAS: Correctional Offender Management Profiling for Alternative Sanctions)는흑인 범죄자의 재범 위험성을 백인 범죄자의 재범위험성보다 무려 두 배나 높게 예측하기도 했다. 이와 유사하게 구글의 광고노출 알고리즘인 애드센스(Google AdSense)는 흑인 이용자에게 범죄기록 조회 광고를 백인 이용자에 비해 25% 더 빈번하게 노출하는 등 알고리즘이 차별적인 의사결정을 내리는 사례가 적지 않다. 또한 미국에서 복지수급자격판정을 자동화 한 이후, 인디애나 주에서만 3년 간 100만 건의 의료보험, 푸드스탬프, 현금 수당 신청이 거부당하는 사례가 나타나는 등 지능정보기술이 가난한 시민들을 분류 및 감시 하고 차별한다는 지적도 있다(Eubanks 2018). 이러한 사례들은 알고리즘이 가치중립적이라기보다는 오히려 사회적 편견과 차별을 강화하는 기제로 작동할 수 있다는 것을 보여주고 있다.

빅데이터와 인공지능 등 지능정보기술은 인간의 사회에 존재하는 수많은 선호, 욕구, 상호작용을 파악하는데 도움을 줄 수 있는 도구임에는 분명하다. 그러나 지능정보기술을 편향되고, 비효율적이며, 부패한 정치를 대체할 수 있는 중립적이고 객관적이며 모든 인류의 공동이익을 증진시킬 수 있는 기제로 바라보는 시각은 경계해야 할 것이다. 자동화된 의사결정의 재료가 되는 데이터의 수집, 정제, 분석작업은 그 작업을 수행하는 사람들과 의 가치관과 편견으로부터 자유로울 수 없다. 또한 데이터 자체도 인간이 실제로 구사한 차별적 언어사용이나 행위를 당연히 반영하고 있다. 그러므로 지능정보기술을 활용해 ‘불공정한’ 정치나 사법을 ‘공정한’ 인공지능으로 대체해야 한다고 하는 주장은 지나친 낙관론이다. 지능정보기술이 인간의 공적 의사결정을 보조하는 도구로서 훌륭하게 기능할 수 있지만, 인간의 의사결정을 완전히 대체할 수 없으며 가능하다고 하더라도 그것이 ‘공정’하다고 보기는어렵다.

또한 인간 사회에서 어떠한 문제를 해결하려는 목표는 알파고에게 주어진 목적인 ‘19×19의 구조를 갖는 바둑판 위에 상대방보다 집을 많이 짓는 것’처럼 단순하게 주어질 수 없다. 무엇보다 공동체가 추구할 목표를 설정하는 과정이 본질적으로 정치적이기에 그 인공지능을 설계한 인간의 정치적 가치관이 알파고와 같은 인공지능에 비해 더욱 크게 반영될 수밖에 없다. 정치는 인간 공동체가 직면한문제를 해결해나가는 과정이기도 하지만, 문제해결 이전에 ‘무엇이 해결해야 할 문제’인지 정의하는과정 또한 정치과정에서 핵심적이기 때문이다. 요컨대 풀어야 할 문제를 정의하는 것이 인간인 이상 인공지능을 인간과는 완전히 분리된 존재이며 객관적 존재라고 보는 시각에는 무리가 있다.

그럼에도 불구하고 정치를 인공지능에 맡기자는 일부 시민들의 목소리의 의미를 되새겨볼 필요가 있다. 정치를 자동화된 의사결정으로 대체해야 한다는 일부 시민들의 목소리에는 민주주의에 대한 불만족, 정당과 정치인에 대한 불신이 자리 잡고 있으며 이러한 불만과 불신은 충분히 이유가 있다. 그러나 인간에 의한 정치가 때로는 불평등하고, 반응적이지 않으며, 부패하고, 느리고, 비효율적이고, 심지어 공동체의 문제를 해결하는데 완전히 실패하는 경우도 다반사임에도 불구하고 인간의 정치를 자동화된 의사결정으로 완전히 대체할 수는 없다.

인간의 정치는 분명 공동체의 문제를 발견하고 해결함으로써 인간이 행복을 실현할 수 있도록하기 위한 활동일 것이다. 그러나 그러한 결과를 얻지 못했다고 해서 인간의 정치행위가 무의미한 것이 아니다. 인간은 정치행위를 통해서 서로의 다름을 인식하고, 서로의 욕구가 충돌하는 것을 목격하고, 자신이 원하는 것을 얻기 위해 전략적으로 사고하고 협력하며, 치열하게 경쟁한다. 좋은 결과에 대해서는 기뻐하며 잘못된 결과에 대해서는 후회하고 반성한다. 매우 소모적으로 보이는 이 과정 속에서 인간은 삶의 주체로서 존재할 수 있다. 정치행위를 통해 인간의 삶은 다른 누군가, 또는 무엇인가에의해 ‘살아지는’ 것이 아니라 자신이 스스로 세계에 영향을 미치려는 노력을 기울여가며 ‘살아가는’ 것이 된다.

자동화된 의사결정을 통해 매번 실수가 없는 결정을 할 수 있다고 하더라도 그것은 인간이 주체로서 사는 것이라고 볼 수 없다. 알고리즘에 의해 자동화된 의사결정에 따라 사는 세상에서 인간은 세계를 주체적으로 개척하고 변화시키며 ‘살아가 는’ 존재가 아니라 ‘살아지는’ 존재로 전락할 것이다. 요컨대, 인간에 의한 정치가 자동화된 의사결정에 비해 더 많은 잘못과 실수를 하더라도 그것을 우리 인간 스스로가 해나간다는 것에 정치행위의 의미가 있다는 것이며 정치행위가 인간됨을 실현하는 중요한 행위 중 하나이기 때문에 비효율을 감내하더라도 인간으로서의 주체성과 자율성을 지켜야 한다.

지능정보기술은 비즈니스, 커뮤니케이션 등 인간의 상호작용 양상을 혁신적으로 바꾸었다. 제한된 정신력과 체력이라는 한계를 가진 인간으로서는 도무지 다룰 수 없는 방대한 양의 자료를 즉시적으로 수집하고 분석할 수 있게 만드는 지능정보기술은 민주적 정치과정에서 시민들의 요구를 집약할수 있는 획기적 수단이 될 수 있다. 그러나 앞서 살펴본 것처럼, 지능정보기술을 활용해 인간에 의한 정치를 대체하는 것은 민주주의를 위협할 뿐만 아니라, 인간의 주체성과 자율성마저 억압할 수 있는 가능성을 내포하고 있다. 따라서 우리는 민주주의와 인간의 주체성과 자율성을 수호하는 선에서 지능정보기술이 정치발전에 기여할 수 있는 부분을 선택적으로 취해야 할 것이다.

발 행 인: 조화순
발 행 일: 2019년 8월 15일
홈페이지: http://cdss.yonsei.ac.kr
ISSN 2586-3525(Online)

다운로드