윤리에서 규범으로: 글로벌 AI 거버넌스의 전환점

조계원(고려대 정치연구소)

AI를 둘러싼 규범의 정치화와 국제적 대응

인공지능(AI) 기술은 이제 산업 혁신을 넘어, 국제 정치의 핵심 쟁점으로 부상하고 있다. 미국과 중국을 비롯한 주요 강대국들은 AI 주도권을 확보하기 위해 기술 개발뿐 아니라 규범 제정과 표준화에 나서고 있으며, 이는 글로벌 질서의 향방을 좌우할 새로운 ‘규범 경쟁’으로 이어지고 있다. AI를 둘러싼 규범은 단순한 기술 지침을 넘어, 각국의 정치적 가치와 사회적 모델을 반영하는 전략적 수단으로 주목받고 있는 것이다. 이에 따라 규범을 국제적으로 조율하고 제도화할 필요성도 그 어느 때보다 커졌다.

이러한 흐름 속에서 글로벌 AI 거버넌스는 오늘날 국제사회가 직면한 핵심 의제로 자리 잡았다. AI가 정치, 경제, 사회, 문화 등 모든 분야에 깊숙이 파고들면서, 그 설계·개발·운용 과정에서 윤리적이고 책임 있는 기준을 마련하려는 시도가 각국 정부, 국제기구, 민간 기업을 중심으로 활발히 전개됐다. 그러나 선언적 수준의 윤리 원칙만으로는 구속력이 부족하고 실효성이 떨어진다는 한계가 반복적으로 지적됐으며, 이에 따라 최근에는 AI 시스템의 안전성, 투명성, 공정성 등을 실질적으로 보장하기 위한 국제적 규제와 표준 마련이 시급한 과제가 되었다. 그 결과, 국가 간 일관된 규제 프레임워크를 구축하려는 논의가 글로벌 차원에서 본격화하고 있다.

글로벌 AI 거버넌스의 주요 기능

글로벌 AI 거버넌스는 책임 있는 AI 개발과 사용을 보장하기 위한 집단적 행동과 다국적 협력을 촉진하는 다중 이해관계자 규제 프레임워크로 정의할 수 있다. 글로벌 수준에서 다양한 이해관계자가 참여하여 AI의 개발과 사용 및 규제를 위한 윤리 규범 및 법적 기준을 개발하고, 다자간 협력 체계를 통해 조정된 방식으로 이를 실행할 수 있는 메커니즘을 의미한다. 글로벌 AI 거버넌스는 크게 7가지 기능을 수행한다.

첫째, AI의 미래 방향 및 영향에 대한 정기적 평가이다. AI 기술의 발전 방향과 그에 따른 영향 및 위험을 독립적이고 다학제적으로 평가하는 역할을 수행하며, 이를 통해 정책 입안자들에게 AI 프로그램을 개발하고 위험을 관리할 수 있는 자료를 제공한다.

둘째, 전 세계적으로 부상하고 있는 글로벌 AI 거버넌스 프레임워크의 상호운용성을 강화하는 것이다. 각국의 AI 거버넌스를 조화시키고, 국제 규범에 기반한 글로벌 AI 거버넌스 프레임워크를 구축하는 기능이다. 유엔, 유네스코, ITU 등과 같은 포럼을 활용하여 정책을 조율하고, 공통의 이해를 구축하며, 모범 사례를 드러내고, 실행을 지원하며, P2P(Peer to Peer) 학습을 촉진할 수 있다. 또한 글로벌 AI 거버넌스 프레임워크는 공공 및 민간 부문, 지역 간, 국가 간 AI 격차와 거버넌스 간극을 줄이기 위해 다양한 조직이 운영해야 할 원칙과 규범을 명확히 하는 정책 결정을 지원하고 이행을 유도하는 역할을 한다.

셋째, 표준, 안전 및 위험 관리 프레임워크를 개발하고 조화시키는 것이다. 글로벌 차원의 기술적·규범적 표준을 개발하고, 이를 조화시킴으로써 AI의 안전성과 위험 관리를 위한 통일된 기준을 설정한다. 예를 들어, 신흥 AI 안전 기관들을 네트워크로 연결하여 프레임워크 간 경쟁, 관할권 간 표준화 관행의 파편화, 글로벌 패치워크 내 많은 격차로 인한 위험을 줄일 수 있다.

넷째, 국제적인 다중 이해관계자와의 협력을 통해 AI 개발과 사용이 경제적·사회적 혜택을 가져올 수 있도록 촉진하는 역할이다. 특히 글로벌 남반구와 같은 지역에 법적, 재정적, 기술적 조치를 조력하여 공공 부문을 중심으로 책임 있고 유용한 AI 사용이 이뤄질 수 있도록 도와야 한다.

다섯째, 컴퓨팅 인프라 접근, 데이터 구축, AI 인재 개발 및 지속가능발전목표(SDGs)를 위한 AI 공공재를 촉진하는 것이다. 데이터, 컴퓨팅 인프라, 인재 개발을 지원하여 SDGs를 달성하기 위한 AI 시스템 개발을 촉진하고, 이를 통해 학계, 사회적 기업가, 시민사회가 AI 시스템을 구축하고 연구할 수 있는 기반을 제공한다.

여섯째, 위험을 모니터링하고 사고를 보고하며 긴급한 대응을 조정하는 역할이다. AI가 국제 안보와 글로벌 안전성에 미치는 위험을 모니터링하고, 신속하게 대응할 수 있도록 조율할 수 있는 능력을 구축하는 것으로 AI가 무기화될 가능성에 대응하는 것도 이에 포함된다.

일곱째, 글로벌 차원에서 법적 구속력을 가진 규범과 비구속적 규범을 개발하고, 이를 통해 AI 시스템의 설계, 배포 및 사용이 국제법을 준수하도록 하는 것이다. 예를 들어, 국가들의 인권 관행에 대한 모니터링, 평가, 보고를 쉽게 하는 보편적 정례 검토나 SDGs에 대한 보고와 유사한 방식을 도입하여 AI 시스템에 대한 책임 공백을 줄이는 것을 고려할 수 있다.

글로벌 AI 거버넌스의 양상과 미래

현재의 글로벌 AI 거버넌스는 여러 행위자가 주도하는 다양한 이니셔티브를 통해 파편화된 환경에서 발전하고 있다. AI 거버넌스 이니셔티브는 2018~2022년 사이에 그 수가 급증했는데, 여러 이해관계자에 의해 다양한 거버넌스 이니셔티브가 추진되었다. 특히 G7, G20, 유럽평의회와 같은 국가 주도의 이니셔티브와 UN, EU, OECD, ISO와 같은 비국가 주도 이니셔티브가 AI 거버넌스의 핵심 동인으로 등장하고 있다. 글로벌 인공지능 파트너십(GPAI)처럼 AI 문제를 다룰 수 있는 국가 주도의 새로운 기구도 설립되었다. 현재의 글로벌 AI 거버넌스는 다양한 이해관계자 간의 느슨한 연계성을 가진 다중심적 구조를 특징으로 하는 ‘약한 체제 복합체’(weak regime complex)로 볼 수 있다.

규제 제도를 구분하는 다섯 가지 주요 차원을 기준으로 보면, 여러 정책 영역을 포괄하는 수평적 규제와 특정 정책 영역 혹은 애플리케이션을 다루는 수직적 규제가 혼합되어 있으며, 핵심 규제 기관의 역할을 맡은 기관이 없이 여러 수준과 지역에 걸쳐 병렬적으로 권위가 분산되어 있다. 또한 국내 법령이나 조약과 같은 경성법보다는 행동 지침, 권고, 결의, 표준 등과 같은 연성법에 치우쳐 있고, 주로 공공적 성격이 강하며, 군사 및 비군사 규제가 혼합된 양상을 보인다.

글로벌 AI 거버넌스는 진공 상태에서 이뤄지는 것이 아니므로 각 국가의 AI 기술에 대한 경제적, 군사적, 사회적 이해관계가 글로벌 거버넌스 형성에 장애물로 작용한다. AI는 다용도 기술로 기술 혁신이 경제적, 안보적 이점을 가져올 수 있기 때문에 각 국가는 이 기술을 통해 전략적 우위를 확보하려는 유인을 갖게 된다. 그 결과 각국이 독자적으로 AI 기술을 개발하고, 다른 국가와의 기술 공유를 제한하려는 모습이 나타나고 있다. 미중 간의 기술 경쟁으로 인한 AI 기술 블록화가 대표적인 사례이다. 미국은 대중 기술 견제를 통해 기술동맹을 확대하고 있지만, 중국은 AI 응용 분야에서 경쟁력을 바탕으로 중국 내에 자체 생태계를 구축하면서 두 진영으로 분리되는 블록화가 심화하고 있다. 이러한 AI 기술 블록화는 글로벌 차원에서 AI 기술 개발과 표준화를 위한 협력에 제약을 가하고, 독자적인 규제 프레임워크 형성과 자국의 이익 중심의 규제로 이어져 글로벌 AI 거버넌스 형성에 부정적인 영향을 미친다.

이와 같은 지정학적 긴장과 경쟁, 그리고 파편화된 환경이라는 조건에서 글로벌 AI 거버넌스를 발전시키는 것이 과제라고 할 수 있는데, 현재의 ‘약한 체제 복합체’ 구조를 강화하는 것이 현실적인 대안이다. 체제 복합체는 지정학적 혹은 제도적 조건으로 인해 어떤 포럼에서 논의가 진전되지 않아도 다른 포럼을 통해 협력이 이뤄지면 시간이 지남에 따라 상호 강화적인 변화를 만들어내어 신뢰 구축을 촉진할 수 있고, 다양한 이해관계자를 포용하여 기술 변화에 유연하게 적응할 수 있다는 장점이 있다. 그러나 제도적 조정과 권위의 부족으로 인해 행위자들이 책임을 회피하거나, 약속을 이행하지 않는 문제가 있으므로 목표 조정, 정보 공유 개선, 제도적 파트너십 개발, 갈등 해결 메커니즘 구축 등을 통해 기존 제도들을 조정하고 역량을 강화하는 노력이 필요하다.

한국의 대응 과제: 규범 수용국을 넘어 규범 제안국으로

글로벌 AI 거버넌스가 규범 주도권 경쟁의 장으로 전환되고 있는 상황에서, 한국 역시 국제 규범 형성에 보다 능동적이고 전략적으로 참여해야 한다. 단순한 규범 수용을 넘어, 자체적인 정책 비전과 규범적 입장을 정립하고, OECD, G7, UN, GPAI 등 주요 국제 논의 구조에 적극 개입할 필요가 있다. 이를 위해서는 디지털 권리, 책임성, 데이터 공정성 등 핵심 의제에 대한 선제적 제안 역량을 갖추는 것이 시급하다. 아울러 EU의 「AI법」을 비롯한 주요 국제 규범과 정합성을 확보하는 방향으로 국내 AI 규제 체계를 조속히 정비해야 한다. 산업 경쟁력과 기술 규제 사이의 균형을 고려하되, 신뢰 기반의 AI 생태계 조성이 장기적 경쟁력의 핵심임을 인식하고, 「디지털 권리장전」(2023.9)에서 제시된 윤리 원칙을 실질적인 법·제도로 전환하는 정책적 조치가 요구된다.

이를 기반으로 미중 간 기술 패권 경쟁이 심화하는 국제 질서 속에서 규범 기반 국제협력을 끌어 낼 수 있는 규범 촉진국(norm entrepreneur)으로서의 외교 전략을 모색해야 한다. 이는 국제 갈등의 조정자 역할을 수행함과 동시에, 한국형 규범을 제안하고 확산시키는 능동적 규범 형성자로서의 위상을 구축하는 길이기도 하다. 이를 통해 한국은 글로벌 AI 거버넌스 형성 과정에서 새로운 질서의 공동 설계자로서 독자적인 역할과 기여를 해나갈 수 있을 것이다.

 

참고문헌

김맹근 (2024), 미·중 AI 기술 경쟁 양상과 블록화 전망, 『디지털 비즈온』 2월 9일. https://www.digitalbizon.com/news/articleView.html?idxno=2334605

조은교 (2023), 미·중 첨단기술의 블록화와 우리의 대응, 『이슈분석』, 245.

최계영 (2023), 글로벌 AI 거버넌스 논의와 국제협력, 『KISDI Premium Report』, 23-06.

Niazi, Maral. (2024). “Conceptualizing Global Governace of AI.” Digital Policy Hub Working Paper.

United Nations. (2023). Interim Report: Governing AI for Humanity. https://www.un.org/sites/un2.un.org/files/un_ai_advisory_body_governing_ai_for_humanity_interim_report.pdf

Roberts, Huw, Emmie Hine, Mariarosaria Taddeo, and Luciano Floridi. (2024). “Global AI Governance: Barriers and Pathway Forward.” International Affairs 100(3): 1275-1286.

Koniakou, Vasiliki. (2023). “From the ‘Rush to Ethics’ to the ‘Race for Governance’ in Artificial Intelligence.” Information Systems Frontiers 25: 71-102.

Schmitt, Lewin. (2022). “Mapping Global AI Governance: A Nascent Regime in a Fragmented Landscaple.” AI and Ethics 2: 303-314.

Tallberg, Jonas, Eva Erman, Markus Furendal, Johannes Geith, Mark Klamberg, and Magnus Lundgren. (2023). “The Global Governance of Artificial Intelligence: Next Steps for Empirical and Normative Research.” International Studies Review 25(3): viad040.

Veale, Michael, Kira Matus, and Robert Gorwa. (2023). “AI and Global Governance: Modalities, Rationales, Tensions.” Annual Review of Law and Social Science 19: 255-275.

디지털사회(Digital Society)는 연세대학교 디지털사회과학센터(Center for Digital Social Science)에서 발행하는 이슈브리프입니다. 디지털사회의 내용은 저자 개인의 견해이며, 디지털사회과학센터의 공식입장이 아님을 밝힙니다