AI 안전의 상호운용성은 누구의 질서를 전제하는가

<<AI 안전(AI Safety)의 상호운용성(interoperability)은 누구의 질서를 전제하는가>>

AI 안전 거버넌스는 더 이상 기술 윤리의 문제가 아니다. 그것은 규범, 표준, 데이터, 그리고 외교가 얽힌 새로운 국제질서의 설계 문제다. 이러한 문제의식 속에서 United Nations University Institute in Macau는 정책보고서 Interoperability in AI Safety Governance: Ethics, Regulations, and Standards를 발표하며, 글로벌 AI 안전 논의의 핵심 개념으로 ‘상호운용성(interoperability)’을 전면에 내세웠다. 이 보고서는 단순한 AI 윤리 선언을 넘어, 파편화된 AI 규범 환경을 어떻게 연결할 것인가라는 실천적 질문을 던지고 있다. 그러나 그와 동시에, 그 해법이 지닌 정치적 함의와 한계 역시 뚜렷하게 드러낸다.

보고서의 핵심 내용을 요약하면 다음과 같다.

첫째, AI 안전 거버넌스의 핵심 문제는 파편화이며 해법은 상호운용성이다(Fragmentation and the Case for Interoperability). 보고서는 현재의 AI 안전 체계를 ‘규범적 파편화(fragmentation)’ 상태로 진단한다. AI 위험은 국경을 넘지만, 이를 관리하는 윤리 기준, 법·규제, 기술 표준은 국가별로 단절되어 있다는 것이다. 이로 인해 위험 관리 실패, 혁신 저해, 공공 신뢰 약화가 동시에 발생한다. 보고서는 이에 대한 대안으로 ‘상호운용 가능한 거버넌스 생태계(interoperable governance ecosystem)’ 구축을 제안한다. 이는 단일 글로벌 규칙을 강제하는 것이 아니라, 서로 다른 제도와 표준이 연결·조정·번역될 수 있는 상태를 의미한다.

둘째, 상호운용성은 윤리·규제·기술의 3차원 문제다(Ethical, Regulatory, and Technical Interoperability). 보고서는 상호운용성을 세 가지 차원으로 구분한다.

1. 윤리적 상호운용성(ethical interoperability): 공정성·책임성·투명성과 같은 공통 가치를 선언에 그치지 않고 운영 가능한 규범(actionable norms)으로 구체화

2. 규제적 상호운용성(regulatory interoperability): 국가 간 법·제도의 조정과 상호인정(mutual recognition)을 통해 중복 규제와 규제 공백 최소화

3. 기술적 상호운용성(technical interoperability): 표준과 디지털 공공 인프라(Digital Public Infrastructure)를 설계 단계부터 연계 가능하도록 만드는 ‘설계에 의한 상호운용성(interoperability by design)’

셋째, 중견국 사례를 통한 ‘규제 학습’ 모델을 제시한다(Regulatory Learning via Middle-Power Case Studies). 또한 보고서는 중국, 한국, 싱가포르, 영국을 사례로 자율주행, 교육 AI, 국경 간 데이터 흐름을 비교 분석한다. 여기서 핵심은 특정 국가 모델의 확산이 아니라, ‘규제 학습(regulatory learning)’이다. 각국 정책 담당자와 이해관계자를 참여시켜 제도의 차이를 이해하고, 상호 조정과 번역 가능성을 탐색한다는 것이다. 이를 통해 보고서는 글로벌 규범과 로컬 맥락을 동시에 반영하는 ‘글로컬(glocal) 거버넌스’의 가능성을 제시한다.

넷째, AI 안전 거버넌스는 성과 중심으로 진화해야 한다(From Principle-Led to Evidence- and Outcomes-Oriented Governance). 보고서는 AI 안전 체계가 원칙 중심(principle-led) 접근을 넘어, 증거 기반·성과 지향(evidence- and outcomes-oriented) 모델로 이동하고 있다고 진단한다. 중요한 것은 더 많은 원칙이 아니라, 실제 위험 감소와 책임성 확보라는 측정 가능한 결과(measurable outcomes)다. 이를 위해 데이터 거버넌스, 표준 역량, AI 리터러시와 역량 구축(capacity building)에 대한 지속적 투자가 필요하다고 결론짓는다.

이 보고서는 동시에 뚜렷한 논쟁 지점을 남긴다. 가장 큰 쟁점은 사례 구성의 정치성이다. 중국을 포함하면서 미국을 제외한 구성은, 의도와 무관하게 “미국 없는 AI 안전 질서”라는 인상을 준다. 이는 AI 표준과 시장에서 미국이 갖는 사실상의 규칙 설정력(de facto rule-making power)을 충분히 반영하지 못하게 만든다.

더 나아가 중국, 싱가포르, 한국, 영국을 동등한 규범 행위자처럼 병렬 배치함으로써, 중국의 국가 주도 AI 거버넌스가 지닌 권력 집중, 투명성 한계, 안보 결합성은 충분히 전면화되지 않는다. 그 결과 중국은 ‘정상적인 규범 참여자’로, 미국은 불필요한 외생 변수로 처리되는 인상을 남긴다.

이같은 한계점은 ‘중국 편향’이라기보다, UN 기관이 지닌 구조적 제약(structural constraints)의 결과에 가깝다. 중국을 배제한 AI 안전 논의는 UN 차원에서 성립하기 어렵기 때문이다. 문제는 중국을 포함하되, 미·중·EU 간 ‘권력 비대칭(power asymmetry)’을 충분히 드러내지 못했다는 데 있다. 상호운용성이라는 기술적 언어가 자칫 정치적 현실을 중립화하는 수사로 기능할 위험이 여기서 발생한다.

이 보고서가 한국에 던지는 메시지는 단순하지 않다. 한국은 이 보고서에서 ‘규범 수용자(rule-taker)’가 아니라, ‘규범 번역자(rule translator)로 상정된다. 미국 규범에 깊이 연결되어 있으면서도 중국과의 산업·데이터 관계를 회피할 수 없고, 동시에 EU식 규범 언어에 제도적으로 친화적인 국가라는 복합적 위치가 한국의 전제 조건인 것이다. 이는 ’상호운용 가능한 거버넌스 생태계(interoperable governance ecosystem)‘가 한국에 기회가 될 수 있음을 의미한다. 단일 표준 경쟁에서 밀리지 않으면서, 복수 규범과 호환되는 ’다중 적합성(multi-compliance)‘ 전략을 취할 수 있기 때문이다. AI 안전, 신뢰, 테스트·인증, 데이터 거버넌스는 대규모 빅테크를 보유하지 않은 국가도 외교적 영향력을 발휘할 수 있는 영역이다.

그러나 이는 동시에 함정이 될 수 있다. 상호운용성을 명분으로 가치 충돌을 기술적 조정 문제로 축소할 경우, 한국은 “모두와 호환되지만 누구의 기준도 주도하지 못하는 국가”로 고착될 위험이 있기 때문이다. 따라서 한국에 필요한 것은 단순한 상호운용성이 아니라 ’조건부 상호운용성(conditional interoperability)‘이다. 기술·표준 차원에서는 폭넓은 연결을 허용하되, 정치·안보·기본권 차원에서는 명확한 레드라인(즉 AI안전 주권)을 설정하는 전략적 설계가 필요하다는 것이다. 특히 이 보고서의 ‘미국 부재’를 그대로 따라 해석해서는 안 된다. 한국에게 미국은 환경 변수가 아니라 ‘직접적 행위자(direct actor)’이기 때문이다. 이 보고서가 한국에 주는 진짜 함의는 “미국을 배제하라”가 아니라, 미국을 전제로 하되 미국만으로 설명되지 않는 외교 공간을 설계하라는 것이다.

UNU Macau의 이번 보고서는 AI 안전을 둘러싼 새로운 다자 협력 질서를 실험적으로 제시한다. 동시에 그것은 ‘상호운용성(interoperability)’이 결코 중립적인 기술 개념이 아니라, 외교·안보·권력 관계를 전제로 작동한다는 사실을 드러낸다. AI 안전의 미래는 더 많은 원칙을 선언하는 데 있지 않다. 그것은 누가, 어떤 조건에서, 어떤 규칙을 연결할 것인가를 둘러싼 치열한 외교의 문제이다. 이 보고서는 그 가능성과 위험을 동시에 보여주며, 특히 한국에게는 하나의 질문을 남긴다.

“한국은 중립을 말하는 국가가 될 것인가, 아니면 충돌하는 규범을 조건부로 연결·조정하는 AI 안전 외교국가가 될 것인가?”

그 선택은 이제 정책의 문제이자, 전략의 문제이다.

• United Nations University Institute in Macau(UNU Macau)는 유엔대학(UNU) 산하의 국제 정책 연구기관으로, AI·디지털 기술·거버넌스·지속가능발전을 핵심 의제로 삼아 글로벌 규범 형성과 정책 설계를 지원하는 역할을 수행한다.

*출처: https://unu.edu/macau/news/new-policy-report-interoperability-ai-safety-governance-ethics-regulations-and-standards