AI 고속도로 시대의 세 가지 기본 규칙

외교부가 후원하고 서울대 정보세계정치학회가 주최한 제2회 사이버·AI외교안보포럼 세미나 토론에 참석했다. 오늘 세미나는 세 편의 발표가 절묘한 조화를 이루었던 것 같다. 외교부, 국방부, 과기정통부의 관점을 대변하는 발제들이 마치 설계된 듯 맞물렸기 때문이다. 이를 통해 우리는 ‘AI 고속도로’ 시대에 필요한 세 가지 기본 규칙의 윤곽을 확인할 수 있었다.

첫째, 지도 그리기

AI 고속도로 위의 국경과 통행 규칙을 어디에 그을 것인가. 어디까지 허용되고 어디부터 금지되는지, 어떤 원칙으로 국제질서를 설계할 것인지는 유엔 차원의 국제규범 설정 과제다.

주목할 점은 논의의 초점이 변화하고 있다는 것이다. 과거의 “하지 말자”는 원칙 선언에서, 이제는 “어떻게 하게 만들 것인가”라는 구체적 실행 설명서 경쟁으로 이동하고 있다.

둘째, 군사도로의 안전장치

국방·군사 영역의 AI는 민간과 본질적으로 다르다. 민간에서 승용차처럼 쓰이는 AI가 국방에서는 군용 전차가 된다. 속도, 위험도, 책임의 크기가 차원을 달리하기에 공통 안전수칙, 공용 규격, 사고 대응 연락망 등 특별한 안전장치가 요구된다.

셋째, 신호등과 계기판

신호등 없는 교차로에서 “조심하자”를 외치는 것만으로는 사고를 막을 수 없듯, 계기판 없이는 안전 여부를 판단할 수 없다. AI 안전평가 체계라는 신뢰 인프라가 있어야만 국가 간 신뢰가 형성되고 실질적 협력이 가능해진다. 더욱 중요한 것은 평가 기준을 설정하는 주체가 국제 규칙을 사실상 주도하게 된다는 점이다.

리더십은 선언이 아니라 패키지에서 나온다

그렇다면 글로벌 AI 리더십은 어떻게 확보할 것인가? 답은 명확하다. 리더십은 ’선언’이 아니라 ’패키지’에서 나온다.

그러나 현재 한국의 AI 외교·안보 협력은 부처 간 칸막이가 여전히 견고하다. 외교부, 국방부, 과기정통부가 각자의 언어로 말하면서 전체 그림이 연결되지 않고, 결과적으로 국제사회에서 ’한국의 전략’이 흐릿하게 보인다. “AI 협력하자”는 누구나 말할 수 있지만, 교육·제도·평가도구·운영모델을 통합한 완결형 솔루션을 제시하는 나라는 많지 않다.

누가 무엇을 맡아야 하는가

해결 방향은 분명하다. 외교부는 글로벌 AI 협력 패키지의 총괄 설계자로서 국제사회에 배포할 ’종합 키트’를 구축해야 한다. 과기정통부와 산하 연구기관(국가AI안전연구소 등)은 그 패키지의 핵심 부품, 즉 AI 모델 평가·검증·레드팀·벤치마크 운영 역량이라는 신뢰 인프라를 공급해야 한다. 국방부와 국정원은 안보 민감성을 ’협력 가능한 형태’로 번역하는 역할을 맡아야 한다.

AI 시대의 안보는 딜레마에 직면해 있다. 닫기만 하면 국제 신뢰를 잃고, 열기만 하면 위험에 노출된다. 핵심은 ’선별적 공개’와 ’선별적 협력’이다. AI 오용·확산 위험 관련 평가 시나리오를 국제협력이 가능한 수준으로 정제해 제공한다면, 한국은 안보를 지키면서도 국제 신뢰와 리더십을 동시에 확보하는 전략적 균형점을 찾을 수 있다.

이 세 축이 유기적으로 결합될 때, 이재명 정부가 천명한 ’글로벌 AI 이니셔티브’와 ’글로벌 AI 기본사회 확산’은 공허한 구호를 넘어 국제사회가 실제로 채택 가능한 실행 모델로 구현될 것이다.