AI 안전은 기술이 아니라 외교다

<<AI 안전은 기술이 아니라 외교다: 호주 AISI 추진계획이 주는 AI중견국 전략의 지정학적 함의>>

인공지능(AI) 안전연구소(AI Safety Institute)는 더 이상 기술 규제나 윤리 담론의 부속물이 아니다. 최근 호주에서 논의 중인 국가 AI 안전 연구소(AISI) 설계 방향을 담은 보고서가 하나 공개되었는데, 이제 AI 안전이라는 것이 국가 안보·외교·지정학 전략의 핵심 인프라로 재정의되고 있음을 분명히 보여주고 있다.

2026년 설립을 목표로 한 호주의 AISI 구상은, 단순히 “AI를 안전하게 쓰자”는 선언이 아니다. 이는 프런티어 AI 위험을 둘러싼 국제 질서 속에서 호주가 어떤 국가로 자리매김할 것인가에 대한 전략적 선택에 가깝다. 호주의 공익적 AI싱크탱크 Good Ancestors가 139명의 글로벌 AI 안전 전문가를 대상으로 실시한 설문조사 결과는 이를 명확히 한다. 전문가 다수는 호주 AISI가 편향·차별·프라이버시 같은 전통적 AI 윤리 이슈보다, 자율 시스템의 통제 상실, 사이버 오용, 이중용도 과학과 CBRN 위험 같은 재앙적·프런티어 위험에 집중해야 한다고 응답했다.

이러한 인식은 결코 우연이 아니다. AI 경쟁의 최전선이 더 이상 ‘누가 더 좋은 모델을 만드는가’의 문제가 아니라, 누가 프런티어 AI의 위험을 정의하고, 평가하고, 통제할 규칙을 설계하는가의 문제로 이동하고 있기 때문이다.

AI 안전 연구소의 세계화, 그리고 경쟁의 성격 변화

이미 주요국들은 AI 안전 연구소를 전략 자산으로 다루고 있다. 영국은 UK AI Safety Institute(나중에 AI Security Institute로 개칭)를 통해 글로벌 AI 안전 담론의 규범 설정자 역할을 선점했고, 미국은 US AI Safety Institute를 중심으로 산업 표준과 기술 평가 인프라를 결합한 실용 노선을 택했다. 일본과 캐나다 역시 각자의 산업·거버넌스 모델에 맞춘 AI 안전 체계를 구축 중이다.

이 흐름 속에서 호주의 선택은 크게 다르지 않지만 기존의 연구소들보다도 외교적이고 지정학적 전략을 고려한다. 즉 호주는 AI 초강대국도, 글로벌 빅테크의 본거지도 아니다. 대신 설문 응답자들이 주목한 것은 호주의 ‘중견국(middle power)’ 지정학이다. 미국과 중국 모두와 협력 채널을 유지하면서도 특정 진영에 과도하게 종속되지 않은 위치, 인도–태평양 지역에서 축적된 외교적 신뢰, 그리고 바이오보안·공급망·자원 분야에서의 비교우위가 결합되면서, 호주는 AI 안전의 중재자이자 조정자가 될 잠재력을 갖는다는 것이다.

따라서 호주 AISI가 강조하는 독립적 모델 평가, 하드웨어 검증, 국제 조정, 지역 역량 구축은 단순한 연구 과제가 아니다. 이는 AI 안전을 매개로 한 외교 플랫폼 설계에 가깝다. AI 안전 연구소가 ‘보고서 생산 기관’이 아니라, 국제 협상과 신뢰 형성의 기술적 기반으로 기능해야 한다는 인식이 깔려 있는 것이다.

‘관료주의는 실패한다’: 인재와 영향력을 둘러싼 냉정한 현실

흥미로운 대목은 전문가들이 지적한 가장 큰 실패 요인이 기술 부족이 아니라 관료주의였다는 점이다. 응답자의 90%는 “영향력을 가로막는 관료적 문화”가 존재한다면 AISI 합류를 거부하겠다고 답했다. 이는 오늘날 AI 안전 연구소가 직면한 딜레마를 정확히 짚는다.

AI 안전 연구소는 규제 기관도, 전통적 연구기관도, 산업 진흥 조직도 아니다. 프런티어 AI를 이해하는 기술적 전문성, 정책 결정에 영향을 미칠 수 있는 권한, 그리고 국제 네트워크와의 실시간 연결성이 동시에 요구된다. 호주 보고서는 이를 충족하지 못하는 AISI는 “이름만 남고 영향력은 없는 기관”이 될 것이라고 경고한다.

우리에게 주는 시사점: 대한민국은 어떤 AI 안전 국가가 될 것인가

이 지점에서 호주 AISI 논의는 대한민국에 직접적인 질문을 던진다. 한국 역시 AI 기본법, AI 윤리 기준, 보안 가이드라인을 빠르게 정비하고 있지만, AI 안전을 외교·안보·중견국 전략과 결합한 국가적 설계는 아직 초기 단계에 머물러 있다.

우리나라의 국가AI안전연구소는 단순히 국내 규제 지원 조직이 되어서는 안 된다. 오히려 호주 사례가 보여주듯, ▲프런티어 AI 위험에 대한 독자적 평가 역량, ▲AI 보안·하드웨어·공급망까지 포괄하는 안전 프레임, ▲아시아·태평양 지역과 글로벌 사우스를 연결하는 중견국 네트워크라는 세 가지 축을 동시에 고민해야 한다.

특히 한국은 AI 제조·반도체·통신·보안 인프라라는 강점을 보유한 국가다. 이는 AI 안전 연구소가 ‘윤리 담론’에 머무르지 않고, AI를 실제로 통제하고 검증하는 기술·정책 결합 모델을 제시할 수 있는 조건이기도 하다. 중견국 외교 차원에서도, 한국은 미·중 양극 구도 속에서 신뢰 가능한 기술 규범 국가로 자리매김할 여지가 큰데 국가AI안전연구소가 그러한 매개 역할을 수행해야 할 것이다.

호주 AISI 설계 논의가 주는 가장 중요한 메시지는 분명하다. AI 안전 연구소는 기술 기관이 아니라, 국가가 AI 시대에 어떤 역할을 선택할 것인지를 드러내는 거울이라는 점이다. 누가 위험을 정의하고, 누가 평가하며, 누가 국제 사회를 설득하는가의 문제는 곧 권력과 신뢰의 문제이기 때문이다.

향후 AI 경쟁의 다음 단계는 더 빠른 모델이 아니라, 더 신뢰받는 국가를 가리는 경쟁이다. 이 보고서에 따르면, 호주는 그 무대에 중견국으로 올라서려 하고 있음을 보여준다. 과연 대한민국 AI는 이 무대에 어떤 모습으로 등장하고자 준비하고 있는가?

*출처: https://www.goodancestors.org.au/ (아직 홈페이지는 보고서 파일로 업로드 안된 상태)