핵 버튼 앞에서조차, 통제 가능한 선

<<AI군사화의 경계선: 미국 내부의 충돌과 대한민국 AI의 선택>>

워싱턴포스트 보도를 인용한 퓨처리즘 블로그 기사의 핵심은, 미 국방부와 앤트로픽의 갈등이 단순한 “가드레일 제거” 논쟁을 넘어 핵 공격 시나리오라는 극단적 가정까지 확장되었다는 점에 있다. 미 국방부는 “핵탄두를 탑재한 대륙간탄도미사일(ICBM)을 요격하는 상황에서도 클로드 사용을 허용할 것인가”라는 질문을 던졌고, 이는 AI가 단순 분석 도구를 넘어 핵 억제 체계의 의사결정 구조에 얼마나 깊이 개입할 수 있는지를 시험하는 장면이었다. 앤트로픽은 완전 자율무기와 대규모 국내 감시에 대한 레드라인을 유지하겠다고 밝히며 ‘제한 없는 사용(unrestricted use)’ 요구를 거부했다. 미 국방부는 이에 대해 “합법적 모든 용도(all lawful purposes)”를 허용해야 한다고 맞섰고, 계약 해지 및 공급망 위험기업 지정까지 거론했다. 흥미로운 점은, 핵무기 사용에 대해서는 미국을 포함한 주요 핵보유국이 여전히 인간의 최종 개입을 원칙으로 합의하고 있음에도, AI가 그 인간의 판단에 얼마나 영향을 미칠 수 있는지에 대한 질문이 이제 현실 정치의 테이블 위로 올라왔다는 사실이다.

이 사건의 지정학적 의미는 분명하다. 미·중 경쟁이 심화될수록 AI는 ‘혁신 기술’에서 ‘핵심 안보 인프라’로 전환되고 있으며, 그 경계선은 핵 억제와 같은 최고위험 영역까지 밀려 올라가고 있다는 것이다. 그와 동시에 민주주의 내부에서는 “국가가 안보를 위해 어디까지 기술 통제를 완화할 수 있는가”라는 문제를 두고 기업·노동·시민사회가 공개적으로 제동을 걸고 있다. 특히 국방부가 “합법성”을 근거로 안전장치 제거를 요구한 반면, 앤트로픽과 일부 업계는 “합법이 곧 정당성은 아니다”라는 입장을 고수했다는 점은, AI 군사화가 법률 문제를 넘어 정치철학적 문제로 이동했음을 보여준다. 더욱이 워게임(war game)에서 주요 AI 모델들이 다수의 시나리오에서 핵무기 사용을 선택했다는 연구 결과는, 단순히 “인간이 루프 안에 있다(human in the loop)”는 형식적 요건만으로 충분한지에 대한 근본적 의문을 제기한다. 문제는 핵 버튼을 누르는 인간의 존재가 아니라, AI가 그 판단을 얼마나 구조적으로 유도하느냐에 있다.

대한민국의 AI 외교·안보 전략은 바로 이 지점에서 방향을 잡아야 한다. 한국은 군사적 AI 활용을 전면 부정할 필요는 없지만, 최소한의 국제적 레드라인(대규모 국내 감시와 인간 개입 없는 치명적 완전자율살상)을 명확히 지지하고, 나아가 고위험 영역(특히 핵 관련 의사결정)에 대해서는 ‘의미 있는 인간 통제(Meaningful Human Control)’의 실질적 기준을 제도화하는 데 기여해야 한다. 이는 선언적 입장이 아니라, 고위험 군사·치안 적용에는 권한 통제(명확한 승인권자와 절차), 불변 감사로그(책임 고정), 레드티밍·검증(T&E/VV: Test & Evaluation, Verification & Validation), AI-사이버 결합 위험 대응(데이터 무결성 및 권한 탈취 방지)을 조달·계약·운용의 형식 요건으로 제도화하는 패키지를 제안해야 한다는 것이다. 나아가 이를 UN의 자율살상무기(LAWS) 논의와 연결해, 기술 현실을 반영한 이행 체크리스트를 제시함으로써 ‘평화적이고 책임 있는 AI’ 다자협력 메시지를 주도할 수도 있다. 미·중간의 AI 군사화 경쟁이 거세질수록, 오히려 핵 버튼 앞에서조차 “통제 가능한 선”을 설계하는 AI 중견국의 전략적 가치가 더욱 커질 것으로 예상된다. 한국이 그 선을 설계하는 국가가 될 수 있다면, AI 안전은 도덕적 수사가 아니라 동맹 신뢰와 국제 질서 안정에 기여하는 실질적 외교 자산이 될 것이다.