AI 안전과 AI 보안은 이제 나눌 수 없다

오늘 국가AI안전연구소(AISI)와 국가보안기술연구소(NSR)가 공동 개최한 「AI 안전·안보 정책 연구 세미나」 종합토론의 좌장을 맡았다.

안전과 보안이 한 덩어리가 됐다

무엇보다 인상적이었던 것은 이제 AI Safety와 AI Security를 별개의 영역으로 논의하기 어려운 시대가 되었다는 점이다. 미토스(Mythos) 사례가 보여주었듯 초고성능 AI는 취약점을 스스로 발견하고 공격을 자동화한다. 다른 한편으로는 공개된 데이터 조각들을 결합해 새로운 기밀과 의도를 추론해낼 수 있다. AI는 더 이상 단순한 혁신 기술이 아니라 안전·보안·국가안보가 동시에 얽혀 있는 전략기술이 되고 있다.

질문이 바뀌었다

토론을 진행하며 더욱 분명해진 것은 앞으로의 핵심 과제가 “AI를 얼마나 강하게 만들 것인가”보다 “AI를 얼마나 안전하고 책임 있게 활용할 것인가”라는 점이다. 프론티어 AI는 통제하지 못하면 위험이 되고, 활용하지 못하면 전략적 공백이 된다.

결국 대한민국에도 AI 안전, 보안, 국가안보를 아우르는 통합적 위험관리 체계와 독자적인 평가·검증 역량, 그리고 지정학적 충격에 대비한 전략적 준비가 필요하다. 오늘의 논의가 AI 거버넌스의 새로운 출발점이 되기를 기대한다.