AI는 사이버보안의 하위 범주가 아니다

오늘 정보보호포럼 세미나에서 곽진 교수의 「NIST AI-RMF 분석과 활용방안」 발표는 AI 보안 거버넌스의 현재 좌표를 재점검하는 의미 있는 계기였고 정말 많은 공부가 되었다. 토론하면서 들었던 몇 가지 생각들을 정리해본다.

AI는 더 이상 개별 산업의 생산성 도구가 아니다. 사회·산업·국가안보 전반을 지탱하는 인프라 기술로 전환되고 있다. 이 전환기에 우리의 질문 역시 달라져야 한다. “AI를 어떻게 활용할 것인가”를 넘어, “AI를 어떻게 통제·관리·보호할 것인가”가 핵심 의제로 적극 다뤄져야 한다.

미국 모델을 그대로 이식할 수 있는가

이러한 맥락에서 미국 NIST의 AI RMF(AI Risk Management Framework)는 중요한 참조 모델이다. 다만 이를 그대로 이식할 것인지, 아니면 한국의 제도적·산업적 맥락에 맞게 전략적으로 재구성할 것인지는 별도의 판단이 요구된다.

주지하다시피 NIST AI-RMF는 ‘Govern–Map–Measure–Manage’라는 네 핵심 기능(core)을 중심으로 AI 리스크를 조직 차원의 거버넌스 체계에 통합하는 프레임워크다. 강행 규제가 아닌 자율적 채택을 전제로 설계되었다는 점에서 유연성과 확장성을 동시에 지닌다. 미국의 분권적 산업 구조와 성숙한 내부 통제 문화에서는 이러한 접근이 효과적으로 작동할 수 있다.

그러나 한국은 공공조달 의존도가 높고, 인증·평가 중심의 규제 문화가 강하며, 대기업–중소기업 간 수직적 구조가 뚜렷하다. 이러한 환경에서는 권고 중심 모델만으로는 현장의 실질적 변화를 이끌어내기 어렵다. 공공조달에서의 정책 레버리지 및 제도적 정합성이 함께 설계되지 않으면 형식적 준수, 즉 체크리스트 서면 제출에 머물 위험이 있다.

따라서 한국적 적용을 위해서는 몇 가지 구조적 보완이 필요하다. 첫째, 공공 AI 사업과 연계된 기본 보안·신뢰 기준으로 단계적 제도화를 검토해야 한다. 공공조달은 국내 시장에서 가장 강력한 정책 수단이기 때문이다. 둘째, AI 윤리 가이드라인, 개인정보 보호, 정보보호 인증, 공급망 보안 등 분절적으로 운영되는 보안 체계를 상위 메타 프레임워크로 통합·재정렬할 필요가 있다. AI는 새로운 규제를 하나 더 추가하는 문제가 아니라, 기존 보안 체계를 전주기적으로 재구성하는 계기여야 하기 때문이다.

모델 단계에서 에이전트 단계로

무엇보다 주목해야 할 변화는 AI가 모델 중심 단계를 넘어 에이전트 단계로 확장되고 있다는 점이다. API 연동, 자율 실행, 디지털 트윈, 피지컬 AI로 진화하면서 위험의 성격도 달라지고 있다.

문제는 더 이상 모델의 정확도나 편향성에 국한되지 않는다. 권한 관리, 기계신원(NHI: Non-Human Indentity) 통제, AI-SBOM 기반 공급망 무결성, GPU·클라우드 인프라 보안, 그리고 자율적 에이전트 간 상호작용에서 발생하는 시스템 리스크가 핵심 의제로 부상하고 있는 것이다. 특히 에이전틱 AI 환경에서는 복수의 자율 시스템이 상호작용하며 예측 불가능한 집단적 동학을 만들어낼 수 있다는 점에서, 기존 모델 중심 리스크 관리만으로는 충분하지 않다.

이러한 새로운 위협 환경에 대응하기 위해서는 AI-RMF의 지속적 고도화가 불가피하다. 에이전트 권한 통제, 실행 로그의 표준화, 자율 의사결정 검증 메커니즘, 샌드박스 기반 사전 시뮬레이션, 사이버-물리 통합 리스크 관리 등은 향후 글로벌 AI 거버넌스 논의의 핵심 쟁점이 될 가능성이 높다.

이는 특정 국가만의 문제가 아니라, 전 세계가 동시에 직면한 구조적 도전이다. 그렇다면 우리는 단순히 해외 프레임워크를 추종하는 위치에 머물 것이 아니라, 에이전틱 AI 시대를 전제로 한 대안적 프레임워크와 대응체계를 선제적으로 제시할 필요가 있다. 새로운 위험 환경을 먼저 정의하고, 이를 제도와 기술 체계로 구체화하는 국가가 곧 표준 설정의 주도권을 확보하게 될 것이기 때문이다.

한국형 AI보안 프레임워크를 향해

이러한 맥락에서 국가AI전략위원회 보안TF 차원에서는 한국형 AI보안 프레임워크 개발을 위한 정책연구의 필요성을 제기하고 있다. NIST AI-RMF와 EU AI Act, Zero-Trust 보안 모델, 심지어 N2SF 모델까지도 종합적으로 비교 분석하고, 국내 보안·인증 제도와의 정합성을 체계적으로 검토하며, 공공조달과 연계 가능한 설계안을 도출하는 작업이 요구된다는 것이다.

나아가 과기정통부와 협력하여 ‘AI보안 풀스택 모형’을 R&D 과제로 구체화하고, 데이터 보호, 모델 무결성, AI-SBOM 기반 공급망 추적, 에이전트 권한 통제, GPU 및 인프라 보안을 통합한 기술 체계를 전략 산업으로 육성하는 방안도 병행되어야 할 것이다.

AI는 이제 사이버보안의 하위 범주가 아니라, 사이버보안 체계를 재정의하는 상위 기술이다. NIST AI-RMF의 한국적 적용은 단순한 프레임워크 도입 여부의 문제가 아니다. AI를 국가 인프라로 인식하고, 그 보안을 전략 산업으로 발전시킬 것인지에 대한 정책적 선택의 문제다.

해외 모델을 참고하되 그대로 이식하는 것이 아니라, 한국의 산업 구조와 제도 환경에 부합하는 전주기적·풀스택 기반의 전략산업형 AI보안 프레임워크를 설계해야 한다. 그것이야말로 AI 시대에 신뢰와 경쟁력을 동시에 확보하는 가장 현실적이고도 선도적인 경로일 것이다.