달리는 자동차일수록 브레이크가 필요하다

회의 끝나고 맥주 한잔. 오늘 회의를 하며 느낀 점을 정리해 둔다. 주제는 «공공 AX 사이버보안 실태진단 및 AI보안 내재화 정책과제»였다.

도입을 넘어 확산을 고민하는 단계

이재명 정부 출범 이후 공공부문의 AI 전환(AX)은 전례 없는 속도로 추진되고 있다. 현재 45개 부처, 457개 사업에 약 4.6조 원이 투입되고 있으며, 공공부문 AI 도입률도 이미 47.8%에 달한다. 이제 공공부문은 “AI를 도입할 것인가”의 단계를 넘어 “어떻게 더 빠르게 확산할 것인가”를 고민하는 단계에 진입했다.

보안은 아직 사후 점검에 머물러 있다

그러나 공공 AX 추진과정에 대한 사이버보안 실태를 살펴보니, AI 확산 속도에 비해 보안 체계는 충분히 따라가지 못하고 있는 것으로 보인다.

특히 보안이 사업 설계 단계에 내재화(Security by Design)되지 못한 채 ‘사후 점검’이나 ‘권고 수준’에 머물러 있다. 추진-보안-신뢰 거버넌스도 부처별로 분절되어 통합적인 위험관리 체계가 미흡한 상황이다. 현재 적극 도입을 검토 중인 N2SF 등 데이터중심 보안체계 역시 AI 에이전트 시대의 핵심 위협인 프롬프트 인젝션, 데이터 오염, 모델 탈취, 환각, 자율 에이전트 오작동 등 AI 고유의 위험을 충분히 통제하지는 못하고 있는 것으로 보인다.

무엇을 보관할 것인가에서 무엇을 하게 둘 것인가로

과거의 보안이 “데이터를 어디에 안전하게 보관할 것인가”의 문제였다면, 앞으로의 AI 보안은 “AI가 무엇을 할 수 있으며 그 자율성을 어떻게 통제할 것인가”의 문제이다.

AI가 스스로 판단하고 행동하는 에이전트 시대로 진입한 만큼, 공공 AX 역시 속도만을 강조할 것이 아니라 설계 단계부터 보안과 신뢰를 함께 내재화하는 체계로 전환해야 한다. 달리는 자동차일수록 강력한 엔진만큼 튼튼한 차체와 브레이크가 필요하다. AI 시대의 보안은 혁신을 가로막는 규제가 아니라 지속가능한 혁신을 가능하게 하는 핵심 인프라여야 한다.