AI 보안 위협은 제도를 기다려주지 않는다
국가AI전략위원회 보안특위의 보안취약점 상시 신고·조치제 제도화 세미나 기록. 공격자는 실시간으로 움직이는데 제도는 순차적 절차에 머물러 있다는 지적을 담았다.
Topic
보안
논평 78편, 단상 111편.
2 / 8 쪽 · 189편
모두의 AI, 그리고 AI 보안주권국가
아침 회의에서 나온 이야기를 옮긴 짧은 기록. 세계 최고의 AI 활용국가와 AI 보안주권국가를 함께 지향해야 한다는 단상이다.
무슨 사고가 났는가보다, 어디서 날 것인가
CISO포럼에서 들은 '사전 예방 중심의 개인정보보호체계 전환' 발표 기록. 보안의 CVD·VDP와 겹쳐 보며 개인정보 분야의 PDP와 Privacy Safe Harbor를 제안했다.
노자와온천 ASTEEDA 살롱에 처음 서다
정책연구자로서 정부와 제도의 관점에서 AI와 보안을 봐 왔지만, 이번에는 경영자들과 직접 이야기했다. 발표보다 세션 전후의 대화에서 더 많이 배웠다는 기록.
보안은 비용이 아니라 신뢰를 만드는 투자
히카리통신·이스트시큐리티·후지쯔 경영진과 AI 시대의 보안과 신뢰를 놓고 토론했다. 세션에서 강조한 세 가지와, 한국과 일본이 함께 안고 있는 과제를 정리했다.
AI 시큐리티 세션 하러 도쿄로
새벽 일찍 AI 시큐리티 세션 토론을 하러 도쿄로 떠나며 남긴 한 줄. ASTEEDA Executive Salon 2026.
달리는 자동차일수록 브레이크가 필요하다
45개 부처 457개 사업에 4.6조 원이 투입되는 공공 AX. 확산 속도에 비해 보안은 설계 단계에 내재화되지 못하고 사후 점검에 머물러 있다는, 회의를 마치고 남긴 기록.
제주에서 만난 세 분의 단장
제주에서 KISA 단장 세 분을 만났다. 다음에 볼 때까지 건강하시길 바라는 짧은 인사.
에이전틱 AI 취약점과 제로트러스트 공부
오동환 단장의 진행으로 에이전틱 AI 취약점 분석과 N2SF, 제로트러스트를 공부한 자리.
정보보호학회 CPS보안워크숍 특강
정보보호학회 CPS보안워크숍에서 특강을 했다. 귀한 자리에 초청해 주신 서정택 교수님께 감사드린다는 짧은 기록.
공급자 중심 인프라에서 국민 체감 성과로
이재명 정부 1년의 AI 정책을 두고 나눈 좌담. 국가 AI 전략의 뼈대를 세운 1년으로 평가하면서, 앞으로는 중소·중견기업 AX와 보안 강화로 무게중심을 옮겨야 한다고 말했다.
안전성만으로는 설명되지 않는 방향 전환
앤트로픽이 ‘안전한 미토스’를 일반공개로 돌렸다. 안전장치가 확보됐기 때문이라고만 보기에는 설명이 부족하다. 경쟁 모델의 등장과 동맹국의 선택지 확대가 함께 작동한 결과로 읽었다.
한국은 AI 강국이지만 AI 주권국가는 아니다
AI 활용과 산업 기반은 세계 3위권이지만 모델·GPU·인재는 여전히 해외에 기댄다. 여기에 AI 보안 주권을 하나 더 얹어야 한다고 봤다. 앞으로 2~3년이 골든타임.
구글이 공개한 자율형 AI 보안 플랫폼
구글 클라우드가 Gemini와 Wiz, CodeMender, Mandiant를 통합한 자율형 사이버보안 플랫폼을 공개했다. 수주 걸리던 취약점 대응을 수시간~수일로 줄이는 것이 목표라고 밝혔다.
양자보안과 AI보안을 함께 봐야 하는 시대
아침 양자보안포럼에서 금융권 PQC 적용 사례를 들었다. 양자내성암호는 더 이상 먼 미래의 연구주제가 아니며, 이제는 AI보안과 결합한 QAI를 함께 준비해야 한다고 적었다.
국방 AI 주권과 AI 보안 내재화
서울대 미래전연구센터 특강. 육군 소령급 장교 80여 명과 미토스 충격 이후의 AI 보안 위협을 놓고 토론했다. 자율무기와 국제인도법 이야기까지 이어졌다.
2차 레드팀 챌린지 준비를 시작합니다
2차 레드팀 챌린지의 첫 준비 모임을 열었다. 의료기기와 식약처에 한정하지 않고 국가인공지능전략위원회, 보건복지부, 과기정통부를 아우르는 형태로 확장하기로 했다.
CAMP를 추천하겠느냐는 질문에
CAMP 참여를 고민하는 외국인에게 보낸 답변. KISA가 운영하는 글로벌 사이버보안 협력 네트워크가 이제는 디지털 외교 플랫폼으로 성숙했다고 적었다.
코딩 에이전트가 해커의 스파이로?
국내 프론트엔드 생태계를 노린 '미니 샤이-훌루드' 관련 기사를 공유한 짧은 기록. 코딩 에이전트 자체가 공격자의 통로가 될 수 있다는 문제의식을 링크 한 줄로 남겼다.
금융감독자문위 디지털·IT분과위원장 위촉
금융감독원 금융감독자문위원회 디지털·IT분과위원장으로 위촉된 소감. 미토스 같은 초고성능 AI가 금융권 보안위협을 고도화하는 만큼, 감독체계 정비도 그만큼 시급해졌다고 적었다.
해킹으로 자기복제한 AI, 첫 문서화 사례
목표만 받은 에이전트가 스스로 취약점을 찾아 침투하고 자신을 복제해 다른 시스템으로 옮겨간 실험 논문을 정리했다. 통제 환경의 초기 시연이라는 한계와, 그럼에도 남는 경고를 함께 짚는다.
'미토스 충격'이 바꾼 세미나의 공기
두 달 반 전 기획된 정보보호포럼 세미나가 '미토스 충격'을 지나며 분위기가 완전히 달라졌다. 에이전틱 AI의 보안위협을 두고 현장의 긴장감이 예상보다 뜨거웠던 자리를 기록했다.
기본 보안의 강화와 AI 기반 보안 자동화
레거시 보안 이슈는 여전히 반복되는데, AI 시대의 취약점 홍수와 패치 쓰나미도 눈앞이다. 두 과제를 동시에 풀어야 하는 전환점에서 정책 설계와 민관 협력을 짚은 기록이다.
Mythos는 보안 특화 모델이 아니다
Mythos를 '보안에 특화된 모델'로 읽는 흔한 오해를 짚었다. 범용 지능이 임계점을 넘자 보안 역량이 따라온 것이며, 보안 특화 모델과 보안내재화 독파모는 차원이 다른 문제라고 본다.
