AI 윤리는 원칙에서 실행으로
선언문에 머무는 AI 윤리로는 부족하다. 에이전틱 AI가 확산되는 상황에서 원칙이 기획·개발·출시·운영 전 과정의 기준과 절차로 바뀌어야 한다고 강조한 회의 발언 정리.
Topic
규제
논평 16편, 단상 8편.
1 / 1 쪽 · 24편
AI는 생각하는가, 행동하는가, 책임질 수 있는가
2026년 나온 『Philosophy of Artificial Intelligence』 소개. AI 철학이 “기계도 생각할 수 있는가”를 넘어 인간·창의성·책임의 의미를 다시 묻고 있다.
정보보호 공시는 위험 설명서가 되어야 한다
티빙 사례는 투자액과 인력 수만으로 보안 수준을 판단할 수 없다는 것을 보여준다. 공시는 얼마를 썼는가가 아니라 어떤 위험을 어떻게 줄였는가를 설명해야 한다.
돌아온 Fable 5, 수출통제 이후 코딩 성능 급락 논란
수출통제 해제 이후 다시 공개된 Fable 5를 두고 성능 저하 논란이 확산됐다. 벤치마크 하락이 모델 약화 때문인지 안전장치 때문인지는 아직 단정하기 어렵다.
경제안보와 사이버안보는 분리하기 어렵다
여야가 합의한 국정원법 개정안이 국가안보 개념을 공급망·반도체·AI·데이터를 포함한 경제안보로 넓혔다. 대응 역량 강화만큼 민간 권리 보호 장치도 함께 설계돼야 한다는 논평.
에이전틱 AI 시대의 보안 이슈와 법적 과제
정보보호포럼과 김·장 법률사무소가 5월 14일 여는 오프라인 세미나 안내. 인공지능기본법 시행을 배경으로 한 자리이며, 참석하려면 사전에 소속과 성명을 알려야 한다.
미토스 사태가 드러낸 AI 주권의 현실
유럽은 미토스 사태를 기술적 충격이 아니라 프런티어 AI의 접근권과 통제권에서 배제됐음을 드러낸 구조적 위기로 본다. 규제 체계만으로는 부족하다는 이 경고는 한국에도 그대로 적용된다.
중국, 디지털 휴먼 규제 착수
중국 국가인터넷정보판공실이 디지털 휴먼에 대한 첫 종합 규제 초안을 공개했다. 콘텐츠 표시 의무화와 미성년자 대상 ‘가상 친밀 관계’ 금지를 짚고, AI 인간화를 둘러싼 국가 간 규제 경쟁의 신호로 읽었다.
철폐가 아니라 책임구조 재설계가 목표다
설치형 보안 SW를 다 빼라는 정부 지시 기사에 붙인 논평. 소비자 PC에 책임을 떠넘기는 체계는 바뀌어야 한다는 방향에는 찬성하지만, 목표는 철거 자체가 아니라 금융보안 책임구조를 다시 짜는 데 있어야 한다고 봤다.
은행의 이익은 사유화되고 보안 책임은 외주화됐다
은행 이자 수입 60조를 다룬 기사에 붙인 논평. 순이익 대비 1%대에 머무는 정보보호 예산을 짚으며, 초과이익과 보안책임을 직접 연동하는 의무공시·의무투자제를 제안했다.
‘무엇을 설치할 것인가’에 갇힌 보안 규제
보안TF 회의에서 공공기관 망분리 규제를 유연화하려는 N2SF와 25년째 이어져온 금융 보안프로그램 문제를 함께 다룬 날의 기록. 두 사안이 같은 문제를 드러냈다고 봤다.
IMSI 사태는 사후 대응이 아니라 설계를 묻는다
고객 전화번호로 IMSI를 발급했다는 보도에 붙인 논평. 가입자 식별체계가 예측 가능하게 연결돼 있었다면 문제는 사고 대응이 아니라 사전 설계 통제에 있다고 짚었다.
필요한 것은 규제 완화가 아니라 방향 전환이다
이용자 PC를 통제하는 폐쇄형 금융보안 규제가 남긴 병목을 짚으며, 보안의 책임을 금융기관 서버와 백엔드로 재배치하고 국제표준 기반의 목표지향적 규제로 옮겨가자고 제안한 글.
중국 AI 동영상 생태계의 규제 역설
시댄스와 클링이 만든 생성형 영상 붐 뒤에서, 세계에서 가장 강력하다는 라벨링 규제가 정작 집행되지 못하는 역설을 짚는다. 속도와 규모만으로는 글로벌 표준이 되기 어렵다는 것이 결론이다.
의사 없는 처방전, 유타의 규제 실험
유타주가 의사의 개입 없이 AI가 처방전을 갱신하도록 허용했다. 기업은 AI에 의료 과실 보험까지 들었지만, 이것이 의료행위인지 의료기기인지는 아직 정해지지 않았다.
AI 안전은 선언이 아니라 책임이다
앤트로픽이 공개한 프런티어 컴플라이언스 프레임워크(FCF)는 자발적 윤리와 법적 책임을 처음으로 갈라놓았다. AI 안전의 시대가 끝나고 AI 책임의 시대가 시작됐다는 논평.
AI 안전의 상호운용성은 누구의 질서를 전제하는가
UNU Macau 보고서가 내세운 상호운용성 개념을 네 갈래로 정리하고, 미국이 빠진 사례 구성의 정치성을 지적했다. 한국에는 중립이 아니라 조건부 상호운용성이 필요하다는 결론.
전금법 개정안, 절충된 버전으로 통과되지 않을까
ISMS-P 인증을 받고도 내부통제가 작동하지 않은 쿠팡 사태에 대한 제도적 응답으로 전자금융거래법 개정안을 읽으면서도, 원안 그대로 통과될 가능성은 낮다고 본 짧은 논평.
브뤼셀 효과의 붕괴, 워싱턴 효과의 시작
올해 초 딥시크 충격과 함께 브뤼셀 효과가 무너지기 시작했고, 유럽 정상들 앞에서 펼쳐진 밴스 부통령의 연설이 워싱턴 효과의 시작이었다는 한 문장짜리 진단이다.
AI법은 더 느슨하게, 더 단계적으로
유럽집행위원회가 AI법 간소화 개정안을 발표해 고위험 AI 규정의 적용 시점을 1~2년 미뤘다. 준비 안 된 규제를 밀어붙이지 말라는 산업계의 압박을 EU가 처음으로 공식 수용한 사례라고 봤다.
브뤼셀의 회심, 룰북에서 플레이북으로
EU가 AI법 시행을 유예·간소화하려는 초안이 유출됐다. Apply AI 전략과 이어지는 이 전환이 2026년 시행을 앞둔 한국 AI 기본법과 소버린 AI 전략에 던지는 질문을 정리했다.
상시 감시체계, 감당할 역량은 있는가
한국 해킹을 처음 경고한 해커 Saber의 인터뷰를 읽고 남긴 논평. 신고 의존형 대응체계의 결함과 상시 감시체계로의 전환 주장을 정리한 뒤, 정부가 그것을 감당할 준비가 되어 있는지 되물었다.
AI기본법 하위법령, 보안 사각지대를 메워야
과기정통부 AI기본법 하위법령 설명회에 보안TF로 참석한 뒤 보안 관점의 의견을 정리한 글. 안전성 의무 대상 현실화, 사고 보고 의무화와 정보공유, 구체적 보안 통제 명문화와 상호인정 확대를 제안했다.
허니팟 활동에도 가이드라인이 필요하다
허니팟이 오히려 침해 경로가 된 사건 기사에 붙인 논평. 민감정보 처리 금지와 격리·로깅 요건, 사고보고 의무를 담은 가이드라인이 필요하고 취약점 공개 제도·정보공유 체계와 연계해야 한다고 봤다.