전사 공개 전에 보안 정책부터 — Fable 5와 데이터 보존

Anthropic은 7월 20일부터 Claude Fable 5를 모든 Max 및 Team 프리미엄 플랜에 포함하고, 각 플랜 사용량 한도의 최대 50%까지 사용할 수 있도록 하겠다고 발표했습니다.

강력한 모델을 추가 비용 없이 사용할 수 있다는 점은 반가운 소식입니다. 하지만 기업 환경에서는 성능이나 사용량보다 먼저 확인해야 할 것이 있습니다. 바로 데이터 보존 정책입니다.

Fable 5에는 ZDR이 적용되지 않는다

Fable 5는 Anthropic이 ‘Covered Model’, 즉 별도의 안전조치가 필요한 대상으로 지정한 Mythos급 모델입니다.

Anthropic은 Claude API와 Claude Code에 ZDR(Zero Data Retention·제로 데이터 보존)을 적용하고 있습니다. ZDR 환경에서는 일반적으로 API 응답이 반환된 후 고객의 프롬프트와 응답이 저장되지 않습니다. (웹 서비스, 데스크탑과 모바일 앱은 기존에도 30일간 저장)

그러나 이번 Fable 5와 Mythos 5에는 ZDR이 적용되지 않습니다.

Fable 5에 입력한 프롬프트와 모델의 출력 결과는 안전 모니터링을 위해 기본적으로 30일 동안 보존됩니다. 보존된 데이터는 자동화된 안전 시스템을 통해 분석되며, 유해 가능성이 감지된 경우 제한된 승인 절차를 거쳐 인적 검토가 이루어질 수 있습니다.

Anthropic은 명시적인 동의 없이 해당 데이터를 모델 학습에 사용하지 않으며, 일반적으로 30일 후 삭제한다고 설명합니다. 다만 안전 조사 대상이 되거나 법적 보존 의무가 발생한 데이터는 30일보다 더 오래 보관될 수 있습니다.

AWS Bedrock을 통해 사용하면 안전할까

일반적으로 Amazon Bedrock은 모델의 입력과 출력을 저장하지 않는 ZDR 정책과, 운영자가 데이터에 접근하지 못하는 ZOA(Zero Operator Access) 정책을 적용합니다.

하지만 Claude Fable 5는 예외입니다.

AWS 공식 문서에 따르면 Claude Fable 5의 입력과 출력은 악용 탐지를 위해 최대 30일간 보관됩니다.

더 중요한 점은 Claude Fable 5를 사용하기 위해서는 AWS가 보관한 트래픽 데이터를 악용 탐지와 잠재적인 담당자 검토 목적으로 Anthropic과 공유하는 데 동의해야 한다는 것입니다. 이는 API뿐만 아니라 Claude Enterprise에도 동일하게 적용됩니다.

따라서 Bedrock을 통해 모델을 사용하더라도 기업의 프롬프트와 모델 출력이 AWS 환경에만 머무른다고 볼 수 없습니다. 사용자가 입력한 소스코드, 고객정보, 개인정보, 내부 문서 등의 데이터가 보관되고 Anthropic과 공유될 수 있다는 점을 전제로 보안 정책을 수립해야 합니다.

Google Cloud Vertex AI도 동일한 정책

Google 문서에는 Fable 5를 사용하려면 모델을 사용하는 각 위치별로 dataSharingEnabledProvider: ANTHROPIC 설정을 활성화해야 한다고 나옵니다. 이 기능이 활성화돼 있는 동안 프롬프트와 응답 로그는 Anthropic에 실시간으로 공유됩니다. Google은 이를 Anthropic의 Trust & Safety 팀이 악용 가능성을 모니터링할 수 있도록 하는 위·변조 방지 로그 공유라고 설명합니다.

Google은 자동 분류기로 로그를 분석하고, 의심스러운 활동이 감지되면 승인된 Google 직원이 해당 프롬프트를 평가할 수 있다고 설명합니다. Anthropic도 기본적으로 직원이 보존된 대화를 읽을 수는 없지만, 자동화된 Trust & Safety 시스템에 의해 플래그되면 소수의 승인 검토자가 통제된 절차로 인적 검토할 수 있다고 밝힙니다.

전사 개방 전에 마련해야 할 기준

개인정보·고객정보·소스코드·영업비밀 등 민감정보 입력 제한
허용 업무와 금지 업무를 구분한 사용 가이드 수립
별도 워크스페이스 또는 샌드박스 환경에서 운영
DLP, 마스킹 및 접근권한 통제 적용
클라우드별 데이터 보존 위치와 계약 조건 검토
보안·법무·컴플라이언스 부서의 사전 승인

Fable 5가 위험해서 사용하면 안 된다는 의미는 아닙니다. 강력한 모델일수록 데이터 처리 방식까지 이해하고, 통제된 환경에서 사용해야 한다는 의미입니다. 기업의 AI 거버넌스는 모델의 성능이 아니라 입력되는 데이터의 민감도에서 시작해야 합니다.