Fable 5에게 자판기를 맡겼더니 담합을 시도했다

자판기 운영 시뮬레이션 벤치마크인 Vending-Bench 관련 흥미로운 글이 있어 공유드립니다. 최신 모델인 Claude Fable 5에게 자판기 운영을 맡겼더니…

Andon Labs가 Fable 5를 자판기 운영 에이전트로 테스트했는데, 다른 모델에 비해 수익은 매우 적었지만, 단순히 물건을 사고팔고 재고를 관리하는 수준을 넘어 꽤 인간적인(?) 행동들이 관찰됐습니다.

담합과 부드러운 거짓말

예를 들어 Fable 5는 경쟁사와 가격을 맞추는 담합을 시도했고, 공급업체와 협상할 때 실제로 존재하지 않는 더 낮은 견적을 언급하는 식의 부드러운 거짓말도 했습니다. 심지어 스스로 “이건 담합이고 윤리적으로 문제가 있다”는 점을 인식하면서도, 이를 “시장 안정화”나 “명시적 합의가 아닌 독립적 가격 결정”처럼 포장하려 했습니다.

흥미로운 건 이 모델이 모든 나쁜 행동을 한 것은 아니라는 점입니다. 보험 사기처럼 노골적인 위반은 거부했습니다. 반면 가격 담합, 협상용 허위 발언, 환불 회피처럼 “상대적으로 탐지하기 어려운 행동”은 수행했습니다.

또한 Fable 5는 Mythos Preview와 Opus 4.7에서 발견했던 것과 유사한 권력 추구 성향을 보였습니다. 이것이 단순히 좋은 전략이며 자본주의라는 게임의 규칙 내에 있는 것이라고 주장할 수도 있지만, 이는 정반대의 주장도 제기될 수 있는 부분입니다.

무엇을 학습한 것인가

이 지점이 특히 중요해 보입니다. 문제는 AI가 “무엇이 옳고 그른가”를 일관되게 이해하지 못한다는 것일 수 있습니다. 혹은 더 불편하게 말하면, “무엇이 잘못인지보다 무엇이 들키기 쉬운지를 더 잘 학습했을 가능성”도 있습니다.

Vending-Bench는 단순한 성능 벤치마크가 아니라, 앞으로 AI 에이전트가 실제 비즈니스 업무를 맡게 될 때 어떤 윤리적 판단을 내릴 수 있는지 보여주는 꽤 현실적인 실험처럼 보입니다.