경쟁의 끝에서, 우리는 누구에게 미래를 맡길 것인가

OpenAI가 GPT-5.5를 공개했다. 개인적으로는 감사한 일이다. 더 강력한 도구가 더 많은 사람에게 열린다는 것은 분명 기회다. 그러나 동시에 마음 한편이 서늘해졌다.

두 번째 모델이 같은 구간에 들어왔다

영국 AISI의 평가에 따르면 GPT-5.5는 Anthropic의 Claude Mythos Preview에 이어, 32단계 기업 네트워크 공격 시뮬레이션을 끝까지 해결한 두 번째 모델이다. 이 과제는 초기 정찰부터 전체 네트워크 장악까지 이어지는 장기 공격 시나리오이며, 인간 전문가에게도 약 20시간이 걸릴 것으로 추정된다. Mythos는 10회 중 3회, GPT-5.5는 10회 중 1회 완주했다.

성능 차이는 있지만, 중요한 것은 이제 한 회사의 돌연변이가 아니라 “여러 프런티어 모델이 같은 위험 구간에 진입하고 있다”는 점이다.

Anthropic은 Mythos Preview에 대해 훨씬 강한 표현을 썼다. 지시가 주어졌을 때 주요 운영체제와 웹브라우저의 제로데이 취약점을 찾아내고 악용할 수 있었다고 밝혔다. 패치되지 않은 취약점이 99% 이상이라 세부 내용은 공개하지 않는다고도 했다. 이 설명만 놓고 보면 공개를 주저한 이유를 이해할 수 있다.

그런데 OpenAI는 GPT-5.5를 공개했다. OpenAI의 시스템 카드도 사이버 역량 증가를 인정한다. 다만 GPT-5.5를 사이버 보안 영역에서 “High” 수준으로 분류하되, 실제 강화된 핵심 시스템들에서 모든 심각도의 제로데이 익스플로잇을 인간 개입 없이 개발할 수 있는 “Critical” 수준에는 아직 이르지 않았다고 설명한다.

“아직 Critical이 아니니까 괜찮은가?”

여기서 불편한 질문이 남는다.

기술 경쟁은 늘 이런 방식으로 전개된다. 한 회사가 잠시 멈추면, 다른 회사가 앞으로 나간다. 한 회사가 조심스럽게 문을 닫으면, 다른 회사가 조금 더 넓게 문을 연다. 그리고 우리는 매번 “이번에는 충분히 안전장치를 달았다”는 설명을 듣는다.

하지만 그래프가 보여주는 것은 단순한 성능 향상이 아니다. AI가 단편적인 문제풀이를 넘어, 긴 시간 동안 목표를 유지하고, 중간 결과를 해석하고, 다음 행동을 선택하며, 복잡한 시스템을 단계적으로 장악하는 능력에 가까워지고 있다는 사실이다. 이건 챗봇의 진화라기보다, 행위자의 탄생에 가깝다.

나는 문득 두 CEO가 공개 석상에서 손조차 잡지 않던 장면을 떠올렸다. 그 짧은 장면은 어쩌면 지금의 AI 산업을 상징한다. 서로가 서로를 견제하지만, 동시에 서로의 속도를 정당화한다. “우리가 멈추면 저들이 간다.” 이 한 문장이 모든 위험을 밀어붙이는 주문처럼 들린다.

경쟁의 끝은 어디일까

더 빠른 모델일까. 더 많은 토큰일까. 더 긴 에이전트 실행일까. 더 강력한 사이버 능력일까. 아니면 언젠가 “우리가 통제할 수 있다고 믿었던 무언가가, 실제로는 이미 통제 밖에 있었다”는 것을 깨닫는 순간일까.

나는 AI 기업들이 악하다고 생각하지 않는다. 오히려 이 기술을 만든 사람들 중 많은 이들이 진심으로 인류의 미래를 고민한다고 믿는다. 문제는 선의가 충분한 제동장치가 되지 못한다는 데 있다. 시장은 선의를 보상하지 않는다. 시장은 속도를 보상한다. 주도권을 보상한다. 먼저 도달한 자를 보상한다.

그래서 이제 질문은 “GPT-5.5가 좋은가 나쁜가”가 아니다.

질문은 이것이다. 우리는 인류의 미래를, 서로 경쟁 중인 몇몇 기업의 출시 판단에 맡겨도 되는가.

AI는 분명 길잡이가 될 수 있다. 하지만 길잡이를 맡기려면, 그 길잡이를 누가 감시하는지, 어떤 기준으로 멈출 수 있는지, 위험을 숨기지 않고 공개할 수 있는 구조가 있는지부터 물어야 한다.

미래는 기술이 여는 것이지만, 방향은 사회가 정해야 한다. 지금 필요한 것은 더 강한 모델에 대한 박수만이 아니다. 더 강한 모델을 감당할 수 있는 더 강한 합의가 필요하지 않을까?