GPT-4o 8월 업데이트 — 출력 토큰 4배와 구조화된 출력
OpenAI가 GPT-4o를 gpt-4o-2024-08-06으로 업데이트했다. 출력 토큰이 4배로 늘었고, JSON 모드보다 한 단계 진화한 구조화된 출력이 들어왔다.
OpenAI가 GPT-4o를 업데이트했다. 새 버전은 gpt-4o-2024-08-06 으로 쓸 수 있다. 업데이트된 내용은 세 가지다.
JSON 모드와 구조화된 출력은 다르다
Function Calling 이나 JSON 스키마를 쓸 때 구조화된 출력(Structured Outputs)을 지원한다. JSON 모드는 이전에도 있었다. 그래서 이름만 보면 같은 기능의 다른 이름 같지만, 보장하는 범위가 다르다.
둘 다 유효한 JSON 이 나오는 것은 보장한다. 하지만 스키마를 지키는 것까지 보장하는 쪽은 구조화된 출력뿐이다.
구조화된 출력과 JSON 모드는 모두 Chat Completions API, Assistants API, Fine-tuning API, Batch API 에서 지원된다. 더 안정적인 JSON 을 주므로, 가능하다면 JSON 모드 대신 구조화된 출력을 항상 쓰는 편이 좋다.
출력 토큰 4k → 16k
API 스펙상 출력 토큰이 기존 4k 에서 16k 로 네 배 늘었다. 늘어난 출력 토큰은 인쇄물 작성처럼 한 번에 긴 결과물을 뽑아야 하는 쪽으로 활용 범위를 넓힐 것으로 보인다.
리더보드 1위 탈환
새 버전 이후 챗봇 아레나 리더보드에서 1,314점을 기록하며 1위를 되찾았다. 일부에서는 차세대 모델(GPT-5)에 들어갈 스트로베리를 미리 적용해 테스트 중인 것 아니냐는 얘기도 나온다.
더 보기
