Qwen 2.5 — 크기별로 골라 쓸 수 있게 된 오픈 모델

알리바바가 지난 6월 Qwen2 를 낸 지 석 달 만에 Qwen2.5 를 냈다. Qwen2 는 Llama 3.1 을 넘어서는 성능으로 예상보다 좋다는 평을 받으며 관심을 모았었다.

이번 Qwen2.5 는 Qwen2 보다 더 많은 지식을 습득했고 성능이 크게 올랐다. 8K 출력을 지원하고, 구조화된 응답 — 특히 JSON — 쪽에서 상당한 개선이 있었다고 한다.

라인업

• Qwen2.5 (범용 LLM) — 0.5B, 1.5B, 3B, 7B, 14B, 32B, 72B
• Qwen2.5-Coder — 코딩 특화. 1.5B, 7B, 32B 예정
• Qwen2.5-Math — 수학 특화. 1.5B, 7B, 72B

작은 것부터 큰 것까지 한 계열 안에서 고를 수 있고, 코딩과 수학은 특화 모델이 따로 있다.

성능

18T 토큰 규모의 최신 대규모 데이터셋으로 사전 학습됐다. 명령 따르기, 긴 텍스트 생성, 구조화된 데이터 이해가 크게 개선됐다. 시스템 프롬프트의 다양성에 더 탄력적이어서 롤플레잉 구현이나 챗봇 조건 설정에 유리하다. 다른 오픈소스 모델들과 비교하면 최고 성능을 보인다.

작은 모델과 특화 모델 쪽 결과도 함께 나왔다.

• Qwen2.5-3B — 매개변수가 약 30억 개에 불과한데 인상적인 성능을 냈다. 이전 모델 대비 효율과 역량을 함께 보여 준다.
• Qwen2.5-Coder-7B-Instruct — 다른 코딩 모델보다 높은 벤치마크 결과가 나왔다.
• Qwen2-Math-72B-Instruct — 수학 벤치마크에서 GPT-4o(76.6)를 앞섰다. CoT(Chain of Thought), PoT(Plan of Thought), TIR(Task-oriented Iterative Reasoning)을 수행하는 기능을 넣어 추론을 강화했다고 한다.

컨텍스트와 언어

컨텍스트는 최대 128K 토큰, 생성은 최대 8K 토큰이다. 중국어·영어·프랑스어·스페인어·포르투갈어·독일어·이탈리아어·러시아어·일본어·한국어·베트남어·태국어·아랍어 등 29개 이상 언어를 지원한다.

Tool Calling

vLLM 의 내장 도구 호출을 지원한다(vLLM v0.6 이상).

vllm serve Qwen/Qwen2.5-7B-Instruct \
  --enable-auto-tool-choice \
  --tool-call-parser hermes

Qwen2 의 템플릿 및 Qwen-Agent 와도 호환된다. Ollama 의 도구 호출도 지원한다.

라이선스 — 3B와 72B만 다르다

3B, 72B 를 제외한 모델은 Apache 2.0 이다. Apache 2.0 모델은 상업적으로 써도 별도 요청이 필요 없다.

3B 와 72B 는 Qwen 라이선스를 따르며, 월간 활성 사용자 수가 1억 명을 넘으면 별도 라이선스를 요청해야 한다.

상용으로 쓸 때 걸리는 조건은 이렇다.

1. 사용자 수 제한 — 제품·서비스의 월간 활성 사용자가 1억 명을 넘으면 Alibaba Cloud 에 별도 라이선스를 요청해야 한다
2. 고지 의무 — Qwen 으로 AI 모델을 만들거나 훈련·미세조정·개선했다면 제품 문서에 “Built with Qwen” 또는 “Improved using Qwen” 을 밝혀야 한다
3. 수출 규제 — 중국·미국 및 기타 국가의 수출 통제 법규를 지켜야 한다
4. 책임 — 자료 사용으로 생긴 제3자 클레임에 대해 Alibaba Cloud 를 면책해야 한다
5. 상표 사용 제한 — Alibaba Cloud 의 상표·서비스 마크·제품명 사용 라이선스는 제공되지 않는다(합리적이고 관례적인 사용 제외)

실행과 파인튜닝

Hugging Face Transformers 와 ModelScope 로 쓸 수 있고, Ollama·llama.cpp 로 로컬 실행, vLLM·SGLang 으로 배포할 수 있다. 파인튜닝은 Axolotl, Llama-Factory 같은 프레임워크로 가능하다. 도구 사용은 Qwen-Agent 등으로 지원된다.

모든 모델은 Hugging Face Spaces에서 바로 테스트해 볼 수 있다.

더 보기

• Blog
• GitHub
• HuggingFace
• Guide