생성형 AI 제2막 — 지식에서 사고로

최근 공개된 논문 〈Generative AI Act II: Test Time Scaling Drives Cognition Engineering〉 은 LLM 이 ‘지식 기반 도구(Act I)’ 에서 ‘사고 구성 엔진(Act II)’ 으로 전환되는 과정을 체계적으로 정리한다.

1막 — 프롬프트 엔지니어링 (지식 중심)

시기. 2020년 ~ 2024년 3분기

GPT-4, Llama 3 등이 대표적이다. 지식 암기에는 능숙하지만 깊은 사고 능력은 부족하다. 대규모의 인간 생성 데이터가 필요하며, 사전 훈련(Pretraining) → 지도 미세 조정(SFT) → 인간 피드백 기반 강화학습(RLHF)의 경로를 따른다.

한계는 셋이다.

• 지식 지연성(Knowledge Latency) — 최신 정보나 새로운 개념 습득에 약하다
• 얕은 추론 능력(Shallow Reasoning) — 여러 단계의 깊은 사고가 필요한 문제를 풀기 어렵다
• 제한된 사고 과정 — 새롭거나 정답이 없는 질문에 대해 인간 같은 깊이 있는 사고를 보여 주지 못한다

2막 — 인지 공학 (사고 중심)

시기. 2024년 4분기 ~ 현재

o1, R1 등이 대표적이다. 깊은 사고에 능숙하며 과학적 발견 같은 응용 가능성이 열린다. 사고 집약적이고 AI 가 생성한 데이터를 활용한다. 경로는 사전 훈련 → 확장 강화학습(SRL)이다.

인지 공학(Cognition Engineering) 이란 전통적인 사전 훈련 방식을 넘어, 테스트 시간 스케일링 패러다임으로 AI 의 사고 능력을 체계적이고 건설적으로 개발하는 방법론이다. 인간의 인지 패턴을 학습하거나 AI 스스로(강화학습 등) 발견한 방식을 통해, 인공 시스템 안에 깊은 인지 과정을 의도적으로 배양한다는 뜻이다.

왜 지금 인지 공학인가

인지 공학의 등장은 우연이 아니다. AI 가 지식 관리를 넘어 ‘지혜’ 의 영역으로 가려 할 때 마주친 한계에 대한 필연적 반응이며, 세 가지 기술적 기반이 성숙했기에 가능해졌다.

지식 기반. 학습 데이터가 단순 웹 텍스트를 넘어 과학 문헌, 기술 문서, 수학 교과서, 코드 저장소 같은 고도로 정제되고 구조화된 지식 코퍼스로 질적 변화를 이뤘다. 깊은 사고를 위한 풍부한 원소스를 제공한다.

테스트 시간 스케일링 기반. 추론 단계에서 계산 자원을 쓰는 방식을 근본적으로 다시 생각한 것이다. 연쇄 사고(Chain-of-Thought), 트리 탐색(Tree Search), 자가 교정(Self-Correction) 같은 기법은 모델이 답을 내놓는 것을 넘어 문제 해결 과정을 단계별로 탐색하고 스스로 검증하며 ‘깊이 생각할’ 수 있게 한다.

자가 학습 기반. 강화학습 같은 고급 자가 학습 방법론은 AI 가 스스로 복잡한 인지 행동(성찰, 백트래킹, 검증 등)을 배우고, 심지어 인간의 직관을 뛰어넘는 새로운 사고 전략을 발견할 가능성을 열었다.

테스트 시간 스케일링 핵심 기술

• 병렬 샘플링(Parallel Sampling) — 하나의 질문에 여러 답변 후보를 만들고 그중 가장 좋은 것(Best-of-N) 또는 가장 자주 나오는 것(Majority Voting)을 고른다
• 트리 탐색(Tree Search) — 문제 해결 과정을 트리로 보고 여러 경로를 탐색하며 최적 해답을 찾는다. BFS, DFS, MCTS 등을 쓴다
• 다중 턴 교정(Multi-turn Correction) — 초기 답변을 만든 뒤 피드백으로 반복 수정하고 개선한다
• 긴 연쇄 사고(Long CoT) — 매우 길고 복잡한 단계별 추론 과정을 생성한다

앞으로의 과제

• 현재 주류인 트랜스포머의 한계를 넘어설 새 모델 구조(State Space Model 등) 탐색이 필요하다
• 인간의 명시적 텍스트뿐 아니라 그 이면의 사고 과정을 담은 데이터를 대규모로 확보해 사전 훈련에 활용하는 연구가 중요하다
• RL 로 AI 의 인지 능력을 끌어올리는 연구가 활발하지만 재현성, 확장성, 보상 설계 등 풀어야 할 문제가 많다
• 단순 결과 정확도를 넘어 AI 사고 과정의 질·효율성·일반화 가능성을 평가할 새 지표와 프레임워크 개발이 시급하다
• AI 가 가설 생성, 실험 설계 등 과학적 발견 과정에서 창의적인 파트너 역할을 하도록 인지 능력을 최적화하는 연구가 기대된다

다음 막은 무엇일까

논문 내용을 토대로 3막을 Gemini 2.5 Pro 에게 예측해 보게 했다. 아래는 그 예측이다.

Act III — 자율 지능 및 실행(Autonomous Intelligence & Execution)

1막이 지식 습득 및 활용(Prompt Engineering)에, 2막이 사고 능력의 체계적 개발(Cognition Engineering)에 중점을 두었다면, 3막은 개발된 인지 능력을 바탕으로 AI 가 보다 자율적으로 목표를 설정하고, 계획하며, 복잡한 작업을 실행하는 단계로 나아갈 것으로 예측됩니다.

• 단순 문제 해결 → 목표 지향적 자율 실행 — 깊은 추론 능력을 갖춘 AI 는 주어진 질문에 답하는 것을 넘어, 스스로 장기 목표를 세우고 이를 달성할 복잡한 계획을 수립·실행할 수 있게 될 것입니다. ‘AI 에이전트’ 개념의 고도화로 이어질 수 있습니다.
• 수동적 도구 → 능동적 파트너/행위자 — 명시적 지시 없이도 상황을 파악하고, 잠재적 문제를 예측하며, 선제적으로 해결책을 제안하거나 조치를 취하게 될 것입니다. 인간과의 관계는 지시-수행을 넘어선 협력 및 공생으로 발전할 가능성이 높습니다.
• 디지털 공간 → 물리적/통합적 환경으로의 확장 — 고도화된 인지 능력이 로보틱스, IoT 와 결합해 물리 세계와 상호작용하는 능력을 크게 향상시킬 수 있습니다. 복잡한 제조 공정 관리, 자율적 환경 탐사 로봇 등이 현실화될 수 있습니다.
• 지속적인 학습 및 적응 — 정적인 데이터셋 학습을 넘어, 실제 환경과의 상호작용으로 계속 학습하고 변화에 실시간 적응하는 능력이 핵심이 될 것입니다. 강화학습, 메타 학습의 발전과 밀접하게 연관됩니다.

논문

• Generative AI Act II: Test Time Scaling Drives Cognition Engineering