말을 감싼 것들

1.

기원전 3500년경, 흑해 북쪽 폰틱 초원. 이름이 남지 않은 한 유목민이 야생 들판에서 말 한 마리를 붙잡아 목에 끈을 묶었다. 그 끈의 이름은 훗날 굴레가 되었다. 말은 그곳에 이미 수백만 년 동안 살고 있었다. 그날 달라진 것은 말이 아니었다. 말을 감싼 것이었다.

5천 년이 흘러 2022년 말, 샌프란시스코의 한 엔지니어가 “당신은 뛰어난 전문가입니다”로 시작하는 문장을 ChatGPT 창에 입력했다. 화면 너머의 거대한 언어 모델이 답을 내놓았다. 그 답을 더 잘 받기 위해 문장을 고치는 직업이 생겼다. 이름은 프롬프트 엔지니어였고, 연봉은 33만 달러였다.

그리고 다시 3년이 흘렀다. 프롬프트 엔지니어라는 직업은 흔적처럼 남아 있다. 그 자리를 다른 일이 채우고 있다. 말에 굴레를 씌우는 일이 아니라, 말들을 마차에 연결하는 일이다.

2.

우리는 이런 패턴을 몇 번이나 보았던가.

첫 번째. 말. 야생마의 근력은 마구가 생긴 후에도 크게 변하지 않았다. 달라진 것은 주변이었다. 굴레가 방향을 정했고, 편자가 발굽을 단단하게 했고, 안장이 기수를 오래 앉혔으며, 마차의 멍에가 여러 마리를 한 방향으로 묶었다. 말 한 마리의 힘이 아니라, 말을 둘러싼 작은 발명품들의 집합이 로마의 도로를 뚫었고 몽골의 초원을 연결했다.

두 번째. 전기. 1879년 에디슨이 전구를 만들었을 때, 한 개의 전구로는 가정에 빛이 들지 않았다. 벽에 난 콘센트, 도시를 가로지르는 배전망, 차단기, 스위치, 퓨즈가 있어야 했다. 그리고 그 모든 것을 감당할 발전소가 있어야 했다. 전구는 발명되었지만, 세상을 밝힌 것은 전구가 아니었다.

세 번째. 검색. 1998년 구글이 등장했을 때, 인터넷에는 이미 수억 개의 웹페이지가 있었다. 페이지는 그대로였다. 달라진 것은 페이지들 사이의 순위와 연결을 매기는 한 줄의 알고리즘, 그리고 그 알고리즘을 감싼 검색창·광고 경매·크롤러·스니펫 같은 주변 장치였다.

그런데 여기, 이 모든 이야기를 듣고도 고개를 가로젓는 사람이 있다. 그를 우려 노인이라 부르자. 노인은 시대마다 같은 말을 한다. “말이 문제 아닌가. 말 자체가 더 커지고 빨라져야지, 끈 몇 개로 뭐가 되겠나.” 5천 년 동안 노인의 걱정은 틀려왔다. 야생마는 그대로였다. 그래도 문명은 움직였다.

3.

생성 AI라는 말 앞에서, 지난 3년간 세 개의 계단이 차례로 놓였다.

제1시대. 프롬프트 엔지니어링

한 줄 정의. 모델에게 어떻게 묻는지를 설계하는 일.

숫자. 2023년, 한 AI 회사는 프롬프트 엔지니어 공고에서 연봉 33만 달러를 제시했다. “Let’s think step by step”이라는 한 문장이 수학 문제 정답률을 큰 폭으로 올렸다는 논문이 학계를 휩쓸었다.

사례. 내가 처음 LLM을 업무에 쓸 때 가장 먼저 배운 것도 이것이었다. 주문을 찾아 헤맸다. 역할을 부여하면 답이 좋아졌다. 단계를 쪼개라고 하면 논리가 단단해졌다. 우리는 그것을 마법이라 불렀다.

한계. 마법은 모델이 바뀔 때마다 녹아내렸다. 한 세대의 주문은 다음 세대에서 통하지 않았다. 이식되지 않는 지식이었다.

제2시대. 컨텍스트 엔지니어링

한 줄 정의. 모델에게 무엇을 함께 주는지를 설계하는 일.

숫자. 컨텍스트 윈도우는 3년 만에 250배 자랐다. 같은 기간 동안 인간의 작업기억 용량은 그대로였다.

사례. RAG가 이 시대의 상징이 되었다. 검색, 요약, 삽입, 재정렬. 모델에게 질문만 던지는 것이 아니라, 질문과 함께 읽어야 할 자료를 쥐여주는 일이었다. 지난 2년간 나는 수많은 팀이 이 파이프라인을 짓는 모습을 보았다. 그들이 고민한 것은 모델의 성능이 아니었다. 모델 주변에 무엇을 놓을 것인가였다.

한계. 컨텍스트를 잘 넣어주어도 모델은 여전히 한 번에 한 가지 일만 했다. 한 번의 추론이 끝나면 기억은 증발했고, 다음 질문은 처음부터 다시 시작이었다.

제3시대. 하네스 엔지니어링

한 줄 정의. 모델들을 어떻게 엮는지를 설계하는 일.

숫자. 오늘의 하네스에서 서브에이전트들은 각자 독립된 컨텍스트를 가진다. 메인 에이전트가 움직이는 동안 하위 에이전트 여럿이 각자의 문제를 병렬로 푼다. 3년 전 프롬프트 엔지니어 한 명이 일주일 동안 쓰던 토큰을, 한 시스템이 단 하나의 태스크에서 소비한다.

사례. 지난 4월, 나는 한 대학의 강의실에 섰다. 학생들에게 물었다. “여러분이 아는 AI는 한 대입니까, 여러 대입니까.” 대부분은 한 대라고 답했다. 그러나 오늘 어려운 벤치마크의 상위권에 오른 시스템 대부분은 모델 여러 대가 분업하는 하네스다. 문제를 쪼개는 모델, 푸는 모델, 검증하는 모델이 나뉘어 일한다.

한계. …아직 모른다. 이것이 계단의 마지막인지, 또 하나의 디딤돌인지.

이 세 시대는 대체가 아니라 축적이다. 프롬프트를 잘 쓰는 사람은 여전히 유리하다. 컨텍스트를 잘 다루는 사람은 더 유리하다. 다만 유리함의 가장 큰 비중이 다른 곳으로 넘어갔을 뿐이다.

4.

이 지점에서 누군가는 반문할 것이다. “모델이 충분히 좋아지면 하네스는 필요 없어진다. 다음 세대의 더 큰 모델이 나오면 복잡한 다단 구조는 군더더기 아닌가.”

일리 있는 말이다. 실제로 지난 3년간 더 큰 모델이 나올 때마다, 이전 세대에서 정교하게 쌓아 올렸던 프롬프트 트릭 상당수가 하루아침에 쓸모없어졌다. 이 흐름이 계속되면 언젠가 단일 모델이 지금의 에이전트 팀 전체를 대체할 수도 있다.

다만 이 글에서 내가 다루려는 것은 모델의 성능 궤적이 아니다. 모델을 신뢰 가능한 시스템으로 만드는 일의 궤적이다. 두 궤적은 다르다. 말이 더 빨라져도 마구는 계속 필요했다. 자동차가 나온 뒤에도 안전벨트와 신호등은 새로 만들어졌다. 시스템을 감싸는 일은, 부품이 강해지는 속도와 무관하게 따로 진화한다.

내 프레임에 안 맞는 사례도 인정해야 한다. 짧은 대화, 한 번의 요약, 간단한 번역. 이런 태스크에 에이전트 팀을 붙이는 것은 과잉 엔지니어링이다. 엽서 한 장을 부치려고 트럭을 부르는 일이다. 하네스는 모든 문제에 정답이 아니다. 문제가 일정 규모를 넘어갈 때 비로소 값이 된다. 이 경계선을 스스로 그을 줄 아는 것이, 하네스 엔지니어의 첫 덕목이다.

5.

다시 폰틱 초원으로 돌아가자.

기원전 3500년에 굴레를 씌웠던 그 유목민의 이름은 남아 있지 않다. 다만 그의 후손들이 만든 도구는 남았다. 굴레, 재갈, 편자, 안장, 등자, 마차의 멍에. 각각은 단순했다. 그러나 이것들이 모여 하나의 시스템이 되었을 때, 말 한 마리는 제국을 가로지르는 정보 수단이 되었다.

1만 년이 흘러 말은 자동차에 밀려났다. 그러나 마구의 원리는 사라지지 않았다. 현대의 자동차는 운전대·브레이크·안전벨트·내비게이션이라는 또 다른 마구를 단다. 현대의 로켓은 유도 시스템·자세 제어·궤도 알고리즘이라는 더 정교한 마구를 단다. 언제나 엔진 자체보다, 엔진을 감싸는 것이 먼저 지혜를 요구했다.

5천 년 전 초원의 그 유목민은, 오늘 우리와 같은 일을 하고 있었다. 자기 앞의 뜨거운 생명체를 어떻게 방향 지을 것인지, 여러 마리를 어떻게 한 방향으로 묶을 것인지, 어떻게 지치지 않게 할 것인지. 우리가 LLM이라는 새로운 뜨거운 생명체 앞에서 고민하는 것과 정확히 같다.

우려 노인은 그때도 있었다. “말이 문제지, 끈이 문제냐.” 그는 틀렸다. 지금도 같은 말을 하는 사람이 있다. 그도 틀릴 것이다.

6.

잠시 멈추고 생각해보시기 바랍니다.

지금 쓰고 계신 프롬프트는, 5천 년 전 말의 귀에 속삭이던 유목민의 말과 같습니다. 의미 있는 일입니다. 그러나 말이 천 마리라면 어떻게 하시겠습니까. 말들이 서로 다른 속도로 달린다면, 누구는 쉬어야 하고 누구는 달려야 하는 상황이라면, 말 한 마리의 귀에 속삭이는 것으로 충분하겠습니까.

여러분이 만들고 있는 AI 시스템도 곧 그렇게 됩니다. 아니, 이미 그렇게 되었습니다. 한 번의 질문과 한 번의 답으로 끝나는 일은 점점 줄어듭니다. 대신 여러 모델이 동시에 움직이고, 도구를 쓰고, 서로의 결과를 검증하는 긴 흐름이 표준이 되어갑니다.

그 흐름을 설계하는 일. 그것이 하네스 엔지니어링입니다. 지금 배울 수 있는 기술 중 가장 값진 것 하나이고, 아직 교과서가 쓰여지지 않은 기술입니다.

7.

그렇다면 하네스의 마지막은 어디인가.

말에게는 굴레 다음에 편자가, 편자 다음에 안장이, 안장 다음에 마차가 왔다. 마차 다음에는 기차가, 기차 다음에는 자동차가, 자동차 다음에는 비행기가 왔다. 도구는 끝나지 않았다. 다만 매 시대마다 “이번에는 끝인 것 같다”라고 말하는 사람이 있었을 뿐이다.

2026년의 하네스 엔지니어링도 끝이 아닐 것이다. 그 다음에 무엇이 오는지, 지금 우리는 모른다. 어쩌면 하네스를 자동으로 설계하는 또 다른 하네스일 수도 있다. 어쩌면 전혀 다른 범주의 일일 수도 있다.

다만 한 가지는 분명하다. 답은 모델이 더 커지는 방향에 있지 않다.

답은 언제나, 말을 감싼 것들의 자리에 있었다.