AI의 한계를 넘으려면 인간을 다시 봐야 한다

한상기 선배의 추천으로 일리야 수츠케버의 인터뷰 영상을 몰입하며 보게 되었다. 가장 인상 깊었던 지점은, 그가 지금의 AI 한계를 바라보는 관점이 다른 연구자들과 뚜렷하게 다르다는 사실이었다.

스케일링의 반대 방향을 가리키다

많은 AI 과학자들이 여전히 더 큰 모델, 더 많은 데이터, 더 강력한 인프라로 문제를 돌파하려는 스케일링 중심의 접근에 머물러 있는 반면, 수츠케버는 그 반대 방향을 가리킨다. 그는 기계의 성능을 끌어올리는 핵심이 ‘계산력의 축적’에 있는 것이 아니라 인간이 의사결정을 내리는 방식의 원리를 이해하는 데 있다고 본다.

시험은 잘 보는데 현실에서는 무너진다

그가 지적한 ‘일반화 능력의 취약성’은 지금의 AI가 마주한 가장 본질적 약점이다. 특히 RL 기반 훈련이 시험 대비형 AI를 양산하고, 평가지표만 잘 맞추는 보상해킹이 모델을 왜곡시켰다는 그의 분석은 매우 날카로웠다.

테스트에서는 최고 점수를 받는데 현실 문제에서는 무너지는 괴리, 이것이야말로 스케일링의 시대가 만들어낸 구조적 한계라는 것이다.

인간의 감정이 곧 가치함수다

그러나 수츠케버가 강조하는 진짜 핵심은 여기서 더 깊은 곳에 있다. 그는 인간이 가진 감각, 감정, 직관, 가치함수(value function)가 단순한 ‘인간적 특성’이 아니라 일반화와 의사결정의 엔진이라는 점을 거듭 강조한다. 신경과학의 한 사례연구에서 감정중추 손상 환자가 합리적 판단을 전혀 못 한다는 사례를 인용하면서, 인간의 감정이 곧 가치함수임을 설명한 대목은 특히 인상적이었다.

진화가 수백만 년 동안 다듬어온 이 가치함수는 사전학습을 아무리 늘려도, 데이터와 GPU를 아무리 쌓아도 기계가 쉽게 얻을 수 없는 영역이라는 것이다. 인간은 환경을 만나고 경험을 축적하면서 끊임없이 가치함수를 업데이트하는 지속학습(continual learning) 시스템이라는 것이다. 반면 지금의 AI는 거대한 암기 기계에 가까워, 한 번 학습이 끝나면 지식이 고정되고 새로운 환경에 적응하지 못한다고 보는 것이다.

인간은 AI보다 더 뛰어난 학습 알고리즘을 갖고 있다

바로 이 지점에서 그는 현대 AI 연구에서 보기 드물게 인간의 뇌와 진화를 머신러닝의 근본 설계 원리로 끌어오려는 사상가적 면모를 드러낸다. 인간이 적은 규모의 샘플 데이터에서도 놀라운 일반화를 보여주고, 비지도 학습(unsupervised learning) 상황에서도 강건한 판단을 내릴 수 있는 이유는 바로 인류의 진화가 하드코딩한 가치함수 덕분이며, 이는 현재의 AI가 갖지 못한 ‘사전지식의 형식’이라고 그는 말한다. 이 말은 결국 “인간은 AI보다 더 뛰어난 학습 알고리즘을 갖고 있다”는 선언이기도 하다.

스케일링의 시대에서 연구의 시대로

그래서인지 그는 스케일링 법칙의 시대(Age of Scaling)가 끝나고 이제 ‘연구의 시대’(Age of Research)로 넘어가고 있음을 분명히 한다. 더 큰 모델, 더 많은 GPU가 아니라 새로운 원리가 필요하다는 메시지다. 인간의 감정·가치·감각이라는 요소를 다시 이해하고, 그것이 어떻게 의사결정 구조를 만드는지를 탐구하는 것이 다음 세대 AI의 핵심이라는 것이다.

사상가형 개발자

나는 이번 인터뷰 영상을 보면서 수츠케버가 단순한 기술 개발자를 넘어, 인간 중심적 AI 개발 철학에 무게를 두는 사상가형 개발자라는 인상을 강하게 받았다. 그는 기술의 미래를 계산력의 크기에서 찾는 것이 아니라, 인간이 어떻게 판단하고 느끼는지, 즉 우리가 이미 가진 내재적 알고리즘에서 찾고 있다.

이는 지금의 AI가 직면한 한계를 넘어서려면, 결국 인간을 다시 바라보는 일이 필요하다는 조용하지만 강력한 메시지라고 생각한다. 일리야 수츠케버, 정말 멋진 AI과학자이다.

지금 AI에겐 결정적인 ’이것’이 없다 - 일리야 수츠케버