LLM을 실체가 아니라 시뮬레이터로 보기

안드레 카파시가 말한다. “LLM을 하나의 ’실체’가 아닌 ’시뮬레이터’로 바라보세요.”

예를 들어 어떤 주제를 탐구할 때 이렇게 묻지 말라는 것이다.

“이것(xyz)에 대해 너는 어떻게 생각해?”

거기엔 “너(자아)“라는 게 존재하지 않으니까. 대신 다음번엔 이렇게 물어보라고 한다.

“이 주제를 탐구하기에 적합한 전문가 그룹은 누구일까? 그리고 그들이라면 뭐라고 말할까?”

LLM은 다양한 관점을 가져와 시뮬레이션할 수는 있다. 하지만 우리가 흔히 생각하는 방식처럼, 오랜 시간 특정 주제를 ’고심’해 왔거나 스스로 의견을 형성해 온 존재는 아니다.

만약 “너”라는 호칭을 써서 억지로 답변을 요구하면, AI는 파인튜닝 데이터의 통계가 암시하는 **‘성격 임베딩 벡터(personality embedding vector)’**를 채택한 뒤 그에 맞춰 답변을 흉내 낼 뿐이다.

물론 그렇게 쓰는 것도 괜찮다. 다만 이는 사람들이 흔히 “AI에게 물어본다”며 순진하게 갖는 환상이나 신비감보다는 훨씬 건조하고 기계적인 과정일 뿐이다.