AI의 근본 문제, 철학의 오래된 질문들

캐나다 토론토의 한 소프트웨어 개발자가 만든 흥미로운 인포그래픽이다. AI 엔지니어링의 근본 문제는 단순한 기술적 난제가 아니라, 지식·언어·의미·한계에 관한 오래된 철학적 질문들이 오늘날 실리콘 위에서 다시 구현된 것이라는 주장이다.

환각은 칸트, 이해는 비트겐슈타인

예컨대 LLM의 환각, 즉 hallucinations는 “일관성은 있으나 진실과는 분리될 수 있는 이성의 산물”이라는 칸트적 문제다. AI가 정말 이해하는가라는 논쟁은 “의미는 사용이다(meaning is use)“라는 비트겐슈타인의 언어철학과 맞물린다.

고차원 모델의 내부 상태가 순차적 텍스트 출력으로 압축되며 발생하는 정보손실(information loss)은 노자의 “말해질 수 있는 도는 영원한 도가 아니다(The Tao that can be spoken is not the eternal Tao)“라는 통찰과 연결된다. 또한 AI의 계산 가능성·증명 가능성·복잡도 한계는 괴델·튜링·쿡 등이 이미 제시한 불완전성, 계산불가능성, 난해성의 수학적 경계와 맞닿아 있다는 것이다.

프레임워크는 18개월마다 바뀌지만

한마디로 이 인포그래픽은 “최신 AI 프레임워크는 18개월마다 바뀌지만, 지식과 의미와 계산의 구조는 수천 년 동안 크게 바뀌지 않았다(Frameworks change every 18 months. The structure of knowledge hasn’t changed in millennia)“는 개발자적 철학론이라 할 수 있다. 어쩌면 이는 AI 엔지니어에게 철학적 사고가 왜 필요한지를 설득하기 위한 지적 메타포에 가깝다.

칸트와 RAG, 노자와 정보손실을 직접 연결하는 방식은 다소 과감하다. 그러나 AI 시스템의 한계를 단순한 ’버그(bug)’가 아니라 지식·언어·계산 구조에 내재한 조건으로 보게 만든다는 점에서 꽤 흥미로운 문제제기다.

이 글과 인포그래픽을 만든 Benny Cheung은 캐나다 토론토 기반의 소프트웨어 아키텍트이자 AI 연구자·컨설턴트로, AGI, 공간추론, 지식표현, 생성형 AI와 철학의 접점을 꾸준히 다뤄온 개발자형 연구자로 알려져 있다.

출처: Benny Cheung, LinkedIn, “Why Every AI Engineer Should Read Philosophy” https://www.linkedin.com/posts/becheung_ai-philosophy-softwareengineering-activity-7453444282499096576-ny7g