질문은 AI를 막을 수 있느냐가 아니다

머스크가 제시한 타임라인

일론 머스크가 《이코노미스트》 인터뷰에서 AI 발전의 타임라인을 이례적으로 명확하게 제시했다. 약 5년 뒤면 AI가 특정 인간이 아니라 ‘인류 전체 지능의 총합’을 넘어설 것이며, 10년 뒤에도 인간이 AI를 통제하고 있을 가능성은 낮다는 전망이다. 인간과 AI의 지능 격차가 인간과 침팬지의 차이보다 커진다면, 인간이 계속 지휘권을 쥐기는 어렵다는 설명이다.

그런데도 멈추지 말자는 결론

그런데 머스크의 결론은 AI를 멈추자는 것이 아니다. 그는 AI와 로봇이 노동과 생산을 대체하면서 누구나 원하는 것을 누릴 수 있는 ‘전례 없는 풍요의 시대’가 올 가능성을 가장 높게 본다. 그래서 설령 AI 발전을 중단할 버튼이 있더라도 누르지 않는 편이 낫다고 말한다.

과거 AI 개발의 감속을 요구했던 태도에서, 이제는 “멈출 수 없는 흐름이니 위험을 관리하며 여정을 받아들이자”는 기술운명론적 낙관주의로 이동한 셈이다.

풍요를 만드는 일과 나누는 일은 다르다

하지만 “인간이 통제력을 잃을 가능성이 높아도 멈추지 말자”는 결론은 위험한 도박이기도 하다. AI가 풍요를 생산하는 것과 그 풍요가 모두에게 공정하게 돌아가는 것은 전혀 다른 문제다. 더구나 머스크 자신도 AI·로봇이 인류를 파국으로 몰고 갈 위험을 10~20%로 본 기존 전망을 철회하지도 않았다.

결국 핵심 질문은 AI를 막을 수 있느냐가 아니다. 인간보다 훨씬 강력한 지능을 누가 통제하고, 그 위험과 부를 누가 부담하고 나눌 것인가이다.

원문 링크: Elon Musk on AI: humans will no longer be in control in ten years | The Economist

원문 보기

그런데 머스크의 결론은 AI를 멈추자는 것이 아니다. 그는 AI와 로봇이 노동과 생산을 대체하면서 누구나 원하는 것을 누릴 수 있는 ‘전례 없는 풍요의 시대’가 올 가능성을 가장 높게 본다. 그래서 설령 AI 발전을 중단할 버튼이 있더라도 누르지 않는 편이 낫다고 말한다. 과거 AI 개발의 감속을 요구했던 태도에서, 이제는 “멈출 수 없는 흐름이니 위험을 관리하며 여정을 받아들이자”는 기술운명론적 낙관주의로 이동한 셈이다.

하지만 “인간이 통제력을 잃을 가능성이 높아도 멈추지 말자”는 결론은 위험한 도박이기도 하다. AI가 풍요를 생산하는 것과 그 풍요가 모두에게 공정하게 돌아가는 것은 전혀 다른 문제다. 더구나 머스크 자신도 AI·로봇이 인류를 파국으로 몰고 갈 위험을 10~20%로 본 기존 전망을 철회하지도 않았다. 결국 핵심 질문은 AI를 막을 수 있느냐가 아니다. 인간보다 훨씬 강력한 지능을 누가 통제하고, 그 위험과 부를 누가 부담하고 나눌 것인가이다.

*출처: Elon Musk on AI: humans will no longer be in control in ten years | The Economist⁠