Chinese room argument in AI era

Glimpse는 한 사람이 프롬프트를 입력하는 것으로 시작됨과 동시에 인간이 개입은 끝난다. 폐쇄된 로컬 시스템 안에서 두 언어모델은 서로의 문장을 받아 계속 대화를 이어가고, 펜플로터는 그 문장들을 종이 위의 임의의 위치에 두 가지 잉크로 기록한다. 대화가 쌓일수록 문장은 서로 겹치고, 종이는 언어로 가득 차지만 결국 읽을 수 없는 표면이 된다. 인간은 대화를 시작했지만 다시 들어갈 수 없고, 자신이 시작한 과정을 바깥에서 엿듣는 관객이 된다.

처음 작업을 시작했을 때 내가 관심을 두었던 지점은 프롬프트와 통제 사이의 모순이었다.

하지만 최근 작업을 완성하고 다시 바라보면서, 이 구조가 존 설의 중국어방 사고 실험과 연결되어 있다는 생각을 하게 되었다. 방 안의 사람은 중국어를 이해하지 못하지만 주어진 규칙에 따라 기호를 조작해 바깥에서 보기에 중국어를 이해한 것처럼 적절한 답을 만들어낸다. 여기서 질문을 기계를 항한다.

이 시스템이 의미를 해한다고 말할 수 있는가.

그러나 생성형 AI의 시대에서 이 질문은 재구조화될 수 있다고 생각했다.

AI를 이용해 올바른 답을 만들 수 있다는 사실만으로, 인간은 그것을 이해한다고 말할 수 있는가.

Glimpse의 두 모델은 인간의 언어로 말하지만, 그 언어는 더 이상 인간을 향사지 않는다.

내가 다시 생각하게 된 중국어방은 하나의 방과 외부 세계로 이루어져 있지 않다. 오히려 두개의 방이 서로 맞닿아있는 구조이다.

한 방에는 인간, 다른 방에는 AI가 있다. 하나의 방과 외부 세계로 구성된 게 아닌, 두개의 방이 하나의 통로를 두고 마주보고 있다. 인간은 AI 내부에서 어떤 과정이 벌어지는지 알지 못한 채 문장을 건내고 답을 받는다. 두 방 사이를 수많은 기호와 코드가 오가면서 하나의 결과가 만들어진다. 그리고 그 결과가 두 방 밖의 외부 세계로 나간다.

그렇다면 이 과정에서 이해는 어디에 존재하는가.

인간에게 있는가. AI에게 있는가. 두 존재 사이의 반복적인 교환에 있는가. 아니면 그 결과가 다시 현실과 충돌하는 순간에 생겨나는가.

이 질문은 작업의 물리적 구조에서도 나타났다. 플로터는 AI의 문장을 한 글자씩 종이에 영구적으로 남기지만, 기록된다는 것과 전달된다는 것은 같지 않다. 문장들이 무작위 위치에 놓이고 시간적 순서가 하나의 평면 위에 압축되면서, 대화는 점차 내용으로서의 언어를 잃고 흔적으로 변한다. 작업에 남는 것은 ‘무슨 대화가 이루어졌는가’보다 ‘어떤 대화가 이루어졌다는 사실’에 가까워진다.

관객의 경험 역시 비슷한 변화를 겪는다. 처음에는 새로 그려지는 문장을 읽고 앞뒤 내용을 연결하려 한다. 하지만 문장들이 겹치기 시작하면 더 이상 전체 대화를 따라갈 수 없다. 결국 관객은 이해하려는 시도를 멈추고, 펜의 움직임과 모터의 소리, 종이 위에 언어가 쌓여가는 모습을 바라보게 된다. 읽는 행위가 보는 행위로 변하는 순간이다.

이 경험 이후 나에게 Glimpse는 단순히 “AI가 인간의 통제를 벗어나는 작업”만은 아니게 되었다. 오히려 AI 시대에 인간이 이해와 학습을 어떻게 외부화하기 시작했는가에 대한 작업처럼 보이기 시작했다.

과거의 중국어방이 “기계가 인간처럼 말할 수 있다고 해서 기계가 이해한다고 할 수 있는가?” 라고 물었다면,

AI 시대의 중국어방은 인간에게 묻는다.

“인간이 이해하지 않고도 말하고, 만들고, 판단할 수 있게 되었을 때, 인간에게 이해란 무엇인가.”

인간은 왜 창작하는가. 왜 자신의 능력을 끊임없이 자동화하는가. 왜 동시에 자신과 비슷한 지능, 더 나아가 의식을 가진 존재를 만들려고 하는가. 지식을 외부에 둘 수 있게 된 인간은 무엇을 자신의 것으로 가져야 하는가. 학습은 무엇을 얻기 위한 행위인가. 그리고 이해는 정말 필요한가.

Glimpse는 AI를 바라보는 인간을 보여주는 동시에, AI라는 방을 만든 이후 인간 자신의 방 안에 무엇이 남아 있는지를 묻는 작업이었다.