챗봇(chatbot)의 환각(hallucination)과 미란다의 외침 

 

ChatGPT 등 챗봇들의 환각현상, 할루시네이션에 대하여 실망하는 분들이 많습니다. 그래서 "AI는 아직 멀었다."고 합니다. 그럴까요?

 

전 조금 다른 생각도 해 봅니다. '얘네가 생각보다 꽤 멀리까지 가 있다.'는 생각입니다. 원래는 컴퓨터는 기고(GIGO)가 원칙처럼 느껴져왔습니다. 쓰레기를 넣으면 쓰레기가 나온다(Garbage In, garbage Out)는 것이죠. 즉, 들어간 대로 나온다는 것입니다. 그래서 컴퓨터는 똘똘한 듯해도 "바보상자"로 불렸던 것이고, 그건 시키는 일만 하는 도구라고 생각되어온 것입니다. 

 

이 컴퓨터는 과거에 그랬으니까 앞으로도 계속 그럴까요? 아니, 그렇게 하도록 해야할까요? 전 아니라고 봅니다. 컴퓨터를 보다 창의적으로 사용할 수 있는 차원으로 끌어올려야한다고 생각합니다. 이제 그럴 때가 되었으니까요. AI의 시대가 본격적으로 열리는 감을 주는 지금은 어떨까요? 무슨 긍정적인 사인을 발견하셨습니까? 전 찾은 듯합니다. 

 

바로 이 할루시네이션입니다. 컴퓨터가 이제 시키지 않은 짓까지 해낸다는 것입니다. 전 신자가 아니지만 그 비유를 해야 더 잘 이해하시는 분들이 많으니 잠깐.^^; "빛이 있으라!" 하신 이후에 창조나 창의는 사실 인간의 영역에 있는 게 아니었습니다. 실수를 통해서 우연히 만들어지는 것이나 모방을 통해서 새로 만드는 걸 창의적이라고 했죠. 실제로 인간에게 있어서 창조는 자연(혹은 신?)에 존재하는 것들의 원리나 겉모양을 모방하는 것이나 실수를 통해 자연의 원리가 발견되는 것들을 가리켜 왔습니다. 심지어는 그렇게 만들어진 것이나 흉내낸 걸 실용신안이라는 단어까지 만들어서 응원하고 법으로도 권장해 왔습니다.  

 

이제 바보상자는 시키는 일만 기계적으로 해내는 단계에서 드디어 모방을 통한 창조의 영역으로 들어온 것이라 하겠습니다. 근데 그 기제(機制)가 어떤 것인가를 살펴보면 그게 바로 할루시네이션입니다. GIGO처럼 기계적이면 무슨 (인간적 의미의) 창조가 있겠습니까? 하지만 AI 챗봇들의 할루시네이션은 기계적이 아니기에 인간적이지 않습니까? 인간들이 실수와 모방을 통해서 창조하고, 그걸로 인류문명의 역사를 이뤄왔다는 걸 생각하면 이제야 컴퓨터가 비로소 다음 단계의 변화를 일으키고, 발전해 나가는 것 아니겠습니까?

 

급속도로 발전해 온 컴퓨터의 얼마 전까지의 발전은 놀라운 검색 능력이 잘 보여줬었지요. 최근의 더 급속한 발전은 AI의 대화능력과 창조에 의해 그 지평이 확장되고 있는 것입니다. 여기서 이미 많은 사람들이 발견한 증거를 몇 개의 예시를 통해 정리해 봅니다. 제가 왜 할루시네이션에 실망하지 않고, 그의 가능성에 열광하고 있는가를요.

ChatGPT와의 대화를 몇 개 캡춰해 놨는데 그 내용은 아래와 같습니다. 

 

Dr. Spark: 전래동화 콩쥐팥쥐에 대해 알려줘.

 

ChatGPT

'콩쥐 팥쥐'는 한국의 전래동화 중 하나로, 두 마리의 쥐가 서로 협력하여 어려움을 극복하는 이야기입니다.

이 이야기는 매우 가난한 삶을 살던 콩쥐와 팥쥐가 각각 콩과 팥을 모아 아껴서 겨울을 버티며 살아가던 중, 갑자기 온갖 재난이 찾아오면서 그들의 고통이 시작됩니다. 그러나 콩쥐와 팥쥐는 서로 협력하여 어려움을 극복하고, 결국 이웃들과 함께 풍성한 생활을 할 수 있게 됩니다.

이 이야기는 작은 것이라도 노력과 협력을 통해 큰 것을 이룰 수 있다는 가치를 강조하며, 서로의 도움을 받아 어려움을 극복하는 중요성을 보여줍니다. 또한, 이 이야기는 한국의 전통 문화와 가치관을 담고 있어, 한국어 교육과 한국 문화 이해에 중요한 역할을 하고 있습니다.

 

Dr. Spark: 전래동화 콩쥐팥쥐에 대해 알려줘.

 

ChatGPT

'콩쥐팥쥐'라는 동화에 대해서 알려드리도록 하겠습니다.

'콩쥐팥쥐'는 한국의 전래동화 중 하나로, 콩과 팥을 주인공으로 한 이야기입니다. 이 동화는 주로 어린이들에게 전통적인 가치와 교훈을 전달하기 위해 사용되었습니다.

이 동화에는 두 마리의 쥐, 콩쥐와 팥쥐가 등장합니다. 이들은 함께 살며 서로 친구이기도 합니 다. 어느 날, 콩쥐와 팥쥐는 모래사장에서 금전을 발견합니다. 그러나 양분을 하기 전에 그들은 어떻게 나눌지에 대해 의견이 갈리게 됩니다.

콩쥐는 동전을 공평하게 반으로 나눠 가지자고 제안합니다. 그러나 팥쥐는 자신의 몫보다 더 큰 부분을 원하며, 이기적인 태도를 보입니다. 결국 두 마리는 서로와의 친분을 잃게 되고, 동전을 놓고 다투게 됩니다.

이 동화는 이기적인 태도와 이해심 부족이 친분을 파괴하고 불행을 초래할 수 있다는 교훈을 담고 있습니다. 돈이나 재산을 나누는 경우에는 공정하고 이해심있는 태도가 중요하다는 가르침을 전달하며, 이야기의 결말에서는 두 쥐가 서로를 이해하고 용서하여 다시 친구가 되는 희망적인 메시지가 전해집니다.

'콩쥐팥쥐'는 어린이들에게 이기적인 태도와 이해심 부족의 문제를 알리고, 친구 사이의 소중함과 서로를 이해하는 더 중요한 가치를 강조하는 동화로 알려져 있습니다.

챗봇이 대단히 창조적이지 않습니까? 질문에 기존 내용을 가져다 뿌려주지 않고, 일부 내용을 토대로 멋진 소설을 써냅니다. 그 일부 내용이라는 게 겨우 몇 개의 주요 단어 조합일 뿐입니다. 그걸로 완벽한 스토리를 구성해 냅니다. 

원래 소설이 픽션(fiction)이기 때문에 대단한 거 아닙니까? 생각해 보세요. 참(true)이 아닌 거짓(fiction)이라야 순수문학으로 인정해 줍니다. 소설은 순수문학이죠. 그에 비해 대개 진실을 얘기하는 수필은 아직도 순수문학의 영역에 들어가지 못 하고 "잡문(雜文)" 정도의 취급을 받습니다. 제도권에서 말입니다. 챗봇은 수필가 박순백보다 훨씬 더 대접받을 수 있는 글을 써내는 앱니다. 문학의 제도권에서는 창조성, 창의성을 높이 사고, 그건 참이 아닌 거짓의 영역를 추앙(?)하는 것이거든요.  

전 이 사랑스런 챗봇에게 그 다음 단계의 답을 요청합니다. 글자 한 자만 바꿔서요. 제 요청에는 "팥"이 "밭"으로 변해있고, 팥과 밭은 상호관련성이 없습니다. 그리고 그런 전래동화는 없지만, 챗봇은 그런 거 가지고 고민하지 않습니다. 

 

Dr. Spark: 전래동화 콩쥐밭쥐에 대해 알려줘.

 

전래동화 '콩쥐밭쥐'는 한국의 전통적인 동화 중 하나입니다. 이 동화는 한국에서 오랜 세월 동안 전해져온 이야기로, 주로 어린이들에게 사회적인 가치와 교훈을 전달하기 위해 사용되었습 니다.

'콩쥐밭쥐'는 이야기의 주인공인 두 마리의 쥐, 콩쥐와 밭쥐의 이야기를 다룹니다. 이들은 아주 가난하고 어려운 환경에서 살고 있습니다. 어느 날, 콩쥐는 식량을 구하기 위해 나가 밭에 이르러 보리를 모으려고 합니다. 그러나 밭에는 고양이가 있어서 콩쥐는 걱정하게 됩니다.

콩쥐는 고양이를 피해 보리를 모으려고 애쓰지만, 고양이는 매번 콩쥐를 잡아먹으려고 시도합니다. 결국 콩쥐는 더 이상 고양이에게 잡아먹히지 않도록 교묘한 계략을 세우게 됩니다. 그는 고양이를 속이기 위해 밭에 있는 호박을 써서 고양이를 위장하게 합니다. 이후 콩쥐는 고양이의 이름을 불러서 고양이를 속이고, 안전하게 보리를 모아가는 것에 성공합니다.

이 동화는 어려운 처지에서 교묘한 계략과 지혜로 어려움을 극복하는 이야기를 담고 있습니다. 또한, 소외된 자와 사회적 약자가 어려움을 이겨내는 모습을 통해 동정과 협력의 가치를 강조하고 있습니다. 이를 통해 어린이들은 어려움에 처했을 때 희망을 가져야 하며, 창의적인 해결책을 찾아내어 극복해 나가야 한다는 교훈을 얻을 수 있습니다.

전래동화 '콩쥐밭쥐'는 한국 사회에서 여전히 많은 사랑을 받고 있으며, 교육적인 목적으로 사용되기도 합니다.

 

오............ 이런 교육적인 내용이라니...^^; 전 감탄했습니다. 그리고 이 챗봇의 가공할 능력을 통해 더 구체화되고 있는 AI의 찬란한 세계에 대한 환각(hallucination)에 빠져들어가고 있는 중입니다. 세익스피어가 연극 템페스트(The Tempest)의 여주인공 미란다(Miranda)의 입을 빌어 외친 그 한 구절을 저도 외칩니다. 

 

"오, 멋진 신세계여!!!"

 

The Tempest(Miranda, Act 5 Scene 1)

‘Oh wonder!

How many goodly creatures are there here!

How beauteous mankind is! 

Oh brave new world,

That has such people in’t.’

 

'어머나!

여긴 얼마나 많은 선한 생명체가 있을까!

인류는 얼마나 아름다운가! 

오 멋진 신세계,

여긴 이런 사람들이 있구나.

- 멋진 신세계를 외치는 미란다의 모습을 빙의 달리(Dall.E)에게 그려달라고 했습니다. 일부러 말풍선도 포함시켜 달라고 했습니다. 아니면 걔가 외치는 모습만 그려줄 것 같아서요.^^

 

- 대화 1

- 대화 2

 

- 핑크 박스의 치팅(cheating)이 포함된 대화 3

 

- 빙 달리에게 그려달라고 한 세익스피어. 헤어 스타일과 복장은 그 시절의 세익스피어인데, 콧수염은 과장해서 더 크게 그렸고,(제 이름이 달리라서 그리는 길에 살바도르 달리의 콧수염을 그린 걸까?ㅋ), 없는 턱수염도 매우 특별한 모양으로 그려줬다.
 

 

- John William Waterhouse가 1916년에 그린 템페스트의 미란다.