[디지털문학 용어 사전] '할루시네이션(Hallucination)'

* 이 글은 하이퍼 레터 15.0(20226.9.23. 발행)에 게재되었습니다.

하이퍼 레터 15.0 (WEB) 보러 가기

하이퍼 레터 15.0 (PDF) 보러 가기

 

 

[정의]

 

‘할루시네이션(Hallucination, 환각 현상)’이란 생성형 인공지능이 실제로 존재하지 않거나 사실과 다른 정보를 마치 사실인 것처럼 그럴듯하게 생성하는 현상을 말한다. 일반적으로 ‘할루시네이션’은 실제로 존재하지 않는 대상을 지각하는 ‘환각’을 의미하며, 이 단어는 인간의 인지 과정에서 발생하는 환각을 인공지능의 정보 생성 과정에 빗대어 표현한 용어라고 할 수 있다. 특히 생성된 문장이 문법적으로 자연스럽고 질문의 맥락에도 잘 부합하기 때문에, 사용자가 이를 사실로 오인하기 쉽다는 점에서 단순한 정보 오류와 구별된다.

할루시네이션 현상은 생성형 인공지능의 발전과 함께 주목받기 시작했다. 자연어 처리 기술과 신경망 기반 언어 모델이 발전하면서 인공지능이 인간과 유사한 문장을 자유롭게 생성할 수 있게 되었고, 동시에 사실과 다른 내용을 자연스러운 언어로 만들어내는 문제가 나타나기 시작했다.

특히 대규모 언어 모델(LLM)의 등장과 발전은 할루시네이션 문제를 더욱 가시화했다. LLM은 방대한 양의 텍스트 데이터를 학습하고, 사용자가 입력한 문맥에 적절한 언어를 확률적으로 생성한다. 이 과정에서 모델의 목적은 ‘사실을 확인하는 것’에 있지 않으며, 주어진 맥락에 가장 자연스럽게 이어지는 언어를 생성하는 데 있다. 따라서 실제로 존재하지 않는 정보라도 문맥상 적절하다면 하나의 완성된 문장으로 생성하는 할루시네이션 현상이 발생한다.

 

 

 

[주요 사례]

 

할루시네이션은 크게 4가지 양상으로 나타난다.

 

1. 사실과 다른 정보의 생성

할루시네이션의 가장 대표적인 형태는 실제 사실과 다른 정보를 사실인 것처럼 생성하는 경우이다. 사용자가 특정 인물, 사건, 장소 등에 관한 정보를 질문했을 때 인공지능이 존재하지 않는 사실을 만들어내거나, 실제 정보와 다른 내용을 제시할 수 있다.

이러한 오류는 단순히 질문을 이해하지 못해서 발생하는 것과 다르다. 인공지능은 잘못된 정보를 매우 자연스러운 문장으로 설명할 수 있으며, 구체적인 날짜나 수치, 인물의 이름 등을 함께 제시하기도 한다. 따라서 사용자는 답변의 구체성과 유창함을 정보의 정확성으로 오인할 수 있다.

 

2. 존재하지 않는 정보의 생성

 

할루시네이션은 실제 정보의 일부를 잘못 설명하는 것뿐만 아니라, 처음부터 존재하지 않는 정보를 만들어내는 형태로도 나타난다. 존재하지 않는 인물이나 기관, 제품, 사건 등을 실제로 존재하는 것처럼 설명하는 것이 대표적인 사례이다.

특히 사용자가 잘 알려지지 않은 대상에 관해 질문하거나, 인공지능이 충분한 정보를 확보하지 못한 상황에서 이러한 현상이 발생할 수 있다. 이때 인공지능은 질문에 답하지 못한다고 판단하기보다, 학습한 언어적 패턴을 바탕으로 질문에 적합해 보이는 정보를 구성하여 답변할 수 있다.

 

3. 잘못된 출처와 인용의 생성

 

인공지능은 사실관계뿐만 아니라 정보의 출처를 제시하는 과정에서도 할루시네이션을 일으킬 수 있다. 실제로 존재하지 않는 논문이나 책, 웹사이트를 참고문헌처럼 제시하거나, 실제 자료의 저자·제목·출판연도 등을 잘못 조합하여 존재하지 않는 출처를 만들어내는 경우가 이에 해당한다.

또한 실제로 존재하는 자료를 언급하면서도 해당 자료에 없는 내용을 인용하거나, 원문과 다른 문장을 실제 인용문처럼 제시할 수도 있다. 이러한 현상은 출처가 함께 제시되었다는 이유만으로 답변 전체를 신뢰해서는 안 된다는 점을 보여준다.

 

4. 맥락의 왜곡과 정보의 결합

 

할루시네이션은 완전히 새로운 정보를 만들어내는 방식으로만 나타나는 것은 아니다. 실제로 존재하는 여러 정보를 서로 잘못 결합하거나, 하나의 정보가 가진 맥락을 다른 정보에 적용하면서 새로운 오류를 만들어내기도 한다.

예를 들어 서로 다른 인물의 이력을 하나의 인물에 결합하거나, 서로 다른 사건의 시간과 장소를 혼합하여 설명하는 경우가 있다. 각각의 정보가 개별적으로는 실제로 존재하더라도, 이들이 잘못된 관계로 결합되면 전체적으로는 사실과 다른 내용이 된다. 따라서 할루시네이션은 ‘완전히 거짓인 정보의 생성’뿐만 아니라 ‘사실의 잘못된 조합’이라는 형태로도 이해할 필요가 있다.

 

 

 

[의의와 전망]

 

할루시네이션은 생성형 인공지능의 오류를 설명하는 개념을 넘어, 인공지능이 생산하는 언어와 인간이 받아들이는 정보 사이의 관계를 다시 생각하게 한다. 생성형 AI는 사실과 다른 내용을 매우 자연스럽고 일관된 언어로 표현할 수 있기 때문에, 정보의 정확성을 판단할 때 단순히 문장의 완성도나 논리적 타당성에 의존하기 어렵다. 이는 디지털 환경에서 정보를 수용하는 과정에서 ‘그럴듯함’과 ‘사실성’을 구분하는 비판적 태도가 필요함을 보여준다.

여기서 할루시네이션은 문학적 허구와 구별된다. 문학적 허구는 창작자가 현실에 존재하지 않는 인물이나 사건을 의도적으로 구성하여 의미를 만들어내는 반면, 할루시네이션은 사실이나 정보를 생성하는 과정에서 실제 근거와 일치하지 않는 내용이 생성되는 현상이다. 따라서 디지털 문학에서 할루시네이션은 단순한 AI의 오류를 넘어, AI가 텍스트를 생산하는 과정에서 의미를 구성하는 방식 자체를 살펴볼 수 있는 현상이다.

특히, 문학 연구에서의 할루시네이션은 AI가 문학적 텍스트를 어떻게 읽고, 결합하고, 재구성하는지를 보여주는 현상으로 다뤄질 수 있다. 존재하지 않는 인물이나 사건을 만들어내거나 서로 다른 작품의 요소를 결합하는 과정은 AI의 텍스트 생성 방식뿐만 아니라, 데이터와 기억, 해석이 결합되는 새로운 문학적 생산 과정과도 연결된다.

따라서 디지털 문학에서 할루시네이션은 AI의 텍스트 생산과 문학적 의미 형성의 관계를 탐구하기 위한 하나의 연구 대상으로 볼 수 있다. 앞으로 AI가 문학의 창작과 비평, 해석에 더욱 깊이 관여하면서 할루시네이션은 인간의 창작과 구별되는 AI 특유의 텍스트 생산 방식과 그 의미를 살펴보는 중요한 개념으로 확장될 수 있다.

 

---

 

글쓴이 김의정

한남대학교 국어국문창작학과 재학

취미 및 특기: 글쓰기, 정리하기, 양식 또는 표준화 하기