AI 할루시네이션과 인간의 인지

AI 할루시네이션과 인간의 인지: 거울에 비친 우리의 모습

 

인공지능의 '할루시네이션'은 그동안 치명적인 결함으로 여겨져 왔다. AI가 그럴듯하지만 사실이 아닌 정보를 만들어내는 현상을 지칭하는 이 용어는, 놀랍게도 인간의 여러 인지적 특성과 깊은 연관성을 보인다. 이를 통해 우리는 AI의 한계를 이해할 뿐만 아니라, 인간 의식의 본질에 대해서도 새로운 통찰을 얻을 수 있다.

 

이미지 = 픽사베이

 

기억의 창조적 본질

우리는 흔히 인간의 기억이 비디오 레코더처럼 현실을 있는 그대로 기록한다고 생각한다. 하지만 신경과학의 발견들은 이러한 통념이 잘못되었음을 보여준다. 기억은 저장되는 것이 아니라 그때그때 재구성된다. 우리가 과거를 회상할 때, 뇌는 단편적인 기억의 조각들을 모아 하나의 이야기로 재구성한다. 이 과정에서 실제 일어나지 않은 세부사항들이 자연스럽게 첨가된다.
이는 놀랍게도 AI의 할루시네이션과 매우 유사한 과정이다. AI가 학습 데이터의 패턴을 조합해 그럴듯한 답변을 생성하는 것처럼, 인간의 뇌도 기억의 조각들을 재조합하여 그럴듯한 이야기를 만들어낸다.

 

꾸며내는 뇌: 작화(Confabulation)의 비밀

 

인간의 뇌는 공백을 참지 못한다. 기억이나 정보에 빈 곳이 있으면, 뇌는 자동적으로 그 공백을 채운다. 신경학에서 '작화'라고 부르는 이 현상은 코르사코프 증후군 환자들에게서 극단적으로 나타난다. 이들은 기억의 공백을 전혀 개연성 없는 이야기로 채우면서도, 그것이 진실이라고 굳게 믿는다.
하지만 작화는 비단 병리적 현상만은 아니다. 평범한 사람들도 일상적으로 비슷한 경험을 한다. 어떤 사건을 목격한 후 증언을 할 때, 우리는 종종 보지 않은 것을 보았다고 확신하거나, 일어나지 않은 일을 실제로 일어났다고 믿는다. 이는 AI가 답을 모를 때 그럴듯한 응답을 생성하는 것과 본질적으로 다르지 않다.

 

패턴을 찾는 존재

 

인간은 본능적으로 패턴을 찾으려 한다. 구름에서 얼굴을 보고, 랜덤한 사건들 사이에서 의미 있는 연관성을 발견하며, 제한된 정보로부터 거대한 이론을 구축한다. 이런 현상을 심리학에서는 '의미 부여(Apophenia)'라고 부른다.
이는 AI가 때때로 실제로는 존재하지 않는 패턴을 '발견'하는 것과 매우 유사하다. 둘 다 입력된 정보에서 패턴을 찾아내려 하고, 때로는 실제로 존재하지 않는 패턴을 만들어낸다.

 

이야기하는 존재

 

인간과 AI는 모두 일관된 이야기를 만들어내려는 강한 성향을 가지고 있다. 불완전하거나 모순된 정보가 주어졌을 때, 두 시스템 모두 그것을 하나의 일관된 서사로 만들어내려 시도한다.
뇌 분할 환자 연구에서 발견된 '좌뇌 해석기'는 이러한 성향을 잘 보여준다. 좌뇌는 우리의 행동이나 경험에 대해 끊임없이 설명을 만들어내는데, 때로는 그 설명이 명백히 거짓임에도 불구하고 그렇게 한다. 이는 AI가 확신에 찬 어조로 잘못된 정보를 제공하는 현상과 놀랍도록 유사하다.

 

새로운 관점의 필요성

 

이러한 비교는 우리에게 AI의 할루시네이션을 단순한 결함이 아닌, 보다 복잡한 현상으로 바라볼 필요성을 제기한다. 인간의 작화나 패턴 인식이 진화적으로 적응적 가치를 지니듯, AI의 할루시네이션도 창의적이고 유연한 정보 처리 능력의 필연적 부산물일 수 있다.

 

거울에 비친 우리의 모습

 

AI의 할루시네이션은 어쩌면 우리 자신의 인지 과정을 비추는 거울일지 모른다. 이는 완벽한 사실적 정확성이 인간적 사고의 본질이 아닐 수 있다는 점을 시사한다. 오히려 창조와 착각의 경계, 기억과 상상의 경계가 우리가 생각했던 것보다 훨씬 더 모호할 수 있음을 보여준다.
이러한 이해는 AI 시스템의 한계를 관리하는 더 나은 방법을 찾는 데 도움이 될 뿐만 아니라, 인간 의식의 본질에 대한 더 깊은 통찰을 제공한다. 결국 AI의 '결함'은 우리 자신의 인지적 특성을 이해하는 창이 될 수 있다. 이를 통해 우리는 인공지능과 인간 지능 모두에 대한 더 깊은 이해에 다가설 수 있을 것이다.