AI 환각을 단순한 '거짓말'로 치부하는 순간, 우리는 창조의 본질을 놓칠 수 있습니다. 오픈AI가 2024년 9월 공개한 논문은 환각이 '이진 분류 오류'의 축적이라고 밝혔습니다. 객관식 시험에서 모르는 문제에 찍기를 선택하듯, AI는 불확실할 때도 답을 제시합니다. 빈칸은 0점이지만, 찍으면 우연히라도 점수를 얻기 때문입니다. 인간과 닮지 않았나요?

오픈AI 연구진이 설명하는 환각의 이진 분류 문제의 본질은 거대언어모델(LLM)이 "주어진 문장이 유효한가, 오류인가"를 판단할 때, 오분류를 완전하게 제거할 수 없다는 것입니다. AI는 참과 거짓을 구분하는 것이 아니라, 가장 자연스러운 문장을 만드는 것에 집중하기 때문입니다. 빈도가 낮은 사실들은 패턴만으로는 예측할 수 없고, 결국 환각을 낳습니다.

즉, 인공지능의 환각은 줄일 수는 있어도 완전히 없앨 수는 없습니다. 오픈AI의 o3 모델은 PersonQA에서 33% 환각률을 보였는데, 이전 o1 모델의 16%보다 두 배나 높았습니다. 추론 능력이 향상될수록 더 많은 주장을 하게 되고, 정확한 주장만큼 부정확한 주장도 늘어납니다. 하지만 이 역설적인 현상이 인간과 AI의 새로운 스토리텔링 문법을 만듭니다.

AI의 환각은 인간의 스토리텔링 작업에 오히려 혁신적인 도움을 줍니다. 완벽한 정확성을 추구하는 시스템보다 창의적 '오류'를 만들어내는 AI가 더 풍부한 이야기 소재를 제공하기 때문이죠. 인공지능의 환각 능력은 오히려 작가들에게 무한한 영감의 원천이 됩니다. 진실보다 그럴듯한 허구가 훨씬 중요한 창작의 영역에서, 환각은 축복이 아닐까요?