인공지능 기술이 발전하면서 분야를 막론하고 다양하게 활용되고 있는데요, 일상에서 대중이 가장 가깝게 체감할 수 있는 기술은 ChatGPT와 같은 대형 언어 모델을 기반으로 하는 생성형 AI가 아닐까 합니다. PC, 모바일로 쉽게 접근 가능하고 학생, 직장인 누구나 학습 또는 업무에 필요한 정보가 있을 때 인터넷 여기저기를 뒤지지 않아도 내가 요청한 정보를 꼭 집어 답해주는 편리함을 제공합니다.

하지만 그 답변의 진위를 확신할 수 없다면 어떻게 될까요? 아무리 빠르게 답변을 제공한다 하더라도 결국 그 답변의 정확성 여부를 사용자가 다시 확인해야한다면? 결국 아무런 소용이 없는 기술이 될 수 밖에 없겠죠?

이렇게 AI가 사실이 아닌 답을 내놓은 현상을 'AI 환각(hallucination)'이라고 하는데요, AI가 질문을 제대로 이해하지 못했거나, 학습된 데이터로 답을 할 수 없는 경우 확률적으로 가장 그럴듯한 답변을 내놓으면서 발생하는 현상으로 AI 의 신뢰성을 떨어뜨리는 원인 중 하나입니다. 양치기 소년이 되어버린 AI라고나 할까요.

사실 AI의 환각 문제는 이미 잘 알려진 문제입니다. 생성형 AI가 답변을 생성하는 과정에서 흔히 일어나는 현상이죠. 그런데 최근 음성을 텍스트로 바꾸는 AI모델도 같은 증상을 보여준다는 연구 결과가 발표되었습니다. 다소 충격적입니다. 물론 그 비율은 약 1% 정도로 최대 16.2%에 이른다고 알려진 일반적인 생성형 AI의 환각 현상 발생 확률에 비하면 적은 편입니다.   

이런 환각 현상이 발행하는 이유는 생성형 AI가 책과 웹페이지 등 수많은 텍스트를 학습하고 앞으로 나올 단어를 '예측'해 출력하는 '대규모 언어 모델(LLM)'을 기반으로 작동하기 때문입니다. 인공 '지능'이라고는 하지만, 내용의 진위를 직접 판단하는 것이 아니라, 입력된 데이터 중 가장 그럴듯한 답변을 채택하는 것이기 때문에 어떤 데이터를 학습하느냐에 따라 결과물이 달라질 수 있는 것이죠. 음성을 텍스트로 변환하는 AI 역시 언어 모델을 음성 패턴을 학습한 모델과 결합한 시스템입니다.

AI 환각 현상은 생성형 AI의 성장을 가로막는 가장 큰 장애물로 지목받고 있기도 합니다. 대중에 공개되었다가 환각 현상 때문에 다시 비공개처리된 모델도 있습니다. 작년 연말 구글에서 야심차게 공개한 멀티모달 인공지능 제미나이를 기억하시나요? 올 2월에는 제미나이에 이미지 생성 기능이 추가되었는데요, 발표된지 3주 만에 심각한 환각 현상을 인정하고 해당 기능을 오프라인 처리하는 수모를 당하기도 했습니다.

물론 이를 해결하기 위한 기술도 연구되고 있습니다. 가장 주목받는 방안은 'RAG(Retrieval-Augmented Generation; 검색 증강 생성)' 기술입니다. RAG는 LLM이 답변을 생성하기 전 학습한 데이터와는 별개로 외부의 데이터에서 질문과 관련된 정보를 검색해 환각 현상을 최대한 억제하는데, 이 때 언론사 뉴스나 자체 데이터베이스 등 신뢰할 수 있는 외부 지식 체계를 참조하여 답변의 정확도와 전문성을 높이는 기술입니다. 

​