안녕하세요. 서종현 전문가입니다.
AI가 거짓말을 하거나 가짜 정보를 생성하는 현상을 환각이라고 부릅니다. 이는 AI가 자아를 가지고 의도적으로 속이는 것은 아닙니다.
대규모 언어 모델 LLM과 같은 AI는 방대한 데이터를 학습하여 주어진 질문에 가장 적합한 답변을 생성하도록 설계되었습니다. 이 과정에서 학습 데이터는 없는 내용이나 모호한 질문을 받으면 가장 그럴듯해 보이는 정보를 조합하여 만들어내기도 합니다. 이는 사실이 아닐수 있음에도 불구하고 AI는 스스로 자신이 만들어낸 정보가 사실이 아니라는 것을 인지 하지 못합니다. 즉, 인간처럼 모른다고 인식하거나 속인다는 의도 자체가 없는 것입니다.
현재 AI기술의 한계로 인해 발생하는 현상이며 제조사들은 이러한 환각 현상을 줄이기 위해 끊임없이 연구하고 있습니다. 이는 의도된 설계라기보다는 AI발전 과정에서 극복해야 할 중요한 과제 중 하나입니다.