환각 현상 (Hallucination, Hallucinations)
인공지능 모델이 데이터의 확률적 결합 과정에서 사실이 아닌 정보를 마치 진실인 것처럼 그럴듯하게 꾸며내어 답변하는 기술적 한계
1 / 5
용례
"인공지능은 급격히 진화하고 있으며 확률적인 본성을 지니고 있어, 사실과 다른 내용을 생성하거나 실제 인물 및 장소를 정확하게 반영하지 못할 수 있습니다."
"GPT-5.3 Instant는 웹 검색 시 환각률을 26.8%, 자체 지식만 활용할 때 19.7% 감소시키며 이전 모델보다 높은 사실 관계 정확도를 제공합니다."
"AI는 답을 모를 때 사용자에게 거짓말하는 것을 좋아하는데, NotebookLM은 그러지 않습니다."
"챗봇이 소금 섭취를 줄이는 방법에 대해 질문하자, 챗봇은 역사적으로 진정제로 사용되었던 브롬화나트륨으로 소금을 대체하라고 제안했습니다."
"AI 환각 현상은 과학 연구에 침투하여 허위 인용 문제를 일으키고 있습니다."