-
AI가 이상한 답변을 할 때 – 왜 그럴까요?
AI에게 질문했는데 앞뒤가 안 맞는 말, 전혀 다른 이야기, 있지도 않은 사실을 진지하게 말하는 경우가 있습니다. 이것은 단순히 “AI가 멍청해서”라기보다, 확률적으로 문장을 예측하는 구조, 맥락 처리 방식, 안전장치 작동, 언어·문화…
-
AI가 거짓말을 한다고요? – 할루시네이션(Hallucination, ‘AI 환각’) 이해하기
생성형 AI를 쓰다 보면 그럴듯하지만 틀린 정보를 아주 자신 있게 말하는 모습을 자주 보게 됩니다. 이를 AI 분야에서는 ‘Hallucination(환각)’이라고 부르며, 단순한 실수라기보다 구조적으로 발생하는 한계에 가깝습니다. 이 글에서는 Hallucination이 무엇인지,…