환각

정의

AI 가 사실이 아닌 내용을 그럴듯하게 지어내는 것.

자세한 설명

AI 가 없는 사실이나 틀린 정보를 마치 확인된 것처럼 자신 있게 말하는 현상입니다. 존재하지 않는 자료의 출처를 대거나, 틀린 이름과 날짜를 그럴듯하게 섞어 말할 수 있어 겉으로는 구분하기 어렵습니다. 다음에 올 말을 그럴듯하게 잇는 방식으로 작동하는 AI 의 근본적인 특성에서 생기는 문제라 완전히 없애기는 어렵습니다. 숫자나 이름, 날짜, 법 규정처럼 틀리면 곤란한 내용은 반드시 원래 자료를 찾아 다시 확인해야 합니다.

예를 들면

AI 가 알려 준 지원 사업 마감일은 공식 공고에서 다시 확인합니다.

관련 용어