XAI(설명 가능한 AI)

정의

AI 가 왜 그런 답이나 판단을 내렸는지 사람이 알 수 있게 설명해 주는 기술과 접근.

자세한 설명

많은 AI 모델은 내부 계산 과정이 복잡해 왜 이런 답이나 판단이 나왔는지를 사람이 한눈에 알기 어렵습니다. 설명 가능한 AI 는 그 과정을 사람이 이해할 수 있는 말이나 표시로 풀어 보여 주려는 기술과 접근을 통틀어 가리킵니다. 채용, 대출, 품질 판정처럼 결과가 사람에게 큰 영향을 주는 일일수록 이유를 설명할 수 있어야 손님이나 직원이 결과를 받아들이고 이상한 점도 찾아낼 수 있습니다. AI 편향 문제를 찾아내고 고치는 데도 이 설명 가능성이 중요한 실마리가 됩니다.

예를 들면

대출 거절 사유를 소득 대비 상환 비중이 높게 계산되었다고 풀어 설명해 줍니다.

관련 용어