AI 편향

정의

학습 자료나 설계 때문에 AI 결과가 특정 집단에 불리하거나 치우치게 나오는 문제.

자세한 설명

과거 자료에 이미 들어 있던 차별이나 불균형을 AI 가 그대로 배워 결과에 반복해서 나타내는 문제를 말합니다. 채용 서류 거르기, 대출 심사, 고객 평가처럼 사람에게 직접 영향을 주는 일에 AI 를 쓸 때는 특히 주의해서 살펴봐야 합니다. 학습 자료 자체가 한쪽으로 치우쳐 있으면 모델을 아무리 잘 만들어도 편향이 남을 수 있어, 쓰기 전에 결과를 여러 집단으로 나눠 확인해 보는 작업이 필요합니다. 설명 가능한 AI 기법을 함께 쓰면 어디에서 편향이 생기는지 찾는 데 도움이 됩니다.

예를 들면

특정 지역 손님의 신용을 낮게 평가하는 경향이 있다면 AI 편향을 의심하고 다시 살펴봐야 합니다.

관련 용어