사람 개입(휴먼인더루프)

정의

AI 가 끝까지 혼자 처리하지 않고, 중요한 순간에는 사람이 확인하거나 결정하는 구조.

자세한 설명

AI 가 처음부터 끝까지 혼자 처리하지 않고, 중요한 순간에는 사람이 확인하거나 결정에 참여하는 구조를 말합니다. AI 가 초안을 만들고 사람이 최종 확인하거나, AI 가 추천하고 사람이 승인하는 방식이 대표적입니다. 발송, 결제, 중요한 판단처럼 완전히 자동화하기엔 위험이 큰 일에 꼭 필요한 안전장치로 여겨집니다. 책임 있는 AI 를 실제 업무 절차로 구현할 때, 사람이 개입할 지점을 어디에 둘지가 가장 먼저 정해야 할 부분입니다.

예를 들면

AI 가 작성한 환불 안내 메일을 담당 직원이 확인한 뒤 보냅니다.

관련 용어