추론형 모델

정의

답을 바로 내놓기보다, 중간 과정을 스스로 여러 단계로 따져 본 뒤 답하는 AI 모델.

자세한 설명

답을 곧바로 내놓기보다, 중간 풀이 과정을 여러 단계로 스스로 따져 본 뒤에 답을 내놓는 AI 모델입니다. 계산이 복잡하거나 여러 단계를 거쳐야 풀리는 문제에서는, 곧바로 답하는 모델보다 중간 과정을 거치는 모델이 더 정확한 결과를 내는 경우가 많습니다. 사고 사슬 프롬프팅으로 과정을 보여 달라고 요청하는 것과 비슷한 효과를, 모델 자체가 내부적으로 거치도록 만든 것이라 볼 수 있습니다. 다만 과정을 더 거치는 만큼 시간과 비용이 늘어날 수 있어, 간단한 일까지 맡기면 오히려 비효율적입니다.

예를 들면

복잡한 견적 계산처럼 단계가 많은 일은 추론형 모델에 맡기는 것이 더 정확합니다.

관련 용어