정의
크기가 작아 적은 컴퓨터 자원으로도 돌릴 수 있는 언어 모델.
자세한 설명
직접 회사 PC 나 사내 서버에 깔아 돌리고 싶을 때 먼저 떠올리게 되는 이름입니다. 거대한 모델만큼 아는 범위는 넓지 않지만, 반응이 빠르고 비용 부담이 적어 외부 서버에 자료를 보내지 않고도 쓸 수 있다는 점이 매력입니다. 문의를 종류별로 나누거나 정해진 양식에 맞춰 답을 채우는 것처럼 범위가 좁고 반복되는 일에서는 큰 모델과 결과 차이가 크지 않은 경우도 흔합니다. 어떤 업무든 가장 큰 모델부터 떠올리기보다, 일의 성격에 맞는 크기를 먼저 가늠해 보는 습관이 비용을 줄여 줍니다.
예를 들면
간단한 손님 문의 분류는 소형 언어모델로도 충분히 처리됩니다.
체크포인트
일의 난이도에 비해 과한 모델을 쓰고 있지 않은지 비용과 성능을 함께 비교합니다.
관련 용어
용어 설명은 이해를 돕기 위한 안내입니다. 법령·세무·지원 제도의 정확한 기준은 관계 법령과 소관 기관의 최신 안내를 확인하세요.
SO EASY