판단 특화 모델 Jev, LLM+AI 에이전트와 무엇이 다른가

TypeSafe AI는 2026년 9월 15일, 자사가 '시스템 원 모델(System One Model)'이라 명명한 인공지능 제품군의 첫 공개 모델로 Jev를 공식 발표했다. 모델명의 'System One'은 심리학자 대니얼 카너먼이 제시한 인간의 빠르고 직관적인 사고 체계인 '시스템 1'에서 따온 것이며, 'Jev'라는 이름은 효율성이 개선됨에 따라 오히려 자원 소비량이 증가한다는 '제번스 역설(Jevons paradox)'로 저명한 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)의 이름에서 착안되었다. 발표 직후 업계에서는 Jev가 기존의 대규모 언어 모델(LLM)과 그 주변의 AI 에이전트 생태계를 단숨에 대체할 혁신이라는 식의 과열된 반응이 적지 않게 나타났으나, 기술의 본질과 실질적인 설계 차이를 이해하기 위해서는 보다 차분하고 객관적인 시각에서 비교해 볼 필요가 있다.

Jev는 텍스트나 비즈니스 업무 데이터를 입력받아 분류, 점수 산정, 조건 판정의 결과를 확률과 함께 반환하는 인공지능 모델이다. TypeSafe AI가 Jev를 공개하면서 강조한 핵심은 엔터프라이즈 애플리케이션이 손쉽게 활용할 수 있는 형태의 출력을 제공한다는 점이다. 일반적인 비즈니스 업무 시스템 내부에는 고객 문의 내용을 카테고리별로 분류하거나, 문서가 규정된 특정 요건을 충족하는지 검증하고, 다음 처리 단계를 선택하는 등의 정형화된 판단 작업이 수없이 존재한다. Jev는 이러한 일련의 판단 결과를 정적이고 타입이 부여된 값(typed value)으로 변환하여 프로그램에 전달함으로써, 애플리케이션 코드가 직접 조건 분기를 수행할 수 있도록 돕는다. 즉, Jev가 담당하는 역할은 복잡한 자율 추론이라기보다는 시스템 내부에서 전체 작업 흐름을 제어하는 '처리의 라우팅 역할'로 정의된다.

이를 보다 명확히 파악하기 위해 실제 비즈니스 시나리오를 바탕으로 기존 기술과 비교해 볼 수 있다. 예를 들어 "방금 주문한 내역을 확인해 보니 요금이 이중으로 청구되었습니다. 중복 결제된 금액을 즉시 환불해 주십시오. 지난주에도 동일하게 문의를 남겼으나 아직까지 아무런 답변을 받지 못했습니다"라는 고객의 이메일이 접수된 상황을 가정하자. AWS의 Amazon Bedrock AgentCore와 같은 전통적인 LLM 기반 AI 에이전트 시스템에서는 고객의 이메일 본문, 과거 상담 이력, 연동 가능한 도구 목록, 회사 환불 규정 등을 종합하여 LLM에 프롬프트로 전달한다. 그러면 LLM은 주문 및 청구 내역 조회 도구를 호출하고, 조회된 결과를 분석해 이중 청구 여부를 판단하며, 환불 규정에 따라 승인 요청 도구를 실행하고, 최종 안내 답장을 작성하는 전 과정을 자율적으로 결정한다. 즉, LLM이 상황에 따라 어떤 도구를 어떤 순서로 실행할지 스스로 판단하지만, 그 의사결정의 내부 논리는 외부에서 정확히 파악하기 어려운 블랙박스 형태로 남게 된다.

반면 Jev를 비에이전트 애플리케이션과 결합한 구조에서는 시스템 설계자가 사전에 명확한 질문과 선택지를 정의하는 방식으로 작동한다. 예컨대 '문의 유형'에 대한 카테고리 항목들을 미리 정해두고, '환불 요청 포함 여부'나 '재문의 여부'와 같은 구체적인 질문들을 사전에 구성해 두는 것이다. 이러한 상태에서 위의 고객 이메일을 분석하도록 요청하면 Jev는 정량적인 확률 값을 반환하게 된다. 원문의 저자가 공식 문서를 참고하여 독자의 이해를 돕기 위해 편의상 모식화하여 제시한 설명용 JSON 응답 예시에 따르면, 문의 유형에서 이중 청구가 0.98, 배송이 0.01, 기타가 0.01로 산출되고, 환불 요청이 존재할 확률이 0.99, 재문의일 확률이 0.97과 같은 형태로 구조화되어 반환된다. 이는 공식 사양의 원본 출력이 아니라 이해를 돕기 위한 모식적 예시일 뿐이지만 Jev의 동작 방식을 직관적으로 보여준다. 애플리케이션 프로그램은 Jev가 반환한 이 정적 수치를 일반적인 비교 연산자로 평가하여 가장 높은 확률을 가진 경로로 조건 분기하고, 사전에 코드로 작성된 해당 로직을 확정적으로 실행할 뿐이다.

여기서 반드시 짚고 넘어가야 할 사실은, 기존의 범용 LLM 역시 프롬프트와 스키마 지정을 통해 확률이나 특정 포맷을 포함한 동일한 형태로 결과를 출력하도록 지시할 수 있다는 점이다. 따라서 생성할 수 있는 정보의 내용 그 자체만 놓고 본다면 Jev와 기존 LLM 사이에 본질적이고 결정적인 차이가 존재하는 것은 아니다. TypeSafe AI가 내세우는 Jev의 차별점은 모델 자체가 이러한 분류 및 확률 출력이라는 단일 목적에 고도로 특화되어 학습되고 설계되었기 때문에 매우 빠른 속도와 저렴한 비용으로 실행될 수 있다는 점에 있다. 따라서 시스템이 단순히 분류 결과에 따라 고정된 비즈니스 로직으로 분기하는 작업만을 수행한다면, 개발자는 Amazon Bedrock AgentCore와 같은 무거운 AI 에이전트 인프라를 별도로 구축할 필요 없이 Jev 호출과 코드 레벨의 조건문만으로 충분히 시스템을 구성할 수 있게 된다.

결국 이 두 가지 방식의 차이는 처리 진행의 흐름을 결정하는 책임을 프로그램 코드에 둘 것인가, 아니면 AI 모델 자체에 전적으로 위임할 것인가의 설계 철학적 차이로 귀결된다. LLM 중심의 AI 에이전트는 대화 맥락과 도구 실행 결과를 유연하게 해석하여 동적으로 다음 행동을 결정할 수 있는 뛰어난 유연성을 갖추고 있지만, 매 실행마다 사고 시간과 컨텍스트 소모량이 달라져 운영 비용과 예측 가능성에 지속적인 영향을 미칠 수 있다. 반면 Jev를 적용한 방식은 반복적으로 발생하는 판단 작업을 애플리케이션 측에서 낮은 지연 시간과 낮은 비용으로 안정적으로 처리할 수 있게 해 준다. 따라서 두 기술은 한쪽이 다른 쪽을 일방적으로 대체하는 관계가 아니라 업무의 성격과 제어 요구 수준에 따라 상호 보완적으로 선택되어야 한다. 이와 관련한 상세한 설계 사상과 구현 세부 사항은 TypeSafe AI가 발표한 관련 문서들인 'Introducing System One Models & Jev', 'Introduction', 'Primitives (Questions)', 'AI primer', 'Confidence', 그리고 'Workflow evals'를 통해 보다 면밀하게 확인할 수 있다.