마이크로소프트 Decision-1, Jev·OpenAI와 정확도⁠·속도⁠·가격 비교

마이크로소프트가 2026년 10월 9일 결정 모델 Microsoft-Decision-1을 내놨습니다. 결정 모델은 긴 글 대신 정해 준 선택지마다 확률을 매겨 돌려주는 AI입니다. 이 글은 마이크로소프트 Decision-1이 무엇인지, 발표된 정확도⁠·속도⁠·가격을 Jev, OpenAI Decisions API, Cloudflare Clef와 나란히 놓고 숫자를 읽는 법을 정리합니다.

마이크로소프트 Decision-1은 어떤 모델인가

Decision-1은 대화형 모델이 아닙니다. 상황 설명과 고정된 선택지를 주면 선택지마다 확률을 매겨 JSON(프로그램이 바로 읽는 데이터 형식)으로 돌려줍니다. 설명 문장이나 이유는 만들지 않습니다.

• 용도: 요청을 어느 담당으로 넘길지 정하는 라우팅, 분류, 우선순위 매기기, 검증, 자동화 흐름 제어
• 질문 형태: 예⁠·아니오, 객관식, 등급 매기기, 그리고 AI 답변이나 에이전트 행동을 기준표(루브릭)로 채점하기
• 바탕 모델: 알리바바의 공개 모델 Qwen3.5-9B를 결정용으로 추가 학습했습니다. 앞으로 마이크로소프트 자체 MAI 모델과 OpenAI 모델 기반으로도 옮길 계획입니다.
• 입력: 텍스트만, 최대 32,768토큰. 이미지는 받지 않습니다.
• 쓰는 곳: Microsoft Foundry와 OpenRouter

요청 형식은 Jev와 비슷합니다. 상황(state)과 질문(questions)을 보내고, 참⁠·거짓, 선택, 점수 세 가지 질문 유형을 씁니다. Jev용으로 짠 코드를 옮기기 쉬운 구조입니다.

결정 모델 경쟁, Jev 이후 한 달 사이

Jev가 9월에 나온 뒤 한 달도 안 돼 큰 회사들이 같은 부류의 모델을 잇달아 내놨습니다.

Cloudflare Clef는 270억 매개변수(27B) 모델과 90억(9B)짜리 Clef-flash 두 가지이고, 가중치를 공개해 직접 서버에 올려 쓸 수도 있습니다. OpenAI Decisions API는 POST /v1/decisions 주소로 부르고, 9월 말 DevDay에서 일부에게 먼저 공개한 뒤 10월 6일 모든 개발자에게 열었습니다.

마이크로소프트 Decision-1 정확도, 36개 벤치마크 결과

마이크로소프트가 고른 36개 벤치마크(14만 7,137문항) 평균입니다.

보정 점수는 모델이 말한 확률이 실제 정답률과 얼마나 맞는지를 보는 값입니다. 90%라고 답한 것들이 실제로 열 번 중 아홉 번 맞으면 보정이 잘된 것입니다. 정확도는 Decision-1이 Jev보다 1.2%포인트 높고, 보정은 Jev가 1.5점 앞섭니다. 정확도만 보면 거의 비슷한 수준입니다.

선택지 순서를 바꾸거나 설명을 다른 말로 바꾸는 등 여덟 가지로 입력을 흔든 마이크로소프트 시험에서는 판단이 바뀐 비율이 평균 1.3%였습니다.

속도 숫자 읽는 법, 35배와 3.5배

GPT-6 Sol보다 35배 빠르다

마이크로소프트가 내세운 대표 숫자는 "GPT-6 Sol보다 응답 지연 중앙값이 약 35배 짧다"입니다. GPT-6 Sol의 기준 지연은 3.01초, Decision-1은 85ms입니다.

다만 GPT-6 Sol은 결정 모델이 아니라 글을 쓰는 일반 언어 모델입니다. 같은 종류끼리 비교한 숫자가 아니라서, 결정 작업을 범용 모델에 맡기던 경우와 견준 값으로 읽어야 합니다.

같은 결정 모델끼리는

표의 지연 시간으로 나누면 Decision-1은 OpenAI 쪽(300ms)보다 약 3.5배, Jev(240ms)보다 약 2.8배 빠릅니다. 마이크로소프트가 "2위"로 꼽은 H2O-Lightning-4B(210ms)와는 약 2.5배입니다.

여기에도 단서가 붙습니다. Decision-1의 85ms는 마이크로소프트가 Foundry의 같은 지역(리전) 안에서 잰 값이고, 다른 모델 수치는 다른 조건에서 잰 값입니다. 내 서비스와 서버 사이 거리, 네트워크에 따라 실제 지연은 달라집니다. 실제로 OpenRouter에서 사흘 동안 잰 Decision-1의 지연 중앙값은 0.19~0.27초 수준이었습니다.

가격, 입력 100만 토큰당 0.042달러

Decision-1은 Jev와 가격이 같습니다. 출력이 무료인 이유는 이런 모델이 문장을 만들지 않고 선택지별 숫자만 돌려주기 때문입니다. 일반 언어 모델은 답을 한 글자씩 만드는 데 시간과 출력 요금이 드는데, 결정 모델에는 그 과정이 없습니다.

OpenAI Decisions API는 지역별 처리 할증과 긴 입력 할증이 따로 붙을 수 있습니다. 요금은 바뀌는 값이니 쓰기 전에 각 회사의 공식 안내를 확인해야 합니다.

마이크로소프트 Decision-1 숫자의 한계와 주의점

• 자사 평가다. 36개 벤치마크의 목록과 채점 코드는 공개되지 않았습니다. 외부 커뮤니티 순위표의 측정 결과는 아직 엇갈립니다.
• 세 회사 수치를 한 줄로 세우기 어렵다. 각 회사가 자기 조건으로 잰 숫자가 섞여 있습니다.
• 한국어는 직접 시험해 봐야 한다. 모델 카드는 영어에 맞춰 최적화했다고 밝히고, 언어별 점수는 공개하지 않았습니다. 한국어 문의나 리뷰를 분류하려면 정답을 붙여 둔 한국어 샘플로 정확도부터 재 봅니다.
• 이유를 설명하지 않는다. 확률만 돌려주니, 왜 그렇게 골랐는지 사람이 확인해야 하는 일에는 따로 장치가 필요합니다.
• 사람에 대한 중요한 결정에는 단독으로 쓰지 않는다. 마이크로소프트는 신용, 고용, 주거, 보험, 교육, 의료, 법적 권리에 관한 결정의 유일한 근거로 쓰지 말라고 안내합니다.

내 작업에 쓸 만한지는 실제 데이터 수십 건을 Decision-1, Jev, OpenAI Decisions API에 똑같이 넣어 정확도와 비용, 지연을 비교해 보는 것이 가장 확실합니다. Jev와 Decision-1은 OpenRouter에서 한 계정으로 둘 다 부를 수 있어 비교하기가 비교적 쉽습니다.