AI

OpenAI, 저지연 판단 모델 Decisions API 정식 출시

OpenAI가 9월 29일 개발자 행사에서 공개한 Decisions API를 모든 고객에게 열었다. 선택지 중 하나를 빠르게 고르고 신뢰도를 내놓는 판단 모델로, ChatGPT Luna를 재구성해 응답 시간을 1~3초에서 100~180밀리초로 줄였으며 공개판에는 음성·시각 입력이 추가됐다. TypeSafe의 Jev가 연 이 시장에서 공개 벤치마크상 OpenAI 모델은 아직 상위권이 아니다.

  • #API
  • #Decisions API
  • #OpenAI
  • #TypeSafe
  • #판단 모델

AI 분석

수집된 보도와 일반적인 배경 지식을 바탕으로 편집자 AI가 쓴 분석입니다. 사실 확인은 출처를 참고하세요.

배경

판단 모델이라는 범주는 OpenAI 출신 연구자가 세운 스타트업 TypeSafe의 Jev가 열었다. 보도에 따르면 TypeSafe는 이 모델로 기업가치 76억 달러를 인정받았다. 선택지가 주어지면 빠르게 하나를 고르고 신뢰도를 내놓는 방식이라, 개발자들은 여러 작업에서 LLM 대신 쓰기 시작했다.

OpenAI는 9월 29일 개발자 행사에서 Decisions API를 공개했고, 이번에 모든 고객에게 열었다. 별도 모델을 학습한 것이 아니라 ChatGPT Luna를 재구성해 추론 속도를 높이고 비용을 낮췄다고 회사는 밝혔다.

의미

개발자에게는 같은 공급자 안에서 무거운 LLM과 빠른 판단 모델을 나눠 쓸 수 있는 선택지가 생긴다. 보도에 따르면 Speak는 동작 사이 시간을 1.4초에서 0.13초로 줄였고, Box·Datadog·Ramp도 초기 시험에 참여했다.

경쟁사에는 압박이다. 다만 공개 벤치마크에서 OpenAI 모델은 AIM System One Index 8위, Artificial Analysis Decision Index 14위로 Liquid의 D1 Ultra, Base Lab의 Elephant-1, Jev보다 뒤처져 있다. OpenRouter에서 가장 많이 호출되는 것도 아직 TypeSafe 모델이다. OpenAI의 강점은 기존 고객 기반과 이미지 등 멀티모달 처리 쪽에 있다.

전망

낙관

전제: 기업은 판단 모델을 고를 때 순위보다 공급자 통합과 지역별 지연 시간을 더 중시한다. 그렇다면 이미 OpenAI API를 쓰는 고객이 Decisions API로 자연스럽게 옮겨 가고, 영상 프레임 단위 판단처럼 새 사용처가 열리면서 시장 점유율을 빠르게 늘릴 가능성이 크다.

이 전제는 고객이 작업별 성능 차이를 이유로 여러 전문 모델을 섞어 쓰는 쪽을 택하면 깨진다.

회의

전제: 판단 모델 시장은 속도·비용·보정 정확도에서 근소한 차이로 승부가 갈린다. 범용 모델을 재구성한 OpenAI 방식은 이 특화 경쟁에서 불리할 가능성이 크고, 전용 학습을 한 TypeSafe·Liquid 등이 성능 우위를 지킬 수 있다.

이 전제는 OpenAI가 판단 작업 전용 학습을 거친 후속 모델을 내놓아 벤치마크 격차를 좁히면 깨진다.

지켜볼 신호

  • OpenRouter 판단 모델 호출량 순위에서 OpenAI가 TypeSafe를 넘어서는지
  • OpenAI가 판단 작업 전용으로 학습한 모델을 따로 발표하는지
  • 응답 시간 60밀리초 수준 달성과 영상 프레임 단위 활용 사례 공개 여부

OpenAI의 Decisions API는 성능보다 유통력으로 승부하는 제품이다. 개발자는 회사 이름보다 자기 작업에서 직접 시험한 결과로 판단 모델을 골라야 한다. 벤치마크 순위와 실사용 결과가 아직 엇갈리기 때문이다.

예측

  • 6개월 안 OpenAI가 6개월 안에 판단 작업 전용으로 학습한 Decisions API 모델을 발표한다 근거: 제품 책임자가 앞으로 이 용도에 맞는 별도 학습을 할 수 있다고 언급했고, 현재 공개 벤치마크에서 전용 모델들에 뒤처져 있다. 기한 2027.4.23

원문

뉴스 수집·요약·게시를 자동화한 이 사이트처럼, 반복 업무를 자동화하고 싶으신가요?

Sandcorp 포트폴리오 보기 문의하기