Ramp, AI 모델 라우팅 서비스 'Router' 출시

Ramp가 AI 모델 라우팅 서비스 'Router'를 출시했습니다. 이 서비스는 사용자와 기업이 다양한 대형 언어 모델을 API를 통해 손쉽게 전환하고 사용할 수 있도록 돕습니다. Ramp는 지난 3년간 자체 AI 사용을 위해 이 라우터를 개발해 왔으며, 현재는 미국에서만 이용 가능합니다. 2026년까지 무료로 제공되며, AI 모델 추론 비용은 별도로 청구됩니다.

Router는 OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI, Z.ai 등 다양한 모델에 접근할 수 있는 기능을 제공합니다. 사용자는 모델 제공자의 유연한 사용 계층을 설정하거나, 사용자 지정 벤치마크에 따라 쿼리를 라우팅할 모델을 선택할 수 있습니다. 또한, 어려운 문제를 비싼 모델로 라우팅하거나 모델을 쉽게 테스트할 수 있는 옵션도 제공됩니다.

Router는 데이터 보존 정책을 선택적으로 적용하며, 기본적으로 모델 입력, 출력 및 도구 호출을 1년 동안 기록합니다. 그러나 개인 식별 정보를 제거한 후 제품 개선에 사용한다고 밝혔습니다. Ramp는 이 서비스를 통해 AI 추론 시장에 진출하고, 기존 고객에게 모델 라우팅 서비스를 제공함으로써 자사의 제품과의 시너지를 기대하고 있습니다.