Salesforce, Nvidia와 협업해 AI 모델 Koa 선보여

세일즈포스가 엔비디아와 협력하여 새로운 AI 모델 'Koa'를 선보였습니다. 이 모델은 엔비디아의 Nemotron 모델을 기반으로 하며, 세일즈, 마케팅, 고객 지원에 특화되어 있습니다. Koa는 세일즈포스의 첫 번째 추론 모델로, Dreamforce 기술 컨퍼런스에서 발표되었습니다. 이 모델은 기업 고객들이 기존의 AI 모델에 의존하지 않고도 자체적으로 복잡한 작업을 처리할 수 있도록 돕습니다.

Koa는 세일즈포스의 Agentforce 플랫폼에서 제공되며, 고객 서비스 질문에 답하거나 약속을 잡는 등의 반복적인 작업을 처리하는 데 사용됩니다. 기존에는 이러한 작업을 처리하기 위해 외부의 첨단 모델인 Claude나 ChatGPT를 사용해야 했지만, 이제는 Koa를 통해 자체적으로 처리할 수 있게 되었습니다. Nemotron의 독특한 추론 아키텍처 덕분에 Koa는 토큰 효율성을 높여 비용을 절감할 수 있습니다.

Koa의 개발 과정에서 실제 고객 데이터를 사용하지 않고, 고객의 패턴을 모방한 합성 데이터를 활용했습니다. 이는 고객의 개인 정보를 보호하면서도 실제 환경과 유사한 상황을 시뮬레이션하여 모델을 훈련하는 방식입니다. 이러한 접근법은 세일즈포스가 고객의 데이터를 안전하게 관리하면서도 AI의 효율성을 높이는 데 기여합니다.