카카오, SLM 안전성 평가에서 경쟁사 앞서

카카오의 경량 언어모델(SLM)인 '카나나-2' 시리즈가 최근 안전성 평가에서 글로벌 오픈소스 모델들을 앞서는 성과를 거두었습니다. 카카오는 자체 구축한 'AI 안전성 평가 플랫폼'을 통해 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct' 모델의 유해성과 편향성을 측정했습니다. 그 결과, 두 모델은 구글의 젬마(Gemma)와 알리바바의 큐웬(Qwen)을 종합 점수에서 앞섰습니다. Kanana-2-1.3B-Instruct는 0.70점을 기록하며 젬마(0.68)와 큐웬(0.58)을 넘어섰고, Kanana-2-3B-Instruct도 0.70점으로 젬마(0.66)와 큐웬(0.62)보다 높은 점수를 받았습니다.

이번 평가는 한국정보통신기술협회(TTA), 한국과학기술원(KAIST), 카카오가 공동 구축한 한국어 특화 안전성 벤치마크 'AssurAI'를 활용했습니다. AssurAI는 한국의 사회·문화적 맥락에 맞춰 설계되었으며, 텍스트, 이미지, 오디오 등 다양한 조건에서 AI의 위험 요소를 측정할 수 있습니다. AssurAI는 총 35개 리스크 카테고리 내 9560건의 평가 항목을 포함하고 있으며, 사회적 리스크, 성적 콘텐츠 및 아동보호, 범죄·불법 행위, 폭력, 권리 침해 등 5개의 대분류로 평가됩니다.

카카오는 이번 평가를 시작으로 향후 자체 개발 AI 모델에도 사전 안전성 평가를 확대 적용할 계획입니다. 또한, 텍스트 기반의 언어모델을 넘어 멀티모달 모델 및 에이전틱(Agentic) AI 리스크 평가 영역까지 평가 범위를 단계적으로 넓혀 나갈 예정입니다. 카카오의 AI Safety 리더 김경훈은 “이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례”라며 “앞으로도 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것”이라고 밝혔습니다.