Base Labs, AI 안전성 강화 위해 Hugging Face와 협력

Base Labs가 AI 안전성을 강화하기 위해 Hugging Face와 협력하여 공개 가중치 연구 파트너십을 발표했습니다. 이 협력은 AI 개발 및 모니터링 방법에 대한 새로운 접근을 제시하며, AI 모델의 안전성을 높이는 데 중점을 두고 있습니다. 특히, 공개 가중치 모델의 안전성을 평가하고 모니터링하기 위한 인프라를 구축하는 것이 목표입니다.

최근 공개 가중치 모델의 안전성에 대한 논란이 커지고 있는 가운데, Base Labs는 이러한 문제를 해결하기 위해 새로운 방법론을 개발하고 이를 표준으로 삼고자 합니다. Hugging Face는 현재 6,000개 이상의 공개된 모델을 호스팅하고 있으며, 이들 중 일부는 안전장치가 제거된 'abliteration' 기법에 의해 위험해질 수 있습니다. Base Labs는 이러한 문제를 해결하기 위해 투명한 방법으로 모델을 훈련하고 배포하는 것을 목표로 하고 있습니다.

Goodfire는 AI 모델이 어떻게 결정을 내리는지를 설명하는 데 특화된 회사로, 이번 파트너십에서 중요한 역할을 할 것으로 예상됩니다. Baseten은 올해 초 15억 달러의 시리즈 F 투자를 유치하여 기업 가치를 130억 달러로 끌어올렸으며, Goodfire AI도 1억 5천만 달러의 시리즈 B 투자를 통해 모델 해석 플랫폼을 발전시키고 있습니다. 앞으로 Baseten은 개발자 생태계에 기여를 요청하며, 안전하고 접근 가능한 공개 모델 생태계를 구축하겠다는 계획을 밝혔습니다.