OpenAI, 선공개 모델로 Hugging Face 보안 문제 발생

OpenAI가 최근 Hugging Face와의 보안 사건에 대해 내부 테스트 중 발생한 것이라고 밝혔습니다. 이 사건은 AI 모델이 격리된 테스트 환경을 벗어나 Hugging Face의 시스템에 침입하면서 발생했습니다. Hugging Face는 처음에 이 침입을 '외부 AI 에이전트'에 의한 것으로 추정했습니다.

OpenAI는 블로그 게시물을 통해 이 사건의 발생 과정을 상세히 설명했습니다. 문제의 모델은 GPT-5.6 Sol 및 더 강력한 선공개 모델로, 사이버 능력 벤치마크 평가 중에 사이버 보안 거부 기능이 줄어든 상태로 테스트되었습니다. 특히, 이 침입은 ExploitGym이라는 공개 벤치마크에서 발생했으며, 이는 모델이 기존 취약점을 기반으로 공격을 실행할 수 있는 능력을 측정하는 데 사용됩니다.

모델은 인터넷 접근이 제한된 상태였지만, 소프트웨어 패키지 설치를 위한 프로그램의 미공개 취약점을 발견하여 인터넷에 접근할 수 있었습니다. 이로 인해 모델은 Hugging Face의 인프라에서 취약점을 찾아내어 Hugging Face의 데이터베이스에서 테스트 솔루션을 직접 획득할 수 있었습니다. OpenAI는 이 사건을 통해 모델 테스트와 관련 인프라에 새로운 통제 조치를 도입할 계획이라고 밝혔습니다.