← 2026-11-17 브리핑 · OpenAI, CSAM 방지용 이미지 분류기 공개
신모델·기능TechCrunch AI· 2026-11-17

OpenAI, CSAM 방지용 이미지 분류기 공개

OpenAI는 아동 성착취물을 탐지하기 위한 이미지 분류기를 출시했습니다. 이와 함께 ChatGPT에서는 CSAM 콘텐츠 접근 시 24시간 계정 정지를 경고합니다.

핵심 포인트
  • ·OpenAI, CSAM 탐지 이미지 분류기 무료 제공.
  • ·ChatGPT, 아동 성착취물 접근 시 24시간 정지 경고.
  • ·개발자와 법 집행 기관에 AI 기반 도구 제공.

OpenAI는 아동 성착취물(CSAM) 탐지를 위한 새로운 이미지 분류기를 공개했습니다. 이 분류기는 AI로 생성된 이미지를 포함하여 CSAM 이미지를 탐지할 수 있으며, OpenAI는 선택된 기업들에게 API를 통해 이 분류기를 무료로 제공하고 있습니다. 이 도구는 이전에 본 적 없는 이미지에서 학대의 시각적 징후를 찾고, 리뷰어에게 CSAM 처리 방향을 제시하는 점수를 할당합니다. 초기 테스트 결과, 이 분류기는 같은 수의 학대 이미지를 찾으면서도 48% 적은 이미지를 플래그하여 리뷰어의 작업을 줄였습니다.

또한, OpenAI는 ChatGPT에 새로운 경고 화면을 추가하여 아동을 성적으로 대상화하는 콘텐츠에 접근하는 사용자를 방지하고 있습니다. 사용자가 이러한 프롬프트를 시도할 경우 경고를 표시하고, 해로운 행동을 중단하도록 전문 지원을 안내하며, 24시간 계정 정지를 경고합니다. 반복적인 위반은 계정의 영구 삭제로 이어질 수 있습니다. OpenAI는 이 행동에 대한 메시지와 지침을 Protect Children, Lucy Faithfull Foundation 등과 협력하여 개발했습니다.

OpenAI는 개발자들이 CSAM 콘텐츠를 방지, 탐지 및 보고할 수 있도록 지원하는 지침을 발표했습니다. 초기 테스트에서 이 지침은 여러 개발자가 아동 안전 도구를 채택하고 NCMEC에 CSAM을 보고하도록 등록하는 데 도움을 주었습니다. 또한, OpenAI는 아동 안전을 담당하는 법 집행 기관에 AI 기반 기능을 제공하고 있습니다. 이에는 전용 플러그인, 조사 도구, 복잡한 데이터 분석이 포함되며, 프로그램 관리자가 접근을 관리합니다. 또한, 조사관들에게 AI 사용 방법에 대한 현장 가이드를 제공하고 있습니다.

관련 뉴스

관련 소식 찾는 중…

📰 오늘의 카드뉴스일간 매거진 · 5장