EU, '누디파이' AI 시스템 전면 금지 결정

유럽연합(EU)이 '누디파이'라는 이름으로 알려진 비동의 성적 이미지 생성 AI를 법으로 금지하기로 결정했습니다. 이는 AI를 이용해 동의 없이 성적이며 은밀한 콘텐츠를 생성하거나 조작하는 시스템에 대한 규제를 강화하기 위한 조치입니다. 12월 2일부터 적용될 인공지능법(AI Act)은 이러한 AI 시스템을 '금지된 AI 관행'으로 규정하고, 아동 성착취물을 생성하는 AI 시스템도 함께 금지합니다.

이번 규제는 유럽의회 의원 100명 이상이 EC에 AI 누디파이 규제를 즉각 집행할 준비를 갖춰달라고 요구한 데서 비롯되었습니다. 일부 여성 정치인도 AI로 생성된 성적 이미지의 표적이 된 것으로 전해졌습니다. EC 대변인 토마 레니에는 “이는 불법이며 유럽에서 설 자리가 전혀 없다”고 강조하며 강력한 입장을 밝혔습니다.

EU는 디지털서비스법(DSA)도 함께 동원하여 온라인 플랫폼을 통해 불법 콘텐츠가 확산되는 문제를 다루고 있습니다. 범용 AI 모델 제공자가 개발한 AI 시스템이나 DSA상 초대형 온라인 플랫폼에 통합된 AI 시스템은 EU AI 오피스가 직접 감독하고 집행할 수 있습니다. 이는 AI 생성물 전반에 대한 투명성 규제와 함께, 특정 용도의 AI를 시장에서 아예 허용하지 않는 방향으로 규제를 확대하는 것입니다.