앤트로픽, 클로드의 새 워터마크 기능 공개

앤트로픽이 클로드 AI의 새로운 워터마크 기능에 대한 세부 사항을 공개했습니다. 이 기능은 EU AI 법의 투명성 코드에 따라 AI 생성 콘텐츠의 출처를 명확히 하기 위해 도입되었습니다. 워터마크는 독자가 인식할 수 없지만, 특정 키를 가진 사람은 탐지할 수 있는 패턴으로 생성됩니다. 이를 통해 AI가 생성한 텍스트를 쉽게 식별할 수 있게 됩니다.

앤트로픽은 구글 딥마인드 팀이 2024년에 발표한 SynthID-Text 접근 방식을 사용하여 워터마크를 구현할 계획입니다. 또한, 워터마크 탐지 API도 출시할 예정입니다. 이 워터마크는 '가벼운 편집'으로는 완전히 제거되지 않지만, 모든 단어를 교체하는 '완전한 재작성'을 통해서는 제거될 수 있습니다. 코드의 경우 워터마크가 거의 영향을 미치지 않으며, 주석과 같은 부분에만 적용될 수 있습니다.

클로드 AI 외에도 다른 주요 AI 모델 개발자들도 유사한 워터마크를 도입할 예정입니다. 이는 AI 생성 콘텐츠의 신뢰성을 높이고, 사용자들이 AI와 인간이 작성한 콘텐츠를 구별할 수 있도록 돕는 데 기여할 것입니다. 이로 인해 일부 사용자는 클로드 구독을 취소했지만, 이는 AI 사용의 투명성을 높이는 중요한 조치로 평가받고 있습니다.