Anthropic, 클로드의 비밀 텍스트 워터마크 설명

Anthropic이 클로드가 생성한 텍스트에 보이지 않는 워터마크를 적용하는 방법을 공개했습니다. 이 워터마크는 Google DeepMind가 개발한 오픈소스 기술인 SynthID-Text 시스템의 변형 버전을 사용합니다. 이 기술은 텍스트의 단어 선택 확률을 활용하여 감지 가능한 패턴을 생성합니다. 이 패턴은 독자에게는 보이지 않지만, 특정 키를 가진 사람에게는 감지될 수 있습니다. 이는 유럽 연합의 AI 투명성 규정을 준수하기 위한 조치입니다.

이 워터마킹 기능은 클로드의 텍스트 생성에 있어 사용자의 비용을 증가시키지 않으며, 출력물의 품질이나 내용에도 실질적인 영향을 미치지 않습니다. 예를 들어, '오늘 날씨는 춥고...'라는 문장에서 다음 단어로 '단맛'이 나올 확률은 낮지만, '흐림'이나 '회색'이 나올 확률은 높습니다. 워터마킹은 이러한 낮은 중요도의 선택을 이용해 클로드의 응답에 패턴을 남깁니다. 이 과정에서 무작위 숫자 생성기 대신 키와 앞의 몇 단어를 사용하여 다음 단어를 결정합니다.

Anthropic은 이 기술이 다른 주요 AI 개발자들에게도 영향을 미칠 것이라고 언급했습니다. Google의 Gemini 챗봇은 이미 2024년부터 SynthID-Text 솔루션을 지원하고 있으며, OpenAI는 ChatGPT에 대한 텍스트 워터마킹 계획을 아직 구체화하지 않았지만, EU의 법적 요구 사항을 준수해야 합니다.