OpenAI, EU서 ChatGPT 텍스트 워터마크 도입

OpenAI가 유럽연합(EU)의 AI 법안에 따라 ChatGPT와 Codex의 텍스트 출력에 워터마크를 도입합니다. 이 워터마크는 사용자가 텍스트를 어느 정도 편집하더라도 남아 있도록 설계되었습니다. 이는 AI 투명성을 강화하고 책임성을 제고하기 위한 중요한 조치로, AI 규제 준수를 위한 선도적 사례가 될 것입니다.

워터마크는 실제 기호가 아닌, 모델의 단어 선택을 미세하게 조정하는 방식으로 작동합니다. 이 패턴은 독자가 볼 수 없지만 탐지기가 감지할 수 있습니다. 텍스트가 복사되거나 붙여넣기될 때도 워터마크는 그대로 유지됩니다. OpenAI는 이 워터마크가 사용자 식별을 하지 않으며 모델 성능에 의미 있는 변화를 주지 않는다고 밝혔습니다.

OpenAI는 워터마크 기술을 설명하는 기술 보고서를 발표했습니다. 이 보고서는 펜실베이니아 대학과 예일 대학의 연구자들과 공동 작성되었으며, 비밀 키를 사용해 다음 단어 예측을 정렬하는 예시를 설명합니다. 수백 개의 이러한 조정을 결합하면 탐지기는 텍스트와 키만으로 AI 생성 콘텐츠를 식별할 수 있습니다. 그러나 단어의 10%를 동의어로 대체하면 탐지율이 약 92%에서 66%로 떨어집니다. 짧은 문장, 수학 답변, 번역된 텍스트는 탐지가 더 어렵습니다.