오픈AI, EU 챗GPT에 워터마크 적용 강화

오픈AI가 유럽연합(EU) 지역에서 챗GPT와 코덱스가 생성한 텍스트에 워터마크를 도입하기로 했습니다. 이는 EU 인공지능법(AI Act)의 투명성 규정을 준수하기 위한 조치로, AI가 만든 콘텐츠의 출처를 식별할 수 있도록 돕습니다. 이 워터마크는 눈에 보이지 않는 통계적 신호로, 탐지기가 이를 찾아내어 글에 오픈AI 워터마크가 있는지 판단할 수 있습니다.

워터마크는 EU 내 모든 요금제의 이용자에게 순차적으로 도입되며, API 고객은 전 세계에서 일부 모델에 한해 직접 켤 수 있습니다. 오픈AI는 이 기술을 textGrain이라 부르며, 이는 모델이 단어를 선택하는 과정에 미세한 조정을 가해 독자 눈에는 보이지 않지만 탐지기만 읽을 수 있는 패턴을 남기는 방식입니다. 이 패턴은 글 자체에 녹아 있어, 복사해 붙여넣어도 그대로 따라갑니다.

오픈AI는 워터마크가 모델 성능에 의미 있는 차이를 주지 않는다고 밝혔습니다. 이는 최상위 모델 '아스트라'의 벤치마크 비교 결과에서 일부 성능이 올랐고 일부는 내린 것으로 나타났습니다. 그러나 워터마크가 발견돼도 소유권이나 책임을 입증하지 않으며, 워터마크가 없다고 사람이 쓴 글이라는 증거가 되지는 않습니다. 이는 글이 너무 짧거나 많이 고쳐졌거나 다른 회사 AI에서 나왔을 가능성도 있기 때문입니다.