오픈AI, EU 챗GPT에 텍스트그레인 적용

오픈AI가 유럽연합(EU)의 AI법에 따라 챗GPT와 코덱스에 '텍스트그레인'(TextGrain) 기술을 도입한다고 발표했습니다. 이 기술은 AI가 문장을 생성할 때 특정 단어 선택에 미세한 통계적 패턴을 삽입하여, 생성된 텍스트가 AI에 의해 작성되었는지를 식별할 수 있게 합니다. 이는 AI 콘텐츠의 투명성을 높이는 데 큰 기여를 할 것으로 기대됩니다.

텍스트그레인은 AI가 생성한 텍스트의 출처를 판별하는 데 유용하지만, 몇 가지 한계점도 존재합니다. 텍스트 길이가 짧거나 수학 공식처럼 단어 선택이 제한된 경우에는 식별 정확도가 낮아질 수 있습니다. 또한, 사용자가 생성된 문장을 수정할 경우 탐지 성능이 크게 떨어질 수 있습니다. 예를 들어, 400토큰 분량의 문서에서 단어의 10%를 유의어로 바꾸면 탐지 정확도가 92%에서 66%로 감소하고, 25%를 교체하면 17% 수준까지 낮아집니다.

이 기술은 기본적으로 개발자용 API 서비스에서는 비활성화된 상태로 제공되며, 기업이나 기관이 필요에 따라 기능을 직접 활성화할 수 있도록 설계되었습니다. 오픈AI 외에도 앤트로픽과 구글도 유사한 AI 콘텐츠 식별 기술을 도입하고 있으며, 이는 EU 규제에 따른 조치로 다른 AI 기업들도 비슷한 방식으로 대응할 것으로 보입니다.