[정책]OpenAI, EU서 챗GPT 텍스트 워터마크 도입

무슨 일이야

OpenAI가 유럽 연합(EU) 지역의 ChatGPT 및 Codex 생성 텍스트에 비가시적 워터마크를 적용하기 시작한다고 밝혔습니다. 지난 8월 2일 발효된 EU AI 법의 투명성 규정에 따라 AI 생성물을 식별할 수 있도록 조치한 것입니다. 이번 조치는 향후 몇 주에 걸쳐 EU 내 모든 요금제 사용자를 대상으로 순차 적용됩니다.

글로벌 개발자의 경우 오늘부터 OpenAI API의 일부 모델에서 이 워터마크 기능을 직접 켤 수 있습니다. 기본 설정은 꺼짐 상태이며, 글로벌 서비스 전체에 기본 적용되지는 않습니다. 워터마크는 특정 기호를 삽입하는 방식이 아니라 단어 선택 확률을 미세하게 조정하는 'textGrain' 기술을 사용합니다. 이를 통해 복사해 붙여넣어도 패턴이 유지되지만, 모델 성능 저하나 사용자 식별 정보는 포함되지 않는다고 OpenAI는 설명했습니다.

OpenAI는 펜실베이니아대 및 예일대 연구진과 공동 작성한 기술 보고서도 함께 공개했습니다. 비밀 키를 활용해 단어 예측을 미세하게 유도하고 수백 개의 신호가 누적되면 탐지기가 식별하는 원리입니다. 다만 탐지기 접근 권한은 초기에는 승인된 연구자와 전문 기관에만 제한적으로 제공될 예정입니다.

왜 중요해

AI 생성 텍스트 규제가 실제 플랫폼 정책으로 구체화되기 시작했습니다. 앞서 앤트로픽이 전 세계를 대상으로 클로드에 워터마크를 도입한 데 이어 OpenAI도 규제 지역을 중심으로 동참하는 흐름입니다. 특히 API 사용자가 직접 워터마크 적용 여부를 선택할 수 있게 되면서 규제 대응이 필요한 서비스 개발자들에게 실질적인 선택지가 생겼습니다.

짚고 넘어갈 점

워터마크를 우회하거나 지우는 일이 여전히 가능합니다. OpenAI 자체 테스트 결과 본문 단어의 10%를 유의어로 바꾸면 탐지율이 약 92%에서 66%로 떨어졌으며, 짧은 글이나 수학 풀이, 번역문도 탐지가 어렵습니다. OpenAI 역시 워터마크가 발견되지 않았다고 해서 사람이 쓴 글이라는 뜻은 아니라고 강조했습니다.

참고: TechCrunch