SynthID

Google SynthID 텍스트 워터마킹의 인간 인지 가능성 분석

* Google의 SynthID를 활용한 LLM 생성 텍스트 워터마킹 기술의 실효성 검증 * 인간이 육안으로 워터마크 적용 여부를 식별하는 것이 사실상 불가능함을 확인 * 토큰 샘플링 편향을 이용한 워터마크 삽입 메커니즘 및 품질 영향 논의 * 코드와 같이 엔트로피가 낮은 텍스트에서의 워터마킹 적용 한계 및 법적 필요성 검토

Anthropic, EU AI Act 준수를 위한 Claude 워터마크 도입 및 사용자 반발

* EU AI Act의 투명성 규정 준수를 위한 Claude 생성 텍스트 및 이미지 대상 보이지 않는 워터마크 도입 * Google DeepMind의 SynthID-Text 기술을 활용하여 출력 품질 저하 없이 단어 선택의 무작위성을 조정하는 방식 적용 * 텍스트의 수정 범위에 따라 탐지 가능 여부가 결정되며, 코드의 경우 실행에 영향이 없는 주석 등에 제한적으로 적용 * AI 사용 흔적 노출을 우려한 일부 전문직 및 개발자 중심의 유료 구독 취소 및 타 서비스 이동 현상 발생

Google Gemini, AI 생성 콘텐츠 가시적 워터마크 제거 옵션 도입

* Gemini 및 Flow 앱 내 가시적 워터마크 비활성화 설정 추가 * 이미지(Nano Banana), 비디오(Omni), 음악(Lyria) 생성 모델에 적용 * SynthID 및 C2PA 메타데이터 기반의 보이지 않는 식별 체계 유지 * 창작자의 제어권 확대와 AI 투명성 확보 사이의 균형 추구