구글 AI 모더레이션, 아티스트 계정 사전 경고 없이 영구 삭제 논란

구글의 AI 자동 모더레이션 시스템이 아티스트의 14년 된 전체 구글 계정을 사전 경고 없이 영구 삭제해 논란이 되고 있다.

비공개 구글 드라이브에 백업된 연구 데이터셋이 AI 필터에 걸렸다. 불법 콘텐츠가 아니었음에도 파일명이나 아트 스타일이 알고리즘을 트리거한 것으로 추정된다. 지메일, 드라이브, 유튜브 등 모든 구글 서비스 접근이 동시에 차단됐다. 항소도 같은 AI 시스템이 처리해 기각됐다. 인간이 개입한 검토는 전 과정에서 0이었다.

2025년 10월 정책 변경으로 경고 기간이 완전히 폐지된 것이 배경이다. AI 모더레이션의 효율성과 정확성, 그리고 클라우드에 의존하는 개인 데이터의 취약성을 동시에 보여주는 사례다.