남아프리카공화국이 정부 AI 정책 문서에 AI가 생성한 가짜 학술 인용이 포함된 것을 발견하고 해당 문서를 철회했다. AI 활용의 검증 부재 문제가 드러났다.
남아프리카공화국 정부가 AI 정책 문서에서 AI가 생성한 가짜 학술 인용을 발견하고 해당 문서를 즉시 철회했다. AI를 활용해 문서를 작성한 뒤 검증하지 않은 것이 원인이다.
정부 정책 문서가 가짜 출처에 기반한 사실이 밝혀진 것은 AI 할루시네이션의 정부 차원 피해 사례다. 미국에서 변호사가 가짜 판례를 인용한 사건의 정부 버전이다.
AI를 쓰되 검증은 사람이 해야 한다는 기본 원칙이 다시 확인됐다. AI 도입의 속도만큼 검증 체계도 함께 갖춰야 한다.
정부 AI 정책 문서에 인용된 학술 자료가 실제로 존재하지 않는 AI 생성 가짜(할루시네이션)였다. AI를 써서 문서를 작성한 뒤 검증하지 않은 것이다.
정부 정책 문서는 법과 규제의 근거가 된다. 가짜 출처에 기반한 정책이 시행됐다면 법적·사회적 문제가 발생할 수 있었다.
미국에서 변호사가 ChatGPT가 만든 가짜 판례를 인용해 제재받은 사례가 있다. AI 할루시네이션이 실무에서 반복적으로 문제를 일으키고 있다.
맥갤러리:Macgallery