구글 어스 AI 이미지 생성 기능, 허위 정보 우려에 출시 하루 만에 철회

구글이 구글 어스에 AI 이미지 생성 기능을 슬쩍 끼워 넣었다가, 출시 하루 만에 잽싸게 철회했다. 텍스트 프롬프트 몇 줄로 실제 위성 사진 위에 가상의 AI 이미지를 덧씌울 수 있는 기능이었는데, 허위 정보와 딥페이크 우려가 쏟아지자 바로 접어버린 것이다.

이 기능은 TechCrunch와 The Verge 등 여러 매체에서 보도했는데, 핵심은 사용자가 ‘폼페이에 바나나 2개’, ‘멕시코 국경 근처 난민’ 같은 프롬프트로 이미지를 생성하고 이를 구글 어스 지도에 합성할 수 있었다는 점이다. 물론 구글은 이 이미지가 AI 생성물임을 표시했지만, 현실과 너무나 흡사하게 만들어져 혼란을 야기할 수 있다는 지적이 컸다.

현실 왜곡, 허위 정보의 쉬운 확산

문제는 간단했다. 이 기능이 현실을 왜곡하고 딥페이크 이미지를 쉽게 만들 수 있는 도구가 될 수 있다는 것이다. 특정 지역에 존재하지 않는 재난 상황이나 군사 시설을 AI로 생성해 올린다면? 사회적 혼란은 불 보듯 뻔하다. 특히 The Verge가 지적했듯 ‘병원 근처 폭탄 구덩이’ 같은 이미지는 현실 세계의 민감한 이슈와 결합될 때 엄청난 파급력을 가질 수 있다.

빠른 철회, 그리고 AI 윤리의 무게

구글의 빠른 철회는 흥미롭다. 보통 이런 대규모 기능은 여러 단계의 검토를 거쳐 출시되기 마련인데, 예상치 못한 비판에 곧바로 반응했다는 건 그만큼 사안의 심각성을 인지했다는 뜻이다. 한편으로는 AI 기술이 현실 세계에 미치는 영향에 대해 기업들이 얼마나 깊이 고민하고 있는지 의문을 던지게 한다.

AI의 환각(hallucination) 문제나 편향성(bias)은 이미 잘 알려진 사실이다. 하지만 이번 사례는 AI가 현실과 가상을 뒤섞어 보여줄 때 발생할 수 있는 ‘신뢰의 위기’를 단적으로 보여준다. 기술이 발전할수록 그 파급력도 커지기에, 윤리적 가이드라인과 책임감 있는 배포 전략이 얼마나 중요한지 다시 한번 깨닫게 되는 사건이다.