ChatGPT가 정부 보조금 심사? 미국 법원, '불법' 판결

미국 정부가 챗GPT를 써서 1억 달러가 넘는 보조금 지급을 취소했다가, 결국 법원으로부터 ‘불법’ 판결을 받았다. Department of Government Efficiency (DOGE)라는 정부 부처에서 저지른 일인데, 이름 그대로 ‘효율성’을 추구하다가 큰코다친 셈이다. AI가 만능 해결사가 아니라는 점을 다시 한번 확인시켜 준 사건이다.

챗GPT가 보조금을 심사한 황당한 사건

DOGE는 보조금 신청서를 검토하고, 특정 기준에 부합하지 않는다고 판단된 1억 달러 이상의 보조금을 취소하는 과정에서 챗GPT를 사용했다. 아마도 방대한 양의 서류를 빠르고 효율적으로 처리하려던 의도였을 것이다. 하지만 미국 지방법원 Colleen McMahon 판사는 DOGE의 이러한 결정 과정이 헌법에 위배된다고 판결했다. 판결문에 따르면, 챗GPT를 이용한 결정 방식은 투명성과 공정성 측면에서 심각한 문제가 있었다는 지적이다.

AI가 아무리 똑똑해도, 공공 정책 결정과 같이 민감하고 중대한 사안에서는 여전히 인간의 판단과 책임이 필요하다는 점을 보여주는 사례다. 특히 챗GPT 같은 LLM은 ‘환각(hallucination)’ 현상처럼 없는 사실을 지어내거나, 편향된 데이터를 학습하여 불공정한 결정을 내릴 가능성도 배제할 수 없다. 이런 AI에게 시민들의 삶에 직접적인 영향을 미치는 결정을 맡기는 건 무책임한 시도였던 셈이다.

AI 시대, 법과 윤리의 중요성

이번 판결은 정부 기관이 AI를 공공 부문에 활용할 때 반드시 염두에 둬야 할 중요한 선례를 남겼다. AI는 분명 강력한 도구지만, 그 사용에는 명확한 가이드라인과 법적, 윤리적 책임이 뒤따라야 한다. 단순히 ‘효율적’이라는 이유만으로 AI에게 모든 것을 맡겼다가는 예상치 못한 부작용과 사회적 혼란을 야기할 수 있다.

앞으로 AI의 활용 범위가 넓어질수록, AI의 판단에 대한 책임 소재, 공정성 확보, 투명한 의사결정 과정 등 다양한 문제에 대한 논의와 법적, 제도적 정비가 더욱 중요해질 것이다. AI는 도구일 뿐, 그 도구를 어떻게 사용하고 책임질지는 결국 인간의 몫이라는 점을 잊지 말아야 한다.