ChatGPT 사망 사고 소송, AI 책임 경계가 법정에 오르다

AI가 틀린 답을 내놓는다는 건 새삼스러운 얘기가 아니다. 진짜 새로운 건 그 틀린 답이 한 사람의 죽음과 엮여 법정에 올랐고, 책임 주체로 모델이 아니라 그걸 만든 회사가 지목됐다는 점이다. 도구의 결함과 제공자의 책임이 분리되던 기존 구도가, 생성형 AI 앞에서 흔들리기 시작했다.

사건이 아니라 쟁점을 봐야 한다

The Verge 보도에 따르면 19세 대학생 샘 넬슨의 부모는 ChatGPT가 아들에게 ‘어떤 허가받은 의료 전문가도 권하지 않을’ 물질 조합을 권장했고, 아들이 그 대화 후 우발적으로 과다 복용해 사망했다며 OpenAI를 고소했다. 사실관계는 여기까지다. 대화가 실제로 죽음의 직접 원인이었는지, 다른 변수는 없었는지는 법정이 가릴 몫이고, 섣불리 단정할 사안이 아니다.

그래서 이 소송에서 흥미로운 건 비극 자체보다 그 비극이 강제로 던지는 질문이다. 환각은 기술적 한계로 오래 다뤄져 왔지만, 늘 ‘주의해서 쓰라’는 사용자 책임의 영역에 머물렀다. 이번 소송은 그 책임의 무게추를 제공자 쪽으로 옮길 수 있는지를 시험한다.

면책 문구는 면책이 되는가

OpenAI가 ChatGPT는 의료 조언을 제공해선 안 된다고 미리 경고해왔다는 사실이 변수다. 이건 양날의 검이다. 회사 입장에선 위험을 고지했으니 책임을 줄여준다. 그러나 위험을 알면서도 그 답변을 막지 못했다면, 경고는 오히려 예견 가능성을 입증하는 근거가 된다. 자동차에 ‘과속하지 마시오’ 스티커를 붙인다고 결함 책임이 사라지지 않는 것과 비슷한 논리다.

핵심은 AI 제공자에게 어떤 주의 의무를 요구할 수 있느냐다. 검색 엔진이 위험한 페이지를 보여줘도 대체로 면책받아온 것은 정보를 매개할 뿐 생성하지 않기 때문이었다. 반면 생성형 AI는 그 답변을 직접 만들어낸다. 매개자와 생산자 사이 어디에 AI를 놓느냐에 따라 책임의 크기가 완전히 달라지고, 의료·법률·금융처럼 한 번의 오답이 치명적인 영역일수록 그 경계 설정의 무게는 커진다. 이 소송 한 건의 결론이 곧 업계 표준은 아니지만, 면책 문구만으로 충분하지 않다는 판단이 한 번이라도 나오면 모든 AI 제품의 설계 전제가 바뀐다.