ChatGPT, 이제 '긴급 연락처' 지정 가능… 위험 상황 감지 시 알림

OpenAI가 ChatGPT에 새로운 안전 기능인 ‘Trusted Contact’를 선보였다. 사용자가 자해 위험 징후를 보이거나 정신 건강에 문제가 있다고 판단될 경우, 미리 지정해둔 긴급 연락처에 알림을 보낸다는 내용이다. AI가 사람의 생명과 안전에 미칠 수 있는 영향을 고려한 조치로 보인다.

AI, 이제 ‘안전망’ 역할도 맡는다

이번 기능은 ChatGPT와의 대화에서 자해 관련 주제나 심각한 정신 건강 위기가 감지될 때 작동한다. OpenAI는 이미 내부적으로 이런 대화를 모니터링하고 필요한 경우 개입하는 시스템을 갖추고 있다. 하지만 이번 ‘Trusted Contact’는 한 발 더 나아가, 사용자의 동의를 받아 외부의 ‘사람’에게 도움을 요청할 수 있는 채널을 만든 셈이다. 마치 스마트워치가 낙상을 감지하면 긴급 연락처에 알림을 보내는 것과 비슷하다고 보면 된다. AI가 직접 개입하기 어려운 영역에서, 사람 간의 연결을 통해 안전망을 확보하려는 시도다.

물론 이 기능은 선택 사항이다. 사용자가 직접 ‘Trusted Contact’를 설정해야만 작동하고, OpenAI는 이 기능을 통해 수집된 정보를 악용하지 않겠다고 강조한다. 개인 정보 보호와 안전 기능 사이의 균형을 찾는 과정이 꽤나 복잡했을 거다.

AI 안전, 계속되는 고민

최근 Elon Musk의 소송에서 알 수 있듯이, OpenAI의 안전성 문제는 계속해서 도마 위에 오르고 있다. AI의 발전 속도가 워낙 빠르다 보니, 그 부작용을 통제하고 인류에게 이롭게 활용하는 방법에 대한 고민은 끝이 없다. 이번 ‘Trusted Contact’ 기능도 그런 고민의 연장선에 있다. 단순히 강력한 AI 모델을 만드는 것을 넘어, 이 기술이 사회에 미칠 수 있는 부정적인 영향을 최소화하려는 노력이다.

AI가 인간의 삶에 깊숙이 들어올수록, 이런 안전 장치들은 더욱 중요해질 거다. AI가 ‘환각(hallucination)‘으로 엉뚱한 정보를 지어내는 것만큼이나, 사람의 생명과 직결된 문제에 어떻게 개입할지는 훨씬 더 민감한 주제인 셈이다. 결국 기술 발전만큼이나 윤리적, 사회적 고려가 중요하다는 메시지를 다시 한번 던지는 기능이다.