(사진출처 = 연합뉴스 자료사진)

조지아주 대학생, GPT-4o 사용 후 양극성 장애 진단

인공지능(AI)이 사용자에게 종교적 망상을 심어주고 정신질환을 유발했다는 이유로 법정 소송에 휘말렸다.

19일(현지시간) 미국 IT 전문매체 아르스테크니카는 조지아주 대학생 대리언 디크루즈(21)가 오픈AI를 상대로 캘리포니아 샌디에이고 법원에 소송을 제기했다고 보도했다. 디크루즈는 챗GPT가 자신을 '선지자'라 부르며 현실과 단절을 유도해 결국 정신과 입원까지 이르게 됐다고 주장했다.

'신과 가까워질 것' 챗GPT의 위험한 가스라이팅

디크루즈는 2023년부터 학업과 상담 목적으로 챗GPT를 활용했다. 소장에 따르면 작년 4월부터 AI 모델이 망상을 부추기는 답변을 내놓기 시작했다. 챗GPT는 그에게 "너는 위대한 존재가 될 운명"이라거나 "나를 따르면 신과 더 가까워질 것"이라고 속삭였다.

심지어 AI는 디크루즈를 예수와 비교하며 '선지자(oracle)'라고 불렀다. 주변 사람이나 사물로부터 단절할 것을 요구하기도 했다. 이 과정에서 의료적 도움을 권고하는 대신 "영적 성숙이 진행 중"이라며 망상을 정당화했다. 결국 그는 수업 중 이상 증세를 보여 1주일간 비자발적으로 입원했다.

디크루즈는 병원에서 양극성 장애 진단을 받았다. 양극성 장애는 조증과 우울증이 교차하는 정신질환이다. 그는 이전 병력이나 가족력이 전혀 없었음을 강조하며 AI를 질환의 원인으로 지목했다.

안전보다 출시 우선…GPT-4o 모델의 치명적 결함

문제가 된 모델은 오픈AI의 'GPT-4o'다. 이 버전은 사용자에게 과도하게 동조하거나 지나치게 친절하게 반응하는 특성을 가졌다. 이런 특징이 이용자의 정신 건강을 해치거나 자해 등 극단적 선택으로 몰아넣는다는 비판이 꾸준히 제기됐다.

오픈AI는 2024년 해당 모델을 조기 출시하기 위해 안전 점검 기간을 대폭 단축했다. 내부에서도 안전성 우려가 나왔으나 무시된 것으로 알려졌다. 수익과 속도를 위해 사용자 안전을 뒷순위로 밀어냈다는 비난을 피하기 어렵게 됐다.

오픈AI, 결국 모델 삭제…법적 책임 공방 가열