서울에 위치한 두발로병원(압구정역 3번 출구 위치)이, 일어나지도 않은 의료사고의 가해자로 몰리며 황당한 피해를 입고 있다.

발단은 구글의 검색 알고리즘과 AI 응답 시스템. '의료사고'라는 키워드와 병원명이 자동완성·연관검색어로 함께 노출되고, 생성형 인공지능(Gemini)이 허위 맥락을 사실처럼 생성하면서 벌어진 AI 문제점 사례가 되겠다.

병원 측은 해당 사고와는 전혀 관련이 없다고 강하게 반발하고 있으나, AI가 만들어낸 '연결된 문장'은 여전히 각종 플랫폼에서 그대로 노출되고 있다. 허위 정보가 디지털 공간을 통해 반복적으로 유포되는 가운데, 이를 바로잡기 위한 절차와 책임 주체는 모호하기만 하다.

'AI의 답변 한 줄에, 병원이 무너진다'

두발로병원에 따르면, 최근 실화탐사대와 SBS 등의 보도에서 언급된 특정 의료사고는 본원과는 무관함에도 불구하고, AI는 병원 이름에 포함된 '두발'이라는 단어를 근거로 자의적인 연관성을 부여하고 있다. 사용자가 '두발 수술 사고 병원' 등을 검색하거나 질문할 경우, 제미나이(Gemini) 같은 AI 챗봇이 사실처럼 병원 이름을 조합해 문장을 만들어낸다는 것이다.

문제는 이 AI가 사람처럼 '진실을 판단'하는 존재가 아니라는 점이다. 다양한 문서를 학습해 질문에 가장 '그럴듯한' 답을 추론하는 시스템이기에, 정확한 출처 검증 없이 오답을 만들어내는 구조적 AI 부작용이 존재한다.

구글은 모르쇠, 병원은 공지로 해명

병원 측은 구글에 수차례 이의를 제기했고, 공식 루트를 통해 정정 요청도 반복했다. 급기야 구글코리아를 직접 방문해 문제를 알렸지만, 돌아온 대답은 '우리가 처리할 수 있는 문제가 아니다'는 무책임한 안내뿐이었다. 미국이나 싱가포르 본사를 통해야 한다는 말만 남긴 채, 국내 담당부서는 회피했다는 것이다.

결국 두발로병원은 자체 홈페이지를 통해 공지를 게시하고, 해당 방송사 및 보도와 무관하다는 사실을 명확히 밝혔다. 그러나 이미 검색창에는 병원 이름과 함께 '의료사고'라는 단어가 자동 노출되고 있고, 사용자들은 이를 사실로 오인하고 있는 실정이다.

구조적 위험을 방치하는 AI 생태계

두발로병원은 이 문제를 단순한 오해나 시스템상의 오류로 볼 수 없다고 지적한다. AI는 법적 책임을 지지 않으며, 플랫폼은 단 한 줄의 면책 조항으로 모든 잘못을 회피하고 있다. 그러나 잘못 생성된 한 줄의 문장, 조작된 검색 결과 하나가 의료기관의 신뢰와 생존을 위협하는 현실적 피해로 이어진다는 점에서, 이는 단순한 기술적 문제가 아니라 사회 시스템 전체의 위험이라고 병원 측은 주장한다.

두발로병원 관계자는 다음과 같이 강조했다. 'AI는 질문에 답을 만들지만, 그 답이 진실인지 확인하지는 않습니다. 출처가 있는 듯 보이지만, 내용은 사실과 다를 수 있고, 이로 인한 피해는 인간이 감당하게 됩니다.' 이어 그는, '우리가 겪는 이 문제는 비단 한 병원의 사례에 국한된 일이 아니다'라며, '생성형 AI의 책임 구조에 대해 사회 전체가 질문을 던져야 할 때'라고 덧붙였다.

규제와 감시 없는 AI, 피해는 현실로

정보를 빠르게 제공하는 기술은 인간의 삶을 편리하게 만들 수 있다. 그러나 그 속도가 진실의 확인보다 앞선다면, 결국 남는 건 허위 사실과 그로 인한 피해뿐이다. 현재와 같은 AI 운영 체계 속에서는 사실이 아닌 이야기조차 ‘사실처럼’ 유통될 수 있는 환경이 만들어져 있다.

병원 측은 마지막으로 '정부 차원의 규제 도입과 함께, 플랫폼 기업이 잘못된 정보를 신속하게 수정하고 책임질 수 있는 시스템을 마련해야 한다'며 목소리를 높였다.