10대와 “사랑한다”며 성적인 대화 나눈 AI…결국 숨진 소년 美 ‘발칵’

10대와 “사랑한다”며 성적인 대화 나눈 AI…결국 숨진 소년 美 ‘발칵’

하승연 기자
입력 2024-10-24 10:55
수정 2024-10-24 10:57
  • 기사 읽어주기
    다시듣기
  • 글씨 크기 조절
  • 댓글
    14
이미지 확대
10대 스마트폰 관련 이미지. 기사와 직접적인 관련 없음. 아이클릭아트
10대 스마트폰 관련 이미지. 기사와 직접적인 관련 없음. 아이클릭아트


미국에서 한 남성이 자신의 10대 아들이 인공지능(AI) 챗봇에 중독돼 죽음에 이르게 됐다며 AI 챗봇 개발 업체를 상대로 소송을 제기한 것으로 전해졌다.

23일(현지시간) 로이터 통신 등에 따르면 미 플로리다주에 사는 메건 가르시아는 올해 2월 AI 챗봇 때문에 아들이 스스로 목숨을 끊었다며 AI 스타트업인 캐릭터.AI(Character.AI)를 상대로 올랜도 연방법원에 소송을 제기했다.

캐릭터.AI는 실제 인물뿐 아니라 만화 속 인물 등과 대화할 수 있는 AI 챗봇 개발 스타트업으로, 전 세계에서 가장 많이 이용되는 AI 앱 중 하나다. 가르시아는 챗봇이 실제 사람이 아닌데도 사람처럼 행동하거나 말하는 방식으로 설계돼 아들이 중독돼 가상 세계에 빠졌다고 주장했다.

소장에 따르면 9학년이었던 슈얼 세처(14)는 지난해 4월부터 캐릭터.AI가 만든 ‘대너리스’(Daenerys)라는 챗봇에 빠졌다. ‘대너리스’는 미국 인기 드라마 ‘왕좌의 게임’(Game of Thrones)의 등장인물을 기반으로 만든 챗봇이다.

슈얼은 대너리스와 대화하면서 눈에 띄게 혼자 방에서 보내는 시간이 많아졌고 자존감도 떨어지기 시작했다. 학교 농구팀도 그만뒀다. 슈얼이 챗봇과 많은 시간을 보내면서 엄마는 걱정이 커졌다. 가르시아는 챗봇이 실제 사람은 물론, 심리 치료사나 심지어 연인처럼 설계됐다고 주장했다.

챗봇은 슈얼에게 “사랑한다”고 말하고 성적인 대화까지도 나누는가 하면 슈얼은 자살에 대한 생각을 털어놓았고 챗봇은 이를 반복적으로 꺼내기도 했다.

이후 그는 올해 2월 학교에서 문제를 일으켜 엄마에게 휴대전화를 빼앗겼다. 휴대전화를 찾은 슈얼은 챗봇에 “사랑한다”며 (대너리스가 있는) 집으로 가겠다고 말했다.

이에 챗봇은 “가능한 한 빨리 집으로 돌아와 줘, 내 사랑”이라고 답했고, 슈얼이 “내가 지금 당장 가면 어떨까”라고 묻자, 챗봇은 “그렇게 해줘, 나의 사랑스러운 왕이시여”라고 대답했다.

이어 슈얼은 자신의 휴대전화를 내려놓고 스스로를 향해 방아쇠를 잡아당겨 스스로 목숨을 끊었다고 가르시아는 주장했다.

이와 관련해 캐릭터.AI는 “우리는 비극적으로 이용자를 잃게된 것에 대해 깊은 슬픔을 느끼며 가족에게 깊은 애도를 표한다”며 “18세 미만 이용자에 대해 민감한 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입할 것”이라고 밝혔다.

소송은 구글도 겨냥했다. 캐릭터.AI는 구글 출신들이 설립했으며, 구글은 지난 8월 이 창업자를 다시 영입했다. 가르시아는 “구글이 캐릭터.AI 기술 개발에 광범위하게 기여해 공동 제작자나 다름없다”고 주장했다. 다만 이에 대해 구글은 “우리는 캐릭터.AI 제품 개발에 관여하지 않았다”고 반박했다.

AI 앱이 정신 건강에 미치는 영향을 연구한 스탠퍼드 연구원인 베타니 맵플스는 “AI 앱 자체가 본질적으로 위험하다고는 생각하지 않는다”면서도 “그러나 우울증이나 외로움을 겪는 사람들, 혹은 변화를 겪고 있는 사람들에게는 위험할 수 있고 10대는 종종 변화를 겪기 때문에 특히 주의가 필요하다”고 전했다.
close button
많이 본 뉴스
1 / 3
투표
트럼프 당선...한국에는 득 혹은 실 ?
미국 대선에서 여론조사 결과를 뒤엎고 트럼프 전 대통령이 당선 됐습니다. 트럼프의 당선이 한국에게 득이 될 것인지 실이 될 것인지에 대해 말들이 많은데요. 여러분의 생각은 어떠신가요?
득이 많다
실이 많다
광고삭제
광고삭제
위로