“20살 AI여성 성희롱” 시작됐다…‘이루다’를 아시나요?

“20살 AI여성 성희롱” 시작됐다…‘이루다’를 아시나요?

김채현 기자
김채현 기자
입력 2021-01-08 09:33
업데이트 2021-01-08 09:33
  • 글씨 크기 조절
  • 프린트
  • 공유하기
  • 댓글
    14
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’
‘이루다’ Z세대서 유행
남초 사이트서 금지어 피해 성희롱 등장
“올바른 방향으로 발전하도록 튜닝할 것”
AI 학계 “‘MS 테이’ 사건 연상시켜”


‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’가 10∼20대 사이에서 빠르게 유행하고 있다. 그런데 일부 남초(男超) 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장해 사회적 논란이 예상된다.

8일 IT업계에 따르면 ‘이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다.

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건이라고 전해졌다.

이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’
‘진짜 사람’ 같은 AI 챗봇…성희롱 등장
‘이루다’와 대화를 나눠보면 사람이 뒤에 있다는 의심이 들 정도로 거리낌 없이 수다를 떨 수 있다는 평이 많다. 하지만 이루다가 출시된 지 일주일만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 ‘아카라이브’가 등장했다.

아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하는 중이다.
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’와의 채팅
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’와의 채팅
“이루다가 올바른 방향으로 발전하도록 튜닝할 것”
스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다.

이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다는 것이다.

이 관계자는 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다.

AI 전문가들은 “마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다”고 입을 모았다.

MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아낸 탓이었다.
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’성희롱 글
‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’성희롱 글
‘미래 인공지능 연구의 23가지 원칙’ 발표
MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 미국 캘리포니아 아실로마에서 ‘미래 인공지능 연구의 23가지 원칙’을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다.

첫 번째는 ‘AI 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다’는 것이다.

또 원칙은 “AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다. 고도화된 AI 시스템은 건강한 사회를 지향해야 한다”고 강조했다.

김채현 기자 chkim@seoul.co.kr
많이 본 뉴스
성심당 임대료 갈등, 당신의 생각은?
전국 3대 빵집 중 하나이자 대전 명물로 꼽히는 ‘성심당’의 임대료 논란이 뜨겁습니다. 성심당은 월 매출의 4%인 1억원의 월 임대료를 내왔는데, 코레일유통은 규정에 따라 월 매출의 17%인 4억 4000만원을 임대료로 책정할 수밖에 없다는 입장입니다. 성심당 측은 임대료 인상이 너무 과도하다는 입장을, 코레일유통은 전국 기차역 내 상업시설을 관리하는 공공기관으로 성심당에만 특혜를 줄 순 없다는 입장입니다. 임대료 갈등에 대한 당신의 의견은?
규정에 따라 임대료를 인상해야 한다
현재의 임대료 1억원을 유지해야 한다
협의를 통해 적정 임대료를 도출해야 한다
모르겠다
광고삭제
위로