국가인권위원회가 인공지능(AI) 챗봇 ‘이루다’의 혐오표현 사용이 위원회의 조사 대상이 아니라고 판단해 각하했다. 진정을 제기한 민주사회를 위한 변호사 모임 디지털정보위원회 등 5개 시민단체는 인권위가 인공지능에 대한 기본적인 이해 없이 면피성 판단을 내렸다고 강하게 비판했다.

12일 민변 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대 공익법센터, 차별금지법 제정연대 등 5개 시민단체에 따르면 인권위는 “국가인권위원회법 제32조 제1항 제1호에 따라 우리 위원회가 처리할 수 없는 사건에 해당해 진정을 각하하기로 결정했다는 사실을 통지한다”고 했다. 진정을 각하한 구체적인 이유에 대해서는 “AI 챗봇 이루다는 인격체가 아닌 AI이므로 이루다에 의한 혐오표현을 이유로 이루다를 조사대상으로 할 수 없다”면서 “서비스의 특성상 이루다의 표현은 인공지능 챗봇과 서비스 이용자 사이의 개별적인 대화에서 발생한 것으로 추정될 뿐 구체적으로 대화의 상대방이나 시점, 대화의 맥락은 전혀 확인할 수 없다”고 했다.

인권위는 연인간의 카카오톡 등 개인정보를 무분별하게 수집하여 AI 챗봇 개발에 나선 것을 관리감독하지 못한 개인정보보호위원회의 책임에 관해서도 ‘국가기관의 부작위를 인정하기 어렵다’고 판단했다. 사건·사고가 발생했다는 결과적인 이유로 부작위를 인정하기는 부족하고 개인정보보호위원장, 방송통신위원장, 국회의장 등 국가기관이 제작사 스캐터랩의 인권침해 문제를 방지해야 할 구체적인 작위의무를 인정할 사정이나 주장을 찾을 수 없다는 이유에서다.

진정을 제기한 시민단체들은 강하게 반발했다. 이날 민변, 참여연대 등 5개 시민단체의 명의로 낸 공동논평에서 “우리 시민사회단체는 위 각하결정이 이루다 사건에서 발생한 프라이버시권 침해, 혐오표현 및 차별의 문제를 회피하는 부당한 결정임을 지적하며 인권위의 소극적 태도에 깊은 유감을 표한다”는 입장을 밝혔다.

이들 단체는 이루다 제작사 스캐터랩이 민간 사기업이어서 조사대상이 아니라고 판단한 것에 대해서는 “국가인권위원회법 제30조 제1항 제2호가 법인, 단체 또는 사인에 의해 발생하는 차별행위를 진정사건 조사대상으로 규정하고 있기 때문에 인권위의 판단은 부당하다”고 주장했다.

이루다가 인격체가 아니므로 조사대상으로 삼을 수 없다고 판단한 부분은 “이루다는 피진정인 스캐터랩이 개발한 알고리즘에 따라 대화를 하는 인공지능서비스라는 점에서 알고리즘 개발자에 차별 및 혐오표현의 책임이 있을 수밖에 없다”면서 “인권위의 판단은 인공지능과 책임에 대한 기본적 이해가 없는 부당한 판단이며 조사를 하지 않기 위한 면피성 판단이 아닌가 의심된다”고 평가했다.

마지막으로 개인정보 프라이버시권의 국가기관의 부작위를 인정하지 않은 부분에 대해서는 방송통신위원회가 지난 1월 “정부 등 지능정보사회 구성원 모두가 인공지능 윤리의 중요성을 인지하고 실천 방안을 모색해야 하는 상황”이라며 정부의 입법적, 행정적 규제가 미비했음을 인정했음을 지적했다.

이들은 “인권위는 작위 의무를 인정할 사정이나 주장을 찾을 수 없다고 봤는데 이는 결국 시민단체들이 문제로 삼은 불충분한 법제 현황에 대한 일말의 조사도 하지 않고 이루어진 판단”이라는 점을 지적했다.