전체전체메뉴닫기

서울신문
공식 SNS 채널
구독 & 좋아요!!

서울신문 페이스북서울신문 유튜브
서울신문 카카오스토리서울신문 인스타그램서울신문 트위터서울신문 네이버채널

광고안보이기
전체메뉴 열기/닫기검색
서울신문 ci
서울신문 뉴스레터

[시론] 인공지능과 인권/한상희 건국대 법학전문대학원 교수

페이스북 공유 트위터 공유 카카오톡 공유 카카오스토리 공유 네이버밴드 공유 네이버블로그 공유 구분선 댓글
입력 :ㅣ 수정 : 2021-06-15 04:46 시론 섹션 목록 확대 축소 인쇄
한상희 건국대 법학전문대학원 교수

▲ 한상희 건국대 법학전문대학원 교수

존 스노의 ‘감염지도’라는 것이 있다. 1850년대 런던에 콜레라가 창궐하자 그는 발병 지점들을 하나하나 지도에 표시해 보고는 콜레라가 펌프를 중심으로 발병됨을 알아차렸다. 공기가 아니라 물이 감염원임을 밝혀낸 것이다. 하지만 그의 시선은 펌프의 물에만 한정됐다. 발병자의 배설물에 들어 있는 세균이 문제의 근원임을 알지 못한 채 발병지의 펌프 손잡이만 빼 버렸던 것이다.

그는 역학조사의 길과 함께 빅데이터 처리라는 방법론까지 열었지만 자신의 지식이나 가설의 범위 내에서만 데이터를 수집하고 분석했다. 그의 업적은 분명 과학적이었어도 생활하수가 상수도에 혼입되는 경로를 차단하는 데까지 이르지는 못했다. “모든 분석 모델은 틀렸으며 오직 일부만이 유용할 따름이다.”(S 복스) 어떤 사건을 둘러싼 복잡다단한 사태를 간과한 채 분석자의 한정된 지식, 편견, 고집이 찍어 낸 오직 몇 가지의 원인에만 주목하기 때문이다.

인공지능이나 빅데이터 처리 기법은 존 스노의 한계를 반복한다. 둘 다 원인을 가지고 결과를 예측하기보다는 현상만 쳐다보며 원인을 미루어 추단하기 때문이다. 영국과 미국의 백인 경찰이 주로 유색인종 통행자를 불심검문하는 것은 유색인에 대한 인종차별적 편견의 결과다. 마찬가지로 인공지능 챗봇 이루다는 남성들의 취향이 으레 그러려니 하는 예단에 묻혀 20대 여성 대학생의 모습으로 생산된다. 그것은 본질을 꿰기보다는 형상만을 바라본다. 합리적인 인과관계보다는 기존의 관행과 습속을 중요시한다. 인간 생활의 복잡성을 목적 달성을 위한 취사선택의 문제로 대체해 버린다. 그리고 이런 방식을 딥러닝이라는 이름으로 정당화한다.

오늘날 민주사회는 인공지능 기술의 유용성을 인정하면서도 깊은 걱정을 떨쳐 버리지 못한다. 너무도 많은 국가기관, 공공기관, 기업, 단체들이 인공지능 등을 통해 우리의 일상을 감시하고 조합하며 우리의 생활은 물론 생각까지도 바꾸어 나가고자 하기 때문이다. 네이버 등 뉴스 포털들에 설치된 인공지능이 편파적인 뉴스 배치를 한다며 그 알고리즘의 공개를 요구하던 정치권이 경찰이 도입한 범죄 예측 시스템의 편파성을 검증하기 위한 알고리즘 공개 문제에 대해서는 아무런 관심도 없는 현실이 무서운 것이다. 혹은 대학 입시에서 가난한 지역의 학생에게 낮은 점수를 준 영국의 인공지능이 요즘 유행하는 ‘AI 면접’이나 ‘AI 서류평가’의 방식으로 우리의 현실을 압박할까 걱정스러운 것이다. 혹은 나의 개인정보를 파고드는 기업 앞에서 스스로의 일상조차 관리하지 못 한 채 충동 구매에 나서게 되는 무기력한 일상이 안타까운 것이다.

이미 개인정보는 상품화의 대상이 돼 버렸고, 인공지능 산업의 한복판을 파고든 편견이나 차별, 혐오의 사례는 날로 심각해진다. 그뿐 아니다. 공공 영역이 인공지능 시스템을 도입하기 시작하면서 공공행정조차도 이런 인권침해의 위험에 젖어든다. 획일화된 행정 처리 과정에서 사회복지서비스를 받을 권리가 위축돼 버리거나 재범 예측 프로그램 같은 것이 형량의 결정에 개입하면서 공정한 재판을 받을 권리까지 위협받고 있다. 심지어 최근 개정된 행정기본법은 공무원의 개입 없이 인공지능 시스템만으로 행정 처분도 할 수 있게 했다. 그래서 왜 그런 처분이 나왔는지 물어볼 어떤 사람도 없으며, 그래서 책임을 물을 대상도 없게 됐다. 이미 230년 전의 프랑스 인권선언에서도 보장된, 공공 업무에 대한 공무원의 설명을 받을 권리가 이 민주화의 시대에 온전히 부정되고 있는 것이다.

카프카의 ‘유형지에서’라는 소설에서 피의자는 판결문이 자기 몸에 칼로 새겨진 연후에야 자신의 죄를 알게 되고, 그 순간 생명을 마감한다. 자기가 누구이며 어떤 사람인지를 재판관이 결정하고 그가 그 사실을 깨닫는 순간 자기 존재를 상실한다. 그리고 인공지능은 이제 그 재판관의 자리를 대신한다.

문제는 정부다. 지난해 말 정부는 ‘인공지능 국가전략’의 말미에 “사람 중심의 AI 구현”이라는 슬로건을 내세웠지만, 정작 그 ‘사람’은 생산성과 경쟁력의 논리에 함몰돼 있다. 인공지능이 우리의 삶을 또 다른 유형지로 내몰아 가기를 원하지 않는다면 제4차 산업이라는 장밋빛 환상이 자리하는 바로 그곳에 ‘사람’이 자리잡게 만들어야 한다. 인공지능의 알고리즘에 숨어든 편견과 탐욕을 감시하고 규제할 수 있는, 제대로 된 정책과 입법 조치를 서둘러야 한다는 것이다.
2021-06-15 31면
페이스북 공유 트위터 공유 카카오톡 공유 카카오스토리 공유 네이버밴드 공유 네이버블로그 공유 구분선 댓글

서울신문 공식 SNS 채널
구독 & 좋아요!!
서울신문 페이스북서울신문 유튜브서울신문 카카오스토리서울신문 인스타그램서울신문 트위터
  • 주소 : 서울시 중구 세종대로 124 (태평로1가) l 인터넷신문등록번호 : 서울 아03681 등록일자 : 2015.04.20 l 발행·편집인 : 고광헌 l 사이트맵
  • Copyright ⓒ 서울신문사 All rights reserved. l Tel (02)2000-9000