김보라미 디케 변호사
AI 학습 데이터는 이미 역사적으로 형성된 인종, 성별 등 차별적 요소가 편향적으로 반영되는 한계가 있는데 얼굴인식 분야 역시 그러하다. 여러 연구 사례에서 여성, 성소수자, 유색인종 등 소수자에 대해서는 인식률이 현저히 떨어지는 것이 드러난 바 있다. 미 의회 의원을 범죄자 사진 데이터를 통해 확인해 보니 범죄자로 오인식한 28명 중 40%가 유색인종이라는 소름 끼치는 결과가 나오기도 했다.
2020년 5월 25일 백인 경찰관 무릎에 목이 눌려 숨진 비무장 아프리카계 미국인 조지 플로이드의 죽음으로 ‘흑인 생명도 중요하다’(Black Lives Matter)는 시위가 촉발된 바 있다. 이 시위 과정에서 법집행 기관인 경찰이 사용하는 안면인식 기술이 인종차별 도구로 활용될 수 있다는 점에서 이 기술에 대한 미국 대중의 반감이 증폭되기도 했다.
뉴욕타임스는 이 시위가 한창이던 2020년 8월 3일 경찰의 안면인식 시스템 오류로 아프리카계 미국인 로버트 윌리엄스가 범죄자가 아님에도 아내와 어린 딸들이 보는 앞에서 부당하게 체포돼 기소까지 된 사실을 보도했다. 이후에도 비슷한 일들이 반복해 일어났다.
마이크로소프트, 아마존 등 빅테크 기업들은 미국 집행기관에 그간 안면인식 서비스를 제공해 왔다. 그러나 시민들의 저항에 직면하자 향후 관련 서비스를 경찰에 납품하지 않겠다고 선언했다. 미국 연방의회는 얼굴인식 기술 사용에 대한 적절한 가이드라인을 마련할 때까지 정부의 기술 사용을 중지하는 법안을 발의하기도 했다. 얼굴인식 기술의 불투명한 사용에 대해 페이스북, 구글, 클리어뷰 AI, 인스타그램 등은 거액의 손해배상 소송에 직면하게 됐다. 페이스북이 지난해 11월 3일 안면인식 기능 폐지를 밝힌 이유다.
작년 법무부가 출입국 심사 과정에서 확보한 내외국인의 얼굴정보 등을 민간 업체에 넘겨 출입국 심사 인공지능 식별 추적 시스템을 개발하고 있는 점 등이 지적됐다. 하지만 개인정보보호위원회는 사실상 면죄부를 주었다. 국가기관의 개인정보 처리는 더 엄격하게 해석했어야 함에도 불구하고, 아울러 법적 근거가 불분명함에도 얼굴인식 시스템을 구축·운영해 불투명하게 개인정보 자기결정권을 침해할 가능성을 남겨 두었다. 과학기술정보통신부는 최근 AI 출입국 심사·관리 솔루션 개발 및 검증 사업을 공모했다.
독립적인 개인정보 감독기구인 개인정보위가 얼굴정보와 얼굴인식 기술에 대해 적극 개입할 수 있는 기회를 놓친 점은 뼈아프다. 지금이라도 외면하지 말고 AI 시스템에서 차별적 조치가 가능할 수 있는지 점검해 시민들을 보호해야 한다. 법무부와 과기부의 얼굴정보 인식 및 추적 시스템 구축에 대한 지속적인 모니터링 및 영향 평가도 강화해야 한다.
2022-08-25 26면
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
