대출심사 로봇이 인종 차별한다면… 은행 책임? 개발사 책임?

입력 : ㅣ 수정 : 2016-03-15 23:54

폰트 확대 폰트 축소 프린트하기
[유토피아냐, 디스토피아냐-다가오는 AI토피아] <5> 시급한 인공지능 윤리 정립
은행 대출심사 업무에 인공지능(AI) 로봇이 투입됐다. 이 로봇은 대출자들의 대출이력 등 데이터를 분석해 스스로 점수를 매기는 능력을 갖췄다. 어느 날 로봇이 대출심사 과정에서 인종과 성별, 학력에 따라 다르게 작동하는 알고리즘을 적용한 것으로 밝혀졌다. 은행은 로봇 개발사에 책임을 떠넘기고, 로봇 개발사는 “로봇이 스스로 학습해 판단한 결과”라며 책임을 회피한다.

클릭하시면 원본 보기가 가능합니다.


사람처럼 판단하고 행동하는 로봇에 어떻게 윤리성을 담보할 것인지, 로봇의 비윤리적 행동에 누가 어떻게 책임을 질 것인지는 머지않아 다가올 인공지능 시대의 과제다. 통제권을 쥐어야 할 인간이 오히려 인공지능에 의존할수록 인공지능은 ‘재앙’이 될 가능성이 높다. 인공지능 전문가인 제리 카플란 미국 스탠퍼드대 교수는 “인공지능은 사회 전반에 미치는 영향은 신경 쓰지 않은 채 각자의 주인을 대신해 일을 하고 돈을 벌 뿐이지만, 인공지능으로 우리 삶이 풍요로워지면서 불편한 진실은 정작 못 보고 지나갈지 모른다”고 경고한다.

전쟁에 투입된 드론은 중동 지역에서 무고한 희생자를 낳고 있지만 ‘얼굴 없는 폭격’에 대한 책임 소재는 모호하다. 자율주행차가 승객의 목숨을 구하기 위해 길을 걷던 어린이와 노인 중 한 명을 덮쳐야 한다면 어느 쪽으로 방향을 틀어야 할지와 같은 윤리적 문제는 자율주행차 개발 진영의 난제다. 인공지능의 설계 단계에서부터 기술적으로 윤리성을 구현하는 방안이 미국 등에서 논의돼 왔지만, ‘킬러 로봇’처럼 위험하고 통제 불가능한 인공지능에 대한 우려를 해소하기는 역부족이다.

보다 현실에 와 닿는 인공지능 시대의 문제는 따로 있다. 인공지능은 단순 노동과 서비스직에서부터 인간의 일자리를 빼앗아 간다. 부유층만이 인공지능을 통한 첨단 의료 서비스를 누리게 되면 의료 불평등도 발생한다. 김재필 KT경제경영연구소 연구원은 “인공지능이 산업 인프라가 되는 시대에서는 인공지능 기술을 가지고 있거나 지식을 갖춘 사람과 그렇지 않은 사람 사이에 심각한 격차가 발생한다”고 말했다.

인공지능의 기반이 될 빅데이터의 수집과 공유, 확산이 본격화되면 개인정보와 사생활 보호 문제도 수면 위로 떠오를 전망이다. 인공지능이 환자의 질병 진단에 활용될 경우 개인의 의료정보가 병원과 보험사, 의료장비업체 사이에서 퍼져 나갈 위험도 높아진다. 인공지능에 모든 의사결정을 맡긴 채 의존하는 인간은 자연스레 존엄성을 상실한다. PC와 인터넷, 스마트폰 등 지금까지의 신기술과는 비교할 수 없는 사회·경제적 파장이 예고되고 있는 것이다. 인공지능을 인간 사회의 동반자로 받아들이고 기술 개발과 사용, 통제에 대한 윤리적·법적 토대를 마련해야 하는 이유다.

인공지능 연구를 선도하는 글로벌 기업들은 인공지능 기술을 윤리적으로 개발하고 활용할 방안을 고민하고 있다. 독일 다임러벤츠재단은 2012년부터 150만 유로(약 19억 8000만원)를 투자해 관련 연구를 진행 중이다. 구글도 2014년 딥마인드를 인수하면서 윤리위원회를 만들었다. 당시 딥마인드 창업자들이 구글에 “군사적 목적으로 기술을 사용하지 않는다”는 것을 조건으로 회사를 구글에 매각한 것으로 알려졌다.

그러나 인공지능 기술에 대한 통제권은 기업이 아닌 국가와 사회가 쥐어야 한다는 목소리가 높다. 미국, 영국, 일본 등 인공지능 기술 선진국들은 일찌감치 인공지능의 사회·윤리적 규범의 토대를 닦기 시작했다. 유럽연합은 2014년 ‘로봇법’(RoboLaw) 프로젝트를 가동하며 로봇 규제 가이드라인을 구체화하고 있다. 일본도 지난해 총무성 산하에 ‘2045 연구회’를 설립하고 인공지능이 가져올 사회적 충격파에 대해 연구하고 있다.

우리나라는 이들 국가보다 인공지능 기술 개발도, 윤리에 관한 논의도 뒤처졌다. 2007년 지식경제부(현 산업자원부)는 ‘로봇윤리헌장’의 초안을 마련하며 선진국보다 먼저 로봇윤리 법제화의 첫발을 내디뎠지만 지금은 논의가 중단됐다. 지난해 학자들이 모여 ‘한국포스트휴먼학회’를 설립하고 인공지능에 인문학과 법학을 접목하는 연구를 시작했고, 최근 미래창조과학부가 인공지능 시대의 사회·경제적 변화에 대응하기 위한 ‘지능정보 사회 플랜’ 수립에 돌입했다. 이원태 정보통신정책연구원 연구위원은 “‘알파고’를 계기로 국내에서도 인공지능 산업의 잠재력이 주목받기 시작했다”면서 “신성장동력을 만드는 노력을 기울이는 것과 함께 인공지능이 불러올 사회·경제적 영향에 대한 준비도 병행돼야 한다”고 강조했다.

김소라 기자 sora@seoul.co.kr

2016-03-16 6면
페이스북 트위터 카카오스토리 밴드 블로그

서울Eye - 포토더보기