김중권 중앙대 법학전문대학원 교수
일부 AI기술은 일상생활에 도입됐다. 경북 구미시 옥계초교 어린이보호구역에는 지난해 말부터 보행자가 접근하면 횡단보도에 자동으로 불이 켜지는 ‘지능형 횡단보도용 교통안전 시스템’이 도입돼 시범운용되고 있다. ‘딥러닝 기반 보행자 속성 식별 기술’을 기반으로 하는 첨단기술이다. 횡단보도에 접근하는 보행자와 차는 물론 교통신호 변화를 실시간 인식해 횡단보도 표지판과 바닥조명을 자동 점멸·점등하면서 경고하는 서비스를 제공하고 있다.
AI 활용이 급증하면서 아날로그 시대에 구축된 행정도 변화된 환경에 발맞추는 중대한 기로에 서 있다. 행정정책 결정의 타당성을 제고하기 위해 조사수단으로 AI를 활용하기도 하고, 행정관청과 국민 간 의사소통을 증대하기 위한 수단으로 AI 기반의 챗봇(문자나 음성으로 대화하는 기능의 컴퓨터 프로그램)을 운용하기도 하지만 일반 국민에게 직접적인 법효과가 발생하지는 않기 때문에 아직 심각한 법적 문제를 발생시키지는 않는다. 하지만 ‘지능형 횡단보도용 교통안전 시스템’의 경우 보행자와 운전자에게 공권력 행사를 통해 직접적으로 법적 의무를 발생시켜 전혀 다른 상황이 전개된다.
민주주의 원리에 따라 국가권력을 행사하는 국가기관에는 민주적 정당성이 요구된다. 민주적 정당성은 국가권력 주체인 국민과 국가권력을 행사하는 국가기관을 연결하는 고리다. 민주적 정당성 차원에서 국민과 국가 임무를 맡은 기관·담당자 사이의 정당성 사슬이 단절돼서는 안 된다. 민주주의 원리와 법치국가 원리는 민주적 정당성을 가지고 있는 자연인에 의한 지배를 바탕으로 하고 있다. 법 집행 시 AI 도입은 사람에 의한 인식 과정을 AI에 의한 인식 과정으로 대체한다는 점에서 민주적 정당성 차원에서 문제가 될 수 있다. 실정법적 근거가 없는데도 국민에 대해 직접적인 법효과를 낳는 법집행에 사람의 인식 과정을 대체하는 AI를 도입하는 것은 민주주의 원리와 법치국가 원리에 반할 수 있다.
독일의 경우 1976년 행정절차법을 제정해 컴퓨터에 의한 행정행위를 명문화했다. 2017년 발효된 행정절차법 제35조 a규정을 통해서는 행정행위의 완전 자동화를 명문화하고 AI 기반 행정행위를 법적으로 용인했다.
구미에서 시행 중인 ‘지능형 횡단보도용 교통안전 시스템’에 원인불명의 장애로 인해 사고가 발생할 경우 국가배상책임법을 적용할 수 있을까. 현 국가배상책임의 과실책임주의는 인간의 행위 방식에 바탕을 두고 있는데, 사람의 인식 과정을 AI가 대체하는 경우 종래의 이해 및 접근 자체가 통하지 않는다. 설치와 관리에서 공무원에게 책임을 지울 수 없는 경우 심각한 권리보호상 공백이 빚어진다.
비록 입법권한 결여로 무효로 판시됐지만 독일은 1981년 국가책임법으로 컴퓨터 고장과 관련해 위험책임 법리를 만들어 별개의 책임요건을 규정했다. 근본적으로 현재 국가배상책임이 공무원의 고의나 과실이 존재해야 비로소 성립하는 것 자체가 문제로 제기된다.
공공서비스 제공에 AI를 사용할 준비가 됐는지에 대한 평가지표인 ‘정부 AI 준비지수’를 보면 우리나라는 2019년 현재 26위에 머물고 있다. 전자정부 국가순위와 극명하게 대비된다. 그동안 추구한 규제개혁은 입법적 개혁이 병행되지 않아 공허한 정치적 수사로 전락했다. 아날로그 시대에 구축된 법제도에 상상하지 못한 엄청난 환경변화가 일어나고 있다. 현행 법제도 대부분은 4차 산업혁명의 시대에 어울리지 않고 심지어 치명적 장애로 작용하는 것이다.
‘AI 국가전략’이 단순한 정책백서로 끝나지 않으려면 법제도 전반을 디지털적 관점에서 새로 구축해야 한다. 새 술을 헌 부대에 넣으면 그 술은 썩는다. 구소련 고르바초프 서기장의 “인생은 너무 늦게 오는 자를 벌한다”는 말은 기술 변화의 속도를 따라가지 못하는 지금도 유효하다. 하루가 다르게 일상생활에 영향력을 확대하는 AI 관련 법제도를 새로 만들고 개혁하는 작업을 더이상 미뤄서는 안 된다.
2020-01-14 31면
