배차 관여 AI, 배달라이더 성과 압박
정부, 필요시 법 개정해 고영향 지정
김선민 의원 “검토서 멈추지 않아야”

정부가 배달플랫폼의 배차·보상 등에 쓰이는 ‘노무관리 인공지능(AI)’을 고영향 AI에 포함할지 검토한다. 배달노동자의 일감과 소득을 좌우하는 알고리즘이 안전까지 위협할 수 있다는 현장의 우려를 반영한 것이다.

26일 국회 과학기술정보방송통신위원회 소속 김선민 조국혁신당 의원실이 확보한 과학기술정보통신부의 ‘고영향 AI 관리 제도 개선 방안’에 따르면, 과기부는 내년 1분기까지 노무관리 AI의 고영향 AI 추가 여부 검토를 추진할 계획이다.

고영향 AI는 사람의 생명·신체 안전·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI로, 채용·대출심사·보건의료 등 AI 기본법에 열거된 10대 분야에 적용된다. 해당 AI를 제공하는 사업자에게는 위험관리와 설명 방안 마련 등 안전성과 신뢰성을 확보할 의무가 부과된다.

과기부는 당초 고영향 분야에 포함된 채용 AI와 달리 노무관리 AI는 노동자가 쟁의 과정을 통해 피해를 회복할 수 있다는 이유로 적용 대상에서 제외했다. 그러나 최근 배달라이더 사례 등에서 노무관리 AI가 현장 근로자의 안전을 위협할 가능성이 발견돼 추가 여부를 검토하기로 했다.



과기부는 전문가·이해관계자들과 위험 사례를 분석하고, 다른 고영향 분야의 기준과 영향을 받는 산업 규모 등을 종합적으로 고려할 방침이다. 현행법은 시행령으로 고영향 분야를 추가할 수 있도록 하고 있지만, 기업에 실질적인 규제가 가해지는 점을 고려해 AI기본법 개정도 함께 검토할 계획이다.

배달플랫폼은 라이더의 위치와 이동 경로, 배달 거리 등의 정보를 AI가 분석해 주문을 배정하는 체계를 운영하고 있다. 구교현 민주노총 공공운수노조 라이더유니온 지부장은 지난 6일 과방위 국정감사에서 시간제한 ‘미션’이 주는 압박을 증언했다.

구 지부장은 1시간 안에 배달 세 건을 마치면 1만원을 더 받는 미션을 수행하다 첫 배달에 40분이 걸렸던 경험을 소개했다. 남은 20분 안에 두 건을 더 끝내야 하는 상황에서 신호가 노란불로 바뀌자 주행할지 고민했다는 것이다. 그는 “이런 방식은 저희들에게 굉장한 압박감이 되고, 위험하다고 느끼고 있다”고 말했다.

배경훈 부총리 겸 과기부 장관은 같은 날 국감에서 “배달라이더 관리 등 노무관리 분야는 현재 고영향 AI 관리 분야에는 해당되지 않는다”면서도 “향후 운영 과정에서 제기되는 현장 의견을 토대로 제도 개선 필요성을 지속 검토하겠다”고 밝혔다.



AI 배차 등으로 인한 성과 압박이 신호·속도위반 등 위험행동으로 이어져 사고 위험을 높일 수 있다는 우려는 꾸준히 제기돼 왔다. 고용노동부의 ‘배달종사자 유해·위험요인 실태조사 연구’에서도 알고리즘 압박 때문에 평소보다 위험한 운전을 감수한 경험을 묻는 문항은 5점 중 4.54점으로 나타났다. 라이더유니온을 통해 모집한 배달종사자 50명을 조사한 결과다.

과기부는 배달라이더 노무관리·의료·대출 등에 활용되는 AI가 국민 안전과 기본권에 영향을 미칠 가능성이 크다며 정부 차원의 신고·등록제 도입 여부도 검토할 계획이다. 과기부 관계자는 “AI기본법 시행에 따라 고영향AI 제도가 운영되고 있으나, 적용 범위 등에 관한 개선 의견이 수렴돼 개선방안을 검토하고 있다”고 밝혔다.

김선민 의원은 “국정감사에서 ‘노무관리는 고영향 AI가 아니다’라던 정부가 현장의 위험을 인정하고 검토에 나선 것은 의미 있는 진전”이라며 “검토에서 멈춰서는 안 된다. 업무 배정과 보수 산정, 배차 제한처럼 노무제공에 중대한 영향을 주는 판단을 고영향 AI에 포함해야 한다”고 강조했다.

이어 “당사자가 설명을 요구하고 다툴 수 있는 절차까지 함께 마련해야 한다”며 “AI가 사람의 하루 일감과 소득, 도로 위 안전까지 정하는데 정작 그 사람은 왜 그렇게 정해졌는지 물어볼 곳이 없다. 제도 보완이 실제로 이뤄질 때까지 끝까지 챙기겠다”고 밝혔다.

세줄 요약

정부가 배달플랫폼의 배차·보상에 쓰이는 노무관리 AI를 고영향 AI로 추가할지 검토한다. 라이더의 소득과 안전을 좌우하는 알고리즘이 신호위반 등 위험행동을 부를 수 있다는 우려가 커졌다. 과기부는 내년 1분기까지 위험 사례와 산업 영향을 살펴 제도 개선을 추진할 계획이다.

• 배달라이더 노무관리 AI 고영향 포함 검토
• 배차·보상 알고리즘, 안전 위협 우려 확산
• 과기부, 내년 1분기까지 제도 개선 추진