공무원 해외 교육보고서 1385건 전수 점검
부적절 AI 활용 11건 무더기 적발
가짜 문헌 만들고 이모지 방치
인사처 ‘AI 지침’ 전 부처 배포

공무원들이 국외 훈련 결과보고서를 작성하면서 생성형 인공지능(AI)을 부적절하게 활용한 사례가 무더기로 적발됐다. 챗GPT·제미나이 등 생성형 AI 활용이 공직사회와 교육 현장 전반으로 빠르게 확산하자 정부는 처음으로 ‘인공지능 활용 지침서’를 마련해 관리 강화에 나섰다.

인사혁신처는 최근 3년간 제출된 국외 훈련 결과보고서 1385건을 전수 점검한 결과 11건의 AI 부적절 활용 사례를 확인했다고 22일 밝혔다. 이번 점검은 공무원 자가 점검을 시작으로 소속 부처와 인사처의 단계별 검증, 외부 전문가 심의를 거쳐 이뤄졌다.

적발된 보고서에는 생성형 AI의 대표적 문제인 ‘환각 현상(할루시네이션)’이 그대로 드러났다. 존재하지 않는 사실을 실제처럼 서술하거나 참고문헌 정보를 허위로 조합한 사례가 대표적이었다. 보고서 문맥과 맞지 않는 이모지나 특수기호를 그대로 남겨둔 경우도 있었다. 인사처는 해당 교육생들을 대상으로 훈련비 환수 등 후속 조치를 진행하고 있다.

이미 자료 수집이나 번역 등에 AI가 일상적으로 활용되고 있지만 연구 윤리와 검증 기준은 제대로 마련되지 않았다는 지적이 꾸준히 제기돼 왔다.

이에 따라 인사처는 이날 국내외 교육훈련생을 위한 ‘인공지능 활용 지침’을 전 부처에 배포했다. 새 지침은 생성형 AI를 어디까지나 보조 도구로 활용하도록 규정하고 결과물에 대한 최종 책임은 작성자 본인에게 있다는 원칙을 명확히 했다. 핵심 원칙으로는 ▲연구 내용의 진실성 ▲AI 활용 사실의 투명한 공개 ▲공정성 유지 ▲윤리적 활용 ▲비판적 시각 ▲개인정보 보호 등 6대 요소를 담았다.

인사처는 공무원들이 집필 과정에서 스스로 점검할 수 있도록 위반 사례와 자가 진단 점검표도 함께 제공하기로 했다. 앞으로는 전 부처를 대상으로 연구 윤리 교육을 확대하고 제각각이던 참고문헌 인용 방식도 표준화할 방침이다.

김성훈 인사처 차장은 “이번 지침을 통해 공무원들이 교육훈련 과정에서 책임 의식을 갖고 인공지능을 올바르게 사용하길 바란다”며 “공무원 교육훈련이 실질적인 성과를 낼 수 있도록 관리를 강화하겠다”고 밝혔다.