10초 만에 거짓말 섞어 탄원서 써낸 AI

10초 만에 거짓말 섞어 탄원서 써낸 AI

송수연 기자
송수연 기자
입력 2024-02-19 18:37
업데이트 2024-02-20 03:03
  • 글씨 크기 조절
  • 프린트
  • 공유하기
  • 댓글
    14

챗GPT로 탄원서 작성해 보니

‘일찍 부모 여읜 친구’ 가정하니
순식간에 원고지 4장 분량 뚝딱
수사·재판 과정서 악용 우려 급증
檢 “진정성 의심 땐 철저히 확인”


이미지 확대
US-TECH-AI-OPENAI
US-TECH-AI-OPENAI 챗GPT 자료사진.
“존경하는 판사님. 저의 친구 ○○에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.”

19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라고 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”라는 내용을 담았다.

특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “○○은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역사회의 문제에 관한 관심 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”라고 꾸며 썼다.

앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다.

실제로 형량을 줄여 보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례도 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT로 지방자치단체 체육회 팀장 명의의 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미를 잡혔다.

반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다.

한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적이고 형식적인 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다.

반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”며 “챗GPT를 이용해 물량 공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다.

다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해 달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다.

검찰은 앞으로 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.
송수연 기자
2024-02-20 10면
많이 본 뉴스
최저임금 차등 적용, 당신의 생각은?
내년도 최저임금 결정을 위한 심의가 5월 21일 시작된 가운데 경영계와 노동계의 공방이 이어지고 있습니다. 올해 최대 화두는 ‘업종별 최저임금 차등 적용’입니다. 경영계는 일부 업종 최저임금 차등 적용을 요구한 반면, 노동계는 차별을 조장하는 행위라며 반대하고 있습니다. 당신의 생각은?
찬성
반대
모르겠다
광고삭제
위로