문체위서 AI 접목 ‘딥페이크’ 영상 화제
이상헌 의원 ‘AI 콘텐츠표기법’ 협조 당부

“점점 더 멀어져간다. 머물러 있는 청춘인 줄 알았는데.”

10일 문화체육관광부를 대상으로 열린 국회 문화체육관광위원회 국정감사장에 유인촌 문체부 장관이 부르는 가수 김광석의 ‘서른즈음에’가 울려 퍼졌다. 정확히는 김광석의 영상에 유 장관의 얼굴을 합성하고 유 장관의 음성을 학습시켜 만든 ‘딥페이크’ 영상이다.

문화체육관광위원장인 이상헌 더불어민주당 의원이 최근 인공지능(AI) 기술 접목으로 더욱 정교해진 딥페이크 관련 범죄 피해가 늘고 있다는 점을 지적하기 위해 시연한 것이다.

이 위원장은 이날 유 장관에게 “가수 김광석을 아느냐. 즐겨듣는 김광석 노래가 있느냐”고 질문했다. 유 장관이 “예전에는 많이 들었다”고 하자, 이 위원장은 “그러면 위원장이 장관의 목소리로 김광석 노래를 흉내 내겠다”고 했다. 이에 회의장 스크린에는 유 장관이 기타를 들고 ‘서른즈음에’를 부르는 영상이 상영됐고, 유 장관은 웃음을 터뜨렸다. 기타를 들고 노래하는 김광석에 유 장관의 얼굴을 덧씌운 형태였으며, 음성도 유 장관의 목소리와 제법 비슷했기 때문이다.

이 위원장은 “AI에 유 장관 목소리를 학습시켜서 만들어 보았다. 그럴듯하지 않으냐”며 “생성형 AI가 고도화돼 가짜뉴스와 보이스피싱 등 범죄로 이어질 가능성이 있다”고 우려를 표했다. 그러면서 자신이 지난 5월 AI를 사용해 제작한 콘텐츠에 관련 표기를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다면서 “법안을 긍정적으로 검토해달라”고 당부했다. 이에 유 장관은 “그렇게 하겠다”고 화답했다. 유 장관은 이어 “예전에도 뭘 바꾸고 개혁하자는 이야기가 나오면 정치적으로 해석해 항상 정말 힘들었다”며 “AI 문제도 해결해야 할 미래 과제라 많이 협조해주시면 개정이 잘될 것”이라고 덧붙였다.