최근 인공지능(AI) 딥페이크 기술을 악용한 허위 과장 광고가 유튜브와 같은 각종 온라인 공간에서 기승을 부리는 가운데 이재명 대통령을 사칭한 AI 딥페이크 영상까지 나와 논란이 예상된다.

21일 서울신문이 확인한 결과 최근 유튜브 채널 중간 광고에 이 대통령의 음성을 정교하게 모방한 AI 딥페이크 영상이 송출되고 있다.

직장인 정모씨는 “유튜브를 보던 중 중간 광고에서 대통령의 목소리가 나왔다”며 “처음에는 다음 주부터 신청하는 고유가 피해 지원금 안내인 줄 알았다. 그런데 투자 관련 발언을 하더라”고 밝혔다.

이어 “대통령이 투자했다는 국내 상장지수펀드를 직접 소개하는 것으로 생각하고 한참을 들었다”며 “이후 연결된 링크로 들어갔는데 가짜 기사 페이지여서 황당했다”고 설명했다.



문제가 된 광고를 보면 두 남녀가 한강과 남산이 보이는 호화로운 곳에 앉아 있다. 그 위로 태극기가 떠오르고 이 대통령의 목소리로 “지금 이 기회를 활용하지 않는다면 (기회가) 영구적으로 사라진다. 해당 플랫폼은 금융 전문가들이 개발해 운영되고 있다”면서 “현재까지 10만명 이상의 한국인이 등록해 수익을 창출하고 있다”고 홍보한다.

연결된 링크를 누르면 언론사 기자 페이지인 것처럼 꾸며진 특정 투자 플랫폼으로 연결된다. 해당 페이지에는 이 대통령과 이재용 삼성전자 회장의 사진과 함께 “35만원으로 월 최대 4000만원의 수익을 기대할 수 있다”며 투자를 유도하고 있다.

유명인 사칭 AI 딥페이크 광고는 분야를 가리지 않고 확산 중이다. 지난해에는 연예인을 사칭한 AI 딥페이크 광고가 사회적 문제로 대두됐다. MC 유재석이나 삼성가(家)의 이부진 호텔신라 사장 등 유명인을 사칭해 주식 투자 리딩방 가입을 유도하거나 특정 제품을 추천하는 방식이다. 최근에는 식·의약품 분야를 중심으로 가짜 의사나 가짜 약사를 내세운 영상도 온라인에 넘쳐난다.

이처럼 유명인의 목소리와 얼굴까지 위장한 허위 과장 광고 문제가 심각한 수준으로 치닫고 있다. 이는 단순히 게시물 유통을 넘어 시민들의 금전적, 위법적 피해로까지 이어질 수 있어 각별한 주의가 요구된다.



지난해 12월 정부는 AI 허위·과장 광고 근절에 나섰다. 앞서 이 대통령은 AI 기술을 악용한 허위·과장 광고의 문제를 지적하며 관계 부처가 근본적 대책을 강구해달라고 주문한 바 있다.

정부가 마련한 방안은 크게 ▲사전 방지 ▲제재 강화 ▲신속 차단 3가지다.

먼저 방송미디어통신위원회(방미통위)는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕고자 ‘AI 생성물 표시제’를 도입한다. AI 생성물을 제작·편집해 플랫폼에 게시하는 사람은 해당 자료를 AI로 만들었다는 사실을 표시해야 한다. 다른 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다.

AI를 악용한 허위 정보에 대한 징벌적 손해배상제도가 도입된다. 일정 규모 이상의 정보 게재자(인플루언서 등)가 허위임을 알면서도 타인을 해할 의도로 허위·조작 정보를 유통한 경우 실제 발생한 손해의 최대 5배 배상 책임을 질 수 있다.

AI로 만든 허위·과장 광고의 신속한 차단 방안도 마련됐다. 방미통위 및 방송미디어통신심의위원회(방미심위)는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장 광고가 빈발하는 분야를 ‘서면 심의’ 대상에 추가하는 방안을 추진한다. 이를 통해 해당 영역의 허위·광고에 대해선 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 전망이다.

아울러 방미통위의 플랫폼 기업에 대한 ‘긴급 시정 요청’ 절차도 도입해 국민 생명·재산의 피해 우려가 큰 경우 방미심위 심의 완료 전 문제 광고에 대한 차단 조치가 이뤄질 수 있도록 할 방침이다.

각 부처·기관은 관련법 개정 등을 통해 장기적으로는 올해 하반기까지 방안을 실제 이행할 계획이다.