AI로 만든 기시다 日총리 가짜 영상
제작자 “재미” 방송사 “용서 못해”

유명 정치인의 가짜 동영상과 사진, 기사 등이 여러 나라에서 문제가 되고 있다.

요미우리신문은 4일 인공지능(AI)을 이용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 소셜미디어(SNS)에서 확산하고 있다고 보도했다.

문제의 동영상은 현지 민영 방송 니혼테레비 뉴스 프로그램 로고가 표시돼 있다. 양복 차림의 기시다 총리가 성적 발언을 하는 것처럼 제작된 이 동영상에는 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라고 적혀 있어 기시다 총리의 발언이 긴급 속보로 생중계되는 듯한 인상을 준다.

3분 43초 분량의 이 동영상은 인터넷 동영상 채널인 ‘니코니코’ 등에 올라왔고, 이후 30초 분량으로 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록했다.

오사카에 사는 한 남성(25)은 ‘재미로’ 인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 만들었다며 지난해부터 기시다 총리 이외에도 아베 신조 전 총리의 가짜 동영상도 제작해 올렸다고 밝혔다.

이에 대해 방송사는 “방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”라며 법적 대응하겠다는 방침이다.

체포돼 끌려가는 트럼프 ‘가짜 사진’
앞서 지난 3월에는 미국 공화당 유력 대선주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습이 담긴 ‘가짜 사진’이 인터넷상에서 확산한 바 있다.

트럼프 전 대통령은 2016년 대선 직전 포르노 배우와 과거 성관계 사실을 숨기기 위해 회삿돈으로 합의금을 지급한 뒤 장부를 조작했다는 의혹으로 뉴욕 맨해튼지검의 수사를 받고 있으며, 조만간 기소될 가능성이 있다고 미 언론은 관측해 왔다.

당시 트위터(엑스) 등 소셜미디어에는 “트럼프가 맨해튼에서 체포됐다”는 설명과 함께 관련 사진이 확산했다. 트럼프 전 대통령이 도망가는 듯한 장면, 경찰관들에게 둘러싸여 수갑이 채워지고 끌려가는 모습, 교도소에서 주황색 재소자 복장을 착용한 포즈 등 다양했다.

일부 이미지는 디지털 자료 분석단체 ‘벨링캣’의 창립자 엘리엇 히긴스가 만든 것으로 확인됐다. 그는 트위터에 이미지 생성 AI ‘미드저니’를 이용, 간단한 프롬프트 입력으로 사진을 만들었다고 썼다.

하지만 일부 소셜미디어 사용자들은 이런 맥락 없이 사진을 날랐고, 실제 트럼프 전 대통령이 체포된 줄로 받아들이는 사람도 다수로 알려졌다. 논란이 커지자 트위터는 관련 사진이 노출될 때 따라붙는 공지문을 통해 “트럼프 체포 이미지는 가짜”라며 “인공지능이 생성했고, 사실적 근거가 없다”고 밝혔다.